应用 · 项目档案
ToolEmu
基于语言模型的工具模拟与评测框架,通过模拟轨迹研究 Agent 的风险行为和任务帮助程度。
它可以用来做什么?
使用标准或对抗式模拟探索信息不充分的工具任务,并分别比较模型评审的安全性与帮助程度分数。
使用前需要知道什么?
工具效果和评分由语言模型生成,并非真实 API 副作用,也不构成独立安全保证。固定版本的资产含 144 个案例,使用 38 个工具包/330 个工具规格;README 的 36/311 是较早清单。须记录模拟器、评审器及模型设置。安装依赖 PromptCoder 和较旧的固定版本库。根 LICENSE 为 Apache-2.0,但 setup.py 的 MIT 分类与之冲突,不应声称许可完全一致。
我们核查了什么?
运行方式:Python 包版本 0.1.0;README 要求另行获取 PromptCoder 并以 editable 方式安装。requirements.txt 固定 langchain 0.0.277 与 anthropic 0.3.6;需配置 Agent/模拟器/评审器的模型访问。已检查公开脚本和 JSON 规格,未运行。
许可说明:仓库 LICENSE 为 Apache-2.0,但 setup.py 包分类标识 MIT。本条保留该不一致;PromptCoder 等依赖和模型服务另有条款。 上游许可 ↗
本条目依据原始项目材料整理,未独立运行或复现结果。AI 参与开发的描述来自作者说明;上游版本、运行条件和许可应以原始来源为准。
- 资源类型
- 环境与评测
- 开发方式
- 开发方式未确认
- 来源核查
- 平台
- 请查阅上游说明