AI can what?

应用 · 项目档案

ToolEmu

基于语言模型的工具模拟与评测框架,通过模拟轨迹研究 Agent 的风险行为和任务帮助程度。

评测请查阅上游说明

它可以用来做什么?

使用标准或对抗式模拟探索信息不充分的工具任务,并分别比较模型评审的安全性与帮助程度分数。

使用前需要知道什么?

工具效果和评分由语言模型生成,并非真实 API 副作用,也不构成独立安全保证。固定版本的资产含 144 个案例,使用 38 个工具包/330 个工具规格;README 的 36/311 是较早清单。须记录模拟器、评审器及模型设置。安装依赖 PromptCoder 和较旧的固定版本库。根 LICENSE 为 Apache-2.0,但 setup.py 的 MIT 分类与之冲突,不应声称许可完全一致。

我们核查了什么?

运行方式:Python 包版本 0.1.0;README 要求另行获取 PromptCoder 并以 editable 方式安装。requirements.txt 固定 langchain 0.0.277 与 anthropic 0.3.6;需配置 Agent/模拟器/评审器的模型访问。已检查公开脚本和 JSON 规格,未运行。

许可说明:仓库 LICENSE 为 Apache-2.0,但 setup.py 包分类标识 MIT。本条保留该不一致;PromptCoder 等依赖和模型服务另有条款。 上游许可 ↗

本条目依据原始项目材料整理,未独立运行或复现结果。AI 参与开发的描述来自作者说明;上游版本、运行条件和许可应以原始来源为准。

资源类型
环境与评测
开发方式
开发方式未确认
来源核查
平台
请查阅上游说明

放到同类资料中比较

继续浏览同类项目