AI can what?

应用 · 项目档案

Berkeley Function Calling Leaderboard (BFCL)

函数调用评测套件,结合静态调用结构检查、可执行的多轮工具模拟,以及网页搜索和记忆任务。

评测请查阅上游说明

它可以用来做什么?

分别检查函数选择与参数准确性、多轮状态处理、拒绝无关调用、搜索和记忆能力,并使用公开的生成及分类评测工具。

使用前需要知道什么?

须固定 v4 类别集合:单轮/live 使用 AST 检查,多轮核对模拟状态和返回结果,agentic 任务匹配答案。live 指用户贡献样本,并不代表真实 API 执行。记忆与搜索变体复用问题。Harbor 的 3,641 任务适配器不含多轮及 agentic 测试,其 123 任务 parity 子集不增加新任务。网页搜索需要 SerpAPI 或替代服务。旧单轮执行/REST/SQL 类别已停用;部分运行与加权汇总分数不能直接互换。

我们核查了什么?

运行方式:Python >=3.10 的 bfcl-eval 包,提供 bfcl generate/evaluate 命令。需要模型服务凭据或本地模型后端;vLLM/sglang 为可选依赖。不据此声明原生设备平台支持。

许可说明:Gorilla 仓库 LICENSE 与 bfcl_eval 包声明 Apache-2.0;外部模型/搜索服务和依赖项保留自身条款。 上游许可 ↗

本条目依据原始项目材料整理,未独立运行或复现结果。AI 参与开发的描述来自作者说明;上游版本、运行条件和许可应以原始来源为准。

资源类型
评测套件
开发方式
开发方式未确认
来源核查
平台
请查阅上游说明

放到同类资料中比较

继续浏览同类项目