AI can what?

原始研究与引用

研究文献与发布状态

142 篇原始论文,提供作者、已知发表日期、双语简介、产物状态与可下载引用。

论文支持研究背景,不代表实验已复现。其中 3 篇仅有论文记录,尚无对应的已核查产物条目,不计入目录条目数。arXiv 日期为首次提交;其他来源保留其已知日期,未知日月不会补造。

关键词可组合搜索;用英文引号查找完整短语。年份采用文献记录的日期口径。

142 篇文献

arXiv:2609.37686 · 首次提交: 2026-09-29

EngiWorld: What Can Frontier Agents Deliver in Professional Engineering Environments?

Hongcheng Gao · Hailong Qu · Yu Lei · Henghui Sun · Haoyang Li · Yipeng Wei · Naihao Xue · Xiaohan Yu · Zhuo Tao · Yihe Zang · Yajiao Wang · Jingyi Tang · Yi Li · Jingjing Zhou · Jie Luo · Bohan Zeng · Chengyu Shen · Hao Jiang · Chong Chen · Bowen Qu · Olive Huang · Zeqiang Wang

提出覆盖多类工程软件及 GUI/CLI 接口的任务,基于工程文件判分,并明确区分主要实验使用的任务子集。

arXiv:2608.21833 · 首次提交: 2026-08-22

GameXpert-Bench: How Far Are Coding Agents from Expert Game Development?

Kun Chen · Haorong Hong · Peizhong Gao · Jianfeng Lin · Tongxu Luo · Yuxuan Xie · Chenxu Liu · Jieling He · Zhongyuan Liu · Zeno Zeng

提出游戏生成、缺陷修复和多轮优化三条评测轨道,结合交互、行为测试及回归检查。

论文记录 · 尚无已核查产物条目

仓库目前只有 README 和项目网站骨架,说明基准数据、评估代码和模型产物仍在准备中;网站模板许可不代表基准复用条款。

状态来源 1 ↗

状态核查:2026-10-16

arXiv:2607.03525 · 首次提交: 2026-07-03

GameEngineBench: Evaluating Coding Agents on Real C++ Runtime Environments

Brian La · Sejoon Chang · Ben Kim · Junyoung Bae · Aamish Ahmad Beg · Sei Chang · Gonzalo Gonzalez-Pumariega · Kanav Goyal

提出 Unreal Engine 项目中限定范围的 C++ 修改任务,评估不同游戏引擎子系统中的编译和运行行为。

论文记录 · 尚无已核查产物条目

论文及作者研究页已公开,但尚未确认可核查的任务与评分器发布;所检查的仓库地址返回404。本条论文记录不表示已能通过公开产物运行基准。

状态来源 1 ↗ · 状态来源 2 ↗

状态核查:2026-10-16

arXiv:2606.29955 · 首次提交: 2026-06-29

SpreadsheetBench 2: Evaluating Agents on End-to-End Business Spreadsheet Workflows

Jian Zhu · Yuzheng Zhang · Zeyao Ma · Bohan Zhang · Armin Schoepf · Daniel Woloch · Peter Yiliu Wang · Guangyu Robert Yang · Samuel Jacob · Siddharth Nagisetty · Abhiram Chundru · Jean Lin · Spencer Mateega · Jing Zhang

提出端到端电子表格生成、调试及可视化工作流,覆盖复杂跨表依赖并采用不同文件评测路径。

arXiv:2606.29537 · 首次提交: 2026-06-28

OSWorld 2.0: Benchmarking Computer Use Agents on Long-Horizon Real-World Tasks

Mengqi Yuan · Zilong Zhou · Xinzhuang Xiong · Weiming Wu · Jiayang Sun · Jiamin Song · Kaiqian Cui · Bowen Wang · Haoyuan Wu · Yitong Li · Dunjie Lu · Haikong Lu · Qi Zhen · Xinyuan Wang · Jiaqi Deng · Yuhao Yang · Cheng Chen · Boyuan Zheng · Alex Su · Xiao Yu · Hao Zou · Saaket Agashe · Xing Han Lu · Manpreet Kaur · Zhengyang Qi · Vincent Sunn Chen · Frederic Sala · Dayiheng Liu · Junyang Lin · Zhou Yu · Yu Su · Siva Reddy · Xin Eric Wang · Peng Qi · Tianbao Xie · Tao Yu

提出一套独立的长流程计算机操作任务,结合真实工作资料、变化中的上下文及跨应用依赖。

arXiv:2606.17861 · 首次提交: 2026-06-16

GameCraft-Bench: Can Agents Build Playable Games End-to-End in a Real Game Engine?

Tongxu Luo · Rongsheng Wang · Jiaxi Bi · Chenming Xu · Zhengyang Tang · Jianlong Chen · Juhao Liang · Ke Ji · Shuqi Guo · Yuhao Du · Fan Bu · Wenyu Du · Xiaotong Zhang · Kyle Li · Shaobo Wang · Linfeng Zhang · Yuxuan Liu · Xin Lai · Chenxin Li · Yiduo Guo · Zhexin Zhang · Xinyuan Wang · Tianyi Bai · Ziniu Li · Benyou Wang

提出端到端 Godot 游戏生成评测,结合完整可执行产物、演示重放和基于评分标准的多模态评审。

arXiv:2606.03103 · 首次提交: 2026-06-02

DeskCraft: Benchmarking Desktop Agents on Professional Workflows and Human-in-the-Loop Collaboration

Wenkai Wang · Tao Xiong · Jingchen Ni · Yunpeng Bao · Xiyun Li · Tianqi Liu · Hongcan Guo · Zilong Huang · Shengyu Zhang

提出专业桌面任务及分阶段交互协议,允许模拟用户澄清、打断或反馈。研究关注长工作流与主动协作;已发布任务集和模型驱动的用户模拟器应与原始 OSWorld 任务分别固定版本。

arXiv:2604.18394 · 首次提交: 2026-04-20

OpenGame: Open Agentic Coding for Games

Yilei Jiang · Jinyuan Hu · Qianyin Xiao · Yaozhi Zheng · Ruize Ma · Kaituo Feng · Jiaming Han · Tianshuo Peng · Kaixuan Fan · Manyuan Zhang · Xiangyu Yue

提出使用可复用模板与调试知识的网页游戏生成框架,并描述基于构建、视觉和意图标准的评测基准。

论文记录 · 尚无已核查产物条目

游戏生成框架和示例归档已公开,但 README 仍将 OpenGame-Bench 评估流程列为待发布。本记录保留研究文献,不声称完整评分器已经公开。

状态来源 1 ↗

状态核查:2026-10-16

arXiv:2604.08523 · 首次提交: 2026-04-09

ClawBench: Can AI Agents Complete Everyday Online Tasks?

Yuxuan Zhang · Yubo Wang · Yipeng Zhu · Penghui Du · Junwen Miao · Xuan Lu · Zhuofeng Li · Xingwei Qu · Zhengkang Guo · Yuanzhe Shen · Dingjie Song · Han Zhou · Tuney Zheng · Xian Wu · Hao Yu · Songcheng Cai · Yi Lu · Yunzhuo Hao · Minyi Lei · Liang Chen · Kai Zou · Huifeng Yin · Wendong Xu · Dongfu Jiang · Ping Nie · Jiaheng Liu · Wenhu Chen · Kelsey R. Allen

提出在日常生产网站流程上评测浏览器 Agent,并记录交互证据及按任务配置提交拦截。

arXiv:2602.11964 · 首次提交: 2026-02-12

Gaia2: Benchmarking LLM Agents on Dynamic and Asynchronous Environments

Romain Froger · Pierre Andrews · Matteo Bettini · Amar Budhiraja · Ricardo Silveira Cabral · Virginie Do · Emilien Garreau · Jean-Baptiste Gaya · Hugo Laurençon · Maxime Lecanu · Kunal Malkan · Dheeraj Mekala · Pierre Ménard · Gerard Moreno-Torres Bertran · Ulyana Piterbarg · Mikhail Plekhanov · Mathieu Rita · Andrey Rusakov · Vladislav Vorotilov · Mengjue Wang · Ian Yu · Amine Benhalloum · Grégoire Mialon · Thomas Scialom

提出包含动态事件与动作级验证的异步模拟应用场景,支持在时间及协作要求下开展评测和基于奖励的学习。

arXiv:2602.11103 · 首次提交: 2026-02-11

GameDevBench: Evaluating Agentic Capabilities Through Game Development

Wayne Chi · Yixiong Fang · Arnav Yayavaram · Siddharth Yayavaram · Seth Karten · Qiuhong Anna Wei · Runkun Chen · Alexander Wang · Valerie Chen · Ameet Talwalkar · Chris Donahue

提出将代码修改与视觉素材结合的 Godot 项目编辑任务,并研究图像和视频反馈对多模态编程 Agent 评估的作用。

arXiv:2601.11868 · 首次提交: 2026-01-17

Terminal-Bench: Benchmarking Agents on Hard, Realistic Tasks in Command Line Interfaces

Mike A. Merrill · Alexander G. Shaw · Nicholas Carlini · Boxuan Li · Harsh Raj · Ivan Bercovich · Lin Shi · Jeong Yeon Shin · Thomas Walshe · E. Kelly Buchanan · Junhong Shen · Guanghao Ye · Haowei Lin · Jason Poulos · Maoyu Wang · Marianna Nezhurina · Jenia Jitsev · Di Lu · Orfeas Menis Mastromichalakis · Zhiwei Xu · Zizhao Chen · Yue Liu · Robert Zhang · Leon Liangyu Chen · Anurag Kashyap · Jan-Lucas Uslu · Jeffrey Li · Jianbo Wu · Minghao Yan · Song Bian · Vedang Sharma · Ke Sun · Steven Dillmann · Akshay Anand · Andrew Lanpouthakoun · Bardia Koopah · Changran Hu · Etash Guha · Gabriel H. S. Dreiman · Jiacheng Zhu · Karl Krauth · Li Zhong · Niklas Muennighoff · Robert Amanfu · Shangyin Tan · Shreyas Pimpalgaonkar · Tushar Aggarwal · Xiangning Lin · Xin Lan · Xuandong Zhao · Yiqing Liang · Yuanli Wang · Zilong Wang · Changzhi Zhou · David Heineman · Hange Liu · Harsh Trivedi · John Yang · Junhong Lin · Manish Shetty · Michael Yang · Nabil Omi · Negin Raoof · Shanda Li · Terry Yue Zhuo · Wuwei Lin · Yiwei Dai · Yuxin Wang · Wenhao Chai · Shang Zhou · Dariush Wahdany · Ziyu She · Jiaming Hu · Zhikang Dong · Yuxuan Zhu · Sasha Cui · Ahson Saiyed · Arinbjörn Kolbeinsson · Jesse Hu · Christopher Michael Rytting · Ryan Marten · Yixin Wang · Alex Dimakis · Andy Konwinski · Ludwig Schmidt

提出 Terminal-Bench 2.0,汇集具有独立运行环境、人工参考解法和可执行完成检查的高难度命令行任务。

arXiv:2510.24411 · 首次提交: 2025-10-28

OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows

Qiushi Sun · Mukai Li · Zhoumianze Liu · Zhihui Xie · Fangzhi Xu · Zhangyue Yin · Kanzhi Cheng · Zehao Li · Zichen Ding · Qi Liu · Zhiyong Wu · Zhuosheng Zhang · Ben Kao · Lingpeng Kong

提出结合显式状态检查与上下文模型评审的移动安全检测器,并配套 Android 研究环境及风险轨迹标注。

arXiv:2510.05318 · 首次提交: 2025-10-06

BIRD-INTERACT: Re-imagining Text-to-SQL Evaluation for Large Language Models via Lens of Dynamic Interactions

Nan Huo · Xiaohan Xu · Jinyang Li · Per Jacobsson · Shipei Lin · Bowen Qin · Binyuan Hui · Xiaolong Li · Ge Qu · Shuzheng Si · Linheng Han · Edward Alexander · Xintong Zhu · Rui Qin · Ruihan Yu · Yiyao Jin · Feige Zhou · Weihao Zhong · Yun Chen · Hongyu Liu · Chenhao Ma · Fatma Ozcan · Yannis Papakonstantinou · Reynold Cheng

提出包含澄清提问、辅助知识和可执行检查的交互式数据库任务,并区分预设对话协议与开放式 Agent 交互两种评测方式。

arXiv:2509.24709 · 首次提交: 2025-09-29

IWR-Bench: Can LVLMs reconstruct interactive webpage from a user interaction video?

Yang Chen · Minghao Liu · Yufan Shen · Yunwen Li · Tianyuan Huang · Xinyu Fang · Tianyu Zheng · Wenxuan Huang · Cheng Yang · Daocheng Fu · Jianbiao Mei · Rong Wu · Yunfei Zhao · Licheng Wen · Xuemeng Yang · Song Mao · Qunshu Lin · Zhi Yu · Yongliang Shen · Yu Qiao · Botian Shi

提出根据用户操作视频及配套资源重建交互网页,并通过动作序列评估视觉保真度与功能行为。

arXiv:2509.17158 · 首次提交: 2025-09-21

ARE: Scaling Up Agent Environments and Evaluations

Romain Froger · Pierre Andrews · Matteo Bettini · Amar Budhiraja · Ricardo Silveira Cabral · Virginie Do · Emilien Garreau · Jean-Baptiste Gaya · Hugo Laurençon · Maxime Lecanu · Kunal Malkan · Dheeraj Mekala · Pierre Ménard · Gerard Moreno-Torres Bertran · Ulyana Piterbarg · Mikhail Plekhanov · Mathieu Rita · Andrey Rusakov · Vladislav Vorotilov · Mengjue Wang · Ian Yu · Amine Benhalloum · Grégoire Mialon · Thomas Scialom

介绍 ARE 对应用、事件、场景和验证器的抽象,并展示如何用它构建动态 Gaia2 基准。

arXiv:2509.16941 · 首次提交: 2025-09-21

SWE-Bench Pro: Can AI Agents Solve Long-Horizon Software Engineering Tasks?

Xiang Deng · Jeff Da · Edwin Pan · Yannis Yiming He · Charles Ide · Kanak Garg · Niklas Lauffer · Andrew Park · Nitin Pasari · Chetan Rane · Karmini Sampath · Maya Krishnan · Srivatsa Kundurthy · Sean Hendryx · Zifan Wang · Vijay Bharadwaj · Jeff Holm · Raja Aluri · Chen Bo Calvin Zhang · Noah Jacobson · Bing Liu · Brad Kenstler

提出长流程代码库级软件工程任务,区分公开及非公开集合,并依据测试要求评估候选补丁。

arXiv:2509.08755 · 首次提交: 2025-09-10

AgentGym-RL: Training LLM Agents for Long-Horizon Decision Making through Multi-Turn Reinforcement Learning

Zhiheng Xi · Jixuan Huang · Chenyang Liao · Baodai Huang · Honglin Guo · Jiaqi Liu · Rui Zheng · Junjie Ye · Jiazheng Zhang · Wenxiang Chen · Wei He · Yiwen Ding · Guanyu Li · Zehui Chen · Zhengyin Du · Xuesong Yao · Yufei Xu · Jiecao Chen · Tao Gui · Zuxuan Wu · Qi Zhang · Xuanjing Huang · Yu-Gang Jiang

介绍通过多轮环境交互训练 Agent 的 AgentGym-RL,以及在强化学习过程中逐步延长交互时长的 ScalingInter-RL 方法。

arXiv:2508.09123 · 首次提交: 2025-08-12

OpenCUA: Open Foundations for Computer-Use Agents

Xinyuan Wang · Bowen Wang · Dunjie Lu · Junlin Yang · Tianbao Xie · Junli Wang · Jiaqi Deng · Xiaole Guo · Yiheng Xu · Chen Henry Wu · Zhennan Shen · Zhuokai Li · Ryan Li · Xiaochuan Li · Junda Chen · Boyuan Zheng · Peihang Li · Fangyu Lei · Ruisheng Cao · Yeqiao Fu · Dongchan Shin · Martin Shin · Jiarui Hu · Yuyan Wang · Jixuan Chen · Yuxiao Ye · Danyang Zhang · Dikang Du · Hao Hu · Huarong Chen · Zaida Zhou · Haotian Yao · Ziwei Chen · Qizheng Gu · Yipu Wang · Heng Wang · Diyi Yang · Victor Zhong · Flood Sung · Y. Charles · Zhilin Yang · Tao Yu

介绍 OpenCUA 的演示采集、AgentNet 轨迹及生成状态—动作推理的流程。目录关联已发布数据和离线动作评测器,模型成绩及 OSWorld 评测与该数据产物的范围保持区分。

arXiv:2507.15887 · 首次提交: 2025-07-19

AlgoTune: Can Language Models Speed Up General-Purpose Numerical Programs?

Ori Press · Brandon Amos · Haoyu Zhao · Yikai Wu · Samuel K. Ainsworth · Dominik Krupke · Patrick Kidger · Touqir Sajed · Bartolomeo Stellato · Jisun Park · Nathanael Bosch · Eli Meril · Albert Steppi · Arman Zharmagambetov · Fangzhao Zhang · David Perez-Pineiro · Alberto Mercurio · Ni Zhan · Talor Abramovich · Kilian Lieret · Hanlin Zhang · Shirley Huang · Matthias Bethge · Ofir Press

提出包含问题生成器、正确性验证器及参考计时的数值程序优化任务,并提供迭代式优化 Agent。

arXiv:2506.21506 · 首次提交: 2025-06-26

Mind2Web 2: Evaluating Agentic Search with Agent-as-a-Judge

Boyu Gou · Zanming Huang · Yuting Ning · Yu Gu · Michael Lin · Weijian Qi · Andrei Kopanev · Botao Yu · Bernal Jiménez Gutiérrez · Yiheng Shu · Chan Hee Song · Jiaman Wu · Shijie Chen · Hanane Nour Moussa · Tianshu Zhang · Jian Xie · Yifei Li · Tianci Xue · Zeyi Liao · Kai Zhang · Boyuan Zheng · Zhaowei Cai · Viktor Rozgic · Morteza Ziyadi · Huan Sun · Yu Su

提出长流程 Agent 搜索任务及任务专用评审 Agent,结合网页证据检查回答覆盖度和来源归属。

arXiv:2505.19897 · 首次提交: 2025-05-26

ScienceBoard: Evaluating Multimodal Autonomous Agents in Realistic Scientific Workflows

Qiushi Sun · Zhoumianze Liu · Chang Ma · Zichen Ding · Fangzhi Xu · Zhangyue Yin · Haiteng Zhao · Zhenyu Wu · Kanzhi Cheng · Zhaoyang Liu · Jianing Wang · Qintong Li · Xiangru Tang · Tianbao Xie · Xiachong Feng · Xiang Li · Ben Kao · Wenhai Wang · Biqing Qi · Lingpeng Kong · Zhiyong Wu

提出面向多模态计算机操作 Agent 的科学桌面工作流及应用状态评测,覆盖科学软件和科研文档任务。

arXiv:2504.21798 · 首次提交: 2025-04-30

SWE-smith: Scaling Data for Software Engineering Agents

John Yang · Kilian Lieret · Carlos E. Jimenez · Alexander Wettig · Kabir Khandpur · Yanzhe Zhang · Binyuan Hui · Ofir Press · Ludwig Schmidt · Diyi Yang

构建可执行的代码库环境,通过合成导致测试失败的修改,扩大软件工程训练任务及 Agent 轨迹数据。

arXiv:2504.11442 · 首次提交: 2025-04-15

TextArena

Leon Guertler · Bobby Cheng · Simon Yu · Bo Liu · Leshem Choshen · Cheston Tan

提出文字游戏集合及在线对战接口 TextArena,用于研究和训练语言模型的交互行为,包括对抗中的社会推理。

arXiv:2503.15661 · 首次提交: 2025-03-19

UI-Vision: A Desktop-centric GUI Benchmark for Visual Perception and Interaction

Shravan Nayak · Xiangru Jian · Kevin Qinghong Lin · Juan A. Rodriguez · Montek Kalsi · Rabiul Awal · Nicolas Chapados · M. Tamer Özsu · Aishwarya Agrawal · David Vazquez · Christopher Pal · Perouz Taslakian · Spandana Gella · Sai Rajeswar

定义桌面 GUI 的元素定位、布局定位和动作预测任务;本次检查的公开版本目前提供两个定位部分。

arXiv:2502.14499 · 首次提交: 2025-02-20

MLGym: A New Framework and Benchmark for Advancing AI Research Agents

Deepak Nathani · Lovish Madaan · Nicholas Roberts · Nikolay Bashlykov · Ajay Menon · Vincent Moens · Amar Budhiraja · Despoina Magka · Vladislav Vorotilov · Gaurav Chaurasia · Dieuwke Hupkes · Ricardo Silveira Cabral · Tatiana Shavrina · Jakob Foerster · Yoram Bachrach · William Yang Wang · Roberta Raileanu

提出 MLGym 与 MLGym-Bench,用于开发和评估能够实现机器学习方法、运行实验并迭代改进任务结果的 Agent。

arXiv:2412.14161 · 首次提交: 2024-12-18

TheAgentCompany: Benchmarking LLM Agents on Consequential Real World Tasks

Frank F. Xu · Yufan Song · Boxuan Li · Yuxuan Tang · Kritanjali Jain · Mengxue Bao · Zora Z. Wang · Xuhui Zhou · Zhitong Guo · Murong Cao · Mingyang Yang · Hao Yang Lu · Amaad Martin · Zhe Su · Leander Maben · Raj Mehta · Wayne Chi · Lawrence Jang · Yiqing Xie · Shuyan Zhou · Graham Neubig

提出具有内部服务和任务检查的模拟软件公司,用于评估浏览网站、运行程序并与模拟同事协作的 Agent。

arXiv:2412.05467 · 首次提交: 2024-12-06

The BrowserGym Ecosystem for Web Agent Research

Thibault Le Sellier De Chezelles · Maxime Gasse · Alexandre Drouin · Massimo Caccia · Léo Boisvert · Megh Thakkar · Tom Marty · Rim Assouel · Sahar Omidi Shayegan · Lawrence Keunho Jang · Xing Han Lù · Ori Yoran · Dehan Kong · Frank F. Xu · Siva Reddy · Quentin Cappart · Graham Neubig · Ruslan Salakhutdinov · Nicolas Chapados · Alexandre Lacoste

提出统一的浏览器 Agent 接口和实验工具,用于比较 Agent 在多个网页基准中的行为。

arXiv:2411.13543 · 首次提交: 2024-11-20

BALROG: Benchmarking Agentic LLM and VLM Reasoning On Games

Davide Paglieri · Bartłomiej Cupiał · Samuel Coward · Ulyana Piterbarg · Maciej Wolczyk · Akbir Khan · Eduardo Pignatelli · Łukasz Kuciński · Lerrel Pinto · Rob Fergus · Jakob Nicolaus Foerster · Jack Parker-Holder · Tim Rocktäschel

提出连接现有不同复杂度游戏的基准,用于评估语言与视觉语言 Agent 的连续决策能力。

arXiv:2410.23218 · 首次提交: 2024-10-30

OS-ATLAS: A Foundation Action Model for Generalist GUI Agents

Zhiyong Wu · Zhenyu Wu · Fangzhi Xu · Yian Wang · Qiushi Sun · Chengyou Jia · Kanzhi Cheng · Zichen Ding · Liheng Chen · Paul Pu Liang · Yu Qiao

介绍跨平台 GUI 定位数据采集及动作模型训练,将新采集界面与已有来源结合。公开语料用于定位预训练,数据元素、评测任务和已发布模型版本是不同统计单位。

arXiv:2410.15164 · 首次提交: 2024-10-19

SPA-Bench: A Comprehensive Benchmark for SmartPhone Agent Evaluation

Jingxuan Chen · Derek Yuen · Bin Xie · Yuhao Yang · Gongwei Chen · Zhihao Wu · Li Yixing · Xurui Zhou · Weiwen Liu · Shuai Wang · Kaiwen Zhou · Rui Shao · Liqiang Nie · Yasheng Wang · Jianye Hao · Jun Wang · Kun Shao

提出覆盖单应用与跨应用流程的 Android 任务、Agent 集成,以及对任务完成和资源消耗的自动评估。

arXiv:2410.13886 · 首次提交: 2024-10-11

Refusal-Trained LLMs Are Easily Jailbroken As Browser Agents

Priyanshu Kumar · Elaine Lau · Saranya Vijayakumar · Tu Trinh · Scale Red Team · Elaine Chang · Vaughn Robinson · Sean Hendryx · Shuyan Zhou · Matt Fredrikson · Summer Yue · Zifan Wang

提出 BrowserART,用于研究语言模型在聊天中的安全拒绝行为能否延续到浏览器 Agent 的操作中。

arXiv:2410.05080 · 首次提交: 2024-10-07

ScienceAgentBench: Toward Rigorous Assessment of Language Agents for Data-Driven Scientific Discovery

Ziru Chen · Shijie Chen · Yuting Ning · Qianheng Zhang · Boshi Wang · Botao Yu · Yifei Li · Zeyi Liao · Chen Wei · Zitong Lu · Vishal Dey · Mingyi Xue · Frazier N. Baker · Benjamin Burns · Daniel Adu-Ampratwum · Xuhui Huang · Xia Ning · Song Gao · Yu Su · Huan Sun

提出需要独立程序完成的科学分析任务,依据已发表研究设计任务专用执行检查及输出评估。

arXiv:2408.04682 · 首次提交: 2024-08-08

ToolSandbox: A Stateful, Conversational, Interactive Evaluation Benchmark for LLM Tool Use Capabilities

Jiarui Lu · Thomas Holleis · Yizhe Zhang · Bernhard Aumayer · Feng Nan · Felix Bai · Shuang Ma · Shen Ma · Mengyu Li · Guoli Yin · Zirui Wang · Ruoming Pang

提出有状态的对话式工具使用评测,结合模拟用户、工具动作间的依赖,以及对中间里程碑和最终结果的检查。

arXiv:2407.17032 · 首次提交: 2024-07-24

Gymnasium: A Standard Interface for Reinforcement Learning Environments

Mark Towers · Ariel Kwiatkowski · Jordan Terry · John U. Balis · Gianluca De Cola · Tristan Deleu · Manuel Goulão · Andreas Kallinteris · Markus Krimmel · Arjun KG · Rodrigo Perez-Vicente · Andrea Pierré · Sander Schulhoff · Jun Jet Tai · Hannah Tan · Omar G. Younis

介绍 Gymnasium 的统一环境接口、参考任务和支持强化学习实验复现的工具。

arXiv:2407.16312 · 首次提交: 2024-07-23

MOMAland: A Set of Benchmarks for Multi-Objective Multi-Agent Reinforcement Learning

Florian Felten · Umut Ucak · Hicham Azmani · Gao Peng · Willem Röpke · Hendrik Baier · Patrick Mannion · Diederik M. Roijers · Jordan K. Terry · El-Ghazali Talbi · Grégoire Danoy · Ann Nowé · Roxana Rădulescu

提出标准化的多目标、多 Agent 环境集合及学习基线,用于在不同奖励与效用假设下比较策略。

arXiv:2407.10956 · 首次提交: 2024-07-15

Spider2-V: How Far Are Multimodal Agents From Automating Data Science and Engineering Workflows?

Ruisheng Cao · Fangyu Lei · Haoyuan Wu · Jixuan Chen · Yeqiao Fu · Hongcheng Gao · Xinzhuang Xiong · Hanchong Zhang · Yuchen Mao · Wenjing Hu · Tianbao Xie · Hongshen Xu · Danyang Zhang · Sida Wang · Ruoxi Sun · Pengcheng Yin · Caiming Xiong · Ansong Ni · Qian Liu · Victor Zhong · Lu Chen · Kai Yu · Tao Yu

提出面向数据科学与工程流程的电脑操作基准,要求在专业工具中结合代码生成和 GUI 操作。

arXiv:2406.10819 · 首次提交: 2024-06-16

GUI-World: A Video Benchmark and Dataset for Multimodal GUI-oriented Understanding

Dongping Chen · Yue Huang · Siyuan Wu · Jingyu Tang · Liuyi Chen · Yilin Bai · Zhigang He · Chenlong Wang · Huichi Zhou · Yiqiang Li · Tianshuo Zhou · Yue Yu · Chujie Gao · Qihui Zhang · Yi Gui · Zhen Li · Yao Wan · Pan Zhou · Jianfeng Gao · Lichao Sun

构建覆盖多类界面场景的视频 GUI 理解任务,研究时序上下文、帧选择及面向 GUI 的视频模型。

arXiv:2406.10227 · 首次提交: 2024-06-14

VideoGUI: A Benchmark for GUI Automation from Instructional Videos

Kevin Qinghong Lin · Linjie Li · Difei Gao · Qinchen WU · Mingyi Yan · Zhengyuan Yang · Lijuan Wang · Mike Zheng Shou

利用教学视频,从高层规划、子任务规划和原子动作三个层面评测视觉 GUI 工作流,区分专业软件操作中的不同失败原因。所核查版本提供数据,评测实现仍列为待发布。

arXiv:2406.04151 · 首次提交: 2024-06-06

AgentGym: Evolving Large Language Model-based Agents across Diverse Environments

Zhiheng Xi · Yiwen Ding · Wenxiang Chen · Boyang Hong · Honglin Guo · Junzhe Wang · Dingwen Yang · Chenyang Liao · Xin Guo · Wei He · Songyang Gao · Lu Chen · Rui Zheng · Yicheng Zou · Tao Gui · Qi Zhang · Xipeng Qiu · Xuanjing Huang · Zuxuan Wu · Yu-Gang Jiang

提出 AgentGym 的统一环境接口、任务集合和演示轨迹,并通过 AgentEvol 研究语言模型 Agent 在跨环境探索中的能力提升。

arXiv:2405.14573 · 首次提交: 2024-05-23

AndroidWorld: A Dynamic Benchmarking Environment for Autonomous Agents

Christopher Rawles · Sarah Clinckemaillie · Yifan Chang · Jonathan Waltz · Gabrielle Lau · Marybeth Fair · Alice Li · William Bishop · Wei Li · Folawiyo Campbell-Ajala · Daniel Toyama · Robert Berry · Divya Tyamagundlu · Timothy Lillicrap · Oriana Riva

提出 Android 模拟器基准,使用参数化移动应用流程和从系统状态计算的奖励进行评估。

arXiv:2404.07972 · 首次提交: 2024-04-11

OSWorld: Benchmarking Multimodal Agents for Open-Ended Tasks in Real Computer Environments

Tianbao Xie · Danyang Zhang · Jixuan Chen · Xiaochuan Li · Siheng Zhao · Ruisheng Cao · Toh Jing Hua · Zhoujun Cheng · Dongchan Shin · Fangyu Lei · Yitao Liu · Yiheng Xu · Shuyan Zhou · Silvio Savarese · Caiming Xiong · Victor Zhong · Tao Yu

提出真实电脑交互环境和桌面任务基准,通过配置初始状态并检查应用与文件的结果状态进行评估。

arXiv:2311.12983 · 首次提交: 2023-11-21

GAIA: a benchmark for General AI Assistants

Grégoire Mialon · Clémentine Fourrier · Craig Swift · Thomas Wolf · Yann LeCun · Thomas Scialom

提出结合推理、多模态输入、浏览和工具使用的助手任务,并保留部分答案用于评估通用助手。

arXiv:2308.03688 · 首次提交: 2023-08-07

AgentBench: Evaluating LLMs as Agents

Xiao Liu · Hao Yu · Hanchen Zhang · Yifan Xu · Xuanyu Lei · Hanyu Lai · Yu Gu · Hangliang Ding · Kaiwen Men · Kejuan Yang · Shudan Zhang · Xiang Deng · Aohan Zeng · Zhengxiao Du · Chenhui Zhang · Sheng Shen · Tianjun Zhang · Yu Su · Huan Sun · Minlie Huang · Yuxiao Dong · Jie Tang

提出覆盖八种交互环境的基准,用于研究语言模型 Agent 的推理、决策及失败模式。

arXiv:2306.09884 · 首次提交: 2023-06-16

Jumanji: a Diverse Suite of Scalable Reinforcement Learning Environments in JAX

Clément Bonnet · Daniel Luo · Donal Byrne · Shikha Surana · Sasha Abramowitz · Paul Duckworth · Vincent Coyette · Laurence I. Midgley · Elshadai Tegegn · Tristan Kalloniatis · Omayma Mahjoub · Matthew Macfarlane · Andries P. Smit · Nathan Grinsztajn · Raphael Boige · Cemlyn N. Waters · Mohamed A. Mimouni · Ulrich A. Mbou Sob · Ruan de Kock · Siddarth Singh · Daniel Furelos-Blanco · Victor Le · Arnu Pretorius · Alexandre Laterre

提出可配置的 JAX 决策环境,覆盖逻辑游戏和组合问题,并提供接口及评测基线。

arXiv:2306.06070 · 首次提交: 2023-06-09

Mind2Web: Towards a Generalist Agent for the Web

Xiang Deng · Yu Gu · Boyuan Zheng · Shijie Chen · Samuel Stevens · Boshi Wang · Huan Sun · Yu Su

提出覆盖真实网站任务和人工操作序列的数据集,用于研究能够泛化到陌生站点与领域的网页 Agent。

arXiv:2304.08244 · 首次提交: 2023-04-14

API-Bank: A Comprehensive Benchmark for Tool-Augmented LLMs

Minghao Li · Yingxiu Zhao · Bowen Yu · Feifan Song · Hangyu Li · Haiyang Yu · Zhoujun Li · Fei Huang · Yongbin Li

提出可执行 API 工具与评测对话,用于衡量规划、工具检索和 API 调用能力,并提供独立训练对话以改进工具增强语言模型。

arXiv:2211.13746 · 首次提交: 2022-11-24

Melting Pot 2.0

John P. Agapiou · Alexander Sasha Vezhnevets · Edgar A. Duéñez-Guzmán · Jayd Matyas · Yiran Mao · Peter Sunehag · Raphael Köster · Udari Madhushani · Kavya Kopparapu · Ramona Comanescu · DJ Strouse · Michael B. Johanson · Sukhdeep Singh · Julia Haas · Igor Mordatch · Dean Mobbs · Joel Z. Leibo

介绍 Melting Pot 2.0 的基础世界、背景群体、非对称角色与社会泛化评测规范。

arXiv:2011.07027 · 首次提交: 2020-11-13

DeepMind Lab2D

Charles Beattie · Thomas Köppe · Edgar A. Duéñez-Guzmán · Joel Z. Leibo

介绍支持研究者设计环境和多 Agent 学习实验的网格世界模拟器。

arXiv:2009.14471 · 首次提交: 2020-09-30

PettingZoo: Gym for Multi-Agent Reinforcement Learning

J. K. Terry · Benjamin Black · Nathaniel Grammel · Mario Jayakumar · Ananth Hari · Ryan Sullivan · Luis Santos · Rodrigo Perez · Caroline Horsch · Clemens Dieffendahl · Niall L. Williams · Yashas Lokesh · Praveen Ravi

提出 PettingZoo 和 Agent Environment Cycle 模型,以一致方式与不同多 Agent 环境交互。

arXiv:2006.13760 · 首次提交: 2020-06-24

The NetHack Learning Environment

Heinrich Küttler · Nantas Nardelli · Alexander H. Miller · Roberta Raileanu · Marco Selvatici · Edward Grefenstette · Tim Rocktäschel

提出基于 NetHack 的学习环境,在运行高效、程序化生成的游戏世界中研究探索、规划和技能习得。

arXiv:1908.09453 · 首次提交: 2019-08-26

OpenSpiel: A Framework for Reinforcement Learning in Games

Marc Lanctot · Edward Lockhart · Jean-Baptiste Lespiau · Vinicius Zambaldi · Satyaki Upadhyay · Julien Pérolat · Sriram Srinivasan · Finbarr Timbers · Karl Tuyls · Shayegan Omidshafiei · Daniel Hennes · Dustin Morrill · Paul Muller · Timo Ewalds · Ryan Faulkner · János Kramár · Bart De Vylder · Brennan Saeta · James Bradbury · David Ding · Sebastian Borgeaud · Matthew Lai · Julian Schrittwieser · Thomas Anthony · Edward Hughes · Ivo Danihelka · Jonah Ryan-Davis

介绍整合游戏环境、算法和分析工具的统一框架,支持强化学习、博弈论和搜索研究。

arXiv:1908.03568 · 首次提交: 2019-08-09

Behaviour Suite for Reinforcement Learning

Ian Osband · Yotam Doron · Matteo Hessel · John Aslanides · Eren Sezener · Andre Saraiva · Katrina McKinney · Tor Lattimore · Csaba Szepesvari · Satinder Singh · Benjamin Van Roy · Richard Sutton · David Silver · Hado Van Hasselt

定义受控交互实验和标准化分析方法,用于诊断强化学习的核心能力。

arXiv:1809.02627 · 首次提交: 2018-09-07

Unity: A General Platform for Intelligent Agents

Arthur Juliani · Vincent-Pierre Berges · Ervin Teng · Andrew Cohen · Jonathan Harper · Chris Elion · Chris Goy · Yuan Gao · Hunter Henry · Marwan Mattar · Danny Lange

将游戏引擎作为可配置研究平台进行讨论,并以 Unity ML-Agents 展示具有视觉、物理、任务与社会交互复杂度的环境。

arXiv:1806.11532 · 首次提交: 2018-06-29

TextWorld: A Learning Environment for Text-based Games

Marc-Alexandre Côté · Ákos Kádár · Xingdi Yuan · Ben Kybartas · Tavian Barnes · Emery Fine · James Moore · Ruo Yu Tao · Matthew Hausknecht · Layla El Asri · Mahmoud Adada · Wendy Tay · Adam Trischler

提出可控制的文字游戏生成器和学习环境,用于研究强化学习及其在不同冒险任务间的泛化与迁移。

arXiv:1612.03801 · 首次提交: 2016-12-12

DeepMind Lab

Charles Beattie · Joel Z. Leibo · Denis Teplyashin · Tom Ward · Marcus Wainwright · Heinrich Küttler · Andrew Lefrancq · Simon Green · Víctor Valdés · Amir Sadik · Julian Schrittwieser · Keith Anderson · Sarah York · Max Cant · Adam Cain · Adrian Bolton · Stephen Gaffney · Helen King · Demis Hassabis · Shane Legg · Stig Petersen

提出可编程的第一人称三维平台,用于研究视觉多样、部分可观测世界中的学习。