AI EVALUATION, IN CONTEXT.BY EQUALITY MACHINE

Claire Radar

CADWorld

电脑操作 Agent 需要交付有效、可编辑的 FreeCAD 工程文件,让最终成果经得起程序检查。

依据 2026 年 9 月论文 v1 与作者任务网站;主实验采用图形界面操作。

覆盖哪些工作?

共 200 道任务、11 类工作流,覆盖草图、零件、装配、CAM、FEM 和工程图。零件建模与草图占比最高;小类别的成绩需结合题量理解。

Authors’ project · tasks, evaluation and reproduction links

Agent 怎样操作?

主实验允许截图观察与 GUI 操作,每题最多 100 个 GUI 步骤。另有 50 题终端实验,不应混入主实验成绩。

Authors’ project · tasks, evaluation and reproduction links · CADWorld introducing paper · protocol, evaluation and limitations (arXiv v1)

保存的成果决定是否通过

程序检查原生 .FCStd 工程与指定辅助文件。几何、约束、特征结构或后续输出必须满足全部题目要求;诊断指标不折算为部分分数。

CADWorld introducing paper · protocol, evaluation and limitations (arXiv v1)

论文比较说明什么?

论文最优 Agent 的任务成功率为 17.5%,专家参考为 87.0%。专家行来自一次参考执行,并非对工程师平均能力的统计研究。

Authors’ project · tasks, evaluation and reproduction links

哪些能力仍在测试之外?

题目提供明确目标与素材。FreeCAD 成绩不能直接代表其他 CAD 软件、开放式客户项目或需求发现能力。

CADWorld introducing paper · protocol, evaluation and limitations (arXiv v1)

从任务与验收条件开始复现

官方网站提供题集、虚拟机和安装指南。复现需要 Linux、KVM、Docker 与 FreeCAD 虚拟机;报告成绩时应保留运行框架、预算与轨迹。

Authors’ project · tasks, evaluation and reproduction links

论文中的任务成功率

成功要求通过任务全部检查。以下摘录表 3 的成功率,与表中的结束率、费用和动作数分别理解。

论文表 3 · 成功率列,完整 200 题 GUI 实验
Agent/参考任务成功率
GPT5.4 (CUA)17.5%
Opus4.8 (CUA)16.0%
Kimi K2.67.5%
OpenCUA1.5%
Holo 3.10.5%
Qwen3.60.0%
MiniMax M30.0%
Human Expert reference87.0%

名称与百分比保留论文写法。人类行是单次专家参考执行,并非工程师群体平均值;不含 50 题终端实验。

CADWorld introducing paper · protocol, evaluation and limitations (arXiv v1)

已收录的评测资料

原论文的结果表已在导读中逐项列出;不同任务和指标分别保留,尚未并入统一成绩数据。

从这些资料开始

引用文档及日期(1)

目录采集于 2026-10-14,资料入口与字段反映当时保存的来源。

关注度快照

观测日期:2026-10-11

Hugging Face 论文点赞
14

查看来源快照

这是注明日期的关注度观测,不是实时计数或评测分数。

评测信息与证据

来源
Claire Radar
发布者
未收录
评测发布日期
2026-09-14
采集日期
2026-10-14
模态
未收录

本站保留来源报告的结果,不代表独立复测。请先核对任务版本、评测协议、分数单位和报告日期;不同运行条件不能直接合并为统一排名。

论文结果 1

上方导读列出了原论文的结果表,保留任务、单位、分母和来源。