依据 2026 年 9 月论文 v1 与作者任务网站;主实验采用图形界面操作。
覆盖哪些工作?
共 200 道任务、11 类工作流,覆盖草图、零件、装配、CAM、FEM 和工程图。零件建模与草图占比最高;小类别的成绩需结合题量理解。
Agent 怎样操作?
主实验允许截图观察与 GUI 操作,每题最多 100 个 GUI 步骤。另有 50 题终端实验,不应混入主实验成绩。
Authors’ project · tasks, evaluation and reproduction links · CADWorld introducing paper · protocol, evaluation and limitations (arXiv v1)
保存的成果决定是否通过
程序检查原生 .FCStd 工程与指定辅助文件。几何、约束、特征结构或后续输出必须满足全部题目要求;诊断指标不折算为部分分数。
CADWorld introducing paper · protocol, evaluation and limitations (arXiv v1)
论文比较说明什么?
论文最优 Agent 的任务成功率为 17.5%,专家参考为 87.0%。专家行来自一次参考执行,并非对工程师平均能力的统计研究。
哪些能力仍在测试之外?
题目提供明确目标与素材。FreeCAD 成绩不能直接代表其他 CAD 软件、开放式客户项目或需求发现能力。
CADWorld introducing paper · protocol, evaluation and limitations (arXiv v1)
从任务与验收条件开始复现
官方网站提供题集、虚拟机和安装指南。复现需要 Linux、KVM、Docker 与 FreeCAD 虚拟机;报告成绩时应保留运行框架、预算与轨迹。
论文中的任务成功率
成功要求通过任务全部检查。以下摘录表 3 的成功率,与表中的结束率、费用和动作数分别理解。
| Agent/参考 | 任务成功率 |
|---|---|
| GPT5.4 (CUA) | 17.5% |
| Opus4.8 (CUA) | 16.0% |
| Kimi K2.6 | 7.5% |
| OpenCUA | 1.5% |
| Holo 3.1 | 0.5% |
| Qwen3.6 | 0.0% |
| MiniMax M3 | 0.0% |
| Human Expert reference | 87.0% |
名称与百分比保留论文写法。人类行是单次专家参考执行,并非工程师群体平均值;不含 50 题终端实验。
CADWorld introducing paper · protocol, evaluation and limitations (arXiv v1)