AI EVALUATION, IN CONTEXT.BY EQUALITY MACHINE

CAD 评测专栏:从软件操作到工程验证

从 CADWorld 出发,按任务、输入与验收方式浏览 12 项 CAD 相关评测,查阅站内导读和原始发布资料。

AI 生成一个形状只是起点。这里按软件操作、可编辑程序生成、工程图理解与工程行为验证整理阅读路线:9 个项目对应站内 10 条来源记录,另有 3 项直接链接原始发布资料。

从 CADWorld 开始:检查真正保存下来的工程成果

CADWorld 让 Agent 通过截图与图形界面操作 FreeCAD。200 道任务覆盖 11 类工作流,从草图、零件到装配、加工和仿真。主实验每题允许 100 个 GUI 步骤,并用程序检查保存的工程文件与指定输出。

结果要按版本阅读:论文 v1 的最优 Agent 成功率为 17.5%;2026 年 11 月 6 日核对的项目网站加入后续扩展评测后,列出 41.5%。87.0% 的人类成绩来自单次专家参考执行。另行开展的 50 题终端实验不属于完整 GUI 主实验。

CADWorld · project, paper and extended evaluation editions · CADWorld · September 2026 paper v1 · CADWorld · official code and evaluator · CADWorld · official task dataset

先确定你要回答哪类问题

你要评估的是操作软件、生成可编辑程序、读懂工程图,还是让设计在修改与仿真中仍然成立?先按下面四条路线找任务,再打开原始发布页核对评测条件。

你的目标从这些评测开始重点检查
操作 CAD 软件CADWorld、Parametric CAD Bench v3GUI 或工具接口、原生工程文件、操作预算
生成 CAD 程序BenchCAD、CADBench、CADTestBench输入模态、几何、执行结果、需求验收
读图与理解几何RealCADBench、OmniMech、UniCAD、PNI-3D、CAD Segmentation尺寸、重建、检索或分割指标
检查编辑、装配与物理行为CADEngBench、MUSE参数变化、配合接口、运动与指定载荷

BenchCAD:可执行程序与工具辅助评测

BenchCAD 1.0 包含 106 类工业零件的 17,900 个经执行验证的 CadQuery 程序,覆盖视觉/代码问答、图像生成代码和代码编辑。下方两条站内记录分别保留已采集的 Vision2Code 成绩及 Python 工具辅助口径。

作者现有网站还提供 BenchCAD 2.0 Core:六类任务、100 个留出案例。它是另一个版本,官网的新分数不能直接替换站内较早采集的成绩。

BenchCAD 1.0 · introducing paper · BenchCAD · current project and versioned results

CADEngBench 与 MUSE:从外形到可用的设计

CADEngBench 将参数化零件与装配推理分开评估,检查有效性、工程要求、参数变化、编辑、指定线性静力仿真与连接关系。零件、实体对和仿真指标要分别看分母。下方导读包含论文结果表及公开资料的复现范围。

MUSE 聚焦多组件、可编辑的 B-Rep 装配。2026 年 10 月 19 日的 v3 检查执行、几何、结构/接口一致性和功能一致性;SIE 进一步检查组件关系及接口间隙。阅读时应区分该版本与较早的 rubric 评分描述。

CADEngBench · parametric design, assembly and simulation · MUSE · assembly structure and interface geometry, v3

RealCADBench 与 OmniMech:读懂图纸中的工程意图

RealCADBench v2 描述了 12,632 道任务,但论文成绩使用 1,770 题评测切片,其中含 25 道装配题。输入包括文字、工程图、照片与渲染图。生成的 FreeCAD API 程序分别接受执行、几何和视觉语义一致性评估。

OmniMech 将超过 251,000 张带尺寸与公差的工程图和 CAD 表示配对,覆盖程序合成、从图纸推断三维结构、标注理解和工具辅助推理。论文宣布将发布数据与代码;安排复现前,应先确认实际可取得的资料。

RealCADBench · industrial design intents, v2 · OmniMech · multimodal mechanical benchmark

UniCAD、PNI-3D 与分割:区分几何理解的任务

UniCAD 结合点云重建 CAD、文字/图像生成 CAD 和 CAD 问答。各任务的输出和指标不同,不能把整套评测当作一个软件操作成功率。

PNI-3D 提供 100 类参数化 CAD 族、12 种表示下的 2,400 个资产,用于匹配、检索以及表示变化和传感噪声下的鲁棒性。检索准确率不等于 CAD 设计生成能力。

A Real-World CAD Segmentation Benchmark 研究工程 CAD 中与紧固件有关的孔识别,比较规则式与学习式分割及跨域表现。它适合评估特征识别与分割;下方导读保留了论文报告的结果表。

UniCAD · multimodal and multitask CAD · PNI-3D · author dataset card and files · A Real-World CAD Segmentation Benchmark · original paper

继续查看三项原始评测资料

CADBench(MIT DeCoDE Lab)用六个数据家族、五种输入模态下的 18,000 个样本评估多模态 CAD 程序生成。几何重合、表面距离、有效实体率和程序简洁度需分别阅读。它与 BenchCAD、Parametric CAD Bench 是不同项目。

CADTestBench 通过可执行的 CADTests 检查文字需求中的几何与拓扑条件,用“要求是否被满足”补充外形相似度评估。

Parametric CAD Bench v3 包含 100 道 FreeCAD 任务:30 道文字创建、30 道创建后编辑、40 道工程图重建。论文于 2026 年 11 月 2 日提交,成绩来自 9 月 24 日快照;主指标是连续奖励的均值,并非二元成功率。

这三项可直接打开下方原始发布资料。本专栏提供阅读入口,本次未将它们的数值榜单导入 Radar。

CADBench · MIT DeCoDE Lab project and evaluation · CADTestBench · Text-to-CAD Evaluation with CADTests · Parametric CAD Bench v3 · original November 2026 paper

比较成绩或实际运行前,核对这些条件

记录评测版本、题集划分、确切模型与 Agent、可用接口、工具权限、重试及操作/token/时间预算;保留原生 CAD、执行记录和验收输出,便于核查成绩。

任务成功率、连续奖励、IoU、检索与分割是不同测量。要看失败是否计零,平均值覆盖全部题目还是只包含能执行的输出,再选择与你希望自动化的工作对应的证据。

CADWorld · September 2026 paper v1 · Parametric CAD Bench v3 · original November 2026 paper · CADBench · MIT DeCoDE Lab project and evaluation

参考资料

  1. CADWorld · project, paper and extended evaluation editions
  2. CADWorld · September 2026 paper v1
  3. CADWorld · official code and evaluator
  4. CADWorld · official task dataset
  5. BenchCAD 1.0 · introducing paper
  6. BenchCAD · current project and versioned results
  7. CADEngBench · parametric design, assembly and simulation
  8. MUSE · assembly structure and interface geometry, v3
  9. RealCADBench · industrial design intents, v2
  10. OmniMech · multimodal mechanical benchmark
  11. UniCAD · multimodal and multitask CAD
  12. PNI-3D · author dataset card and files
  13. A Real-World CAD Segmentation Benchmark · original paper
  14. CADBench · MIT DeCoDE Lab project and evaluation
  15. CADTestBench · Text-to-CAD Evaluation with CADTests
  16. Parametric CAD Bench v3 · original November 2026 paper