AI EVALUATION, IN CONTEXT.BY EQUALITY MACHINE

Model reports

BlenderWorld

Agent 能否把需求与视觉参考变成可继续编辑的 Blender 工程?BlenderWorld 同时检查交付场景和渲染效果。

对应 2026 年 10 月 14 日论文 v1 的 223 道任务及官方实验。主表数值已于 2026 年 10 月 25 日与官网榜单核对。

Agent 要交付什么

Agent 需要在九个创作领域交付可编辑的 Blender 工程及指定媒体产物。223 道任务包括 78 道文本、130 道图片和 15 道视频任务;其中 59 道另附规格文件。全套任务共有 2,651 条二元评分条件。

BlenderWorld paper v1 · Methods, Table 2 and Appendix D · BlenderWorld · Official benchmark and leaderboard

分数怎样计算

Overall 将加权需求满足程度与视觉质量各按一半权重合成,再对全部 223 道任务取平均,范围为 0–100 分。评估结合场景检查、八个自适应渲染视角和八项质量维度。评估失败记零分。Full pass 是满足全部评分条件的任务比例,与 Overall 不是同一指标。

BlenderWorld paper v1 · Methods, Table 2 and Appendix D · BlenderWorld · Pinned evaluation protocol and runtime

官方完成质量结果

官方在同一任务集上报告了以下 13 个 Agent 的结果。阅读平均分时也应查看 Full pass:平均分较高,并不代表每项交付要求都已满足。

论文 v1 表 2 · 全部 223 道任务的完成质量
模型总分文本多模态需求评分质量评分全部条件达标率 %
GPT-6-Astra79.978.680.787.372.642.2
Opus-573.074.872.180.965.125.6
GPT-5.6-Sol67.771.765.574.760.715.7
DeepSeek-V4.1-Flash65.766.065.572.059.411.7
Qwen3.8-Max60.659.661.165.955.310.3
GLM-5.3-Flash59.763.157.864.854.46.28
Grok-4.657.060.055.461.452.76.73
Opus-4.857.058.656.160.253.75.38
Seed2.1pro-091551.354.749.554.947.73.59
Qwen3.8-27B47.746.148.650.045.51.35
Kimi-K346.541.349.447.945.21.79
Gemini-3.8-Flash34.235.933.229.838.50.45
MiniMax-M331.834.130.628.934.70.45

Overall、Text、MM、Rubric 和 Dimension 均为 0–100 分。Full pass 表示全部评分条件达标的任务比例。数值与精度按论文原表保留;失败评估仍计入分母。

BlenderWorld paper v1 · Methods, Table 2 and Appendix D · BlenderWorld · Official benchmark and leaderboard

运行资源统计

以下是按全部任务计算的每任务均值,包含未成功的调用。它们描述生成输出和请求的操作次数,并不代表相同计算预算或实际费用。

论文 v1 表 2 · 每任务平均运行资源
模型交互轮数输出 token 数(千)工具调用数
GPT-6-Astra45.684.579.1
Opus-5158241155
GPT-5.6-Sol44.939.944.0
DeepSeek-V4.1-Flash171209168
Qwen3.8-Max75.190.672.8
GLM-5.3-Flash102145101
Grok-4.693.412089.8
Opus-4.897.716495.6
Seed2.1pro-0915196122194
Qwen3.8-27B90.011287.4
Kimi-K360.554.358.3
Gemini-3.8-Flash56.635.954.5
MiniMax-M313272.2127

K 表示千个输出 token;一轮指一次模型响应。不同运行框架与模型统计方式会限制直接的效率比较。

BlenderWorld paper v1 · Methods, Table 2 and Appendix D · BlenderWorld · Official benchmark and leaderboard

比较结果的边界

每个模型按其最高可用推理设置运行,每道任务只尝试一次。GPT-6-Astra 与 GPT-5.6-Sol 使用 Codex,其余 Agent 使用 Claude Code;自动评估由 GPT-5.6-terra 完成。因此榜单比较的是完整 Agent 配置,未给出重复运行的方差估计;不能据此单独判定基础模型能力或认证生产可用性。

BlenderWorld paper v1 · Methods, Table 2 and Appendix D

复现前应记录什么

应固定任务版本、Blender 4.2.10、运行框架、推理配置和裁判。参考环境采用 Codex CLI 0.147.0、Claude Code 2.1.220 与 Node.js 22.17.0;论文注明 MiniMax-M3 的一个 48 道任务批次使用 Claude Code 2.1.241。公开评估器也接受其他框架生成的 ZIP 提交,因此配置改变时应单独标记评测协议。

BlenderWorld paper v1 · Methods, Table 2 and Appendix D · BlenderWorld · Pinned evaluation protocol and runtime

已收录的评测资料

这条来源记录收录了 13 条数值成绩。来源区分了 13 个模型身份或配置。同一模型可能有多条记录;比较前请核对具体版本、工具和运行预算。 查看成绩及逐条证据 →

报告指标
Overall mean fused score (0–100)
原始单位
points
指标方向
数值越高越好

从这些资料开始

引用文档及日期(1)

评测信息与证据

来源
Model reports
发布者
未收录
评测发布日期
2026-10-14
采集日期
未收录
模态
未收录

本站保留来源报告的结果,不代表独立复测。请先核对任务版本、评测协议、分数单位和报告日期;不同运行条件不能直接合并为统一排名。

报告成绩 13

按来源中的观察顺序展示,顺序不代表排名。日期保留原始精度。

模型数值单位协议报告日期与口径来源
MiniMax-M331.8pointsClaude Code 2.1.220 (48-task batch: 2.1.241); Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
DeepSeek-V4.1-Flash65.7pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
GLM-5.3-Flash59.7pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
Gemini-3.8-Flash34.2pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
Grok-4.657.0pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
Kimi-K346.5pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
Opus-4.857.0pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
Opus-573.0pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
Qwen3.8-27B47.7pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
Qwen3.8-Max60.6pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
Seed2.1pro-091551.3pointsClaude Code 2.1.220; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
GPT-5.6-Sol67.7pointsCodex CLI 0.147.0; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2
GPT-6-Astra79.9pointsCodex CLI 0.147.0; Blender 4.2.10; highest available reasoning; one run per task; GPT-5.6-terra judge; failed evaluations score zero and remain in the denominator2026-10-14 · document_publicationBlenderWorld paper v1 · Table 2