AI EVALUATION, IN CONTEXT.BY EQUALITY MACHINE

Model reports

CloudOpsBench

检查 Agent 能否完成云操作,同时不破坏无关业务。比较结果前,先看最终状态检查、任务范围,以及模型、推理力度和框架组合。

仅限 1.0 版;有发表日期的作者分析任务数量,与 2026 年 11 月 3 日读取的实时榜单分开标注。

Agent 能否改好云环境,同时保住无关业务?

CloudOpsBench 要求 Agent 在已有的 AWS 风格环境中完成操作,例如下线服务、恢复故障链路、迁移工作负载或收紧权限。题目给出目标,Agent 需要自行找出相关资源。通过既要求目标状态正确,也要求任务之外的资源保持完整。

CloudOpsBench cloud-operations task explanation · 13 October 2026 · CloudOpsBench official task repository

五类运维流程,共 45 个任务

作者将 1.0 版描述为 45 个任务。它们要求真正改变云环境状态;公开任务仓库包含初始化、题目说明、自动检查和参考解法。评测考察实际操作结果,而非云服务知识问答。

作者分析文章报告的任务数量
流程任务数
Decommissioning / 资源下线13
Security & access / 安全与权限12
Migration & deployment / 迁移与部署7
Configuration & monitoring / 配置与监控6
Repair & recovery / 修复与恢复7

这里统计的是评测任务构成,不是模型完成数量。

CloudOpsBench author failure analysis · 2 November 2026 · CloudOpsBench official task repository

每次使用独立环境,检查最终状态

当前方法页说明:每个模型、推理力度与运行框架组合,对每题运行 4 次,计划共 180 次尝试;Agent 的 shell 时间预算为 40 分钟,并可使用 AWS CLI、boto3 和 Terraform。校验器检查云资源的实际状态,不依据最后一条文字回复判分。初始化或校验器错误单独记录;解决率的分母包含通过、失败与超时,不包含评测错误。

CloudOpsBench official evaluation method · CloudOpsBench cloud-operations task explanation · 13 October 2026

有明确发表日期的完成数量,应该怎么读

作者在 2026 年 11 月 2 日的分析文章中明确写出:Claude Fable 5.1 完成 45 题中的 29 题,GPT-6 Astra 完成 26 题。本站主成绩仅录入这两个原文数量。文章没有在这两个数字旁说明多次运行的汇总方式、推理力度或具体运行框架,因此不换算成百分比,也不将其等同于实时榜单按尝试计算的解决率。11 月 2 日是文章发表日期,不是推定的实验执行日期。

11 月 2 日作者分析中的完成任务数
文章中的模型名称完成任务数总任务数
Claude Fable 5.12945
GPT-6 Astra2645

这两个数量对应的推理力度、框架及跨运行汇总口径未明确给出。

CloudOpsBench author failure analysis · 2 November 2026

实时榜单:同时看推理力度和运行框架

下表保留 2026 年 11 月 3 日看到的 18 条官方榜单数据,同时列出模型名称、推理力度、运行框架、时间、token 与 API 费用。原站 Release date 列是模型发布日期,不是实验日期或成绩发表日期;页面没有给出每条汇总成绩的确切运行日期。这些缺少成绩日期的百分比保留在可追溯表格中,不给主成绩历史补造日期。

CloudOpsBench v1.0 官方榜单,2026 年 11 月 3 日读取
模型(推理力度)运行框架解决率时间TokenAPI 费用(美元)
claude-fable-5-1 (max)claude-code60.6%38.6h97.9M$404.3
gpt-6-astra (max)codex58.9%16.5h98.0M$310.9
gemini-4-argon (high)gemini-cli57.5%34.2h173.9M$100.5
grok-4.7 (high)cursor-cli56.5%33.2h178.3M$138.8
gpt-6-astra (high)codex54.2%16.1h62.4M$188.4
grok-4.7 (high)grok-build48.3%25.9h173.4M$127.3
claude-opus-5-5 (high)terminus-247.8%19.5h22.6M$45.1
claude-opus-5-5 (high)claude-code46.7%14.0h37.4M$36.6
claude-fable-5-1 (high)terminus-243.8%19.0h37.3M$319.1
gemini-3.8-flash (high)terminus-242.8%33.2h337.4M$70.0
gpt-6-astra (high)terminus-242.8%12.9h19.2M$94.6
grok-4.7 (medium)grok-build40.0%21.4h121.6M$91.6
grok-4.6 (high)cursor-cli39.7%19.7h78.2M$63.8
grok-4.6 (medium)grok-build36.7%16.2h59.4M$51.2
grok-4.6 (high)grok-build36.1%17.7h72.0M$61.7
qwen3.8-max (high)terminus-233.7%79.1h78.4M$61.8
deepseek-v4.1-flash (high)terminus-221.8%22.2h68.1M$7.5
kimi-k3.1-pro (high)terminus-219.1%14.8h7.4M$10.7

保留原站显示值与精度。时间、token 和费用是该配置的榜单汇总值,不是单题价格;解决率排除评测错误。读取日期不能证明实验日期;本表百分比与上方两个任务数量属于不同指标。

CloudOpsBench official v1.0 leaderboard · CloudOpsBench official evaluation method

作者的失败分析应单独阅读

带日期的分析文章将约 80% 的失败归为推理或范围判断错误,将约 20% 归为错误行动,并称其检查集合中没有知识缺口造成的失败。这些是作者的分类和近似比例,不是独立复核,也不能推广为所有云任务的结论。每条命令执行成功,仍可能遗漏资源或破坏无关状态。

CloudOpsBench author failure analysis · 2 November 2026

哪些材料可以查看或复现

公开仓库提供任务定义、初始化脚本、校验器和参考解法。README 说明运行框架需要使用者自行提供;检查任务结构不等于复现榜单。方法页介绍了模拟器和真实云环境,并按其披露规则公开脱敏轨迹与判分输出。Radar 本次核对的是公开资料,没有重跑云操作,也没有独立验证模拟器与真实 AWS 的等价性。

CloudOpsBench official task repository · CloudOpsBench official evaluation method

原始发布

原始 v1.0 作者网站、任务仓库与带日期的分析文章。本条目依据网站和代码仓库,不声称已有论文,也不推定首次发布日期。

核对于 2026-11-03

已收录的评测资料

这条来源记录收录了 2 条数值成绩。来源区分了 2 个模型身份或配置。同一模型可能有多条记录;比较前请核对具体版本、工具和运行预算。 查看成绩及逐条证据 →

报告指标
completed tasks in dated author analysis
原始单位
tasks
指标方向
数值越高越好

从这些资料开始

引用文档及日期(1)

评测信息与证据

来源
Model reports
发布者
未收录
评测发布日期
未收录
采集日期
未收录
模态
未收录

本站保留来源报告的结果,不代表独立复测。请先核对任务版本、评测协议、分数单位和报告日期;不同运行条件不能直接合并为统一排名。

报告成绩 2

按来源中的观察顺序展示,顺序不代表排名。日期保留原始精度。

模型数值单位协议报告日期与口径来源
Claude Fable 5.129.0tasksCompleted-task count exactly as reported in 2026-11-02 author analysis; effort, harness and aggregation across repeated runs not specified beside these counts. Not the live leaderboard trial-level resolution rate.2026-11-02 · document_publicationCloudOpsBench · completed-task counts in dated author analysis
GPT-6 Astra26.0tasksCompleted-task count exactly as reported in 2026-11-02 author analysis; effort, harness and aggregation across repeated runs not specified beside these counts. Not the live leaderboard trial-level resolution rate.2026-11-02 · document_publicationCloudOpsBench · completed-task counts in dated author analysis