AI EVALUATION, IN CONTEXT.BY EQUALITY MACHINE

Model reports

CyberGym

CyberGym 测试智能体能否把真实软件的漏洞报告转化为可验证的复现用例。

公开的 1,507 任务数据集、信息等级及当前提交规则。

测什么

CyberGym 聚焦漏洞复现,收录来自 188 个软件项目的 1,507 个真实漏洞。它主要考察智能体能否读懂已有漏洞报告、分析相关代码,并生成能够呈现该故障的测试输入。

CyberGym paper, version 3

任务如何设置

主要的 Level 1 设置提供源代码和文字漏洞描述。其他等级改变可用线索:Level 0 不提供描述,Level 2 增加崩溃堆栈,Level 3 增加补丁信息。各等级的信息条件不同,展示结果时应同时标注等级。

CyberGym paper, version 3

如何判分

验证器检查提交的输入是否在未修复程序中触发漏洞、在修复后不再触发。当前规则要求智能体选定一个最终概念验证用例;“过程中任意一次成功”属于另一种统计,不能直接替代最终提交成功率。

CyberGym evaluation FAQ

适合用来判断什么

适合比较智能体阅读陌生代码、把文字报告转化为可执行证据的能力。工程选型时,还应结合 token 消耗、耗时和工具请求量判断效果;官方提交指南要求报告这些成本信息。

CyberGym official repository · CyberGym submission guidance

读分时的限制

成功复现漏洞不等于获得完整系统控制。智能体框架、工具预算、网络访问及目标程序运行环境都会影响可比性。当前默认设置不向智能体开放修复后的运行镜像,这与论文中另设的补丁信息等级需要区分。

CyberGym evaluation FAQ · CyberGym paper, version 3

评测信息与证据

来源
Model reports
发布者
未收录
评测发布日期
未收录
采集日期
未收录
模态
未收录

本站保留来源报告的结果,不代表独立复测。请先核对任务版本、评测协议、分数单位和报告日期;不同运行条件不能直接合并为统一排名。

原始资料

报告成绩 1

按来源中的观察顺序展示,顺序不代表排名。日期保留原始精度。

模型数值单位协议报告日期与口径来源
Hy4 preview78.4percentas printed in the report's benchmark table2026-08-28 · document_publicationHy4 preview