AI EVALUATION, IN CONTEXT.BY EQUALITY MACHINE

LLM Stats

CyberGym

CyberGym 测试智能体能否把真实软件的漏洞报告转化为可验证的复现用例。

公开的 1,507 任务数据集、信息等级及当前提交规则。

测什么

CyberGym 聚焦漏洞复现,收录来自 188 个软件项目的 1,507 个真实漏洞。它主要考察智能体能否读懂已有漏洞报告、分析相关代码,并生成能够呈现该故障的测试输入。

CyberGym paper, version 3

任务如何设置

主要的 Level 1 设置提供源代码和文字漏洞描述。其他等级改变可用线索:Level 0 不提供描述,Level 2 增加崩溃堆栈,Level 3 增加补丁信息。各等级的信息条件不同,展示结果时应同时标注等级。

CyberGym paper, version 3

如何判分

验证器检查提交的输入是否在未修复程序中触发漏洞、在修复后不再触发。当前规则要求智能体选定一个最终概念验证用例;“过程中任意一次成功”属于另一种统计,不能直接替代最终提交成功率。

CyberGym evaluation FAQ

适合用来判断什么

适合比较智能体阅读陌生代码、把文字报告转化为可执行证据的能力。工程选型时,还应结合 token 消耗、耗时和工具请求量判断效果;官方提交指南要求报告这些成本信息。

CyberGym official repository · CyberGym submission guidance

读分时的限制

成功复现漏洞不等于获得完整系统控制。智能体框架、工具预算、网络访问及目标程序运行环境都会影响可比性。当前默认设置不向智能体开放修复后的运行镜像,这与论文中另设的补丁信息等级需要区分。

CyberGym evaluation FAQ · CyberGym paper, version 3

数据来源与署名:LLM Stats

已收录的评测资料

这条来源记录收录了 13 条数值成绩。来源区分了 13 个模型身份或配置。同一模型可能有多条记录;比较前请核对具体版本、工具和运行预算。 查看成绩及逐条证据 →

指标方向
数值越高越好

从这些资料开始

引用文档及日期(1)

目录采集于 2026-08-17,资料入口与字段反映当时保存的来源。

关注度快照

观测日期:2026-10-11

Hugging Face 论文点赞
1

查看来源快照

这是注明日期的关注度观测,不是实时计数或评测分数。

评测信息与证据

来源
LLM Stats
发布者
未收录
评测发布日期
未收录
采集日期
2026-08-17
模态
text

本站保留来源报告的结果,不代表独立复测。请先核对任务版本、评测协议、分数单位和报告日期;不同运行条件不能直接合并为统一排名。

报告成绩 13

按来源中的观察顺序展示,顺序不代表排名。日期保留原始精度。

模型数值单位协议报告日期与口径来源
GLM-5.30.845未收录未收录2026-08-14 · model_announcementLLM Stats
DeepSeek-V4-Pro-08130.833未收录未收录2026-08-13 · model_announcementLLM Stats
Gemini 3.5 Flash Cyber0.832未收录未收录2026-07-21 · model_announcementLLM Stats
Claude Mythos Preview0.831未收录未收录2026-04-07 · model_announcementLLM Stats
GPT-5.50.818未收录未收录2026-04-23 · model_announcementLLM Stats
Claude Opus 4.80.788未收录未收录2026-05-28 · model_announcementLLM Stats
DeepSeek-V4-Flash-07310.767未收录未收录2026-07-31 · model_announcementLLM Stats
Claude Opus 4.60.738未收录未收录2026-02-05 · model_announcementLLM Stats
Claude Opus 4.70.731未收录未收录2026-04-16 · model_announcementLLM Stats
Seed 2.1 Pro0.702未收录未收录2026-06-24 · model_announcementLLM Stats
GLM-5.10.687未收录未收录2026-04-07 · model_announcementLLM Stats
Seed 2.1 Turbo0.67未收录未收录2026-06-24 · model_announcementLLM Stats
Kimi K2.50.413未收录未收录2026-01-27 · model_announcementLLM Stats