四个新评测:协作检索、个性化编程、推理服务与实验理解
新增 SlackBench、PersonaCodeBench、ServerBench 和 BEAKER,包含中英文说明、作者报告的成绩及原始发布链接。
这一批覆盖证据检索、个性化编程、高效 LLM 推理服务与实验场景理解。进入详情页,可继续查看任务、指标和实验条件。
按要评估的任务选择
每个详情页都有任务说明、附来源的成绩和原始发布链接。四项评测回答不同的问题,可以先按任务选择,再核对对应设置。
| 评测 | 任务 |
|---|---|
| SlackBench | 跨聊天与代码的协作检索 |
| PersonaCodeBench | 满足个性化用户要求的编程 |
| ServerBench | 设计专用 LLM 推理服务 |
| BEAKER | 理解实验室场景与操作流程 |
- SlackBenchModel reports
- PersonaCodeBenchModel reports
- ServerBenchModel reports
- BEAKERModel reports
SlackBench · original paper · PersonaCodeBench · original paper · ServerBench · original paper · BEAKER · original paper
SlackBench:回答工作问题,先找对证据
SlackBench 要求 Agent 从聊天、代码仓库和文档中还原上下文。140 个问题覆盖检索、对无法回答的问题拒答、定向总结和情境推断。详情页把作者报告的成绩、Agent 框架和原始数据集放在一起,便于核对。
- SlackBenchModel reports
PersonaCodeBench:代码能用,也满足这位用户的要求吗?
PersonaCodeBench 在多轮编程过程中逐步披露用户需求,分别检查软件正确性和个性化要求。联合通过还受到预算与有效性条件约束。详情页说明联合成绩究竟包含哪些要求。
- PersonaCodeBenchModel reports
ServerBench:编程 Agent 能交付高效且通过验证的服务吗?
ServerBench 让编程 Agent 优化完整的 LLM 推理服务系统,以满足延迟要求的 token 价值相对于 GPU 成本衡量效果。成绩取决于部署配置与负载,提交的系统还需独立验证。读分数时,需要同时看部署条件。
- ServerBenchModel reports
BEAKER:模型能判断实验场景中该怎样操作吗?
BEAKER 包含 1,000 道专家编写的问题,覆盖 11 类图像与视频任务,检查动作定位、仪器、状态、安全和流程推理。评测采用离线单轮问答;成绩反映实验场景问题的回答能力,并不代表机器人实体操作已可靠。
- BEAKERModel reports
今天上架,保留原始发表日期
11 月 5 日是本批页面上架与核对的日期。原始 arXiv 记录中,SlackBench 和 PersonaCodeBench 发表于 11 月 3 日,ServerBench 和 BEAKER 发表于 11 月 4 日。Radar 转录作者报告的结果,没有重跑这些实验。
SlackBench · original paper · PersonaCodeBench · original paper · ServerBench · original paper · BEAKER · original paper