AI EVALUATION, IN CONTEXT.BY EQUALITY MACHINE

四个新评测:协作检索、个性化编程、推理服务与实验理解

新增 SlackBench、PersonaCodeBench、ServerBench 和 BEAKER,包含中英文说明、作者报告的成绩及原始发布链接。

这一批覆盖证据检索、个性化编程、高效 LLM 推理服务与实验场景理解。进入详情页,可继续查看任务、指标和实验条件。

按要评估的任务选择

每个详情页都有任务说明、附来源的成绩和原始发布链接。四项评测回答不同的问题,可以先按任务选择,再核对对应设置。

评测任务
SlackBench跨聊天与代码的协作检索
PersonaCodeBench满足个性化用户要求的编程
ServerBench设计专用 LLM 推理服务
BEAKER理解实验室场景与操作流程

SlackBench · original paper · PersonaCodeBench · original paper · ServerBench · original paper · BEAKER · original paper

SlackBench:回答工作问题,先找对证据

SlackBench 要求 Agent 从聊天、代码仓库和文档中还原上下文。140 个问题覆盖检索、对无法回答的问题拒答、定向总结和情境推断。详情页把作者报告的成绩、Agent 框架和原始数据集放在一起,便于核对。

SlackBench · original paper

PersonaCodeBench:代码能用,也满足这位用户的要求吗?

PersonaCodeBench 在多轮编程过程中逐步披露用户需求,分别检查软件正确性和个性化要求。联合通过还受到预算与有效性条件约束。详情页说明联合成绩究竟包含哪些要求。

PersonaCodeBench · original paper

ServerBench:编程 Agent 能交付高效且通过验证的服务吗?

ServerBench 让编程 Agent 优化完整的 LLM 推理服务系统,以满足延迟要求的 token 价值相对于 GPU 成本衡量效果。成绩取决于部署配置与负载,提交的系统还需独立验证。读分数时,需要同时看部署条件。

ServerBench · original paper

BEAKER:模型能判断实验场景中该怎样操作吗?

BEAKER 包含 1,000 道专家编写的问题,覆盖 11 类图像与视频任务,检查动作定位、仪器、状态、安全和流程推理。评测采用离线单轮问答;成绩反映实验场景问题的回答能力,并不代表机器人实体操作已可靠。

BEAKER · original paper

今天上架,保留原始发表日期

11 月 5 日是本批页面上架与核对的日期。原始 arXiv 记录中,SlackBench 和 PersonaCodeBench 发表于 11 月 3 日,ServerBench 和 BEAKER 发表于 11 月 4 日。Radar 转录作者报告的结果,没有重跑这些实验。

SlackBench · original paper · PersonaCodeBench · original paper · ServerBench · original paper · BEAKER · original paper

参考资料

  1. SlackBench · original paper
  2. PersonaCodeBench · original paper
  3. ServerBench · original paper
  4. BEAKER · original paper