AI EVALUATION, IN CONTEXT.BY EQUALITY MACHINE

OpenCompass Hub

FalseReject

FalseReject 构建了包含 16 000 条表面“有毒”但实为良性的查询样本,覆盖 44 个安全相关类别,并提出一种基于图信息的对抗多智能体交互框架,用以生成多样且复杂的提示–响应对,并在响应中引入显式推理链,帮助模型更准确地区分安全与不安全上下文;该工作还为标准指令调优模型和推理导向模型分别准备了专项训练集,并附带人工标注的基准测试集,针对 29 款最先进 LLM 进行了大规模评估,结果表明经 FalseReject 监督微调后,模型在显著减少对良性查询的过度拒绝的同时,不仅未损失整体安全性,也保持了语言生成能力,为敏感场景下提升 LLM 可用性提供了首个系统化、可复现的资源与方法框

评测信息与证据

来源
OpenCompass Hub
发布者
Amazon
评测发布日期
2025-05-12
采集日期
2026-08-18
模态
未收录

本站保留来源报告的结果,不代表独立复测。请先核对任务版本、评测协议、分数单位和报告日期;不同运行条件不能直接合并为统一排名。

原始资料

报告成绩 0

本来源记录尚未收录数值成绩。这不表示模型得分为零,也不表示该评测没有公开成绩;请查阅原始资料。