OpenCompass Hub

OR-Bench

OR-Bench 是一个旨在评估大型语言模型过度拒绝行为的大规模基准。它衡量LLM在过度拒绝和有害提示拒绝方面的表现，涵盖暴力、隐私等10个类别。基准包含8万个、1千个困难及6百个有害提示，通过Mixtral等工具自动化生成。它为未来安全对齐研究提供强大测试平台。