Shell

Shell由华东师范大学Shell@Educhat团队和上海人工智能实验室联合推出。当下，确保垂直领域任务中大模型的安全性至关重要。虽然目前的对齐工作主要针对偏见和暴力等显性风险，但往往忽略了更深层次的特定领域隐性风险。研发团队推出了一个包含大量隐式风险查询的基准测试集，将风险分为引导、反思、禁止三类，以及 MENTOR 框架。该框架利用规则演化循环（REC）和激活引导（RV）技术，能够有效发现并缓解这些不易察觉的潜在风险。