AI 评测与排行榜,分别告诉你什么
分清评测基准、一次评测运行与排行榜,用它们回答各自适合的问题。
LLM Stats
CRUXEval input prediction task with Chain of Thought (CoT) prompting. Part of the CRUXEval benchmark for code reasoning, understanding, and execution evaluation. Given a Python function and its expected output, the task is to predict the appropriate input using chain-of-thought reasoning. Consists of 800 Python functions (3-13 lines) designed to evaluate code comprehension and reasoning capabilities.
本站保留来源报告的结果,不代表独立复测。请先核对任务版本、评测协议、分数单位和报告日期;不同运行条件不能直接合并为统一排名。
按来源中的观察顺序展示,顺序不代表排名。日期保留原始精度。
| 模型 | 数值 | 单位 | 协议 | 报告日期与口径 | 来源 |
|---|---|---|---|---|---|
| Qwen2.5-Coder 7B Instruct | 0.565 | 未收录 | 未收录 | 2024-09-19 · model_announcement | LLM Stats |