Hugging Face Blog 发布于 09/02 05:39

BenchMIRT: What are LLM benchmarks actually measuring?

(翻译)BenchMIRT:LLM 基准测试究竟在测量什么?

查看原文

资讯摘要

A Blog post by Ai2 on Hugging Face

AI 摘要

AI2 推出 BenchMIRT,一种基于多维项目反应理论的新方法,可在单个提示层面审计 LLM 基准测试。研究对 100 个开源模型、16 个基准和超过 3.4 万个问题进行分析,识别出安全与通用推理两个主导维度,并揭示 BBQ、WMDP 等基准实际测量的能力可能与预期不同。

AI 问答

BenchMIRT 是什么?

BenchMIRT 是 AI2 推出的一种新方法,用于在单个提示层面审计 LLM 基准测试,通过多维项目反应理论(MIRT)估计模型在安全、通用推理等不同能力上的表现,并分析每个问题主要测量的能力。

BenchMIRT 有哪些主要发现?

它从 16 个基准、100 个模型中独立恢复出安全和通用推理两个主导维度,并发现 BBQ、WMDP 等部分基准的得分更多关联通用推理而非安全,HarmBench 中的不同类型问题也可能测量不同能力。

BenchMIRT 可以如何应用?

它可以帮助识别基准中信息量最大的问题,仅用 10% 的问题即可近似保留完整基准对模型能力的评估,还能预测模型在未见过的题目上的表现,准确率达到 79%。

打开原文

更多资讯

微信桌面端变“三折叠”,可能是在给小微腾位置人人都是产品经理 · 09/15 09:46探秘柬埔寨,千年吴哥窟少数派 · 09/16 17:33Agent开始调用基础设施,Kubernetes准备好了吗?InfoQ 中文 · 09/16 04:38圆桌:新能源:后时代的深水淘金 | 36氪 2026产业未来大会36氪 · 09/15 17:56别闹,几粒盐就能立起高脚杯?你是不是用胶水了?果壳网 · 09/15 14:15飞书与豆包工作合体后首亮相:Agent 能进群,还能帮你写周报、做PPTInfoQ 中文 · 09/16 02:37找不到小红书爆文选题?去淘宝差评区抄!人人都是产品经理 · 09/15 11:29美股太贵 该加仓新兴市场吗?金色财经 · 09/16 18:57百度做了一堆AI产品,却没有一个能代表百度?人人都是产品经理 · 09/15 18:31Arc主网上线 生态内有哪些项目?金色财经 · 09/16 17:3936氪首发 | 国内头部硅电容IDM企业融资亿元,切入AI芯片与高端光模块36氪 · 09/16 14:35Grayscale:比特币能否优化私募市场投资组合?金色财经 · 09/15 09:10AI风口之下,明星们又想“挤上”牌桌了人人都是产品经理 · 09/15 09:15大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚雷峰网 · 09/16 15:57量子位2026人工智能年度榜单,正式启动!量子位 · 09/16 12:16廉价太阳能改变世界能源格局Solidot · 09/15 17:19华为坤灵升级“4+10+N”场景化方案,发布“经纬计划”和50个样板点雷峰网 · 09/16 17:27清晰法案有概率通过?市场可能并未定价金色财经 · 09/15 13:50GPT-6 Sol要来了?OpenAI本周或迎“发布狂潮”金色财经 · 09/16 13:17读完斯坦福116页AI实施手册,我最大的感受是:别再盯着模型了人人都是产品经理 · 09/15 12:14圆桌:量智共振·多元路径:共筑中国量子产业下一个十年 | 36氪 2026产业未来大会36氪 · 09/15 15:35无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA量子位 · 09/15 18:43一款在浏览器里运行、部署在自己服务器上的 SQL 客户端Solidot · 09/15 16:43在金融支付系统中实施混沌工程:来自企业级 ECS 部署的经验教训InfoQ 中文 · 09/15 17:04超级智能体“迪迪虾”上车,比亚迪携手阿里云推进智能座舱升级雷峰网 · 09/15 11:58英国殖民之前的澳大利亚原居民人口约 222 万Solidot · 09/15 23:17英伟达开源 IMO 金牌配方:不仅是「人海战术」,1.5TB 显存做实 AI「 推恩令」?雷峰网 · 09/15 17:38B站AI无限竞技场今日上线!全球百大AI模型同场竞技,GPT-6高居榜首量子位 · 09/16 14:23F-Droid 上的应用有多少是在 AI 帮助下编写的?Solidot · 09/15 20:45GPT Image 2.5 对比实测:变化与局限人人都是产品经理 · 09/15 09:46