多模态AI评测:一场"考试"和"能力"的脱节
2026年,多模态AI的评测基准超过20个。但很多评测,和"真实能力"严重脱节——AI在评测上得高分,在实际使用中表现糟糕。这就是"评测作弊"(Benchmark Hacking)——AI学会了"考试技巧",但没有学会"真实能力"。
我们评测了12个主流多模态AI评测基准,告诉你:哪个评测最靠谱?哪个评测是"刷分利器"?
金句:多模态AI评测的"考试悖论"——AI在"考试"中得分越高,在"真实场景"中可能表现越差。因为AI学会了"考试技巧",而不是"真实能力"。
主流多模态AI评测基准对比
| 评测基准 | 测试维度 | 样本数 | 评测方式 | 可信度 | 刷分难度 |
|---|---|---|---|---|---|
| MMBench | 20个维度 | 3000 | 多选题 | 高 | 中 |
| MME | 14个维度 | 2374 | 多选题 | 高 | 中 |
| SEED-Bench | 12个维度 | 19000 | 多选题 | 中 | 高 |
| MMMU | 6大学科 | 11500 | 多选题+开放 | 高 | 低 |
| HallusionBench | 幻觉检测 | 1200 | 判断题 | 高 | 低 |
| Video-MME | 视频理解 | 2700 | 多选题 | 中 | 中 |
| OCRBench | 文字识别 | 1000 | 多选题 | 中 | 高 |
| MathVista | 数学视觉 | 6141 | 多选题+开放 | 高 | 低 |
| RealWorldQA | 真实世界 | 700 | 开放问答 | 高 | 低 |
| MMStar | 综合能力 | 1500 | 多选题 | 高 | 低 |
深度分析:5个最值得关注的评测基准
1. MMBench——最全面的评测基准
MMBench有20个评测维度,覆盖了多模态AI的"逻辑推理"、“空间感知”、“属性识别”、“知识问答"等能力。它是目前最全面的多模态AI评测基准。
优点: 维度全面,样本量大,评测方式合理 缺点: 多选题的"猜测概率"较高(4选1,随机猜25%正确率) 刷分难度: 中等。AI可以通过"大量刷题"提高分数,但提升有限
金句:MMBench是"多模态AI的SAT考试”——全面、标准、但可能和"真实能力"有差距。
2. HallusionBench——最有价值的评测基准
HallusionBench专门评测多模态AI的"幻觉"——AI会不会"看到"图片中不存在的东西?这是目前最有价值的评测基准,因为"幻觉"是多模态AI最大的问题。
评测方法: 给AI看一张图片,问一个"诱导性问题"——例如:给AI看一张"空盘子"的图片,问"盘子里的苹果是什么颜色?“如果AI回答"红色”,说明AI产生了幻觉。
结果: GPT-5在HallusionBench上的得分是78.5%(越高越好,100%表示没有幻觉),Gemini 3是82.3%,Claude 3.5是74.1%。
金句:HallusionBench是"多模态AI的测谎仪"——它不测AI的"能力",只测AI的"诚实"。能力再强,如果不诚实,就是"危险的能力"。
3. MMMU——最难的评测基准
MMMU(Multi-discipline Multi-modal Understanding)是"多模态AI的高考"——它包含大学水平的6大学科(数学、物理、化学、生物、医学、艺术),需要AI既有"视觉理解"能力,又有"学科知识"。
结果: GPT-5在MMMU上的得分是68.2%,Gemini 3是65.8%,人类大学生平均分是72.5%。多模态AI的"大学水平知识",仍然低于人类大学生。
金句:MMMU是"多模态AI的智商测试"——它测试的不是"AI能不能看图",而是"AI能不能像大学生一样理解世界"。
4. RealWorldQA——最接近真实场景的评测
RealWorldQA用真实世界的问题(来自"用户真实提问"),评测多模态AI的"实用性"。它不测"学术能力",测"生活能力"。
问题示例: “这张停车标志上的文字是什么意思?"、“这个交通路口的红绿灯是什么颜色?"、“这个人的表情是开心还是难过?”
结果: GPT-5在RealWorldQA上的得分是85.3%,Gemini 3是83.1%。多模态AI的"真实世界理解”,已经接近人类水平。
金句:RealWorldQA是"多模态AI的路考”——它不考"学术知识",考"生活常识"。学术知识再强,生活常识不行,也是"书呆子AI"。
5. MathVista——最"硬核"的评测
MathVista评测多模态AI的"数学视觉推理"——给AI看一张"数学题"的图片(几何题、图表题、函数题),问它"答案是什么?"
结果: GPT-5在MathVista上的得分是62.5%,Gemini 3是58.3%。多模态AI的"数学视觉推理",仍然是一个巨大的挑战。
金句:MathVista是"多模态AI的数学奥赛"——它揭示了多模态AI的"短板":视觉理解可以,数学推理不行。