一个肯尼亚开发者的愤怒

James是一名肯尼亚的软件开发者。他用斯瓦希里语(东非约1亿人使用的语言)问GPT-5一个简单的编程问题:“Jinsi ya kurekebisha hitilafu ya NullPointerException?"(如何修复NullPointerException错误?)

GPT-5的回答支离破碎,语法错误百出,代码片段中混入了英文注释。同样的问题用英文提问,GPT-5给出了完美的回答。

“不是我不会编程,而是我的语言被AI抛弃了。” James在Twitter上写道。这条推文获得了超过2万次转发。

多语言评测的残酷数据

我们用MGSM(多语言数学推理)、Flores(翻译质量)、XQuAD(跨语言问答)和Belebele(多语言阅读理解)等基准,对主流模型进行了多语言能力评测。

GPT-5的多语言表现

  • 英文:95.7%(MMLU)
  • 中文:82.9%(CMMLU)
  • 日文:78.3%
  • 阿拉伯语:73.1%
  • 斯瓦希里语:41.2%
  • 冰岛语:38.7%

从英文到斯瓦希里语,GPT-5的能力下降了57%。 这不是GPT-5独有的问题——所有以英文为主训练语言的模型都存在类似的多语言能力衰减。

DeepSeek V3在中文上表现最好,但在非中英语言上同样大幅衰减。Gemini 3 Ultra得益于Google的多语言训练数据,在覆盖语言数量上最多(支持约100种语言),但在低资源语言上的质量仍然不高。

为什么多语言评测如此重要

全球有约7000种语言,但AI模型有效支持的语言不到20种。这意味着全球约60%的人口(约48亿人)无法用母语获得高质量的AI服务。

这不仅仅是公平问题,也是商业问题。非洲、东南亚、南亚是全球互联网增长最快的市场,但AI服务在这些地区的质量远低于欧美市场。第一个解决多语言问题的AI公司,将赢得下一个十亿用户。

多语言评测的三大挑战

挑战一:缺乏评测基准。 大多数评测基准只有英文版。MMLU有英文版,但斯瓦希里语版MMLU不存在。没有基准,就无法评测;无法评测,就无法改进。

挑战二:翻译不等于本地化。 将英文评测基准翻译成其他语言,不等于创建了该语言的评测基准。文化背景、常识、价值观的差异,使得直译的评测题在很多文化中不适用。

挑战三:多语言不等于多文化。 即使模型能流利地说100种语言,它可能仍然以"西方视角"回答所有问题。真正的多语言能力,应该包含对不同文化视角的理解和尊重。

2026年,多语言评测是AI评测领域最大的空白。 谁填补了这个空白,谁就掌握了AI全球化的下一个关键节点。