开源AI的"豁免":看起来很美

EU AI Act有一个"开源豁免"条款:开源AI模型(包括权重、架构、训练方法都公开的模型)可以免于部分监管要求。这听起来是开源社区的胜利——开源AI不会被EU AI Act扼杀。

但仔细读这个豁免条款,你会发现它充满了"陷阱"。很多开源AI模型,其实并不满足"豁免"的条件。 而那些满足了豁免条件的模型,又面临被"下游滥用"的风险——你在开源模型上加了"微调",豁免就失效了。

金句:EU AI Act对开源AI的豁免,是一份"看起来慷慨,实则苛刻"的礼物。开源AI公司需要极其小心,否则"豁免"随时可能变成"违规"。

开源豁免的三个条件

EU AI Act对开源AI的豁免,有三个条件:

条件一:模型必须"完全开源"

“完全开源"的定义是:模型权重、模型架构、训练方法、训练数据——全部公开。如果只公开模型权重,不公开训练数据,不算"完全开源”,不满足豁免条件。

这意味着什么? Meta的Llama 4虽然公开了权重,但没有公开训练数据。所以Llama 4不满足EU AI Act的"完全开源"定义,不能享受豁免。Mistral的模型也类似——公开了权重,但训练数据不透明。

真正满足"完全开源"的模型,可能只有Allen AI的OLMo、EleutherAI的Pythia、以及一些学术模型。

金句:EU AI Act对"开源"的定义,和开源社区的定义不同。开源社区认为"公开权重"就算开源,EU AI Act认为"公开一切"才算开源。

条件二:模型不能是"高风险AI"

即使模型"完全开源",如果它被用于"高风险AI应用"(如AI医疗、AI招聘、AI执法),豁免也失效。“豁免"只适用于模型本身,不适用于模型的"高风险应用”。

这意味着什么? 如果一个医院下载了OLMo(完全开源),然后微调用于AI诊断,那么"AI诊断"这个应用,不受豁免保护——它需要满足EU AI Act的高风险AI合规要求。

条件三:下游用户不能"商业化"模型

如果开源模型被下游用户用于"商业化",豁免可能失效。EU AI Act规定:“如果开源模型被纳入商业产品,豁免条款不适用。”

这意味着什么? 如果你是一家AI公司,你下载了开源模型,集成到你的商业产品中,你需要对"整个产品"进行合规——不仅仅是开源模型部分。

金句:开源模型的豁免,只保护"开源模型本身",不保护"基于开源模型的商业产品"。如果你用开源模型赚钱,豁免和你无关。

开源AI公司面临的三大困境

困境一:“开源"的定义之争

开源AI公司面临一个困境:如果公开训练数据,可能侵犯版权(因为训练数据中可能包含受版权保护的内容)。如果不公开训练数据,不满足EU AI Act的"开源"定义,不能享受豁免。

这是一个"两难”——公开训练数据有版权风险,不公开训练数据有监管风险。

案例: 2025年,Meta因为Llama的训练数据中包含了受版权保护的书籍,被多名作者起诉。如果Meta公开了Llama的训练数据,这个诉讼可能会更严重。但如果Meta不公开训练数据,Llama在欧盟可能不满足"开源豁免"条件。

困境二:微调后的"责任归属"

如果你下载了一个开源模型,微调后用于特定场景,如果微调后的模型出了问题,责任在谁?在开源模型的原作者?还是在微调者?

EU AI Act的答案是:微调者承担主要责任。 如果你微调了开源模型,就相当于"创建了一个新的AI系统",你需要对这个新系统的合规负责。

困境三:开源模型的"下游滥用"

开源模型可以被任何人下载和使用,包括恶意行为者。如果恐怖分子使用开源AI模型制造"AI武器",开源模型的原作者需要负责吗?

EU AI Act的规定是:如果原作者没有采取"合理的措施"防止下游滥用,可能需要承担部分责任。 什么是"合理的措施"?这可能包括:使用限制(禁止用于武器)、使用监控(追踪模型的使用情况)、协同监管机构(报告滥用行为)。

金句:开源AI的"责任"问题,是EU AI Act最模糊的地方。开源模型的原作者,到底在多大程度上需要为"下游滥用"负责?这个问题,可能要等第一个判例出来才能回答。

开源AI社区的应对策略

策略一:建立"开源AI合规标准"

开源AI社区需要建立自己的"合规标准"——这套标准应该满足EU AI Act的要求,同时又不违背开源精神。例如:公开训练数据的"版权清理"方法、公开模型使用的"限制条款"、公开下游滥用的"监控机制"。

策略二:创建"合规开源"许可证

现有的开源许可证(MIT、Apache 2.0、GPL)没有考虑AI监管的问题。开源AI社区需要创建"合规开源"许可证——在许可证中加入合规条款,如"下载者承诺不用于高风险AI应用"、“下载者承诺遵守EU AI Act”。

策略三:区分"开源模型"和"开源服务"

EU AI Act的豁免,只适用于"开源模型"(代码和权重),不适用于"开源服务"(基于开源模型的商业产品)。开源AI公司需要明确区分"开源模型"和"开源服务"——前者享受豁免,后者需要合规。

金句:开源AI的未来,不是"要不要合规",而是"怎么在合规的同时保持开源精神"。这个问题没有现成的答案,需要开源社区自己去探索。