Anthropic CEO 亲自辟谣:我们从未主张禁止开源模型
这几天美国科技圈在吵一件事——要不要禁止美国公司用中国的开源模型。一些官员在推禁令,一大批科技公司签了公开信力挺开源,然后有人把矛头指向 Anthropic,说你们就是想借机搞垄断、把开源禁了。
今天 Dario Amodei 亲自出来把话说死了:Anthropic 从未主张过禁止开源模型。 而且他拿过去几年在各种场合写过的文章来佐证,这不是临时改口,是一贯立场。
但他也没完全站到「开源万岁」那一边去。
他真正担心什么
他最在意的一个:authoritarian 政府——不单指中国,但中国显然是最有能力的一个——训练出比美国更强的 AI 模型,然后用它实现永久军事优势,或者对本国人民搞深度镇压。这个担忧在美国政府内部是共识,副总统 Vance 去年在巴黎讲过,2026 年情报界年度威胁评估也写了。
关键不在这模型是开源还是闭源,最危险的模型可能是秘密训练、只交给解放军和国安部使用的,跟开源半毛钱关系没有。
第二个担忧才是开源真正会放大风险的场景:模型被滥用做网络攻击或生物攻击,以及对齐出问题。开源模型确实比闭源更难加护栏、更难监控使用行为,一旦权重放出就收不回来。但他指出——禁止美国企业使用中国开源模型,也解决不了这个问题,因为真正干坏事的不会是合法美国企业。
Dario 在有意把两个问题拆开——地缘政治层面的竞赛问题,和技术安全层面的失控问题。前者的解法跟开源无关,后者的解法也不是一刀切禁止就能解决的。
他真正支持什么
既然不是一刀切禁开源,那该怎么办?Dario 给了三条,跟 Anthropic 一贯的主张一致。
不卖高性能芯片和造芯片的设备给中国,严打芯片走私。 这是阻止威胁 #1 最直接有效的办法——中国本土芯片产能有限,没有美国芯片就造不出比美国更强的模型。逻辑很直:scaling laws 需要算力,算力被卡住,天花板就卡住了。
打击工业级的蒸馏行为。 蒸馏比从头训练高效得多,中国可以用远少于美国的芯片数量蒸馏出接近前沿的模型。这不是说能追上或反超,但可以把差距缩小到几个月。Dario 强调,干这些蒸馏操作的公司很多确实发布了开源权重,但核心问题不是开源,是这些操作背后有 authoritarian 国家在支撑、目标是超越美国前沿。针对性干预比一刀切禁开源合理。
所有足够强大的模型,不管开源闭源,必须先通过强制安全测试。 这是针对威胁 #2 的解法——直接测模型的网络攻击、生物攻击和对齐风险。如果开源模型确实更危险,或者可以通过某些方式(比如 Anthropic 自己研究的模块化训练策略)降低风险,那应该由测试结果说话,而不是预先假定。Dario 还补了一句:这个测试要有效必须全球化,连中国也要参与。他认为这可能行得通——在防止 AI 生物武器方面,中方的利益和这边有交集。
对开源公开信的回应
Dario 说同意公开信的大部分内容:开源扩大 AI 经济的参与面、在某些场景加强竞争、给客户更多控制权。他也同意蒸馏问题应该靠针对性的法律和商业框架来解决,而不是禁开源。
但他反对两个说法:一是说开源模型必然更容易开发安全措施,二是说广泛的能力开放必然对防守方比对攻击方更有利。他的判断正好相反——至少在生物领域,攻击方和防守方的不对称可能非常严重:足够强的模型可以用随处可得的材料快速武器化大流行级别的病毒,而防守是论年算的工程任务。
这类问题应该由发布前的严格测试来回答,而不是拍脑袋站队。
所以结论是什么
Dario 没有给自己一个漂亮的收尾。他做的事其实是在两个阵营之间切出一条非常细的线:不站「开源就是好」也不站「开源就该禁」,而是说——卡芯片、打蒸馏、强制安全测试,这三件事做好了,开源不开源的问题可能自己就消解了大半。
这个立场能不能让两边都满意?不太可能。反开源的人会觉得他没有解决问题,开源派会觉得他对生物风险的担忧是过度假设。但至少他说清楚了自己不是谁的朋友,也不是谁的敌人。
这场争论背后还有一个更大的问题没有答案:如果有一天测试结果显示某个开源模型确实有危险能力,那该怎么办?Dario 没有在这个帖子里展开,但按他的逻辑——既然禁开源不是答案,那答案就得靠监管体系的执行力来补了。