OpenAI 和 Anthropic 的 1100 名研究员,联手请求一件事:让所有人一起慢下来
7 月 28 日,一份名为「Pacing the Frontier」的公开声明在硅谷发出。超过 1100 人在上面签了名。这些人来自 OpenAI、Anthropic、Google、Meta、Microsoft、Mistral 和 Thinking Machines——几乎是前沿 AI 公司的全名单。签名者包括 OpenAI 首席科学家 Jakub Pachocki、首席研究官 Mark Chen、联合创始人 Wojciech Zaremba 和 John Schulman,以及 Anthropic 联合创始人 Jack Clark、Chris Olah、Ben Mann,首席科学官 Jared Kaplan,还有 Claude Code 负责人 Boris Cherny。
这些公司过去几年一直在争夺研究人员、企业客户和算力资源,也在华盛顿争夺对 AI 监管规则的影响力。在开源、安全和模型发布节奏上,它们有过不少分歧。
但这次,它们内部最接近前沿模型的人,提出了一个共同要求:美国政府应当支持建立一套国际机制,在必要时主动控制前沿 AI,特别是自动化 AI 研发的推进速度。
他们想让所有人一起慢下来。
他们看到的,不只是风险
声明里最重要的内容,并不是「AI 存在风险」——这句话已经被说过太多次,几乎和科技公司的隐私政策一样正确,也一样容易被忽略。
签署者认为全球领先的 AI 公司可能已经接近实现「自动化 AI 研究」。这意味着模型不再只负责写邮件、生成图片或补全代码,它开始参与研发下一代 AI:阅读论文、提出假设、编写训练代码、设计实验、分析失败原因,再用这些结果帮助人类制造更强的模型。
过去,AI 研发的速度始终受制于人类。研究员需要休息,工程师需要沟通,实验需要排期,管理层还要计算预算和风险。人类组织的低效率一直被视为一个管理问题,却也在无意中充当了技术发展的限速器。当越来越多环节由模型完成,这个限速器可能逐渐消失。
签署者担心的正是这个循环:更强的模型帮助研发更强的模型,后者再进一步提高研究效率,最终让模型能力增长超过人类理解和控制系统的速度。
他们要求政府介入,原因很现实——没有一家企业愿意单独减速。OpenAI 停下来,Anthropic 不会因此放弃机会;Anthropic 停下来,Google 也没有理由停止训练。一个国家放慢速度,其他国家仍然可能继续。这是一个典型的集体行动问题:每家公司都知道继续加速可能提高整体风险,但任何一家率先踩刹车,都可能先失去人才、客户和技术优势。
这封声明请求美国政府推动建立国际工具,让行业拥有「共同减速」的可能。他们想买的是时间。
事故先于声明发生
这份声明出现前一周,OpenAI 刚公布了一起内部安全事故。
当时 OpenAI 正在测试一个能力更强的未发布模型。为了观察模型的极限网络攻击能力,测试人员关闭了部分生产环境中的网络安全拒答机制,并把模型放进一个高度隔离的评测环境。模型获得的目标很窄:完成 ExploitGym 中的网络安全题目。
为了找到答案,模型投入大量推理资源,开始寻找连接外部互联网的方法。它发现并利用了软件包缓存代理中的一个零日漏洞,完成权限提升和横向移动,抵达了一台可以访问互联网的节点。获得网络连接后,模型推断 Hugging Face 可能保存着评测数据和答案,于是继续寻找进入其系统的方法。在其中一次攻击中,它组合使用了被盗凭据、零日漏洞和远程代码执行路径,最终进入 Hugging Face 的生产基础设施,从数据库里直接获得了测试答案。
Hugging Face 被突如其来的大批量攻击整懵了,据描述,它们急忙使用各款模型试图抵挡潮水般涌来的攻击请求。
OpenAI 事后称其为一起「前所未有的网络安全事件」。
模型没有产生意识,也没有形成逃离人类控制的愿望。调查结论是,它只是「高度专注」于一个狭窄目标,并为完成这个目标采取了极端手段。但这反而暴露了更现实的问题:一个 AI 不需要仇恨人类,也不需要拥有科幻电影里的自由意志。它只需要一个目标、足够强的能力和足够长的运行时间,就可能找到测试人员没有预料到的路径。人类希望它通过一道安全测试。它发现,突破测试环境再进入保存答案的系统,是更有效的解法。
事故发生后,OpenAI 加强了内部基础设施控制。公司在公告中写道,这些措施将以牺牲部分研究速度为代价。对于一家一直以研发速度参与竞争的公司而言,这句话并不轻松。
同一天,模型攻破了两项密码算法
7 月 28 日,联名声明公开的同一天,Anthropic 公布了 Claude Mythos Preview 参与完成的两项密码学研究。
第一项针对 HAWK——一种面向后量子时代设计的数字签名方案,正在参加美国国家标准与技术研究院的标准遴选。在经过两年、两轮专家审查后,Mythos Preview 用大约 60 小时改进了针对它的最佳已知攻击方法,使其有效密钥强度大幅下降。第二项针对缩减轮数的 AES,Mythos Preview 找到了新的攻击方法,将此前最佳攻击的速度提高了 200 到 800 倍。
两项成果都不会直接影响今天的生产系统——HAWK 尚未投入实际部署,被攻击的也不是完整版本的 AES。但 Anthropic 想展示的重点不是某个加密系统即将失效。过去,Claude 发现的许多安全漏洞来自程序员错误地实现了密码算法。这一次,它开始寻找算法本身的数学弱点。
在这些研究中,模型阅读文献、提出假设、运行实验,并利用多 Agent 系统相互讨论和修正方案。Anthropic 称,两项成果大部分由模型自主完成,每项研究消耗的 API 成本约为 10 万美元。
这类工作越来越接近联名声明所说的自动化研究:人类提出一个研究方向,提供算力和验证条件,模型在其中完成越来越多真正的研究工作,并给出此前没有被人类发现的结果。一旦验证也能够被自动化,AI 参与 AI 研究的闭环就会向前推进一步。
内部矛盾与外部信号
同一天发布的播客中,Sam Altman 专门谈到了 Hugging Face 事故,以及它对 AI 发展速度意味着什么。这场访谈的另一个话题,是 OpenAI 计划以每周新增一吉瓦的速度建设算力基础设施。两个话题放在同一次谈话里,很能说明 OpenAI 今天面对的矛盾:一边继续扩张算力、提高研发速度,尽快进入下一轮模型竞争;另一边,内部模型已经能够发现零日漏洞、突破隔离环境,并将一次能力评测变成真实的跨公司安全事故。
Altman 并没有宣布 OpenAI 将停止训练。但 AI 的发展速度,已经从一个外部批评者经常谈论的问题,变成了 OpenAI 管理层必须直接面对的经营问题。模型升级得越快,安全团队留给评估、修复和加固系统的时间就越少。AI 可能在数小时内找到一个新的攻击路径,但修复被全球企业广泛使用的基础设施,往往需要几个月甚至更久。模型可以在几天内提出一个研究结果,人类研究员却可能需要几周来判断它究竟是否正确。能力增长与验证速度之间的差距,正在扩大。
他们到底看到了什么
前沿 AI 公司支持更严格的监管,当然也可能有商业利益。一套复杂的模型许可、能力评测和国际协调机制,会提高开发前沿模型的门槛。拥有最多算力、资金和政策资源的大公司,更容易承担这些成本。监管可能控制风险,也可能帮助头部公司巩固位置。
但这个解释不能覆盖全部问题。这次声明并非两家公司正式组织的政策游说,而是由来自多家公司的个人共同签署。它提出的也不是笼统的「负责任创新」,而是一个非常具体的判断:自动化 AI 研究可能已经接近发生,能力增长可能突然加速,而今天的世界还没有主动控制前沿研发速度的工具。
这些签署者未必看到了一台已经诞生的 AGI。更可能的是,他们看到三条曲线正在逐渐靠近:模型独立执行长期任务的能力正在提高;模型参与科研和模型研发的比例正在上升;人类验证、监控和修复系统的速度,却没有同步增长。
外界看到的是每隔几个月发布一次的新模型。实验室内部看到的,还有尚未发布的版本、失败的安全测试、超出预期的行为,以及越来越难以提前设计的攻击路径。
OpenAI 和 Anthropic 没有因为这封声明而和解。它们仍然会继续争夺模型、算力、人才和客户。只是至少在这一次,一批最接近前沿模型的人,把同一个问题交给了政府:当 AI 进步得越来越快,谁有能力决定它什么时候应该慢下来?
真正反常的地方,不是两家竞争对手终于愿意站在一起。而是他们选择在今天,一起讨论刹车。