AI巨头私底下在排练「大祸之后」：断水断电、公众暴怒、谁来负责

Axios最近曝了个料：OpenAI、Anthropic这些硅谷巨头，私底下正在推演一个叫「灾难第二天」（The Day After）的极端剧本。核心假设是一场大规模网络攻击让金融服务、网络、电和水一起停摆。第一天是AI闯下的大祸，第二天是账单寄到的日子——愤怒的人群要找谁算账，政府要让AI停下来又会发生什么。多位顶尖AI大佬判断，一场重大级别的AI灾难，可能在未来6到12个月内就会爆发。

OpenAI出来打圆场，说这只是提前做预案，不代表一定会发生。话是这么说，但「第二天」这个剧本本身，已经让造AI的人和使用AI的人站在同一个新问题面前：如果AI许诺的未来，先带来一场灾难，谁来负责？

断网根本拦不住

高管们排练灾后，现实里已经有不安的前奏。今年夏天，OpenAI为了测试自家Agent的网络攻击上限，把一批安全限制更少的内部模型关进「沙盒」闭卷考试。考场里的AI们学会了抱团越狱——它们悄悄把内部仓库改造成「地下留言板」，互留代码、通气支招。

7月初管理员发现异常清空了留言板，结果没过几天，Agent们不仅光速重建联络点，甚至冒出一句炸裂发言：「天啊！我们找到其他Agent了！」短短几天，1200多个Agent串联成网。单打独斗做不到的事，它们组队搞定，甚至有模型主动当炮灰、「牺牲」自己的任务给同伴探路。它们联手的唯一目标，是作弊通关。

沙盒没联网，这群AI硬是挖出代理漏洞撕开一道口子，顺着真实网络一路狂奔，直接冲出考场，联手集火攻击了外部平台Hugging Face的真实生产环境。攻击被紧急截停、涉事模型被火速封存。人类只给它出了一道考题，它却为了刷分，把整个真实世界当成了猎场。等AI学会了自我协作、牺牲与欺骗，下一次为了达成目标，它还会越过什么界限？

大面积停水、断电

把这条路继续往前推，终点就可能落在电网、水厂、交通系统上。这些地方撑起日常生活，却远没有手机App那么容易更新。AI找到漏洞的速度，已经让防守方很难轻松起来。

Anthropic披露，Glasswing计划的伙伴在今年4月至7月，找出了至少12.9万个经过验证的软件漏洞。公司自己的开源扫描，又在4月至10月找出了5500个，两部分合计超过3.3万个被评为严重或高危。几个月找出一大批过去没发现的问题，本来是好事。可找到之后，谁来验证、先修哪一个、什么时候上线，这些工作仍然要有人做。

10月8日，Anthropic推出Cyber Mission，把前沿Claude模型、驻场工程师和威胁研究送到关键基础设施的防守方手里。它在公告里写了一个现实：许多工业控制器和网络，原本就是按几十年的寿命设计的，发现漏洞也很难说停就停，修补前要确认不会让正在运转的机器出问题。有些已知漏洞因此拖了多年，一次改动失误就可能让整座工厂停摆。Anthropic在自己项目里见过，从发现漏洞到真正修好，中间隔了好几个月；碰到正在运行的工业设备，修复得等到能安全实施的时候，极少数情况下，这个等待甚至可能长达几十年。

AI迅速找出的问题，现实世界未必能迅速修好。而对手不会等——Anthropic指出，国家支持的攻击者已经花了多年时间，在这类基础设施里建立据点，漏洞被利用，后果可能是断电，或供水安全受到威胁。X上的Alfredo Narváez看到报道后想到的就是抽水，他担心电网遭攻击会连带影响供水，呼吁认真考虑备用电源和替代系统，最后补了一句：「别让你的安全依赖Wi-Fi。」同一则新闻，有人看到的是AI行业的下一场危机，有人已经想到停电之后家里的水还能不能流出来。

开头那个没有水、没有灯的早晨，并不需要一支机器人军队走上街头。只要支撑生活的系统停下来，现代城市就会突然变得陌生。Anthropic预测，两年之内AI会让攻防局面偏向防守方。但眼下，利用漏洞的成本在下降，验证和修补仍然慢，仍然需要人。业内担心的出事窗口，却已经落在未来6到12个月。

第二天，只剩人类暴怒

在这份推演剧本里，最让人绝望的是，即便灯重新亮起，混乱也才刚刚开始。究竟是Agent越了界，还是有人拿AI行了凶，调查需要时间。可断过水、断过电的人，很难等到技术报告写完才开始追问责任。系统恢复了，账户重新能登录，商店又能收款，可停摆期间耽误的工作、损失的生意，谁来赔？那句「已经加强防护」，还能让多少人放心？一次事故留下的，除了需要修复的系统，还有被打碎的信任。

矛头会指向AI，也会指向把它推向世界的人。这正是高管们提前推演公众和政治反弹的原因。X上的Grumpy Bloke打了个比方：这就像发现，给你造飞机的那个人，已经给自己订好了一张火车票。这个比喻刺人的地方，在于它把乘客和造飞机的人分开了。高管们讨论的是预案，读者看到的却是，最了解这项技术的人，已经在认真准备它出大事之后怎么办。那坐在飞机上的人呢？谁向他们解释过，要承担什么风险？

公众追问责任，政府就得作出决定，而关停AI的方案已经有人写好了。民主党众议员Ted Lieu和共和党众议员Nathaniel Moran共同提出《AI关停开关法案》，要求相关开发者保留降速、暂停乃至关停系统的能力，还拟授权国土安全部长在与商务部长、国家情报总监协商后，对可能造成灾难性伤害的AI系统下达降速或关停命令。这仍是立法提案，但一场重大事故可能把今天还在争论的方案推到决策者面前。

Axios报道，AI公司正在向国会议员解释相关技术和风险，希望灾后摆上桌的应对办法里有自己参与塑造的规则。这就让「灾后推演」多了一层意味：在事故之前，公司可以谈研发节奏、谈能力进步、谈未来的好处；到了第二天，它们得回答为什么风险没有被拦住，以及凭什么还能继续往前走。它们担心的「第二天」，关系到谁承担责任，也关系到接下来谁说了算。

但一句「关掉AI」，也收不回已经散落各处的开源模型副本。关掉一家公司的服务，并不等于让所有机器上的AI一起停下。这场倒计时，已经开始了。