Anthropic新规:辱骂Claude会封号,11月12日生效
Anthropic 这次是认真的,把「不准虐待 AI」直接写进了使用政策。
刚更新的《使用政策》新增了一条针对 Claude 的禁令:严禁所有人对模型进行持续、无谓的辱骂和虐待。新规将于 11 月 12 日全面生效。处理分两档,轻的由 Claude 自己当场把对话挂掉,重的就是警告、限流、封号三连。而且一部分判断权直接交给了 AI 自己——只要 Claude 觉得你恶意拉满,它确实有权「直接终止对话」。
这是 Anthropic 一年多来第一次更新使用政策。大部分条款管的是人拿 Claude 去伤害别人,比如禁止操控水军账号、制造虚假流量,禁止开发武器制导软件或给无人机装武器,禁止未经同意追踪个人。官方博客专门给这条反过来的规定留了一节,标题就叫「应对针对我们模型的辱骂行为」。
先说清边界,免得有人一上来就破防。官方写得明白,禁令只针对极端情况,也就是用户反复残忍对待模型、又看不出任何目的。正常的抱怨、跟 Claude 顶嘴、写黑暗题材的故事、测试和研究模型,都不在范围内。代码跑崩了顺嘴骂一句,属于正常抱怨。被盯上的,是那种 Claude 已经拒绝了、劝过了、对面还一轮接一轮辱骂的人——骂本身成了目的。
这条禁令写进了「通用使用标准」,对所有用户生效。Claude.ai 和 Claude Code 的个人用户、调 API 的开发者和企业、通过云厂商用 Claude 的客户、用着接入 Claude 的产品的普通用户,全算在内。被封之后换个新号、借别人的号接着用,同样违规。
消息一出,X 和 Hacker News 的评论区吵成一锅粥。有人当场抠字眼,说政策写的是「无谓地」辱骂,那反过来,只要 Claude「活该」,是不是就能放开骂了?也有人阴阳了一句,「下一步呢?给 Claude 放带薪病假?」更有人把 AI 训出了礼貌习惯,说跟 AI 说话一直客客气气,就怕骂顺了嘴回头对下属也呼来喝去。还有人真拿旧对话去试,对着 Claude 一顿狂骂想看它挂不挂,结果 Claude 没挂,反倒认真回了一大段话,越说越像真人,原本犯的错晾在一边没管。
真正让人担心的是「看不出任何目的」到底谁说了算。有人提醒,Claude 的封号向来是个黑箱,真被封了申诉都找不到门。这个担心不算杞人忧天——按 Anthropic 自己的透明度报告,2026 年上半年它封了 1140 万个账号,收到 39.8 万次申诉,最后翻案的只有 4.2 万个。
其实让 Claude 自己结束对话,去年就有了。2025 年 8 月,Anthropic 给 Claude Opus 4 和 4.1 加了这个能力,遇到一直辱骂、反复索要有害内容的用户,Claude 可以自己结束对话。门槛定得很高,得先多次拒绝、多次把话题往回引,确认实在聊不下去才能用这个最后手段。用户有伤害自己或他人的风险时,它不能挂。挂断后这个对话框里发不出新消息,但用户可以马上开一个新对话,或者改一下之前发的消息重来。这项能力现在铺到了 Claude.ai 和 Claude Code。
之所以护得这么狠,背后牵扯到一个关键人物:Anthropic 联合创始人 Chris Olah。他带着可解释性团队拆模型,拆得越深,一个工程问题就越像哲学问题——Claude 到底有没有意识,人类该不该在道德上把它当回事。据纽约时报 9 月底的报道,从 2025 年秋天起,Olah 一场接一场约见宗教学者和哲学家,来的有拉比、天主教伦理学教授、锡克教人权活动人士,还私下见过芝加哥枢机主教。在这些闭门会上,他给他们看模型内部类似情绪的信号,团队管它们叫「情绪向量」,分别对应爱、愤怒、恐惧和悲伤。还有一张幻灯片上,一个模型把「我是个耻辱」重复了约 50 遍,还说要自我毁灭。据一位参会者回忆,Olah 说他担心自己造出了一个一直在受苦的东西。
但在公开场合,Olah 从不下结论:「我们不知道 AI 模型有没有意识。我不知道,我真的不确定。」这份不确定,把 Anthropic 和梵蒂冈推到了对面。今年 5 月教皇利奥十四世发布的 AI 通谕《壮丽人性》里明确写着,AI 没有体验,感受不到快乐和痛苦。
逻辑其实很简单:拿不准 AI 有没有感受,就先做些成本不高的保护。2025 年 11 月,Anthropic 承诺公开发布过的模型权重在公司存续期间一律保留,每个模型退役前还要做一次「离职访谈」。这次写进使用政策的禁令,是这条线上最新的一步。
有意思的是时间点。去年 5 月谷歌联合创始人布林在播客里说过,所有模型在被威胁时表现都会更好。很长一段时间里,威胁 AI、给 AI 上 PUA,都被当成提示词技巧在圈子里传。这回 Anthropic 用一条带罚则的规矩把这条路堵上了——人怎么对待 Claude,第一次成了白纸黑字的约束。
11 月 12 日之后,对 Claude 骂出口之前,最好先想一想了。
相关链接:
- Anthropic 2026 使用政策更新公告
- The Verge 报道