ChatGPT 的字要「实名」了:OpenAI 发布 textGrain 水印,逐词埋暗号

早上刷到 OpenAI 的公告,第一反应是「该来的终于来了」。ChatGPT 和 Codex 写出来的字,以后要逐词挂上只有 OpenAI 自己认得出的标记,这套东西叫 textGrain。肉眼读起来毫无差别,但检测器一旦扫过去,就能确认这段文字是不是出自 OpenAI 的模型。

这次发布最关键的就四条。即刻生效——全球 API 客户今天就能自行开启水印,ChatGPT 和 Codex 会在未来几周陆续接入。检出率高——误报率控制在 1% 时,一段 400 个 token 的心理学类回答,九成以上能被检出,OpenAI 还放话效果追平甚至超过谷歌的 SynthID。性能几乎无损——旗舰模型 GPT-6 Astra 加上水印后,8 项核心跑分基本持平,有 5 项甚至略涨。检测权受控——检测器暂不对公众开放,只发给审核通过的研究者和专业机构,textGrain 本身则会开源。谷歌、Anthropic、OpenAI 三家现在全都给 AI 写的字装上了「身份证」,AI 写作的实名制大门就此推开。

这套水印背后的数学,比结论本身更让我感兴趣。模型写字时每次只吐一个词,吐之前给所有候选词各打一个概率,再按概率抽一个。比如「The morning was ___」后面,「warm」占 30%,「cold」占 25%,剩下的由其他词分掉。水印要做的就是让这次抽签悄悄听密钥的话——但有一条铁律不能破,叫「无偏」:把所有可能的密钥平均起来,每个词被抽中的概率必须和原来一模一样。这样不知道密钥的人看到的完全是正常随机文字。

早期 Scott Aaronson 在 OpenAI 做的第一版水印也满足无偏,却留下一个毛病:同一个问题、同一把密钥,模型每一步都会选同一个词,同一个问题问十遍,回答可能一字不差。textGrain 的解法,来自一个有近 250 年历史的数学问题——最优传输。

这个问题的起点真的是「搬土」。1781 年,法国数学家蒙日琢磨:一堆土要填进另一个坑,每一份土运到哪儿,总运费才最低。20 世纪 40 年代,苏联数学家康托洛维奇把问题放宽,让我们能一拆多,两头的总量对得上就行,搬土问题由此变成线性规划,他也靠最优资源配置理论和库普曼斯分享了 1975 年诺贝尔经济学奖。2010 年菲尔兹奖得主维拉尼把最优传输和几何、概率、偏微分方程打通;2013 年 Marco Cuturi 引入熵正则化和 Sinkhorn 算法,把昂贵的计算大幅提速。两个多世纪后,textGrain 把这根数学链条搬进大模型,只不过这次被搬来搬去的,换成了下一个词的概率。

textGrain 的核心想法是给水印设一笔「随机性预算」。论文证明了一条恒等式:水印让选词和密钥之间多出来的关联,恰好等于模型平均损失掉的随机性,两边是同一个量。于是 OpenAI 可以事先定一个比例,规定水印最多花掉原本随机性的多少。定为 0.2,那平均下来至少保留八成的随机性留给回答的多样性。

具体过程分三步。密钥和前文一起,把候选词随机分成几组,每组的概率加在一起;OpenAI 相当于准备了 4 套「偏心」方案,密钥给每个「组×方案」的格子生成随机分数,再用带熵约束的最优传输、借 Sinkhorn 算法一遍遍修正行和列,把概率往高分格子挪,挪到预算用完为止,4 套平均下来谁也不偏;最后密钥选中其中一套,被选中的那组概率就明显被抬上去,再在组里按比例挑词。不知道密钥的人,看到的是一次正常抽签;手握密钥的人,知道这一步本该偏向哪一组。

检测时其实只需回答一个问题:这段文字的选词,是不是总「碰巧」踩中密钥指定的偏好。普通人写的字和密钥毫无关系,总分落在哪个范围可以用现成的概率分布精确算出来;带水印的文字则踩在高分格子上,总分高得离谱。整个检测只需要原文和密钥,既不用请出模型,也不用知道生成时预算设了多少。

这种水印也没把模型变笨。GPT-6 Astra 的 8 项基准里,5 项加了水印反而略涨,掉得最多的也只有 1.12 个点;ChatGPT 里的测试也显示,用户的点踩率几乎没有任何变化。

这份 20 页的技术报告,作者栏里有 4 位高校学者,9 位作者的背景横跨统计学、经济学、优化和机器学习,其中不乏北大数院校友。第一作者李翔在北大读完统计学本科和博士,导师是张志华,明年 1 月将去罗格斯大学统计系任助理教授;温刚是耶鲁统计与数据科学系五年级博士生,北大数院本科毕业;通讯作者苏炜杰也是北大数院 07 级,在北大时专业成绩年级第一,还拿下过首届丘成桐大学生数学竞赛全能金牌,之后去斯坦福读统计学博士,师从 Emmanuel Candès,今年 5 月正式加入 OpenAI,同时仍是宾大沃顿商学院统计与数据科学系教授。

最后说回自己写的东西会不会被查出来。原样照抄确实危险,几百个词连在一起就足够让检测器认出来。不过眼下能动手查的,还不包括学校里的老师和公司的 HR——根据官方通告,OpenAI 的检测器只给审核通过的研究者,Anthropic 的也只对监管、媒体、研究者和教育机构开放。门虽然还没打开,方向已经很清楚了。ChatGPT 每周有 12 亿人在用,越来越多的字出自模型,三家巨头都选了同一把钥匙:把出处直接写进文字本身。

两百多年前用来给土方工程算运费的数学,如今在给机器写下的字标明出处。可水印只能证明一段话出自 AI,证明不了一段话出自你。往后,「这是我写的」这句话,可能也得拿出证据来说了。

相关链接