本地跑一个 12B 模型,把 AI 草稿重写成人话:humanizer 把事实咬得很死

AI 写的东西太「AI」了,这个痛点已经老到快没人抱怨了。但真要处理它的时候,大部分人还是习惯性地把草稿丢给 chat 界面,让它「再自然一点、再口语一点」——然后每次都会在某个段落里发现一个数字、一个日期、或者一个单位被悄悄改掉了。你看着那行字,说不清是它改错了还是你没记准,最后只能自己重新核一遍。这一核,省下来的时间又回去了。

这两天 Hugging Face 上挂出来的这个 jialinyyzz/humanizer,把这件事当成了头等大事来处理。它是一个 12B 参数的本地模型,用来把 AI 写好的邮件、essay、报告、论坛帖,英文和中文都行,重写成「像人写的」。关键卖点就一句话:训练时保证每个数字、单位、日期、名字和引号都原样保留,不加东西,而且整个训练流程里没碰过任何一个 AI 检测器。

先泼一盆冷水。它本地跑,不是套壳 API。想要用起来,得有一台能扛住 12B 推理的机器。不过官方把量化档位铺得很开,从 Q8_0 的 12.7 GB,到 Q4_K_M 的 7.6 GB,再到 IQ2_XS 这种 3.9 GB 的最小档,8 GB 内存的机器也能勉勉强强跑起来。桌面 App 有 macOS 和 Windows 版本,首次运行会按你的内存给你推荐一个规格,下载一次之后就能离线用。

真正让我觉得这东西值得写进工作流里的,是它对事实的执念——不是它多会「装人」。它不把自己当聊天模型,走的是 text completion 的路子:把 prompt_format.json 里的指令原样拼在草稿前面,让模型继续往下写。指令里那句「Every fact, number, unit, date, name and quotation must survive unchanged」是训练目标,也是评估标准。在 420 条英文重写里,评测说 376 条没被严格的事实裁判找出问题;中文方面 204 条里 149 条干净。剩下有问题的,九成以上是单个单词或短语的偏差,比如「剩余 37 条投诉」变成「其余 37% 的投诉」。这类偏差不算致命,但官方自己也在反复叮嘱:发出去之前,务必盯一眼数字、日期和名字。

它对量化档位和事实保真之间的关系,讲得特别坦白。2-bit 那档在所有版本里 AI 检测通过率最高——60 条里 0 条被原始检测器标为 AI——但代价是事实错误明显更多,英文 70 条重写被裁判标记,对比 Q8_0 的 44 条。这其实是量化噪声带来的「小确幸」:采样稍微飘一点,措辞就变得不那么可预测,检测器反而不容易认出来。所以就是在「更像人」和「更保真」之间做取舍,官方没有藏着掖着。Q8_0 是折中里的推荐,Q4_K_M 经过量化感知训练,中文表现和英文基本持平。

我在写这段的时候,一直在想它到底解决了什么真实的工作场景。如果你的流程是拿 GPT 或者 Claude 打草稿、再自己重写一遍,那这个模型相当于把那道「去 AI 味」的工序自动化了,而且是本地跑,草稿不会离开你的机器。对写邮件、写周报、写论文初稿这类场景,价值挺实打实。它也照顾了 Agent 场景——AGENTS.md 里连 server 命令、逐字节的 prompt、自检脚本都给你写好了,想让 Agent 自动把草稿过一遍再发出去,照着接就行。

但得说清楚几件事。它改不了「模板化文体」的检测难题,社交帖带 emoji 或者 tag 的,还有正式政策备忘录,还是最容易被打回 AI 的那几类。中文也还在追赶英文的路上,149/204 的干净率说明还有提升空间。官方自己还特意强调,检测器会变,这只是一次测量、一天的数据,不是任何保证。另外它终究是个改写工具,如果学校、公司或出版社对 AI 辅助有规定,照规定办。

训练这块也值得说一嘴,因为它透着一股「把方法摊开给你看」的实诚。28,598 对 AI 草稿→真人原文做 SFT,3,918 对偏好对做 DPO,然后三轮 GRPO、总共 500 步,每一步都有个 LLM 裁判拿重写结果跟原文对仗,专门挑严重错误、编造内容、改动含义、丢掉格式这些毛病。RL 阶段一共产出了 41,600 条重写,每一条都被裁判打分。全程没有 AI 检测器参与训练,不是当作奖励、不是当作过滤器、也不是用来挑 checkpoint 的——这个立场很明确。

坦白说,我对「去 AI 味」这类产品一向有点保留,总觉得它多少沾点投机取巧。但这个模型的思路不一样:不像那些教你骗过检测器的路子,它更在意训练一个「会保留事实的改写器」,检测通过率只是副产物。跑在本地、开源到 Apache 2.0、量化档位和每档的数据都摊在桌面上,这一套做下来,至少是个能让人放心把草稿交给它、然后自己只盯关键数字的工具。它最该被记住的,不是那个 95% 的「被判为人写」的数字,而是那句被反复强调的:发出去之前,先检查一下数字、日期和名字。