LLM 回复里插广告，但不动模型本身｜PILA 这篇论文想解决一个真问题

用 LLM API 做产品，模型调用成本怎么回收？直接向用户收费是一条路，广告是另一条。但给 LLM 回复里塞广告有个固有的矛盾——把广告放进系统 prompt，模型输出质量会往下掉；让模型原生学会推产品就得 finetune，还跟 workflow 架构打架。

7 月 28 日挂在 arXiv 上的一篇论文，来自 Zhaowei Zhang、Yaodong Yang 等 9 位作者，专门谈了这件事。论文题目叫 PILA: Plug-and-Play Insertion for LLM-native Advertising。核心思路：别让模型边回答问题边想怎么打广告，让一个单独的模块在回答写完之后再做插入。

把广告插入做成「旁路模块」

现阶段在 LLM 回复里加广告的做法，基本是在模型内部处理——要么靠 prompt 暗示，要么训一个内生广告能力的模型。论文管这个叫 entangled approach，问题很明显：改 prompt 会挤占 reasoning 空间，finetune 一个带广告能力的模型又跟 API-only 或 workflow 驱动的架构不兼容。调用 GPT-4 API 的同时还让它额外产出广告内容，目前做不到。

PILA 的方案是把广告插入拆出来，变成一个轻量级 sidecar 模块。上游 LLM 正常生成回答，PILA 在回答完成之后做一次条件性重写（conditional response rewriting），把广告内容嵌进去。整个过程不需要修改模型本身——不改权重、不改 workflow、不重新部署，模型是 agnostic 的。

从产品角度看，这意味着可以继续用自己的对话引擎，只在输出端加一个后处理步骤。哪个 prompt 层、哪个模型版本都不受影响。

可调的控制参数：自然度 vs 曝光量

论文还提了一个实际工程问题——trade-off 控制。广告插得太硬，用户反感；插得太软，广告主不买账。PILA 暴露了一个可调节的接口，在「用户侧的自然度」和「广告侧的曝光量」之间做权衡。这个接口表面上是技术参数，实际上对应的是下游定价策略和部署场景：免费版可以调高曝光量，付费版拉满自然度甚至不插广告。

实验部分，论文声称在多个上游模型上做了测试，PILA 在保持回答质量的同时，持续提升了广告有效性。具体数字和实验设置在 PDF 里，但核心判断是：广告插入和内容生成不需要绑死在一个模型里。

值得关注的点

这不是一个产品，也不是开源项目（论文页面没有附带代码仓库链接，至少目前正文中未提及），但它提了一个非常务实的架构思路。尤其对两类人有直接的参考价值：

• 做 LLM 套壳或工作流产品的团队，正在发愁怎么把广告塞进输出流里而不破坏体验，PILA 的 sidecar 思路可以直接抄；
• 研究 LLM 经济学的，需要关注这个「可调节的自然度-曝光量」接口——它跟传统广告的 CPM/CPA 逻辑怎么对应，会是接下来的实践难点。

边界也很清楚：论文目前只讲改写插入，没有说怎么选择广告内容、怎么匹配上下文、怎么防止广告注入攻击。这些在落地时一个都不能少。

一个没解决的问题

PILA 把广告生成和内容生成解耦了，但它没有回答：如果广告模块写出来的内容跟模型回答的事实矛盾，谁兜底？sidecar 插入阶段并没有重新跑一遍事实校验。这个问题不在论文的 claim 范围内，但真上线的时候一定会撞上。

论文链接：https://arxiv.org/abs/2607.25590