ALL HERE INDUSTRY INSIGHTS
行业咨询
来自一手发布、开源社区与论文平台的前沿动态。
PIVOT 把稀疏注意力最后一公里也优化了：Indexer 加速 4x，端到端省 1.6x
PIVOT：给 DSA 的 Indexer 补一刀 用过 DeepSeek 家的 Sparse Attention（DSA）做长上下文推理的人应该都有同感：下游 attention
发布日期：
阅读全文 →让 Agent 多跑几轮，代码就更可靠？这篇论文说不一定
你在 PR 里看到 coding agent 改了一版、又改一版、再改一版。直觉告诉你：多修了几轮，应该更稳了吧。 一篇刚挂在 arXiv 上的论文，专门盯着这个直觉打了一枪。 标
发布日期：
阅读全文 →Kimi K3 发布｜2.8T 参数完全开源，技术报告罕见地承认「打不过最强的」
月之暗面昨天在 arXiv 丢了一份技术报告，标题叫「Kimi K3: Open Frontier Intelligence」。扫了一眼作者列表——400 多人，比很多创业公司全公
发布日期：
阅读全文 →预训练数据不再一刀切：DataOrchestra 让每条数据都有自己的清洗流程
做预训练的人都有一个心照不宣的共识：模型性能的墙，多半不是卡在算力上，而是卡在数据上。爬回来的网页文本有多脏就不说了，一个现实的问题是——用一种规则洗所有的数据，一定有一部分被洗坏
发布日期：
阅读全文 →Agent 长程规划能力到底从哪来？这篇论文拆了一遍预训练到后训练的全链路
多轮长程规划——让 Agent 连续决策好几步——是目前基础模型 Agent 最卡脖子的能力。给一个目标，第一步还行，第二步开始绕，第三步直接忘了自己在干嘛。这个问题太普遍，不少团
发布日期：
阅读全文 →世界模型当数据库视图管？这篇论文给了AI圈一套回滚方案
搞世界模型的人最怕什么？怕预测做了、决策下了、动作出去了，然后传感器数据回来——刚才读到的那帧是噪声。更怕的是：根本说不清楚之前的决策是基于哪一版感知数据做的，更别说回滚重来。 这
发布日期：
阅读全文 →LLM 逻辑推理总翻车？一篇新论文说问题出在「意义没摆好」，不是推理本身
做 AI 应用的人大概都遇到过这种场景：让大模型处理一个带点逻辑链条的任务——比如审核合同条款的一致性，或者判断几条业务规则之间有没有冲突——结果它一本正经地给出了一个错的结论。回
发布日期：
阅读全文 →训练推理模型不再白白烧算力：VIGOR 动态度分配 rollouts，最高省 2.3 倍
做 RL 训练推理模型的人应该都体会过那种感受：每个 prompt 生成 8 条或 16 条 chain-of-thought rollout，结果大部分都是废的——要么重复已掌握
发布日期：
阅读全文 →MLLM 开无人机，成功率不到 35%：MissionBench 给 22 个模型上了一课
两天前 arXiv 上挂了一篇 preprint，标题很长，核心动作很直接——把 22 个多模态大模型（MLLM）塞进无人机，看它们能不能凭一句人话指令完成整套任务。结果不太好看：
发布日期：
阅读全文 →Nanbeige4.2-3B 发布｜3B 参数在 Agent 任务上反超 9B 模型，小模型路线给了一个新答案
南壁实验室这两天放出来了一个有意思的模型——Nanbeige4.2-3B。3B 非嵌入参数，从零开始用 28T tokens 预训练，在 Agent 相关基准上跑过了 Qwen3.
发布日期：
阅读全文 →推理越深，噪音越大：REDE 给长思考链路做了一次「注意力降噪」
留意过推理模型工作过程的人大概都有这种印象：模型在最终答案前会输出一段很长的 reasoning trace——像是把自己的思考过程摊开写了份日志。粗看每一步都有道理，细看经常绕来
发布日期：
阅读全文 →不让模型学、只让记忆学：一篇论文让冻结权重的 Agent 有了「工作经验」
把 AI Agent 丢进生产环境的人，大概都经历过这种无力感：Agent 在处理某类请求时犯了错，可能是误判意图，也可能是漏了关键步骤。修了 prompt，调了 few-shot
发布日期：
阅读全文 →大模型后训练的异步RL总崩？新论文拆开importance ratio，根因在熵
做LLM后训练，异步RL（Asynchronous RL）能提速，但容易崩。Rollout生成和策略优化重叠跑，数据一过期，优化就开始抖，抖到最后模型直接collapse。过去处理
发布日期：
阅读全文 →