← 返回行业咨询

2.8 万亿参数登顶编程竞技场:Kimi K3 如何改写开源格局?

Kimi K3 登顶 Code Arena:一个开源模型的"越级挑战"

编程竞技场 Code Arena 刚刚完成了一次令人瞩目的排名更迭——化名"Kivine"的 Kimi K3 以 1679 分登顶榜首,领先第二名 Claude Fable 5(1631 分)和第三名 GPT-5.6 Sol(1618 分)。

这不是一个普通的排名变化。这是一个开源模型在匿名盲测中击败了所有顶级闭源选手。

从第 18 到第 1:一代产品的跨越

Kimi K3 的上一代产品 Kimi K2.6 在 Code Arena 排名第 18。仅用一代迭代,狂涨 17 名,直接登顶。

在 7 个细分领域中,Kimi K3 拿下了 6 个第一。

在第三方综合评测 Artificial Analysis 最新排行榜上,Kimi K3 综合得分 57,排名第四。前三名分别是 Claude Fable 5(60 分)、GPT-5.6 Sol(59 分和 58 分,不同思考强度)和 Claude Opus 4.8(56 分)、GPT-5.5(55 分)。

月之暗面在官方技术博客中坦诚:"虽然 Kimi K3 的整体表现仍落后于最强的闭源模型 Claude Fable 5 和 GPT-5.6 Sol,但它在我们的整套评测中展现出前沿水平的能力,并稳定超过了其他所有模型。"

2.8 万亿参数:一只手数得过来的俱乐部

2.8 万亿参数,百万上下文。这是全球参数量最大的开源模型。

能够进行如此大规模预训练的 AI 公司,全球范围内一只手数得过来。国内只有两家——DeepSeek 和月之暗面。超过 2 万亿参数的,只有月之暗面。

预训练做大,难的不是钱,是算力和试错机会。参数量翻一倍,训练成本指数级增长。一次训练崩了,几千万美元就打水漂了。很多团队都卡在了万亿参数这个训练门槛上。再加上算力资源本就有限,2.8 万亿参数的预训练,差不多只有一次成功的机会。

Kimi 官方在 K3 技术博客里引用了一句古语:"犯其至难而图其至远者,发之以勇,守之以专,达之以强。"

"注意力残差":破解深度稀释难题

2.8 万亿参数的模型,传统架构搞不定。神经网络层数越多,早期层的信息越容易被后面的层稀释掉。

Kimi 为此专门发表了一篇论文,提出了"注意力残差"机制(Attention Residuals)。该论文于今年 3 月发表,马斯克亲自下场点赞。论文作者之一是一个 17 岁的高中生。

注意力残差解决的就是"深度稀释"问题。传统残差连接是每层输出等权累加,不管有用没用都加在一起。注意力残差让每一层自己决定从前面哪些层取信息,权重动态分配。

K3 的 MoE 架构里有 896 个专家,实际激活 16 个。配合 Kimi Linear 混合线性注意力架构,处理长输入和长输出的成本更低。这也是它能实现 100 万 token 上下文的底层原因。整体扩展效率比 Kimi K2 提升了约 2.5 倍。

API 定价:不到 Fable 5 的三分之一

Kimi K3 的 API 定价极具竞争力:输入 20 元/百万 token,输出 100 元。

在编程场景下,缓存命中率超过 90%,实际输入成本大约只有标价的四分之一。作为对比,Claude Fable 5 输出定价约 360 元/百万 token,GPT-5.6 Sol 约 216 元。Kimi K3 不到 Fable 5 的三分之一。

开发者实测:慢,但猛

Kimi K3 还没正式发布,就被网友在 Arena 上扒了出来。化名"Kivine",提前偷跑。

开发者 @chetaslua 拿 Kimi K3 和 GPT-5.6 Sol 做了一轮正面对比:"如果我把 Kimi K3 的名字换成 Fable 5,你会直接相信。不只是视觉上的问题,功能上也是。两者都能实现相同的结果,但实现方式不同,Kimi 更有创造力。"

@Lentils80 跑了一轮前端测试:"确实慢,甚至比 Fable 还慢。花了 35 分钟才跑完。不过,这是我用这个提示词得到的最好的结果之一,比很多顶级模型都好。"

@synthwavedd 发了一条获得 1800 赞的推文:"我觉得 Kimi K3 会让那些说'中国落后 8 个月'的人感到震惊。"

Midjourney 联合创始人兼 CEO David Holz 在 Kimi 官方推文下面评论:"this is really beautiful"。这条推文获得了 160 万阅读,超 1 万点赞,1300 转发。

DeepSeek 铁粉 @teortaxesT 总结道:"R1-level moment."——DeepSeek-R1 时刻。

"预训练仙人":资本用真金白银投票

网上有个说法,Kimi 是"预训练仙人"。过去 12 个月里有 9 个月,Kimi 模型都保持着开源模型的参数规模上限。从 Kimi K2 的 1 万亿到 Kimi K3 的 2.8 万亿,一直在刷新天花板。

资本也在用真金白银投票。月之暗面估值半年翻了近 7 倍,逼近 2000 亿人民币。

AI 研究者 Nathan Lambert 评论:"关于中国模型是蒸馏出来的说法,可以停了。中国确实擅长做模型。"

辨析:这意味着什么?

Kimi K3 的出现,至少传递了三个信号:

第一,开源与闭源的差距正在缩小。 这恐怕是第一次,一个国产开源模型能够真正和闭源顶级模型掰手腕。不只是编程,在综合评测中也稳定超越了除 Fable 5 和 GPT-5.6 Sol 之外的所有模型。

第二,大参数量的价值依然被低估。 当许多团队还在纠结于模型微调和小规模优化时,月之暗面和 DeepSeek 已经走上了万亿参数预训练的道路。2.8 万亿参数不是噱头,而是实打实的性能壁垒。

第三,中国 AI 正在从"追赶"转向"并跑"。 网友引用的报道中提到 K3 性能预计超越 Claude Opus 4.8,而"中国落后六个月的时代结束了"这句话,或许正是当前行业心态的真实写照。

当然,Kimi K3 仍有提升空间。官方技术博客承认其整体表现仍落后于最强的闭源模型。速度方面,开发者实测也反馈"确实慢"。但这不妨碍它成为一个里程碑。

从 1 万亿到 2.8 万亿,Kimi 还在路上。而这条路,可能正在重新定义 AI 行业的竞争格局。


原文来源:月之暗面官方技术博客