开源不等于免费跑：我给同事算了笔K3的机房账
K3发布的消息在群里刷了一整天。2.8万亿参数，多项评测全球前三，前端编程一度登顶。公司是月之暗面，那个做Kimi的团队，之前沉寂了一阵，这次甩出的东西让不少人坐不住了。消息出来没多久，就有同事跑来问：听说它是开源模型，那能不能直接下载下来，在自己电脑上部署一个，以后连API的钱都省了？
这个问题恰好踩中了大多数人对「开源模型」最大的误解。开源和开源不一样：开源软件开的是源代码，那是一份人能读懂的说明书，程序员能逐行查看、逐行修改。开源模型开的是权重——2.8万亿个参数值，打包起来1.4TB。权重不是代码，是一层层巨大的数字矩阵。图纸可以改动，大脑需要通电才能运转。免费下载解决的只是复制环节，真正昂贵的运行环节，一分钱都省不下来。
那到底要多少钱才能跑起来？K3是MoE混合专家架构，内部有896个专家子网络，每次推理只激活其中16个。但没法只装那16个——下次需要哪16个是不确定的，所有专家都得随时待命。月之暗面官方推荐的部署方案是64张以上加速卡组成超节点，按同类硬件估算，光采购成本就超过240万美元，折合人民币1700多万元。这还没完——64张顶级显卡满载功耗接近45千瓦，普通家庭入户电力容量只有8到12千瓦。就算机器白送，家电表和电线也带不动。
传统软件的成本结构是开发贵、复制和运行便宜。大模型刚好反过来，开发更贵、复制免费，但每次运行都在烧电和烧显卡。
我让同事先接上了K3的API看看成本。API定价每百万输出token 15美元，同级别闭源模型大约50美元。三倍多的差价是开源竞争压出来的，一个月用下来对公司只是日常开支里很小的一项。如果自己完整部署呢？社区估算至少16张H200才能装下完整权重，硬件开销几百万元人民币，这还不算电费、机房、运维团队。API是每个月几千到几万元的开销，自己部署是几百万元的硬投入——这就是「顺利使用」和「绝对拥有」之间的距离。上一代K2有1万亿参数，社区有人做了极限压缩版，一台顶配Mac Studio勉强跑得起来。K3直接跳到2.8万亿，单机部署的路基本堵死了，它就是只属于数据中心的东西。
黄仁勋可能是算这笔账算得最清楚的人。7月24日他注册了X账号，第一条推文不是宣传自家显卡，而是分享了一封保护开源模型的联署公开信，英伟达、微软、Meta等二十多家企业都签了名。一个卖硬件的替免费模型站台，一点都不反常——他自己说过，免费AI对硬件是好事，对芯片是好事，对数据中心也是好事。模型越免费，想跑的人越多，铲子就卖得越好。真正被开源模型冲击的是闭源模型的护城河，英伟达反而从中受益。
回到最初那个问题：不能自己部署，不代表用不上。想体验K3直接访问Kimi官网，月之暗面自己已经把64张卡的机房建好了。开发者想接入就用官方API，一个月几十到几百元就够了。以后看到某某大模型开源了，先别急着喊「免费了」，先问一句：跑它需要多少电、多少卡？这个问题能一秒拆掉「开源」这个词自带的滤镜。特别是老板看了新闻让赶紧部署一个的话——模型免费下载，但跑起来的账单，总该看一眼吧。我猜，这个账单摆出来之后，大部分人都会放弃自己部署。
相关链接