← 返回行业咨询

Inkling 发布:975B 参数开源多模态模型,以 Token 效率卡位企业微调市场

📊 Inkling 模型速览

Thinking Machines Lab(TML) 于 2025 年 7 月 16 日发布首款自研基础模型 Inkling,以下是核心要点:


🔑 关键数据

维度 详情
架构 MoE(借鉴 DeepSeek V3),总参数量 9750 亿,激活 410 亿
上下文窗口 最高 100 万 token
预训练数据 45 万亿 token
许可证 Apache 2.0(完整开放推理权重)
融资 种子轮 20 亿美元,估值 120 亿美元(AI 行业纪录)

🎯 核心理念:不追 SOTA,求平衡

TML 明确表示 Inkling "并非当今最强的模型",其战略定位是:

在能力、推理成本、多模态和可微调性之间找到平衡,成为企业可以用自身数据持续改造的底座。

这意味着它覆盖的是广泛任务谱系(智能体编排、编程、指令遵循、多模态理解),而非单一维度的极限性能。


💰 护城河:Token 经济性

这是 Inkling 最具差异化的优势:

  • 3000 万次 rollout 的异步强化学习训练,让模型学会"看碟下菜"
  • 思维链出现自发压缩——省略冗余表达,推理过程接近速记
  • 在 Terminal Bench 2.1 测试中,用约 1/3 的 Token 达到了与 Nemotron 3 Ultra 相同的任务成功率
  • 开发者可通过 output_config.effort 参数灵活调节推理强度(0~1)

🧩 原生多模态 + 双模型架构

  • 原生多模态:文本、图像、音频从预训练阶段联合学习(非后期外挂编码器)
  • 双模型异步协作:前台模型处理实时交互,后台 Inkling 处理深度推理、搜索和工具调用
  • 当前仅支持文本输出,尚不能直接生成语音或图像

🔧 全栈工具链:Tinker 微调平台

TML 不仅开源权重,还构建了完整生态:
1. Tinker:微调算力服务平台,已运行近一年
2. tml-renderer:统一渲染聊天消息、工具调用、图像和音频
3. Cookbook:提供三套音频定制示例

标志性实验:让 Inkling 自己编写微调任务并运行训练流程,验证了其作为可塑底座的定位。


🏆 性能定位

  • Artificial Analysis 综合得分 41 分,登顶美国开源模型
  • Design Arena 盲测 1257 分,追平 Claude Opus 4.6
  • 在硬核推理榜单(HLE、代码代理等)上与国内 GLM 5.2、Kimi K2.6 仍有差距——有意为之的策略取舍

🚀 部署方式

  • 原始 BF16 权重 + Blackwell 优化的 NVFP4 量化版均已开放
  • 托管 API:Together AI、Fireworks、Modal
  • 自行部署:SGLang、vLLM、llama.cpp、Transformers

💡 总结:为什么 TML 要从零训练?

深层逻辑很清晰:商业闭环

TML 的定位是一家面向企业的模型服务平台,不能永远只做第三方模型的"连接器"。只有把预训练→强化学习→推理→微调的完整链路握在自己手里,才能真正回答企业关心的问题:

  • 完成任务需要多少 Token?
  • 推理强度能否按需调节?
  • 模型能否原生理解多模态输入?
  • 企业能否用自己的数据持续微调并无缝部署?

开源 Inkling 不是"做慈善",而是卡位企业级定制化 AI 基础设施市场的战略布局。