← 返回行业咨询
Inkling 发布:975B 参数开源多模态模型,以 Token 效率卡位企业微调市场
📊 Inkling 模型速览
Thinking Machines Lab(TML) 于 2025 年 7 月 16 日发布首款自研基础模型 Inkling,以下是核心要点:
🔑 关键数据
| 维度 | 详情 |
|---|---|
| 架构 | MoE(借鉴 DeepSeek V3),总参数量 9750 亿,激活 410 亿 |
| 上下文窗口 | 最高 100 万 token |
| 预训练数据 | 45 万亿 token |
| 许可证 | Apache 2.0(完整开放推理权重) |
| 融资 | 种子轮 20 亿美元,估值 120 亿美元(AI 行业纪录) |
🎯 核心理念:不追 SOTA,求平衡
TML 明确表示 Inkling "并非当今最强的模型",其战略定位是:
在能力、推理成本、多模态和可微调性之间找到平衡,成为企业可以用自身数据持续改造的底座。
这意味着它覆盖的是广泛任务谱系(智能体编排、编程、指令遵循、多模态理解),而非单一维度的极限性能。
💰 护城河:Token 经济性
这是 Inkling 最具差异化的优势:
- 3000 万次 rollout 的异步强化学习训练,让模型学会"看碟下菜"
- 思维链出现自发压缩——省略冗余表达,推理过程接近速记
- 在 Terminal Bench 2.1 测试中,用约 1/3 的 Token 达到了与 Nemotron 3 Ultra 相同的任务成功率
- 开发者可通过
output_config.effort参数灵活调节推理强度(0~1)
🧩 原生多模态 + 双模型架构
- 原生多模态:文本、图像、音频从预训练阶段联合学习(非后期外挂编码器)
- 双模型异步协作:前台模型处理实时交互,后台 Inkling 处理深度推理、搜索和工具调用
- 当前仅支持文本输出,尚不能直接生成语音或图像
🔧 全栈工具链:Tinker 微调平台
TML 不仅开源权重,还构建了完整生态:
1. Tinker:微调算力服务平台,已运行近一年
2. tml-renderer:统一渲染聊天消息、工具调用、图像和音频
3. Cookbook:提供三套音频定制示例
标志性实验:让 Inkling 自己编写微调任务并运行训练流程,验证了其作为可塑底座的定位。
🏆 性能定位
- Artificial Analysis 综合得分 41 分,登顶美国开源模型
- Design Arena 盲测 1257 分,追平 Claude Opus 4.6
- 在硬核推理榜单(HLE、代码代理等)上与国内 GLM 5.2、Kimi K2.6 仍有差距——有意为之的策略取舍
🚀 部署方式
- 原始 BF16 权重 + Blackwell 优化的 NVFP4 量化版均已开放
- 托管 API:Together AI、Fireworks、Modal
- 自行部署:SGLang、vLLM、llama.cpp、Transformers
💡 总结:为什么 TML 要从零训练?
深层逻辑很清晰:商业闭环。
TML 的定位是一家面向企业的模型服务平台,不能永远只做第三方模型的"连接器"。只有把预训练→强化学习→推理→微调的完整链路握在自己手里,才能真正回答企业关心的问题:
- 完成任务需要多少 Token?
- 推理强度能否按需调节?
- 模型能否原生理解多模态输入?
- 企业能否用自己的数据持续微调并无缝部署?
开源 Inkling 不是"做慈善",而是卡位企业级定制化 AI 基础设施市场的战略布局。