Julia 1 发布|一个 144.3M 参数、只做「从候选里选一个」的决策模型,凭什么值得开发者看一眼
Supersonic Labs 放出了 Julia 家族的第一款模型 Julia 1。144.3M 参数,不算大,官方也明说这是「训练系统的第一次公开测试」。它最特别的地方在于:不是一个聊天生成模型,也不是传统的文本分类管道,而是一个专门做「给定上下文和候选答案,选出一个」的决策模型。同样一个接口,能跑分类、路由、有序打分、布尔判断四种活儿,一次调用解决。
这类「决策小模型」在圈子里逐渐有了一席之地,主要价值在路由和调度这种场景。传统做法是写规则、枚举关键词、维护分支顺序,麻烦不说,改一个 label 就要改一遍逻辑。Julia 的玩法是把 context 和候选答案的语义一起读进去,模型自己判断该选哪个,不用为每个新流程加新的输出头。
它能干嘛,不能干嘛
看评测数据要清醒。官方在 2026-09-24 用 H200 BF16 跑了几个 benchmark:Typed decisions 73.15%,AG News(4 标签)94/100,DAIR Emotion(6 标签)86/100,MASSIVE 52 个 locale 全量场景分类 71.50%。这几个数字里,Emotion 比参考的 Jev 高 38 个点很亮眼,但 Banking77 pilot 只有 64/100,反而低于参考值的 87。
这就是我前面说的要点:Julia 擅长的是「清楚的二选一或几选一」。它比较的是你提供的答案,不负责补全缺失的事实、不解方程、不背长链计算。选项措辞含糊、领域陌生、标签列表太长,都可能翻车。100 个样例的 pilot 是积极信号,不是新工作流的保证——想用之前,拿自己真实的题目和选项先验一遍。
WebGPU 和 ONNX 是加分项
官方单独搞了个 Julia-1-ONNX 仓库,放了完整 ONNX 导出和 JavaScript WebGPU 适配层,通过 ONNX Runtime WebGPU 在浏览器里跑推理,模型只加载一次、常驻内存预热。对想做本地路由、又不想伺候 Python 环境的场景,这是个实在的选项。
动手也简单:Python 3.11+,CPU 推理用标准 PyTorch 就行,不用编译原生 router。下载整个仓库(含 550.5 MiB 的 checkpoint),装个 pip 包就能跑。接口是 predict(state=..., questions=...),question 里能定义 choice、score、noul 三种类型,返回完整 softmax 概率,不搞显示取整。
几句实话
几个坑得记住。原生调用每次只接受 2-20 个选项,分组路由在缩小范围时可能把正确答案丢掉。FP32 权重占 550.5 MiB,跑 8k token 的 CPU smoke test 是通过了,但 8k 任务的实际准确率没有数据背书——历史 benchmark 用的是 1,024 token。模型 artifacts 是 Apache 2.0 协议,但训练管线不包含在仓库里,官方也明说这不是 Transformers AutoModel 的替代品。
Julia 1 给开发者最大的价值,是提供了一个轻量、可本地部署、能跑在浏览器里的「决策判断」组件。它不承诺通用智能,评测里也写清楚了强项和短板。这种把定位说透的模型发布,比那些什么都想碰一下的通用大模型反而更让人愿意上手试。想用的人,按自己的 question/options 验一遍就知道了。
相关链接:
- Julia 1 模型卡
- Julia-1-ONNX 仓库
- Jev benchmark 协议
- mmBERT-small 模型卡