Cloudflare 开源 Clef:不给模型说话自由,反而更会做决定
Cloudflare 在 Hugging Face 上放了个叫 Clef 的模型,27B 参数,多模态,Apache-2.0 协议开源。它干的事在 AI 圈里挺反直觉:一个决策模型,不生成自由文本,只输出概率。
用法是把一个「状态」和一组带类型的问题丢给它——状态可以是文本、JSON、图片甚至视频——它在单次前向里,给每个问题的每个选项都算出概率。不吐自然语言,不用解析输出。这套输出格式直接兼容 Cloudflare 自家的 Jev 和 SystemOne 决策框架,开发者不用改 API 就能接上。Clef 从 Qwen3.8-27B 后训练出来,模型仓库里也放了 flash 小版本,速度快不少。
第一眼看这个设计是有点愣的。各家都在卷 Agent 会写、会解释、会表演,Clef 反过来把「表达能力」砍了,只留决策。但这种克制恰好戳中一个真实痛点:决策链路里最烦人的不是模型不会想,而是它的自由发挥——输出解析出错、格式不固定、幻觉混进来。Clef 直接绕开整个环节,你喂 JSON 结构,它回 logit,softmax 一压就是概率,干净利落。
用起来很直接
代码里定义一条 record,比如一张发票的状态是 {"vendor": "Acme", "total": 1250.0, "status": "overdue"},再定义两个问题:发票状态是什么(choice 类型,选项 paid / overdue / draft),总金额是否超过 1000 美元(boolean,即 true/false)。跑一个 model(batch),拿到每个问题的 logits,softmax 后就是概率。图片、视频也能混进同一个 batch,encode_record 里有 max_length(默认 16384 个 token)和 max_state_tokens 控制输入上限。跑起来环境要求不高,H200 单卡、transformers 5.10 就能跑。
跑分:一个偏科生
官方 Decision Index 0.2.1 的跑分里,Clef 在不少决策类 benchmark 上确实能打:BFCL 精确匹配 98.5、API-Bank 91.9、BANKING77 macro-F1 94.2、RAGTruth 幻觉抑制 F1 79.4,中位延迟 209ms,p95 在 238ms 上下。flash 版本中位延迟明显更轻(38.8ms),不少基准上甚至反超原版。
但完整看下来,这不是全面碾压。MMLU 上 Jev 91.7 压 Clef 90.3,GPQA Diamond 和 BBH 上 Jev 明显领先,POP909、VAST、BRIGHT 这些 Jev 也都更高。Clef 的优势集中在结构化决策、工具调用和事实一致性这类任务上。
除了跑分还有专门的工作流评测,从 Typesafe Evals 拿的四条端到端业务流程:发票处理精确动作匹配率 64.7,客服 76.3,安全事件 62.9,都压过同场对比的 Jev。真实业务场景比单个 benchmark 更有说服力,毕竟发票处理和账单路由才是决策模型真正要干的活。
部署与观望
Cloudflare 一贯把模型放到自家边缘网络上跑,Clef API 兼容 Jev/SystemOne,Worker 里接一套就能用,不用自己折腾推理。不过 HF 页面显示最近下载只有 18 次,这是个刚挂出来、还没被社区大范围试过的货。模型权重、joint head、license 都齐了,Apache-2.0 协议够宽松,感兴趣的可以直接 snapshot_download 拉下来跑一遍 Demo。
一个做决策的模型,主动放弃了说话的自由,这事的取舍本身就挺值得琢磨。至少在结构化决策方向上,它给出的答案不是「更会写」,而是「更敢只回答该回答的」。