Jevman:让 AI 决策模型打 Pac-Man,暴露了它们的真正短板

Jevman:把决策模型扔进 Pac-Man 当幽灵

OpenAI 推出了 decisions endpoint,Cloudflare 推出了 clef,「决策模型」这个词最近冒得很快。但这些模型做决策到底能做到什么程度,光看论文和 benchmark 数字不够直观。有个人做了个东西叫 Jevman,让几种决策模型去打野球 Pac-Man,结果挺有意思。

项目来自 startup opper.ai,做法很简单:把 jev 1.13、kev、clef、clef flash、GPT-6 Luna、Laya 这些决策模型放进 Pac-Man 里当幽灵,Pac-Man 由人类或另一个模型控制,跑 100 局一局一局比,排个 leaderboard。项目开源,谁都能把自己训练的模型放进去比。

这个 benchmark 真正扎眼的地方,是把决策模型的真实瓶颈摆了出来——延迟。Pac-Man 理论上每个游戏 tick 都得决定方向,但模型推理跟不上这个节奏。设计者于是把决策点收束在路口:角色一进走廊,下一个路口是已知的,系统提前把问题丢出去,最多同时飞 3 个请求。角色先到了路口而答案还没回来,就站在原地等,屏幕上显示「thinking…」。超过 2 秒或出错,就用贪心规则兜底。幽灵进入 Pac-Man 所在走廊时还会触发第二次判断,问要不要逃跑。

换句话说,真实实时的交互场景里,这些模型并不是在「思考」,而是被延迟支配。2 秒的超时阈值,直接决定模型是显得聪明还是显得迟钝。一个理论上很强的决策模型,首 token 延迟到了 800ms,在这个框架里已经很被动。

评论区有人点破:「用云端 API 推理来打 Pac-Man 是现代软件工程的高峰。一个 2MB 的本地 ONNX 模型跑在 CPU 核心上,每次都能打败网络往返抖动。」话刻薄,但说的是事实。这代决策模型的竞争,很大程度上是在拼谁能把端到端延迟压得更低,而不只是 prompt 写得更好。

截至发帖约 22 小时后,社区已经贡献了新模型,榜单第一被新来者拿走,总对局数也超过 1000 局。每局对战成本大约 2 美分,opper 给每人发了免费额度让大家试。

这个项目最实际的价值,可能不是排出谁更强的排行榜,而是给了一个透明的、可复现的对照实验场。在自己的机器上跑同一个测试、用同一个场景,就能看出自己的模型和别人差在哪里。GitHub 仓库已经开源,README 里详细说明了决策机制和接入方式。

链接:https://github.com/opper-ai/jevman-benchmark