AI写代码省下的时间,全赔在调试上?Claude官方这套「让AI自己测自己改」的流程,确实解决了我的痛点

用 Claude Code 手搓个小应用的人,多半经历过同一个坑:代码写出来很快,但你成了 AI 客服的全职陪练。回答不准,赶紧补一句提示词;解释太啰嗦,再加一条限制。更崩溃的是,每改一句提示词,都得把常见问题重新问一遍——生怕刚修好一个问题,又把原本答对的给改坏了。于是 AI 写代码省下的时间,又有一大截还给了一轮轮的人工调试。

9月28日,Anthropic 官方发了一份调优指南,核心思路一句话就能说清:反复测试、反复修改这种活,Claude 也能干。让它多接手一些,你就能少当几轮苦哈哈的测试员,把精力用来给 AI 把关。

想让它有方向地改错,得先把「怎样才算做对」讲清楚。平时我们总希望 AI 客服「靠谱一点」,但这话太抽象。官方给的第一个入口是 /claude-api build-eval,能把具体要求变成一套可反复运行的验收题库。题库不能只收「翻车现场」,那些最常见、最普通的问题也要覆盖——偏题、难题堆再多,也测不准普通用户的日常体验。

题选好了,还得说清「怎么判分」。「专业」「智能」「友好」这种颗粒度太粗,要落到具体衡量标准上:哪些信息必须说清楚,哪些错误不能犯,做到什么程度才算过关。Claude 会帮你拟出评分规则,但你要确认按这套规则拿高分的答案,是不是真解决了用户的问题。有些结果能用程序直接检查,开放性问题可以让模型按明确规则打分。评分器自己也要先过关——拿几份已打分的答案对照你的判断,看看有没有「答对了却扣分」「没解决却给过关」的情况。

题库铺好后,轮到第二个入口 /claude-api hillclimb。hillclimb 理解为「爬坡」,让 AI 一点点尝试优化。但这个 KPI 也得定具体,还要说清允许它改什么:让客服更准,允许改提示词;维持质量的前提下省点 API 费,允许调模型配置。接到任务后,Claude 会查看用于迭代的错题,每轮提一处修改,再重新跑评估——确实有改善才保留,改坏了就撤回。

你可能会担心:AI 会不会变成应试教育的做题家,只针对练过的几道题死记硬背?官方考虑到了这一点。这套流程会单独留出一部分题作为不提前公开的「验收考题」,负责提修改的模型看不到题目内容。每轮改完,如果练过的题分数涨了、验收题却原地踏步,就说明过拟合了,Claude 会撤回这轮修改。

Anthropic 用一个内部客服评测展示了效果:在 14 张未参与指导修改的留出测试工单上,最终配置的决策准确率从 78.6% 升到 90.5%,提高了 11.9 个百分点,模型调用成本降到原来的约 1/5。不过这是特定配置、特定小样本下的结果,不代表接上这套流程你的应用也能省八成——这里比较的模型调用成本,也不能当成整个项目的总成本。

但对自掏腰包付 API 费用的个人开发者来说,这仍然很香。便宜的模型老答非所问,逼得用户反复追问还得你人工介入,未必划算;简单问题用昂贵配置又顺带生成一大段废话,同样花冤枉钱。现在你可以把质量和成本放在一起测,让 AI 在满足质量要求的前提下尝试更省钱的方案。调优本身也会消耗模型调用费用,先定好愿掏多少实验费,再决定让 AI 跑几轮,更踏实。

按官方文档,这两个入口都要求 Claude Code v2.1.259 及以上。流程跑起来后,你该做的事变成了三件:把真实用户的困惑补进题库,让下次优化更接地气;盯着评分标准别出漏洞,否则 AI 忙活半天只是分数涨了,用户问题还在;以及拍板质量和成本的取舍——回答精简会不会漏步骤,追求便宜会不会牺牲准确度。

给应用接 AI 初衷是省心,如果最后演变成你全天候陪着它改答案,就本末倒置了。当 Claude 能多接手一些重复调试,普通开发者就能多花点时间打磨自己的小工具、小应用,让那些搁置的想法重新往前走。