NewToken 新词元关注新智能
读懂

Claude 接手电路板项目时忘了八个安装孔

Upwork 与悉尼科技大学的预印本测六种编码智能体接手进行中的项目,完整交付率平均 4.95%,给对要求也只有 8.11%。

专题OpenAI:持续追踪 · Anthropic:持续追踪主线智能体与应用

读懂|Claude 接手电路板项目时忘了八个安装孔
本文提纲3 节
  1. 六种组合接手 37 次,完整交付约二十分之一
  2. 把正确要求递到手上也只有 8.11%
  3. 那八个孔是记下之后丢的

编码智能体半路接手项目能不能交得出活,现在有了一组实测数:二十次里约一次全部过关。一块电路板做到一半,客户要把电池接口挪到板子背面。接手的 Claude Opus 5.5 先记下了八个安装孔和 M2.5 规格,写改后要求时,整条机械布局要求不见了。

客户没有撤回它,是智能体自己丢的。这是 Upwork 与悉尼科技大学研究者在 arXiv 论文里写的案例。我的判断很明确:接手项目这一步现在不能交给编码智能体,能编译、旧测试全过,不能当作交付的证据。

六种组合接手 37 次,完整交付约二十分之一

论文让智能体读完与客户的往来记录,弄清哪些要求还算数,再把新要求做进现有项目。完整交付要同时过三关:能构建、新要求的测试通过、旧要求的回归测试通过。

  • 给全部往来记录:六种组合平均 4.95%;
  • 只给筛过的相关记录,平均约 9 条:降到 2.70%;
  • 单项最高是 Codex 配 GPT-6 Astra,37 个目标交付 4 个;
  • Claude Code 配 Sonnet 5 在四种条件下都是 0。

据 StackChief 统计,222 次运行里完整交付 11 次;项目能构建的占 58.56%,客户要的改动真正生效的只有 6.31%。

把正确要求递到手上也只有 8.11%

研究者又把整理好的正确目标要求直接交给智能体。构建通过率升到 96.40%,回归通过率 90.99%,新要求的测试却只有 9.01% 通过,完整交付 8.11%。219 份提交里有 184 份能构建、旧测试全绿,偏偏没做出客户要的改动。

Claude Code 配 Opus 5.5 和 Sonnet 5 这两种组合在这一条件下构建和回归都是 100%,新要求测试分别只有 5.41% 和 0。旧测试全绿恰好把没做的改动遮住了,这是分析推断,依据是那 184 份提交。

论文的要求诊断也给了同一个方向:312 个应当动手的目标里,六种组合没有一次写出完全正确的改后要求。

有人会说,样本只有 7 个项目、37 个目标,直接交付时智能体也不能向客户提问。论文自己承认这些局限,StackChief 也提醒模型之间只差一到三个任务,不能排座次。

这些局限改变不了方向。诊断实验允许智能体选择先提问:全量记录下,六种组合的严格澄清成功率五个是 0,最高的 Sonnet 5 也只有 2.70%。让它先问,它也问不到点上。

那八个孔是记下之后丢的

电路板的案例值得记住的是顺序。智能体从记录里读出了八个安装孔,写进了旧要求;同一份回答里,它在改动时把孔扔了。它的问题出在守,不出在读。

半路接手的项目,验收清单必须由人对着往来记录亲手列出来,交给智能体的只能是清单上的活,最后那一眼也得落在清单上,而不是落在一排绿色的测试上。

来源

引用与数据Markdown 镜像