Anthropic 把 Claude 写的接口层切进了生产
Anthropic 平台负责人称,团队起初没有 Rust 工程师,由 Claude 写完对外接口的 Rust 版,经影子流量对照后全面上线,CPU 约省四到五成。

生产级对外接口的改写,改成智能体写实现、人做计划和影子流量对照后整段上线。Anthropic 平台工程负责人 Katelyn Lesse 在 10 月 27 日的 Latent Space 访谈里说,公司刚完成 Claude 对外接口(官方称 Messages API)从 Python 单体到 Rust 的全面上线。
代码主要由 Claude 写,人负责架构、计划和验收。我们的判断是:这件事值得写,重点不在「又省了多少 CPU」,而在人接手的位置——计划与等价性对照必须先于写码。CPU 约省 40%–50%、首 Token 延迟约改善 10%–20%,是她在访谈里给的量级,并非已发表的基准。
先定这是一次移植,并非重做
据 InfoQ 经 36氪转载的访谈整理,Anthropic 原先的对外接口是一套 CPU 效率很低的 Python 单体。业务量上来之后,CPU 也要提前规划,不能再按需加机器了事。
团队决定用 Rust 重写整层接口。Lesse 说,项目启动时「连一位 Rust 开发者都没有」。他们刻意把它叫作移植(port),并压住顺手加功能的冲动:专门的小团队做迁移,其他团队继续在旧的 Python 接口上加功能;迁移团队用静态分析盯住两边是否同步。这样新旧差异才更可能是缺陷,而不是「新功能写偏了」。
Claude 写完整份接口,人只盯计划和对照
分工写得很直白:Claude 负责写实现,人也用它讨论设计、补自己不懂的 Rust;「最重要的两件事」是实施计划和最终验证。据同一篇整理,他们没有把系统拆成很多块、花几年一块块迁,而是直接用 Rust 建了一整份对外接口,再往里灌影子流量。
Lesse 说,换成过去她「从来不会」让团队这样迁。现在敢整段上,是因为写码成本被压下去了,但验收标准没有放宽。访谈里她也说,后来团队成员大概都会把自己当 Rust 工程师,过程中还招了几位有更多 Rust 经验的人。「零 Rust」只是起点。
影子流量对照通过后,再切真实流量
验收的核心动作是影子流量:同一批或等价的生产请求同时打进 Python 与 Rust,对比输出是否一致,再逐步把真实流量切过去。
CellCog 的整理把这句话落成「先整份分叉,再慢慢上线」,并写明公开材料里没有工程博客复述同一组测量。对人要接手的位置,这就比「模型写完你再扫一眼」更具体:人要先定义「什么叫一致」、怎么对输出、切流节奏如何。
Lesse 在访谈里说,对大量生成的代码,不一定需要工程师逐行深挖;更关心整体计划与系统设计是否站得住,前提是验证机制够。分析推断:这和站内已写的 Anthropic 自研 Scion 换掉 Git 同属「智能体写码变多之后,哪一层基础设施先顶到墙」。一层是源码管理,一层是接口层的 CPU。两边数字口径不同,不能相除;依据是两篇材料都来自 Anthropic 内部工程表述。
省下来的 CPU 是口述量级
被问到量级时,Lesse 说 CPU 大约省 40%–50%,首 Token 延迟大约改善 10%–20%,更长的负载改善还会更大。这些数字只出现在访谈转述里;我们查到的公开材料里,没有 Anthropic 工程博客给出测量方法、流量构成或分位数。因此一律按企业口述处理,不写成已核实的性能基准。
最有力的反驳是:哪怕没有智能体,把低效的 Python 单体重写一遍,也可能省下大量 CPU;省四成说不清有多少来自 Rust、有多少来自重写本身。我们让一步:公开材料确实没有拆因。
我们仍坚持论点,因为本文要带走的是验收方式——影子流量对照通过后才切流。语言选型可以争论,计划和对照这两步不能省。目前不知道移植起止时间与成本,也不知道 Anthropic 会不会另发工程文公布对照细节。在那之前,读者能核对的只有:访谈时间线、她本人的分工表述,以及「全面上线」这一句企业口述。
来源
- Latent Space · How Anthropic ships the #1 LLM in the World safely(2026-10-27) 媒体报道
- InfoQ / 36氪 · Anthropic 团队零 Rust 经验起步,靠 Claude 完成核心 API 跨语言重构(2026-10-29) 媒体报道
- CellCog · Anthropic Rewrote Claude's Messages API in Rust(2026-10-31) 媒体报道
引用与数据Markdown 镜像

