NewToken 新词元关注新智能
读懂

AMD 公开智能体平台账本,中位一次跑 3.4 小时

AMD 开源内部智能体运行平台并公开半年生产数据:中位一次运行 3.4 小时,2140 次中途丢沙箱后 95.7% 仍做成。

专题Anthropic:持续追踪主线智能体与应用

读懂|AMD 公开智能体平台账本,中位一次跑 3.4 小时
本文提纲3 节
  1. 一个调内核的智能体,跑了一整夜
  2. 2140 次丢了沙箱,95.7% 还是做完了
  3. 账本里缺的两个数

智能体托管正在从「问一句答一句」变成一次跑几个小时的长活,平台真正要过的关,是活干到一半出事时还能不能接着干。

AMD 11 月 6 日开源了内部使用的智能体运行平台 PrimusClaw,并公开了一份少见的生产账本:主部署上一次运行的中位时长是 3.4 小时。我们的判断是,这份账本把智能体平台的考题改了,先考续跑,再谈模型。

一个调内核的智能体,跑了一整夜

据 AMD ROCm Blogs 上的发布文章,这个平台专门承接的一类活是调 GPU:主部署有 2,000 多次推理优化运行、2,000 多次内核优化运行。这类任务要编译、测性能、改代码再测,几个小时很正常。

主部署 3 万多次运行的时长分布如下:

  • 中位数 3.4 小时,90 分位 7.1 小时,99 分位 11.5 小时
  • 71% 的运行超过 1 小时,2,000 多次超过 8 小时
  • 最长一次 50.1 小时

两套部署合计 4 万多个会话、近 4 万次运行、10 万多智能体小时。两数相除,平均每次至少约 2.5 小时,这是分析推断,依据是博客给出的总时长与运行次数。

N環球 的报道把这几项列为重点,并转述 AMD 的说法:它不是实验,4 月起就在生产环境里跑。Anthropic 在 Claude Managed Agents 文档开头也写明,托管智能体最适合长时间运行和异步的工作。供应商们对场景的判断已经一致。

2140 次丢了沙箱,95.7% 还是做完了

跑一整夜的活,中途一定会撞上平台升级和机器故障。AMD 给了两组数:

情形 运行数 结果
运行中途丢了沙箱 2,140 2,047 次成功,占 95.7%
三次滚动升级时正在跑 583 580 次跑完,544 次成功

做法是把每次运行写成数据库里的一行,谁领到谁干。旧进程退出前先存检查点,新进程接手续跑。

GitHub 上的 AMD-AGI 代码仓库公开了这套实现,接口兼容 Anthropic 托管智能体的快速上手流程。至少在快速上手这一步,为 Anthropic 写的调用改一个地址就能指向自己的机房。

账本里缺的两个数

这份账本有两处要说清。第一,AMD 没有公布近 4 万次运行的总成功率,只给了丢沙箱和升级两个子集;智能体小时也计入了失败的运行。

第二,博客写明,被统计的两套部署当时没开出口流量代理,也没用虚拟机级隔离,这两项在开源版里要用户自己打开。生产数据全部来自 AMD 自报,没有第三方核对。

这两处不推翻上面的判断,反而说明 AMD 把力气花在哪里:先保长活不断,再补安全加固。对要自建或采购智能体平台的企业,「断了能不能接着跑」应该是问供应商的第一个问题。

回到那个调内核的智能体:晚上开跑,半夜平台滚动升级,第二天早上活还在。583 次里有 580 次是这样,这才是智能体平台该拿出来比的成绩单。

来源

引用与数据Markdown 镜像