NewToken 新词元关注新智能
读懂

曙光云该先用自己的公式给 OneBox 算账

曙光云建议政企客户按「单次有效任务成本」衡量智能体投入,自家 OneBox 却只给出前后不一的提速数字和一张没算复核时间的煤矿报表。

主线智能体与应用

读懂|曙光云该先用自己的公式给 OneBox 算账
本文提纲4 节
  1. 乌镇首发的卖点全在管住智能体
  2. 11 月 5 日,267% 和两天变几分钟
  3. 11 月 10 日,同一项提速变成超 20%
  4. 一万多人的内部账,曙光云最该先交

卖智能体平台的曙光云,给政企客户开了一张算总账的公式,自家 OneBox 却还没按它交过一笔账。公式出自曙光云解决方案总监吴兴杰:单次有效任务成本,等于同期分摊的完整成本,除以通过业务验收的任务数。

软件、算力、部署、培训、人工复核都进分子,复核和返工花掉的时间要扣掉。我们的判断是,这把尺子定得对,曙光云该先拿它量自己。OneBox 已在集团内部一万多人的环境里用着,这笔账它最有条件算;可发布一周里,它对外给出的数字反而互相对不上。

乌镇首发的卖点全在管住智能体

据环球网 11 月 5 日的报道,OneBox 于 11 月 3 日在乌镇「互联网之光」博览会发布,入选「新光」产品,曙光云给它的定位是「首个政企可信桌面级 AI 智能体」。

产品的卖点集中在管住智能体:

  • 私有化部署,模型、知识库和应用放在客户自有环境里;
  • 开启安全会话后,系统过滤掉不允许碰私有数据的外网模型;
  • 「树桥」直连生产数据库,按表和字段决定谁能看什么。

这些设计回答的是客户敢不敢用。用了之后值不值,要靠后面的数字回答。

11 月 5 日,267% 和两天变几分钟

据 TechWeb 当天的报道,OneBox 针对国产 GPU 完成千问 3.8 系列模型的算子级优化,推理速度较原生开源模型提升 267%。

同一篇里,吴兴杰讲了一家煤矿企业:安全生产系统、隐患台账、作业票系统接入后,智能体自动拉取巡检到复核的数据,做分类和根因分析。他的原话是,过去安全员可能花两天做一张报表,现在可分钟级完成。

环球网同日写到,吴兴杰建议客户把软件、算力、部署集成、数据治理、运维升级、培训和人工复核等成本算全,用单次有效任务成本衡量投入产出。煤矿那张报表恰好没按这套办法交代。几分钟是生成用时,安全员核对报表、改错的时间没算,系统分摊下来的成本也没给。

11 月 10 日,同一项提速变成超 20%

中国发展网 11 月 10 日的报道写的是另一个数:在国产芯片上完成千问 3.8 系列模型的算子级优化后,推理速度较原生开源模型提升超 20%。

同一项优化,同一个比较对象,五天里出现了两个数,相差两百多个百分点。可能是两次测试条件不同,也可能是某一篇转述有误;到目前为止,曙光云没有出面说明哪个数对、在什么芯片和负载下测的。

同一篇报道还给了规模:OneBox 已在曙光集团内部一万多人的环境中使用,另有制药和制造企业进入实际应用。一万多人是装了它的环境,不是通过验收的任务数,放不进吴兴杰公式的分母。

一万多人的内部账,曙光云最该先交

有人会说,新品发布才一周,客户各自的成本结构也不同,现在要总账太早。我们接受一半:客户的账确实要客户自己算。但曙光云内部这一万多人的部署,软件、算力、运维都是它自己的,分子分母全在它手里,没有比这更现成的样本。

标准是卖方提出来的,卖方先示范,客户才知道这把尺子量不量得动。提速这种能在实验室复测的数字都前后不一,煤矿报表的几分钟就更不能当成效来引用。这是分析推断,依据是上面两篇报道对同一项优化给出的两个数。

回到那家煤矿。报表从两天缩到几分钟,这只是生成的那一端;安全员拿到报表后核了多久、改了几处,才是吴兴杰公式里真正要数的东西。曙光云给政企市场出了一道算术题,答案栏里第一个该填的,是它自己那一万多人。

来源

引用与数据Markdown 镜像