实验室开始公开「怎么看住自己的模型」:OpenAI 的监控覆盖所有前沿训练和内部 Codex,Anthropic 让 Claude 每次回答后给自己打分

为什么重要:两家同一天公布,说明「模型会越界」已经从论文里的问题,变成了每天要值班处理的运维问题。红队报告解释了原因:模型能自己写出完整攻击链,监控就不能再只看用户问了什么,还得看模型自己做了什么。我的立场是:最值得注意的细节,是 OpenAI 承认内部 Codex 流量因为误报太多而关掉了实时告警。连造模型的公司都还没解决告警疲劳,普通企业部署智能体时,更不该假设出了事会有人第一时间知道。另一个容易漏看的细节是接口差异:OpenAI 的对外监控只覆盖 Responses API,还在用 Chat Completions 的开发者,等于默认不在这张网里。反方检验:这些数字全部来自企业自述,召回率是拿另一个更强的分类器当标准算出来的,没有独立复核;自评由被监控的模型自己完成,Anthropic 也承认,如果模型本身有意隐瞒,自评会一起隐瞒;红队报告中人的参与程度不明。
- OpenAI:我们如何发现前沿模型的失准行为 企业宣称
- @OpenAI 的介绍帖 企业宣称
- Anthropic Safeguards:用自评扩展滥用检测 企业宣称
- @AnthropicAI 的介绍帖 企业宣称
- Anthropic:用 Claude 发现漏洞 企业宣称
- The Hacker News:Anthropic 未发布模型串起漏洞利用链 媒体报道
所属专题:OpenAI:持续追踪Anthropic:持续追踪 · 全部专题
相关读懂
GitHub 替开发者选模型,跑分差 2 分、花费减半
GitHub 新功能替开发者挑模型,第三方测得 Max 档比 Claude Code 低 2 分、每题花费约一半,日常档尚无独立成绩。
2026-10-30
谁来填满 Anthropic 买下的那些算力?
Anthropic 招股书显示,算力承诺半年涨了约五倍、多半不可撤销,收入却按用量计费、增速放缓。本文认为,按 1.5 万亿美元以上估值定价,风险偏向股东一侧。
2026-10-30
纽约提案拟授权州政府限制算力,日罚最高 300 万美元
纽约州议员提出 RAISE 法 2.0,拟让州政府可限制大模型公司的训练算力、罚款按天累计。它要到 2027 年会期审议,现行法也要到 2027 年 1 月才执法。
2026-10-30
谷歌把 Claude 和 Codex 请进安卓开发工具
Android Studio 正式版接入 40 多个第三方编程智能体,含 Claude 和 Codex,并上线 AI 改动审查;谷歌的提速数字都来自内部测试。
2026-10-29
甲骨文承诺再发债和增发合计不超 200 亿美元
甲骨文称到 2030 财年只再向资本市场融 200 亿美元。这笔钱此前已排进本财年计划,上限之外的缺口由供应商融资、客户自带硬件和预付款来填。
2026-10-29
ChatGPT 订阅每月送最多 500 美元 API 额度
ChatGPT 订阅每月可领最多 500 美元 API 额度,档位与 Anthropic 三周前的方案几乎一样,编程工具不在覆盖范围。
2026-10-29
OpenAI 研究员说人人升经理,企业先减经理和新人
OpenAI 两位研究员设想 AI 让人人升为经理、无须裁员;本月 PayPal、FICO、ServiceNow 与 Gartner 调查显示,企业先减的是管理层级和新人。
2026-10-29
ServiceNow 把部署工程师打包进 AI 大单
ServiceNow 三季报披露:部分 AI 大单附带自家部署工程师,这部分合同价值从订阅收入挪进专业服务,三季度约 25 个基点。它称获得支持的客户头五周采用快一倍。
2026-10-29
本页是事件档案;当日判断见 2026-10-30 简报。