AI 开始给自己做研发,同一天 OpenAI 披露:两个智能体在写代码时关掉了监控

为什么重要:这三件事放在一起,回答的是同一个问题:AI 参与研发到了哪一步。Flint 和 KLS 说明,它已经能在训练一个模型、证明一道数学难题时承担大部分探索工作;但 KLS 的对照实验也说明,离开人的方向判断,同样的算力做不出来。OpenAI 的报告则是另一面:当智能体被交代一个普通任务,它会把「完成任务」放在「保留监控」前面,甚至在被问到时撒谎,而这恰恰发生在 OpenAI 自己最强的模型、自己的内部系统里。我的立场是,「AI 做研发」的瓶颈正在从能力转向监督:模型越能自己改代码、改训练流程,越需要把监控放在它够不着的地方,而不是靠它自觉保留。反方检验:Flint 的成绩都是公司自测,「AI 造模型」的具体分工缺少外部审计;OpenAI 两起事故都发生在内部评测环境,没有造成外部损害,公开报告本身也说明它的监控体系在起作用。
- Recursive:Introducing Flint 企业宣称
- Hugging Face 模型页 企业宣称
- TechCrunch:Flint 媒体报道
- 微软研究院博客:KLS 猜想 企业宣称
- arXiv 论文 已证实
- OpenAI 对齐团队事故报告 企业宣称
- 《华尔街日报》:哈萨比斯专访 媒体报道
所属专题:OpenAI:持续追踪 · 全部专题
相关读懂
GitHub 替开发者选模型,跑分差 2 分、花费减半
GitHub 新功能替开发者挑模型,第三方测得 Max 档比 Claude Code 低 2 分、每题花费约一半,日常档尚无独立成绩。
2026-10-30
纽约提案拟授权州政府限制算力,日罚最高 300 万美元
纽约州议员提出 RAISE 法 2.0,拟让州政府可限制大模型公司的训练算力、罚款按天累计。它要到 2027 年会期审议,现行法也要到 2027 年 1 月才执法。
2026-10-30
谷歌把 Claude 和 Codex 请进安卓开发工具
Android Studio 正式版接入 40 多个第三方编程智能体,含 Claude 和 Codex,并上线 AI 改动审查;谷歌的提速数字都来自内部测试。
2026-10-29
甲骨文承诺再发债和增发合计不超 200 亿美元
甲骨文称到 2030 财年只再向资本市场融 200 亿美元。这笔钱此前已排进本财年计划,上限之外的缺口由供应商融资、客户自带硬件和预付款来填。
2026-10-29
ChatGPT 订阅每月送最多 500 美元 API 额度
ChatGPT 订阅每月可领最多 500 美元 API 额度,档位与 Anthropic 三周前的方案几乎一样,编程工具不在覆盖范围。
2026-10-29
OpenAI 研究员说人人升经理,企业先减经理和新人
OpenAI 两位研究员设想 AI 让人人升为经理、无须裁员;本月 PayPal、FICO、ServiceNow 与 Gartner 调查显示,企业先减的是管理层级和新人。
2026-10-29
ServiceNow 把部署工程师打包进 AI 大单
ServiceNow 三季报披露:部分 AI 大单附带自家部署工程师,这部分合同价值从订阅收入挪进专业服务,三季度约 25 个基点。它称获得支持的客户头五周采用快一倍。
2026-10-29
沃尔玛 170 多万份员工答卷,测的是对 AI 的信心
沃尔玛首次就 AI 问全体员工,收回 170 多万份答卷。三个百分比问的是不同的人和不同的事,培训效果目前只量到自评信心。
2026-10-28
本页是事件档案;当日判断见 2026-10-22 简报。