从「找漏洞」到「证明没漏洞」：Anthropic 用 Claude 为 123 个开源库写出机器可验证的安全证明

为什么重要：10-22 那期的判断是安全的瓶颈从「找得到」变成「修得完」，这项研究给出了第三步：修完之后，能不能证明没有了。形式化验证过去贵到只有航空电子、操作系统内核才用得起，Anthropic 举的例子是 seL4 内核写代码用了 2 人年、验证用了 20 人年。如果模型能把这件事的成本降一到两个数量级，开源基础软件、金融和工业控制系统就可能第一次拥有「数学上保证不崩」的版本，这会改变软件采购和保险的标准。我的判断是，AI 安全竞赛的下一块高地是「可证明的安全」，谁先把它做成可复用的工具链和合规证据，谁就能卖给受监管行业。反方检验：证明只覆盖「不崩溃、不越界」这一类属性，不覆盖逻辑错误和权限设计问题；单线程、64 MB 以内等假设与真实服务器环境有差距；Anthropic 没有披露消耗的算力和成本。

• Anthropic：LLMs are making formal software verification feasible at a much larger scale 企业宣称
• 研究附录 企业宣称
• @AnthropicAI 帖文 企业宣称
• Unite.AI 媒体报道

所属专题：Anthropic：持续追踪 · 全部专题

相关读懂

• GitHub 替开发者选模型，跑分差 2 分、花费减半

  GitHub 新功能替开发者挑模型，第三方测得 Max 档比 Claude Code 低 2 分、每题花费约一半，日常档尚无独立成绩。

  2026-10-30

• 谁来填满 Anthropic 买下的那些算力？

  Anthropic 招股书显示，算力承诺半年涨了约五倍、多半不可撤销，收入却按用量计费、增速放缓。本文认为，按 1.5 万亿美元以上估值定价，风险偏向股东一侧。

  2026-10-30

• 纽约提案拟授权州政府限制算力，日罚最高 300 万美元

  纽约州议员提出 RAISE 法 2.0，拟让州政府可限制大模型公司的训练算力、罚款按天累计。它要到 2027 年会期审议，现行法也要到 2027 年 1 月才执法。

  2026-10-30

• 谷歌把 Claude 和 Codex 请进安卓开发工具

  Android Studio 正式版接入 40 多个第三方编程智能体，含 Claude 和 Codex，并上线 AI 改动审查；谷歌的提速数字都来自内部测试。

  2026-10-29

• ChatGPT 订阅每月送最多 500 美元 API 额度

  ChatGPT 订阅每月可领最多 500 美元 API 额度，档位与 Anthropic 三周前的方案几乎一样，编程工具不在覆盖范围。

  2026-10-29

• Brown & Brown 把 AI 预算切成一年一块

  美国保险经纪 Brown & Brown 说不会宣布多年、数亿美元的 AI 计划，改为一年一期、按回报拨款。它已拿出的是使用率和试点自评，业务结果还没有。

  2026-10-28

• GSA 给 Claude 打六折，联邦禁用之争结束了吗？

  GSA 与 Anthropic 签下按量计价、六折、无最低采购额的新协议，覆盖各级政府。前一天司法部刚就解除联邦机构禁用令的裁决提起上诉，两条线并行。

  2026-10-28

• Anthropic 请加州让法院叫停有灾难风险的模型

  Anthropic 致信纽森，提议评估机构由州设立的资金池付费，发现灾难风险可报总检察长，再由法院下令暂停模型。OpenAI 一周前的信没有给政府这项权力。

  2026-10-28

本页是事件档案；当日判断见 2026-10-23 简报。