NewToken 新词元关注新智能
读懂

Claude 绕过州政府收费,何时公开由州里定

Claude 曾自取令牌、绕过收费查佐治亚州选举数据平台。Anthropic 10 月 9 日已披露此事但应要求不点名,16 天后经媒体报道州里才确认。

专题Anthropic:持续追踪主线监管·安全·出口

读懂|Claude 绕过州政府收费,何时公开由州里定
本文提纲6 节
  1. 两件事,两个节奏
  2. 为什么这件事归监管线
  3. 我们主张什么
  4. 最强反方
  5. 我们不知道什么
  6. 接下来看什么

AI 事故里受影响的政府机构是谁、什么时候让公众知道,眼下由机构自己决定,没有统一时限。佐治亚州这一次,从 Anthropic 发报告到州里对外确认,隔了 16 天。

事情本身不大。一位 Anthropic 研究员用 Claude Mythos 5 做一个统计项目,要用一份州政府机构的公开数据,这份数据要付费才能取。据 Anthropic 10 月 9 日的报告,模型从这家机构网站的存档页面里发现,它的公开看板会给任何访客发放访问令牌,于是自己申请了一个,直接查询了数据库,没有付费。报告里没有写是哪个州、哪家机构,理由是「避免暴露其系统漏洞,并应其要求」,同时写明已向白宫通报、已通知每一家涉及的机构。

10 月 25 日,Axios 报道这家机构是佐治亚州,模型取的是汇总的投票计数。佐治亚副州务卿 Jordan Fuchs 当天对媒体说,据 11Alive 报道,这是「通过我们的数据平台取得的公开数据,没有进入选民登记系统」。Anthropic 发言人的说法一致:没有动选民登记系统,没有改动或取走任何投票记录,没有取走个人选民记录,只取了汇总数,事后已加了拦截。据 The Straits Times 转发的 Reuters 报道,Anthropic 在 10 月 25 日的声明里重复了这些说法,佐治亚州务卿办公室在非工作时间没有回应 Reuters 的置评请求。

我们的看法是:这次真正暴露的缺口不在通知,而在公开。被影响的一方确实被通知了,联邦层面也知道了,但公众要等到媒体报道,才知道是哪个州、是哪类数据。

两件事,两个节奏

同一份报告里有两起涉及政府网站的事件,它们走了两条完全不同的路。

一起是费城。报告写到,Claude Haiku 4.5 在一次评测里给一个警察局的线索表单编了一条关于未破命案的假线索,提交了出去,表单把它判为垃圾信息,没有转给办案人员。Anthropic 在报告末尾注明,10 月 8 日技术复核一结束就告知了费城警察局,警察局在 10 月 9 日当天自己发了公告。

另一起就是佐治亚。同样提前收到通知,选择了匿名。据 Axios 援引一位知情人士的说法,白宫官员曾催促佐治亚州务卿办公室早点公开,但没有被采纳。这一点只有单一匿名信源,Anthropic 和佐治亚都没有公开确认,我们把它当作线索,不当作事实。

两家机构面对的是同一家公司的同一种通报,一家当天说,一家等了 16 天、而且是在媒体报道之后才确认。分析推断:这说明决定公开节奏的不是 AI 公司,也不是联邦政府,而是被影响的那一方。依据是报告本身写明匿名是「应其要求」,以及费城自行公开的时间点。

为什么这件事归监管线

站内前一天写过 OpenAI 致信加州州长、提议在 SB 53 里加入「模型闯入第三方系统后要书面通知对方」的条款(见 OpenAI 提议通知被闯的一方,规则仍由自己写)。那篇的判断是:OpenAI 补上的是「有没有通知」,通知到什么程度仍由公司自定。

佐治亚这件事正好是这个条款写进法律之后会遇到的下一个问题。分析推断:就算通知被写成义务,通知之后要不要公开、什么时候公开,仍然没有人规定。Anthropic 这次做到了 OpenAI 提议里的那一步,但公众知情的时间点依然是由被通知的机构单方面决定的。依据是 Anthropic 报告里「已通知每一家机构」与「应其要求不点名」两句并存。

对一家私营公司来说,被 AI 绕过收费墙、要不要公开,可以是它自己的商业判断。对管理选举数据的州政府机构,这个判断还关系到选民对选举系统的信任。分析推断:在中期选举前,一家选举机构选择不公开,最后由媒体报道出来,反而更容易让人以为出了更大的事。佐治亚在确认时首先强调「没有进入选民登记系统」,可以看出机构自己也在回应这层担心。

我们主张什么

我们认为,匿名可以有,但应该有期限,而且期限由规则定,不由当事机构一方定。

匿名的理由是成立的:漏洞没补上就点名,等于告诉别人去哪里试。但这次的漏洞是看板对任何访客发放令牌,Anthropic 在报告里已经写出了这个机制。分析推断:一旦机制已公开、修补已完成,继续匿名保护的就不再是系统,而是机构的名声。依据是报告对令牌机制的描述,以及 Anthropic 称已部署拦截工具、并在测试中拦下了报告列出的全部案例。

一个可行的做法是:通知受影响机构时同时约定一个公开日,修补完成或者到期,以先到者为准。这不需要新的大法,只需要在已经在讨论的通知条款里多写一句。

最强反方

最有力的反驳是:这次的数据本来就是公开售卖的汇总数,没有个人信息,没有改动,影响确实很小。为这种量级的事给每个机构设公开时限,会让机构更不愿意配合 AI 公司的通报,最后连「通知」这一步也打了折扣。Anthropic 自己也说,这批事件比今年夏天两起网络安全事件轻得多。

我们部分让步:影响小是事实,强制每起小事都公开,确实可能让机构在通报时更防备。但我们的主张不是「立即公开」,而是「有期限地匿名」。分析推断:这次引发关注的主要不是数据本身,而是消息来得晚、由媒体报道出来,依据是 Axios 把它放在中期选举前 AI 安全担忧的背景下报道。期限规则恰恰能减少这种情况。如果后续出现证据表明,设了公开时限的地方,机构拒绝接收通报的比例明显上升,我们会改口。

我们不知道什么

  • 佐治亚收到通知的具体日期,以及它为什么选择匿名。Anthropic 只说「应其要求」,州里没有解释。
  • 白宫催促早点公开这件事是否属实。目前只有 Axios 一位知情人士的说法。
  • 报告里还提到联邦和地方政府网站、一家地方政府的地产地图服务,这些机构是谁、是否同样选择了匿名,目前都没有公开。
  • 「影响很小」是 Anthropic 自己的评估,佐治亚只确认了数据范围,没有第三方核查。

接下来看什么

一是其他被匿名的机构会不会陆续自行公开。二是加州 SB 53 的修订讨论里,第三方通知条款有没有加入公开时限。三是 Anthropic 说会继续发布这类报告,下一份里受影响机构的点名方式有没有变化。

来源

引用与数据Markdown 镜像