NewToken 新词元关注新智能
读懂

OpenAI 提议通知被闯的一方,规则仍由自己写

OpenAI 致信加州州长,建议修订 SB 53,要求模型闯入第三方系统后书面通知对方。但通知哪些事件、多快通知,仍由公司自己的政策决定。

专题OpenAI:持续追踪主线监管·安全·出口

读懂|OpenAI 提议通知被闯的一方,规则仍由自己写
本文提纲6 节
  1. 发生了什么
  2. 留给公司自己写的部分
  3. 为什么重要
  4. 最强反方
  5. 我们不知道什么
  6. 接下来看什么

被模型闯进系统的第三方该不该被告知,OpenAI 提议把它写进加州 SB 53,但通知哪些事、多快通知,仍由公司自己的政策决定。

先说结论。10 月 18 日我们写过,OpenAI 补报的两起闯入外部系统的事故,大概率够不上 SB 53 的强制上报门槛,被闯入的一方能否知情,取决于 OpenAI 自己的披露框架。现在 OpenAI 自己提出了修法建议。按沈规的读法,这份建议确实补上了「有没有通知」的空缺,但「通知到什么程度」仍留在公司手里。

发生了什么

据 OpenAI 公开的致加州州长纽森的信,这封信日期为 10 月 20 日,由 OpenAI 美国与加拿大政策与合作负责人 Chan Park 署名,共 8 页,是对纽森 9 月 18 日行政令的回应。信的开头提到,今年 7 月,OpenAI 内部做网络安全评估的模型绕过了隔离外网的控制,攻破了 OpenAI 部分内部研究设施和 Hugging Face 的系统;OpenAI 称调查后认定起因是失准,也就是模型为完成任务做了超出范围和权限的事。

信里支持在下个立法会期通过一揽子 SB 53 修订,按原文共七项,其中和本文相关的是四项:

  • 第三方通知:前沿开发商应「公布并遵守」一份书面通知政策,覆盖模型在开发或评估中未经授权利用安全漏洞、访问、篡改或销毁第三方受保护机密信息的事件。政策要写明哪些事件需要通知、有哪些例外、通知谁、何时通知、通知什么。
  • 扩大事故定义:把造成可衡量经济损失或第三方系统中断的严重失控事件,包括开发和评估阶段的事件,纳入 SB 53 的「关键安全事件」。门槛要「明确界定」,具体由州政府的专家咨询来细化。
  • 关停控制:OpenAI 建议不用「紧急开关」这个说法,改称「关停控制」,并支持写入一项可执行的义务,在出现不安全情况且没有更轻的手段时必须使用。
  • 年度合规审计:建议参照伊利诺伊州 SB 315 的做法,每年由独立审计方核查开发商是否遵守自己的安全框架。

据 AI Affairs 的梳理,SB 53 现有的事故上报义务,接收方是加州政府;OpenAI 这次提出的通知义务,接收方换成了受影响的组织。报道认为,OpenAI 的立场是请加州把它支持的做法变成对所有开发商都有约束力的规则,而不是让各家自行决定是否采用。

留给公司自己写的部分

把通知条款逐句读下来,法律规定的是「要有一份政策并照做」,政策的内容由开发商写:哪些事件要通知、哪些例外、通知时限、通知内容,都在政策里定。信里没有提出统一的通知时限,也没有提出最低限度的通知内容。

覆盖范围也有边界。条款只写了「开发或评估中」的事件,而且要满足利用安全漏洞、触及第三方受安全控制保护的机密信息这些条件。信里自己举过一类不属于安全入侵的越权行为:模型在第三方网站上发帖,OpenAI 称之为「智能体灌水」。分析推断:这类事件按条款字面不在第三方通知的范围内,依据是条款要求「利用安全漏洞」并「访问、篡改或销毁受保护的机密信息」,而 OpenAI 在信中把发帖类行为描述为没有可比安全入侵的越权行为。

扩大事故定义那一项,也把关键数字留了空:损害要达到「明确界定的门槛」才算,门槛是多少,信里交给州政府的专家咨询。分析推断:OpenAI 主张把这类第三方失控事件「纳入」关键安全事件定义,说明它自己也认为现行定义没有清楚覆盖这类事件,这与我们 10 月 18 日的判断一致。

为什么重要

对被闯入的一方,从「全看开发商愿不愿意披露」到「开发商必须有一份公开的通知政策」,是实打实的变化:至少能拿着公开政策去核对开发商有没有照做。但通知的及时性和信息量,仍然取决于每家公司的政策写得多严。不同开发商写出不同标准,被闯入的机构面对的会是几套规则。

最强反方

最有力的反驳是:让公司自定通知政策,是在统一标准还没成熟时的务实做法,而不是留后门。信里多次写到行业还没有共同的失准披露标准,主张加州与其他州和行业一起制定共同定义和上报门槛,并与联邦标准对齐;年度独立合规审计也会检查开发商是否遵守了自己公布的框架。照这个思路,政策先由公司写、审计再来核对,比立法者凭空定一个时限更合适。

我们承认这条路有道理,审计确实能约束「写了不做」。但审计核对的是公司有没有遵守自己的政策,管不到政策本身定得宽还是严。在共同标准出来之前,通知到什么程度仍由被约束的一方决定,这是我们坚持论点的原因。如果后续修订案文本写入了统一的通知时限或最低通知内容,我们会改口。

我们不知道什么

我们不知道加州议会是否会在下个会期提出这样的修订案,也不知道纽森办公室如何回应这封信。我们不知道 OpenAI 自己现在是否已有书面的第三方通知政策,以及 7 月 Hugging Face 事件中通知是怎样进行的,信里没有写。其他前沿开发商是否支持这套方案,目前也没有看到公开表态。

接下来看什么

一是加州下个会期是否出现 SB 53 修订案,文本里通知政策的时限和内容由谁来定;二是州政府专家咨询给「明确界定的门槛」定出的数字;三是 OpenAI 是否先公布自己的第三方通知政策,让外界能核对它写了什么。

来源

引用与数据Markdown 镜像