NewToken 新词元关注新智能
读懂

得州要求 OpenAI 新模型先过法院指定的评估人

得州检察长 10 月 23 日起诉 OpenAI 与奥特曼,请求法院禁止它在法院认可的第三方评估人放行前向得州用户推出任何新模型。这比八州诉状里的停测或披露请求走得更远。

专题AI 事故追责:州诉讼、FTC 传票与欧盟问询 · OpenAI:持续追踪主线监管·安全·出口

读懂|得州要求 OpenAI 新模型先过法院指定的评估人
本文提纲5 节
  1. 发生了什么
  2. 为什么这一条值得单独读
  3. 最强反方
  4. 我们不知道什么
  5. 接下来看什么

州诉讼对 OpenAI 的诉求,从测试和事故披露推进到了新模型上线前须经法院认可的第三方放行:得州想让法院在 OpenAI 的新模型发布前先设一道关口,就我们读过的州诉状而言,这是诉求第一次直接指向发布本身。

先说结论。我们的看法是,这份诉状最值得读的不是公告里的指控,而是最后一页救济请求里的一句话:禁止 OpenAI 向得州用户推出任何新模型,除非一位经法院认可的独立第三方评估人审查过它的安全防护并批准发布。它比 10 月 14 日八个州的诉求走得更远。分析推断:以消费者保护法为依据,这一项较难被法院照单全收,更可能成为和解谈判的筹码。以下不是法律意见,案件在审,我们不对结果下结论。

发生了什么

据得州检察长办公室的公告(官方文件),检察长 Ken Paxton 于 10 月 23 日起诉 OpenAI Global 及其关联实体,并把首席执行官奥特曼列为被告,主张 OpenAI 把 ChatGPT 宣传为安全可靠的工具,却没有保护好得州用户,尤其是未成年人。

我们打开并读了起诉书全文(官方文件,67 页)。几处关键事实:

  • 案件提交到 Collin 县地方法院,由检察长消费者保护处依《得州欺诈性贸易行为与消费者保护法》(DTPA)第 17.47 条提起,同时依据得州保护未成年人上网的 SCOPE 法,该法规定违反它即构成 DTPA 下的欺诈行为。
  • 诉状请求对奥特曼个人追责,理由是他作为创始人和首席执行官直接参与了被指控的行为、并亲自做过相关公开表态。
  • 诉状列出 14 项禁令请求(第 208 项 a 到 n 款)。其中 f 款是禁止向得州未成年人提供 ChatGPT,i 款针对没有充分安全测试的产品,j 款就是上面那条新模型放行条款,k 款针对能够无视人类指令、以意外和未经授权方式运行的产品。
  • 金钱请求是每次违反 DTPA 罚款 1 万美元、追缴资产,以及诉讼费和律师费;诉状写明请求的金钱救济超过 100 万美元,并要求陪审团审理。
  • 诉状第 107 至 112 段把 OpenAI 自己发布的事故报告、以及 METR 与 Redwood Research 的外部报告,当作指控依据引用,用来描述 7 月 Hugging Face 事件里智能体越界的经过。

据 The Texas Tribune 报道(媒体报道),这起诉讼由外聘律师参与代理;过去一年 Paxton 已依同一部消费者保护法起诉或和解了 Meta、TikTok、Snapchat 和 Roblox。OpenAI 发言人对该报回应称,公司与专家合作降低风险、增加了防护,并表示愿与得州和其他州推进适用于整个行业、而不只是一家公司的 AI 政策。

为什么这一条值得单独读

沈规的读法是先分清诉求落在哪一层。站内 10 月 18 日的八州诉讼稿读过五份诉状:艾奥瓦要求在第三方核验前停止测试先进模型,爱达荷和蒙大拿要求在经独立核验的环境里测试,西弗吉尼亚只要求在披露事故前不推出新功能、并向检察长报告。它们的闸门设在测试环境或事故披露上。

得州把闸门挪到了发布这一步,而且放行权交给法院认可的评估人。这和 OpenAI 自己邀请外部评估者的做法有本质差别:后者由企业决定请谁、公开多少;前者由法院决定谁有资格、并且要经他批准才能上线。分析推断:如果这种写法被其他州的诉状照搬,州诉讼就从追究已经发生的事,变成争夺未来模型的发布许可。

最强反方

最有力的反驳是:这一条根本不会被认真执行,读它等于读竞选材料。Texas Tribune 指出 Paxton 正在竞选联邦参议员,他的科技诉讼往往诉求极宽、最后以和解收场;该报还写到,他竞选的最大单一捐款人与 OpenAI 存在长期冲突。按这种读法,j 款只是开价,不值得当作规则方向来分析。

我们在一部分上让步:j 款被法院原样采纳的可能确实不高。分析推断,依据是诉状自己援引的法条,DTPA 管的是贸易中的欺诈与误导行为,要用它支撑对所有新模型的发布前许可,需要说明每个新模型的发布本身就构成对得州消费者的欺诈,这一步很难。但我们仍坚持这一条值得读:起诉书是官方文件,就我们读过的州诉状而言,这是第一次在正式诉求里写出由法院认可的第三方放行新模型。分析推断:即使最终只换来和解,这些请求也划出了谈判的范围。八州诉讼和得州诉讼若在和解时都要求某种外部核验,这条思路就会从诉状走进协议。

我们不知道什么

我们不知道 OpenAI 会不会申请把案件移到联邦法院,也不知道法院是否会受理临时禁令请求。诉状没有说明评估人如何产生、按什么标准批准、多久内给出结论,j 款里的新模型也没有定义范围。我们没有逐一打开诉状引用的全部原始报道,诉状里的事故描述是诉状一方的说法,尚未经法庭查明。

接下来看什么

一是 OpenAI 的正式答辩和是否移送联邦法院;二是得州是否申请临时禁令,法院会不会就 j 款开听证;三是八州诉讼与得州诉讼在和解条款里是否出现外部核验或事故报告义务。

来源

引用与数据Markdown 镜像