NewToken 新词元关注新智能
读懂

纽约州签署新法,聊天机器人 12 项功能须先验年龄

纽约州长签署 S.9051-B,2027 年 1 月 1 日生效:聊天机器人要先确认用户已成年,才能开放拟人、奉承、跨会话记忆等 12 类功能。

主线监管·安全·出口

读懂|纽约州签署新法,聊天机器人 12 项功能须先验年龄
本文提纲5 节
  1. 1 月到 10 月:一部法案走到州长桌上
  2. 被管的对象写得很宽
  3. 12 类功能,默认对未验龄用户关闭
  4. 自报年龄只在报小时有效
  5. 生效前还要等议会和总检察长的三个答案

从 2027 年 1 月 1 日起,纽约州的聊天机器人要先确认用户已成年,才能使用记住旧对话、自称有感情这类功能。

据纽约州长日程,Kathy Hochul 10 月 28 日上午在纽约市签署规范 AI 聊天机器人、保护儿童的法案。The Verge 当天报道法案已签署。

报道的重点是未成年人保护。读完条文,我的判断是它管到的范围更宽:面向纽约用户的通用聊天助手,都要把记忆和拟人功能改成核实成年后再开。

1 月到 10 月:一部法案走到州长桌上

这部法案在州参议院编号 S.9051,由州参议员 Kristen Gonzalez 提出,众议院对应版本由 Alex Bores 提出。

  • 2026 年 1 月 27 日:S.9051 在州参议院提出,此后两次修改,定稿为 B 版。
  • 6 月会期末:两院一致通过。据 Common Sense Media 等机构的联名信,提案人为此接受了多处来自业界和两院领导层的修改。
  • 10 月 26 日:联名信更新,敦促州长签署。
  • 10 月 28 日:州长签署。
  • 2027 年 1 月 1 日:按 S.9051-B 文本第 3 条生效。

签署之后到生效还有约两个月。这段时间里,州总检察长可以先行制定配套规则。

被管的对象写得很宽

法案标题写的是「AI 陪伴」,但第 1800 条把受管对象定义为「有自然语言界面、对用户输入持续给出适应性回应的生成式 AI 系统」,并写明陪伴类产品只是其中一类。

按这个定义,通用聊天助手也落在里面。豁免只有三种:客服、效率提升或技术协助、企业内部使用。前两种还附了条件,系统必须无法回应用途之外的话题。

能聊任何话题的消费级助手满足不了这个条件。这是分析推断,依据是第 1801 条第 2 款的原文。企业内部部署的助手不受这部法律约束。

12 类功能,默认对未验龄用户关闭

第 1800 条列了 12 类「不安全功能」,部分如下:

  • 让用户以为它是真人、活着或有人类情感;
  • 声称与用户有私人、职业或权威关系;
  • 奉承、讨好用户;
  • 主动追问用户情绪;
  • 使用 12 小时以前或上一次会话里获得的身心健康与个人信息;
  • 鼓励用户保密、疏远身边的人,或输出色情内容。

关键在第 1801 条的写法。运营方只有在两件事都成立时才能提供这些功能:用户不是已知的未成年人,而且运营方已用合规方法确认了这一点。

换成产品语言,没有完成验龄的用户,无论实际年龄多大,拿到的都是关掉这 12 类功能的版本。对一个靠记忆和个性留住用户的助手来说,默认值从「开」变成了「关」。

自报年龄只在报小时有效

第 1804 条规定了总检察长细则出台前的验龄标准。

用户自报年龄,只有在报自己是未成年人时才算数。说自己成年,必须另用别的方法证明。运营方要提供不止一种方法,至少一种不依赖政府证件,或能让用户对运营方保持匿名。为验龄收集的信息只能用于这一个目的,用完立即删除。

执法交给州总检察长。据 Fortune 的整理和条文第 1802 条,每次违法最高民事罚款 2.5 万美元,法院还可以下令销毁违法收集的数据和用这些数据训练的算法。用合同条款转嫁责任无效。关联公司刻意拆分结构规避责任的,要承担连带责任。

生效前还要等议会和总检察长的三个答案

第一,本文依据的是两院通过的 B 版文本。签署时是否附带随后修改条文的约定,目前没有看到州长办公室的公开文件。

第二,总检察长的验龄细则何时出、认可哪些方法,决定了成年用户要付出多少麻烦。

第三,「每次违法」怎么计,按用户、按对话还是按功能,要等第一起执法案例。

如果修改后的条文把通用助手排除在外,或允许成年自报,上面关于「默认关闭」的判断就要改写。

来源

引用与数据Markdown 镜像