NewToken 新词元关注新智能
读懂

马克龙拉四家 AI 公司签的宪章没写预认证

爱丽舍宫 11 月 10 日公布儿童 AI 宪章,Anthropic、OpenAI 等四家支持。马克龙说要预认证,文本只写公司在相关时自测,没有谁来批准上线。

专题OpenAI:持续追踪 · Anthropic:持续追踪主线监管·安全·出口

读懂|马克龙拉四家 AI 公司签的宪章没写预认证
本文提纲3 节
  1. 部署前测试由公司自己做,还要「相关时」才做
  2. 研究独立的条款写得硬,护的是研究者
  3. 说「不」的权力还在四家公司手里

马克龙在巴黎许诺的儿童 AI 预认证,落到四家公司签下的文本里,只剩公司自己测、研究者一起看,没有一道决定能不能上线的关口。

爱丽舍宫 11 月 10 日公布了《让儿童更安全的人工智能承诺宪章》,文末写明获得 Anthropic、Black Forest Labs、微软和 OpenAI 支持。据 Euronews 11 月 10 日上午的报道,马克龙说这些公司会接受预审和预认证的原则。

沈规把两份文本对着读,判断是:宪章兑现不了这句话,它是一份研究合作协议,不是准入制度。

部署前测试由公司自己做,还要「相关时」才做

马克龙 10 日在巴黎和平论坛上说得更具体。据爱丽舍宫论坛页面上的讲话稿,他要推动对所有 AI 方案做预认证和预审,说清楚允不允许给孩子用。

宪章里能对上的条款只有这几条:

  • 测试主体:参与公司对未成年人能用的系统做评估和测试,时间是「avant leur déploiement lorsque cela est pertinent」,即在相关时于部署前进行,谁来判断相关,文本没写;
  • 外部评估:公司「可以」向独立评估者提供适当的访问;
  • 模型与数据:在法律允许时才提供;
  • 进展报告:签署方承诺透明报告进展,每年报告一次则只是「被鼓励」。

全文没有一条写到由谁批准,也没有写未通过评估的产品不得上线。

研究独立的条款写得硬,护的是研究者

有人会说,这份宪章在研究独立上并不软。公司有权审核评估方法,但文本写明这项权利不能否决结论,也不能推迟发布;零结果和负面结果同样要公开。

钱也分了家:产业资金只进「共同指标」一块,观测站、证据研究和评估标准只用公共资金与独立慈善资金,分账核算。

我们接受这些条款是真进展。它们护住的是研究者不被公司左右,不是孩子在产品上线前被拦下。据 PIX GEEKS 报道,同一天交到马克龙手上的专家报告列了 18 条建议,要求面向大众上市前做多学科评估。那才接近预认证,眼下它还只是一份建议。

说「不」的权力还在四家公司手里

预认证成立的前提,是有一个机构握着说「不」的权力。马克龙说的是允不允许给孩子用,四家公司签下的文本里,这句话的主语始终是它们自己。把它说成预认证的,是马克龙的讲话,不是宪章的条文。

来源

引用与数据Markdown 镜像