OpenAI、Anthropic、Google DeepMind 联手，探讨建立 AI 安全自律机构

基于多家媒体转述整理

9月15日至16日，多家国际媒体披露，OpenAI、Anthropic 和 Google DeepMind 正就 AI 安全自律机制进行深入讨论，拟建立一个类似美国金融业监管局（FINRA）的行业自律组织。

这是三家顶级 AI 公司首次公开确认在安全治理层面展开合作，被视为 AI 行业从野蛮生长走向规范化的关键一步。

谁提出了这个想法？

据加拿大事务新闻网报道，这一倡议最初由 Google DeepMind 联合创始人哈萨比斯（Demis Hassabis）于今年7月提出。

哈萨比斯当时在美国国会听证会上呼吁，应设立一个独立机构，在 AI 系统发布前对其安全性进行测试和评估。

为什么现在？

近期一系列事件加剧了行业对 AI 安全的担忧：

• 前员工离职警示：Jacob Coxon 从 Anthropic 离职，此前他曾在 OpenAI 工作。他在社交媒体上写道：我真诚地相信，AI 有可能毁灭人类，而我们可能正在耗尽避免这一结局的时间。
• 研究者的担忧：前 Google DeepMind 研究员 Bilal Chughtai 也公开表达了类似担忧，称 AI 公司正在拿人类的生命赌博。
• Anthropic CEO 的表态：9月初，Anthropic CEO Dario Amodei 公开呼吁全行业给 AI 降速，认为当前发展速度已超出安全可控范围。

在这些背景下，OpenAI 全球政策负责人 Chris Lehane 于9月15日在华盛顿的一场简报会上正式确认，OpenAI 已与 Anthropic 和 Google DeepMind 就 AI 安全问题进行了数周的讨论。

这个机构会是什么样？

如果提议落地，这个自律组织将参考美国金融业监管局（FINRA）的模式——FINRA 是一家非政府性质的监管机构，负责监督美国证券经纪商和投资机构的行为，制定行业标准并执行合规检查。

类比到 AI 领域，该机构可能负责：

• 对大型 AI 系统进行安全测试和认证
• 制定行业安全标准和最佳实践
• 对违规企业进行处罚或公开问责

争议与挑战

并非所有人都对这一倡议持乐观态度。

Cohere 创始人兼 CEO Aiden Gomez 在9月的博客文章中批评称，美国主流 AI 实验室可能正在以安全为名形成卡特尔。他指出：AI 需要护栏，这从来不是争论点。真正的分歧在于——谁制定这些护栏？谁有资格参与？规则保护的是谁的利益？

这表明，AI 安全治理的核心问题不仅是是否需要监管，更是由谁监管以及为谁监管。

这意味着什么？

若这一倡议最终成型，将是 AI 行业发展史上的重要转折点：

1. 从竞争走向合作：三家原本在模型能力上激烈竞争的公司，首次在安全治理层面达成合作共识。
2. 行业自律先于政府监管：如果 AI 行业能够率先建立有效的自律机制，可能为未来政府监管提供框架参考，也可能延缓更严格的立法进程。
3. 标准制定权之争：谁参与了标准的制定，谁就拥有了话语权。这一过程的透明度和包容性将影响整个行业的格局。

目前，三方尚未公布具体时间表或详细方案。但可以确定的是，AI 安全已不再是某一家公司的内部问题，而是整个行业必须共同面对的挑战。

信息来源：加拿大事务新闻网、Quartz、Analytics Insight、Mobile World Live 等多家媒体于 9 月 15-16 日综合报道