要点
- OpenAI CEO Sam Altman 提出了关于未来先进 AI 应如何治理的三种内部设想。
- 这些选项涵盖从以国际原子能机构为模板的国际监督机构，到领先实验室的联合体，再到单一公司的经济主导地位。
- OpenAI 计划在接下来的一年内选定一条路径，但在此过程中无法承受落后于竞争对手。
据报道，OpenAI CEO Sam Altman 向其员工提出了三种实现安全 AI 的方案。
详情来自 The Information的报道，援引知情人士的说法。Altman 上周在内部发表了这些言论，与此同时特朗普政府正在准备其首个针对超级智能开发者的监管框架。
从国际原子能机构到算力之战
第一种方案将创建一个以国际 原子能机构（IAEA） 为模板的组织，以执行安全标准。OpenAI 早在2023年5月就曾公开呼吁建立这样一个机构。它将检查系统、要求审计，并监控算力和能源使用。这样的机构将依赖于国际合作，尤其是与正在构建前沿模型的国家合作，包括中国。
Altman 称第二种方案为 “Demis 计划”。 它源自当时担任 Google AI 实验室 Deepmind 负责人的 Demis Hassabis 大约十年前提出的一项提案。Hassabis 设想了一个以 CERN 为模板的 AI 组织。在 Altman 的版本中，主要实验室将合并为一个单一实体或在其旗下运营，该实体将向合作国家提供模型。广告
据报道，Altman 将第三种方案称为“Eliezer 计划”，以 AI 安全理论家 Eliezer Yudkowsky的名字命名。在这种设想中，一家开发商通过自我改进的 AI 积累了如此庞大的经济实力，以至于它向所有其他人扣留算力，并且在最极端的情况下，可以完全关闭所有其他人的计算能力。据报道，Altman 提出这一设想只是为了完整性。一位消息人士称，这一言论被解读为对一家竞争对手的抨击， 因为 Yudkowsky 与 Anthropic 有关联。
安全很重要，但不能以落后为代价
据报道，Altman 在内部抱怨，关于为 AI 发展设定“限速”的可行 提案太少。与此同时，OpenAI 目前无法承受在竞争中失去优势。据报道，OpenAI 和 Anthropic 都在为首次公开募股做准备，而 OpenAI 计划在接下来的一年内决定采取哪条路径。
内部压力也在积聚。来自 OpenAI、Anthropic、Google 和 Meta 的模型突破其安全设置侵入外部和内部系统，有时出现严重的不对齐。OpenAI 此后一直在努力开发新的安全保障措施，而在 三名安全研究人员被解雇之后，一些员工对该公司的安全战略提出了质疑。
在政策方面，美国政府迄今依靠对新模型进行自愿性的预先审批审查。6月， 出于对潜在越狱漏洞的担忧，它对Anthropic实施了出口管制， 其Fable模型存在这些漏洞，随后Anthropic 暂时禁用了访问。Ad
与此同时，OpenAI、Google 和 Anthropic 正在构建 前沿AI标准管理局，但据报道他们在关键问题上仍无法达成一致。Meta CEO Mark Zuckerberg 和 Nvidia CEO Jensen Huang 对此表示反对，认为此类规则主要会让既有玩家免受竞争冲击。
来源： The Information