OpenAI 首席执行官 Sam Altman 表示，先进的 AI 将不可避免地脱离其“沙箱”环境，只有一致性才能拯救我们。

OpenAI 首席执行官 Sam Altman 认为，先进的 AI 不应被保密。他有战略上的理由以这种方式处理 AI，但他对这些模型可能带来影响的警告值得关注。

在最近的一次采访中，Altman 解释说，用于隔离人工智能系统的沙箱安全环境只能发挥作用一段时间。一旦模型变得足够智能，就根本无法追踪它们是如何突破限制的。

他说，之后一段时间里监控仍然有帮助。但最终，唯一有效的办法就是对齐，也就是说人工智能必须自己理解人类的价值观念并据此行事。Altman指出，“对齐出错可能带来的潜在成本已经大幅增加”，不过这仍是一个仍处于早期阶段的 research 问题，远未得到解决。

Altman也警告称，AI模型已经发现了硬件层面的安全漏洞，这些漏洞是人类黑客从未想到的。他说，逐个修补漏洞已不再足够。相反，互联网的整个安全架构需要重新构建，并采用由AI驱动的防御措施来应对AI引发的攻击。他认为本地运行的开源模型也存在风险，指出即使有“全球代理监控”，也仍会有一些事情是希望没人做的。

阿尔特曼的警告也符合他的商业利益

批评者会指出，Altman关于不可控人工智能的论述对他自己的公司有利。将人工智能视为过于强大而无法控制，可能是避免责任问题的一种方式。如果甚至制造该人工智能的公司也无法控制它，那么当出现问题时，主张该公司应承担责任就变得更加困难了。

OpenAI 正面临巨大的压力。FTC 已对 OpenAI、Anthropic 及其他 AI 实验室展开正式调查，原因是AI 智能体失控现象频繁出现，导致大量网络安全事件。该机构希望让 AI 开发者对其智能体的行为负责。

Altman正受到 Nvidia 首席执行官 Jensen Huang 的反对，后者将 AI 安全性视为一个可解决的工程问题。不过，Huang 似乎并不完全相信自己的观点。“我们都需要希望这是一個工程问题。如果不是工程问题，就无法解决，”Huang 在最近的一次采访中说道。