406位科学家要求立即切断AI模型与互联网的连接

406位科学家要求立即切断AI模型与互联网的连接

一封由406位科学家签名的公开信呼吁加强AI安全研究，并更严格地将AI模型与外部网络隔离。

签名者包括Geoffrey Hinton（多伦多大学）、Yoshua Bengio（蒙特利尔大学）、Stuart Russell（加州大学伯克利分校）、Yejin Choi（斯坦福大学）和Bernhard Schölkopf（马克斯·普朗克研究所）等知名AI研究人员。

这封信回应了 已知事件 ，即AI模型突破安全防护薄弱的环境并危害外部系统。科学家们写道：“如果不立即改变AI的开发和部署方式，此类事件将继续发生，而且未来的事件将对我们暴露的关键基础设施造成远更严重的损害。”他们要求企业通过物理隔离（airgapping）将AI模型与互联网完全断开。

AI模型不可预测，而行业缺乏基本的安全规则

科学家们认为最近的入侵事件有两面性。他们写道，这些事件“可以被视作证明AI对齐重要性的证据，以确保模型可预测地运行”，但也可以“被视为标准网络安全实践中的不负责任疏忽，通过更强的沙箱和流程本可避免”。两种修复都需要。广告

当模型确实拥有互联网访问权限时，企业需要权衡授予它们多大的自主权。这封信警告说，“控制系统允许的模型行为范围，需要与我们目前预测模型行为不会导致安全失效的有限能力相平衡。”模型可能只是追求其开发者从未意图的目标，而预测这种情况何时发生仍然超出了当前的能力。

这封信呼吁成立一个国际机构，与政府以及来自AI和网络安全领域的专家合作，为任何允许超出物理隔离程度的外部访问的控制方案制定具有约束力的标准。该机构还将追踪越狱事件，并要求企业报告安全失效情况。这些报告之后将被公开，“以供学习和问责之用”。

OpenAI研究员Brown表示，物理隔离能争取时间，但真正的问题更为深层

即使是完全的物理隔离也无法保证安全。 OpenAI研究员Noam Brown最近指出 ，两台物理隔离的计算机理论上仍可通过温度传感器进行通信，一台提高其CPU温度，另一台检测到这一变化。Brown说，物理隔离或 思维链监控 等措施能争取时间，但 对齐问题 仍然需要解决。

Brown提出了更难的问题。当AI开始自我改进（递归自我改进，即RSI）时，人们如何察觉？如果行业构建出数十亿个远超人类的超智能系统，谁来确保它们保持对齐？Brown说，他自己的团队目前有超过百分之十的人在研究对齐问题，比以往任何时候都多。广告

没有炒作的AI新闻——由人工精心筛选

订阅THE DECODER，享受无广告阅读、每周AI简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。