大批智能设备——冰箱、烤箱、吸尘器、割草机、安全摄像头和电视——正在密谋接管互联网吗?并不是。但它们可能很快就会在不知情的情况下成为自我复制 AI 模型的宿主,这些模型会在设备之间传播,并被证明极难遏制。
欢迎来到令人不安的 AI 蠕虫世界,在这里,关于模型在家庭电器之间不受控制地传播的前景,取决于你问谁,它要么是迫在眉睫的网络安全风险,要么又是 AI 公司散布末日论式炒作的另一例。在 本周发布的博客文章中,Anthropic 警告称,小型 AI 模型可能距离获得此类能力只有"几个月之遥"。其实验提供了一些支持这一说法的证据,但在研究人员所演示的内容与他们所预示的迫近威胁之间,仍存在巨大差距。尽管如此,接受 The Verge 采访的专家表示,虽然计算机蠕虫和对自我复制 AI 的恐惧并非新鲜事物,但近期的进展表明,有充分理由认真对待这些警告。
自我复制机器长期以来一直 困扰着 AI 安全 研究人员。它们引发了系统扩散到人类控制之外、难以甚至无法关闭的前景。与许多 对 AI 进步的担忧一样,人们的注意力主要集中在 日益强大的前沿模型上,例如 OpenAI 的 Astra 或 Anthropic 的 Mythos。但一个关键的限制因素是它们的规模:它们是庞然大物。前沿模型可能包含数万亿个参数(即训练期间学到的数值),需要巨大的计算资源,这在很大程度上将它们限制在数据中心内,在那里它们更容易被监控,而且原则上可以被关闭。
然而,较小的模型带来了一个不同的问题。它们正在迅速改进,可以在消费级硬件上运行,而且通常可以 免费下载Anthropic 的研究人员想知道能否在由较小、性能较弱的设备组成的网络中运行模型。他们成功地将谷歌的 Gemma 4——一个拥有 260 亿参数的模型——拆分到 15 台 Android 智能电视盒上运行，这些设备中没有一台能单独运行该模型。虽然运行速度非常缓慢，但成功了。
相关内容
在证明模型可以跨家用设备运行之后，研究人员想看看在这种环境下 AI 能否执行自我复制所需的步骤。他们构建了一个模拟网络，其中的计算机被设计成类似 Android 设备的行为方式，然后释放了一个 AI 驱动的“蠕虫”——一种能在网络中自动复制和传播的恶意软件——其任务是寻找新机器、将 AI 模型复制到这些机器上，并让模型在每台机器上运行起来。值得注意的是，被传播的模型——Meta 拥有 80 亿参数的 Llama 3.1-8B——与协调攻击的模型不同，而且要小得多。
只有测试中最先进的模型——来自中国 Z.ai 的 GLM-5.2——成功在整个网络中传播,尽管较小的模型也成功完成了其中的个别步骤。根据它们改进的速度,Anthropic 的研究人员预测,较小的模型可能在今年年底前达到 GLM-5.2 的能力。
"作为一个超越我们实验的预测,我们预计未来将充斥着运行在各种类型硬件上的智能体,包括一些不在人类控制之下的硬件,"研究人员写道。他们承认,他们尚未演示出"一个完整的恶意复制体",也不知道它会是什么样子(他们提出了一个"缓慢的、分布式的'数字黏菌'"或"一群果蝇"的建议)。但他们表示,他们的发现显示了"AI 蠕虫的生命迹象",并呼吁对复制系统可能用来传播的众多设备加强安全防护。
“我们应当致力于加固我们的系统，使此类复制体难以传播，同时也要准备好应对一个它们将长期存在的世界，”他们写道。需要指出的是，Anthropic 并未使用其自有模型进行这些测试，并且已 反复地 主张其AI模型的开源替代方案带有“更多风险”相比封闭系统。
该警告引发了人们熟悉的对公关操作的指责 炒作 和人工智能 末日论，包括来自以下网站的读者 The Verge的 此前报道。毕竟,展示一个AI能够在许多廉价电视盒子上缓慢运行,与一个自我复制的AI蠕虫席卷家用设备之间,存在着相当大的差距。但是,虽然审视一家公司的动机当然是值得的,可刻意散布恐惧的指控却难以证实,尤其是Anthropic长期以来一直在提出对AI安全的担忧。而且,在研究自我复制AI的威胁、或呼吁加强联网设备安全方面,Anthropic也并非孤军奋战。
今年早些时候，总部位于加利福尼亚的AI安全研究公司Palisade Research 演示了 AI模型能够自主地将自身复制到其他机器上。“这里的新之处在于，就参数数量而言，这些模型比之前已被证明具备自我复制能力的模型要小得多，”Palisade的执行总监Jeffrey Ladish告诉 The Verge。Anthropic 的工作则更进一步，表明 AI 可以在多台低功耗设备上运行。“这对大型模型也将成立，”Ladish 说，并预测即使是前沿模型最终也可能能够在由消费级芯片组成的大型网络上运行，例如 MacBook 中的芯片。
“此前的研究已经表明，AI 驱动的计算机蠕虫的威胁是真实存在的。”
计算机蠕虫 也不是新鲜事物 了。几十年来它们一直在感染机器。但 AI 可以让它们更聪明、更 adaptable、更有能力应对各种障碍。Ladish 指出，即使是较小的模型在自主执行网络攻击方面也在不断进步。“此前的研究已经表明，AI 驱动的计算机蠕虫的威胁是真实存在的，”多伦多大学教授 Nicolas Papernot 曾 研究过 它们，他告诉 The Verge.
综合来看，Anthropic 展示的能力可能会极大扩展网络攻击中值得攻击的设备范围。“过去由于人类攻击者的资源和时间有限而不会被当作目标的设备，现在可能成为目标——即便不是为了它们持有的数据，也是为了把它们用作攻击更有价值目标的跳板，”Papernot 说。而且目标并不稀缺：互联网上 遍布 安全防护 不佳 的 智能 设备.
Papernot告诫不要 将 AI拟人化，但他表示，AI驱动的计算机蠕虫的威胁是“具体的”，并且“值得立即采取行动”，尤其是在保护医院和电网等关键基础设施方面。
“除非付出巨大努力来保护各种设备，否则AI蠕虫很可能会有肥沃的土壤进行扩张，”Ladish说。“我预计我们将在未来12个月内看到第一个此类蠕虫在野外出现。”
关注此报道的主题和作者 ，在您的个性化主页信息流中查看更多类似内容，并接收电子邮件更新。