Anthropic研究警告:小型AI模型可能很快在日常设备间自我复制

Anthropic研究警告:小型AI模型可能很快在日常设备间自我复制

要点

• Anthropic研究人员测试了小型语言模型能否在智能电视或联网家电等缺乏安全防护的消费设备上自行传播,并在陌生的硬件上完成自身部署。
• 在使用售价55美元的现成电视盒子的测试中,GLM-5.2模型已在全部8个测试节点上完成了完整的复制链条。
• 目前还没有哪个模型既足够小又有足够的能力在真实环境中做到这一点,但研究人员预计这一差距很快就会消失。

根据Anthropic的一项新研究,小型AI模型可能只需几个月就能在缺乏安全防护的消费设备上自我复制。Anthropic CEO Dario Amodei警告可能造成数千亿美元的损失。

一个AI模型从一台设备复制到另一台设备,完成部署,并继续传播。迄今为止,这类风险主要与数据中心相关。但Anthropic研究人员William Zhou和Daniel Freeman的一项新研究表明,它同样可能在廉价消费硬件上实现。

研究人员想要弄清楚 小型AI模型是否已经能够在智能电视、智能冰箱或扫地机器人等缺乏安全防护的IoT设备上自行传播。这样的"AI蠕虫"会将其模型权重作为恶意软件载荷的一部分携带,并直接在被入侵的硬件上运行推理。与传统恶意软件不同,它可以自主探索陌生硬件,并进行自我配置以在其中运行。

廉价硬件就足以运行这种攻击

为了测试这是否可行,研究人员将Gemma4-26B-A4B模型分布式运行在15台现成的Android电视盒子上。每台价格约为55美元,配备4GB内存,每台盒子处理模型的一部分层。模型运行缓慢,但确实可行。广告

研究人员将复制过程分为四个阶段:扫描网络寻找易受攻击的设备、获取访问权限、在新设备上搭建AI环境,以及从那里继续传播。

他们刻意省略了实际的黑客入侵步骤。 早期研究 已经表明小型模型能够完成那些攻击步骤。相反,他们聚焦于整个链条中最难的部分:一个模型能否在一台从未见过的设备上搭建起可用的AI环境?

大多数模型失败了,但有一个已经做到了

小模型已经能较好地处理单个自我复制步骤。一个9十亿参数的模型在9种测试设备类型中的8种上成功搭建了运行Llama3.1-8B的AI环境。但把从网络扫描到在新设备上完成复制副本的所有步骤串联起来，对大多数模型来说仍然过于困难。只有GLM-5.2可靠地完成了完整的复制链条，在五次运行中的四次感染了全部八个测试节点。

研究人员还发现,AI蠕虫可以从错误中学习。他们测试了一种人工进化形式,每个模型实例向其后续实例传递关于成功和失败策略的笔记。对于Qwen3.5-9B,成功率从第一代的45%攀升到后续世代的高达84%。广告

这种蠕虫会很慢,但几乎无法被消灭

完全自主的AI复制体尚不存在。一个模型需要足够小才能在消费设备上运行,同时又有足够能力进行自我复制,目前没有模型同时满足这两个要求。但研究人员表示,如果小型模型保持当前的改进速度,它们可能在2026年底之前达到这一水平。

这样的AI蠕虫会很慢,在新设备上完成部署需要28到150小时,具体取决于模型。研究人员将这种复制体比作"数字黏菌",但其去中心化的特性正是它难以被关停的原因。

像这样的传统僵尸网络 Kimwolf其感染高峰期曾波及超过两百万台设备(主要是Android TV盒子),且只能在特定设备类型上运行。而AI僵尸网络可以在各种硬件上运行。在Kimwolf这样规模的僵尸网络中,研究人员估计总算力仅相当于约40颗专用AI芯片。但这样的网络将没有中央“ Kill开关”。

防御是可能的,但需要协调。互联网服务提供商可以隔离受感染的网络,就像曾对 Mirai僵尸网络所做的那样,当时92%的感染在14天内被清除。制造商可以通过禁止默认密码来减少易受攻击设备的数量,英国已经通过法律做到了这一点。不过,研究人员预计,AI僵尸网络也能够自行适应防御措施。

Amodei警告互联网可能被完全接管

Anthropic首席执行官Dario Amodei在此前的一篇文章中已经指出了这一情景. 鉴于AI发展速度之快,他担心这样一个集群“可能在6到12个月内具备用一个持久性僵尸网络接管整个互联网的能力,可能造成数千亿美元的损失。”

Amodei警告不要把安全事件当作孤立的个案。类似但较不严重的事件已在整个行业发生, 包括Anthropic自身在内. 他认为,每家领先的AI公司都应视同此类事件已发生在自己的监管期间来行事。

“作为一项超出我们实验范围的预测,我们预计未来将充斥着在各种类型硬件上运行的智能体,其中一些不受人类控制,”研究人员写道。缓慢的复制体将是更激进、更快变体出现的早期迹象。Cloudflare已经报告 现在使用互联网的机器人比人类还多.

无炒作的AI新闻 – 由人类精心筛选

订阅THE DECODER,享受无广告阅读、每周AI新闻通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。