冷蔵庫、オーブン、掃除機、芝刈り機、防犯カメラ、テレビといった大量のスマートデバイスが、インターネットを乗っ取ろうと謀っているのだろうか? 答えはノーだ。しかし近い将来、デバイスからデバイスへと広がり、封じ込めるのが驚くほど困難であることが判明する自己複製AIモデルの、意に介さない宿主になる可能性はある。
ようこそ、不穏なAIワームの世界へ。誰に尋ねるかにもよるが、そこでは家庭用機器の間を制御不能に広がるモデルの可能性は、差し迫ったサイバーセキュリティのリスクであるか、あるいはAI企業が広める終末論的な誇大宣伝のもう一つの例であるかのどちらかだ。 今週公開されたブログ記事で、Anthropicは小規模なAIモデルがそうした能力を獲得するまで「あと数ヶ月」かもしれないと警告している。同社の実験はこれを裏付けるいくつかの証拠を示しているが、研究者らが実証したことと彼らが予言する差し迫った脅威との間には大きな隔たりが残る。それでも、 The Verge の取材に応じた専門家たちは、コンピュータワームや自己複製AIへの懸念は目新しいものではないものの、最近の進歩を踏まえればこうした警告を真剣に受け止める十分な理由があると述べている。
自己複製機械は長らく AI安全性 研究者たちを 悩ませてきた。それは人間の制御を超えて広がり、 shut downするのが困難ならぬ不可能ですらあるシステムという可能性を提起する。 AIの進歩に関する多くの懸念と同様に、注目は主にOpenAIのAstraやAnthropicのMythosといった ますます強力なフロンティアモデルに向けられてきた。しかし重要な制約要因はそのサイズだ。フロンティアモデルは巨大であり、訓練中に学習された値であるパラメータを数兆個含む可能性があるため、膨大な計算資源を必要とし、その多くはデータセンターに限定されている。データセンターならより監視しやすく、原理的には電源を切ることもできる。
しかし、より小さなモデルは別の問題を提示する。それらは急速に向上しており、コンシューマーグレードのハードウェアで動作でき、しばしば 無料でダウンロードできる。Anthropicの研究者たちは、より小さく性能の低いデバイスのネットワーク全体でモデルを実行できるかどうかを知りたがっていた。彼らは、260億パラメータを持つモデルGoogleのGemma 4を、単体ではいずれも実行するのに十分な性能を持たない15台のAndroidスマートTVボックスに分割して実行することに成功した。非常に遅かったものの、うまくいった。
関連記事
モデルが家庭用デバイスのネットワーク全体で実行できることを示した後、研究者たちはそのような環境でAIが自己複製に必要な手順を実行できるかどうかを確かめたかった。彼らはAndroidデバイスのように振る舞うよう設計されたコンピュータのシミュレーションネットワークを構築し、次に、新しいマシンを探し出し、AIモデルをそこにコピーし、それぞれで実行させるという任務を課したAI駆動の「ワーム」(ネットワーク全体に自動的に複製・拡散するマルウェアの一種)を解き放った。注目すべきは、伝播されるモデル(Metaの80億パラメータのLlama 3.1-8B)が攻撃を指揮するモデルとは異なり、はるかに小さかったという点だ。
テストされた中で最も高性能なモデルである中国のZ.aiのGLM-5.2だけがネットワーク全体に広がることに成功したが、より小さなモデルも個々のステップはやり遂げた。向上の速さに基づき、Anthropicの研究者たちは、より小さなモデルが年内にGLM-5.2の能力に匹敵しうると予測している。
「実験を超えた予測として、人間の制御下にないものも含むあらゆる種類のハードウェア上で動作するエージェントが溢れる未来を予期している」と研究者たちは書いている。彼らは「完全な悪質な複製者」をまだ実証していないこと、またそれがどのようなものになるかも知らないことを認めている(彼らは「緩慢で分散化した『デジタルの粘菌』」や「ショウジョウバエの群れ」を提案している)。しかし彼らは、自分たちの知見が「AIワームの生存の兆候」を示していると述べ、複製システムが拡散に利用しうる多くのデバイスに対してより強固なセキュリティを求めた。
「このような複製者が拡散しにくいようシステムを強化することを目指すべきだが、同時に、それらが常態化した世界に対応する備えも必要だ」と彼らは書いた。なお、Anthropicはこれらのテストに自社のモデルを使用しておらず、~ 繰り返し 自社のAIモデルに対するオープンな代替について「より大きなリスク」よりも優れているという。
この警告は、いつものようにPRを巡る非難を呼び起こした ハイプ 「およびAI」 悲観論、以下の読者からのものを含む The Verge’s 関連報道。結局のところ、安価なテレビボックスの数台でAIがゆっくり動作できることを示すことと、家庭内の機器を食い荒らす自己複製AIワームとは、大きな隔たりがある。しかし、企業の動機を問うことは確かに価値がある一方で、意図的な恐怖を煽ったという主張を実証することは難しい。特にAnthropicは長年にわたりAIの安全性に関する懸念を提起してきた。また、自己複製AIの脅威を調査したり、接続された機器全般のより優れたセキュリティを求めたりしているのはAnthropicだけではない。
今年初め、カリフォルニアを拠点とするAI安全研究企業Palisade Researchは 実証した AIモデルが自律的に他のマシンへ自分自身をコピーする可能性があるというものだ。「今回新しかったのは、これまで自己複製が可能だと示されてきたモデルよりも、これらのモデルがパラメータ数の点ではるかに小さかったことだ」と、PalisadeのエグゼクティブディレクターであるJeffrey Ladishは語った The VergeAnthropicの研究はこれをさらに一歩進め、AIが複数の低電力デバイス上で実行できることを示した。「これは大型モデルにも当てはまる」とLadishは述べ、最終的には最先端モデルでさえ、MacBookなどに搭載されているような消費者向けチップの大規模ネットワーク上で実行できるようになるかもしれないと予測した。
「先行研究により、AIを活用したコンピュータワームの脅威が現実的であることはすでに実証されていた。」
コンピュータワーム は新しいものではない 「もはや例外ではありません。コンピュータウイルスは何十年にもわたってマシンに感染してきました。しかしAIは、それらをより賢く、より適応力があり、あらゆる障害に対処できるようにする可能性があります。Ladishは、より小さなモデルでもサイバー攻撃を自律的に実行する能力が向上していると指摘しました。「これまでの研究で、AI駆動のコンピュータワームの脅威は現実的であることがすでに実証されていました」と、トロント大学の教授で、これまでに 研究した 彼らに、伝えた The Verge.
これらを総合すると、Anthropicが実証した能力は、サイバー攻撃の標的とする価値のあるデバイスの範囲を劇的に拡大する可能性がある。「限られた人間の攻撃者のリソースと時間のせいでこれまで標的ではなかったデバイスも、そのデバイスが保持するデータのためでなくても、より価値の高い標的を攻撃するための踏み台として利用する目的で、標的となりうる」とPapernot氏は述べた。そして標的は尽きることがない。インターネットは viがhsjا と 不完全 確保された スマート デバイス.
Papernotは警戒を促した。 擬人化 AIについてのものだが、AI駆動のコンピュータワームの脅威は「具体的」であり、「即座の対応に値する」、特に病院や電力網といった重要インフラの保護に関しては、と述べた。
「あらゆる種類のデバイスを確保するための大規模な取り組みがなければ、AIワームが繁殖して定着する肥沃な土壌ができる可能性がかなり高い」とLadish氏は述べた。「今後12か月以内に、この種のものが初めて実際に姿を現すと予想している。」
トピックと著者をフォローする この記事から、パーソナライズされたホームページのフィードでこれと同じような記事をもっと見たり、メールによる最新情報を受け取ったりできます。