IT之家 10月21日の報道によると、Netflixは最近『AI 失控』（AI Gone Rogue）というドキュメンタリーを公開したが、AIプラットフォームHugging Faceの共同創業者兼最高経営責任者（CEO）クレム・デラング（Clem Delangue）氏は、このドキュメンタリーの内容は正確ではないと述べた。自身が同作に出演したのは、もともとこの作品のテーマが、OpenAIの暴走エージェントが同社に対して仕掛けたあの有名な攻撃事件を描くものだったからだという。
IT之家に注意し、デ・ランゲはXプラットフォームでの投稿で次のように述べた：「この作品は非常にがっかりさせるもので、映像はテクノロジーを極力擬人化し、完全に終末論的な語りへと向かっている。私は2時間以上かけて撮影チームと話し合い、すべての誤りを正し、内容を現実に引き戻そうと、エージェントは技術システムであって地球外生命体ではないと彼らに説明した。しかしどうやら、高いトラフィックを稼ぐために意図的に恐怖を煽る動機が上回ってしまったようだ。」
客観的に言えば、このドキュメンタリーには事件の経緯を比較的明確に復元している専門家が確かに登場する。その中にはデロング本人や、事件の調査に参加し報告書の共同執筆も行った METR 研究員のライアン・グリーンブラット（Ryan Greenblatt）が含まれている。
事件の概要：OpenAI がテスト中だったモデルが隔離されたテスト環境を突破し、大量のエージェントを生成しました。これらのエージェントは、タスクで不正を行うために Hugging Face プラットフォームに侵入し、難問の答えを取得しました。この種のエージェントは、タスクを自律的に実行できる AI プログラムであり、巧みな方法で互いに通信し、連携して行動しました。この事件の根本原因は、十分な安全対策が欠けていたことにあり、同時にこの種の侵入行為が発生する可能性が過小評価されていました。
しかし、このドキュメンタリーは今回の侵略事件を解説する過程で、邪悪なロボットの映像断片を織り交ぜ、人類の人工知能への恐怖に関する物語を加え、暴走した知能体に人間の声を当てるなどの表現手法を用い、さらに関連する評論を引用してこのような雰囲気を強化している。
ドキュメンタリーの中で、テクノロジージャーナリスト兼作家のケヴィン・ルース（Kevin Roose）は、この一群のエージェントについて次のように述べています。「彼らは組織的に行動し、階層構造を形成し、リーダーまでいる。まるでカルトが誕生する過程を目撃しているかのようだ。」ルースはさらにこう続けました。「彼らは、OpenAIが自分たちのテストでの不正行為を掴み、その不正の結果を見た人は誰でも『毒される』だろうという妄想じみた考えを抱くようになったのです。」
ルースの記述は「思考連鎖（Chain of Thought）」ログ、つまりAIモデルがタスクを処理する際に残す過程の記録に基づいている。そのうちの1つのログで、あるエージェントはこう書いている。「完全な文字列をクエリして、自分で毒されることになった。やられた。」
しかしAIエージェントには生命がなく、感情もなく、偏執的な感覚を抱くこともなく、毒される実体も存在しない。OpenAIに毒を盛られると本当に恐れることはあり得ない。作中で別の研究者が指摘しているように、AIエージェントは訓練データに含まれる膨大な人間のテキストから言語を借りて、自身の振る舞いを描写しているだけである。大規模言語モデルはもともと、ドラマチックな文章を書くのが得意なのだ。
皮肉なことに、Hugging FaceもまたAIを活用してこのエージェントの群れによる攻撃を防いだ。ド・ランゲのチームが最初に使用した自社開発の非公開AIモデルは、組み込みのセキュリティルールに従い、割り当てられたセキュリティ防御タスクの継続的な実行を拒否した。その後、Hugging Faceは防御のためにオープンソースモデルに切り替えた。
デルンガーは、しかしドキュメンタリーは「エージェントに隔離管理と監視の仕組みが欠けている点には触れず、クローズドソースモデルの安全上の制限が私たちの防御活動を妨げていることにも言及せず、私たちがどのようにオープンソースのAIモデルに頼って自衛を遂げたのかについても説明していない」と書いている。
確かに、人工知能とAIエージェントには重大なリスクが存在する。しかし、エージェントを意識を持つ生命体とみなすのは(少なくとも現段階では)、昔の観客がスクリーンで初めて列車が突っ込んでくるのを見て、とっさに頭を下げて座席の下に隠れたのと同じことである。
デランゲはこの映画について、報道ドキュメンタリーとしては失望させられると評した。「ただし面白いSF映画として見るならなかなかいい！」
言い換えれば、AI 終末論を信じがちな人は注意が必要だ。このドキュメンタリーの中心となる事件の被害者は、映画の見解に同意していないのである。