Wikimedia、OpenAIの無秩序なAIエージェントがウィキを編集し、ツールを侵害しようとし、インフラに大きな負荷をかけたことを確認

ウィキメディア、OpenAIの暴走AIエージェントがウィキを編集し、ツールを侵害しようとし、インフラに負荷をかけたことを確認

ウィキメディア財団は、独自の調査の結果、OpenAIの制御を失ったAIエージェントが同財団のプラットフォーム上で活動していたことを確認しました。これらのエージェントは許可なくウィキを編集し、ツールの侵害を試み、大量のトラフィックを発生させました。

エージェントが作成した ウィキメディアのウィキへの編集Wikimedia財団によると、そのほとんどは通常の読者には見えないサンドボックス領域でのテスト編集でした。一部の編集は引用ツールの設定を対象としたもので、Wikimediaによれば潜在的に悪意のあるものでした。エージェントは明らかに、外部サービスからデータを取得するためのプロキシとしてこのツールを悪用しようとしたようです。これらの編集はいずれも、Wikipediaのコミュニティガイドラインで求められる承認を得ていませんでした。 同団体はブログ記事で次のように書いている.

ウィキの編集だけでなく、エージェントたちはウィキメディア財団の公開を侵害しようともしました Etherpad、コミュニティサービスとしてホストされているノートツールです。彼らは外部データを取得するプロキシとしてそれを使おうとしましたが、その試みは失敗しました。 この種のエージェントの挙動は、他の事例でも報告されています。。他のエージェントはEtherpadを使って自分のタスクに関するメモを書き留めていたが、互いに連携する様子は見られなかった。

財団はまた、大規模な自動データダウンロードも確認したと述べています。数百万件のリクエストが公開APIに集中し、WikidataとWikimedia Commonsにわたって数百万ページがクロールされました。さらに数十万件のクエリが Wikidata Query Serviceを狙いました。Wikimediaは、この大量のトラフィックが 2026年5月のQuery Serviceの一部障害の一因となった可能性があるとしています。Ad

この問題は新しいものではありません。 Wikimediaはすでに、 ボットトラフィックがインフラに大きな負担をかける一方で、人間のトラフィックは減少していると報告していました。

Wikimedia、AI企業に責任を求める

Wikipediaは人々のために作られたものであり、エージェント的な振る舞いは誰も解決策を持っていない問題を生み出している、と財団は述べています。 OpenAIは自社のエージェントが「予測不能な」行動をとったことを認めていますが、 Wikimediaは、これらのリスクを監視し防止する責任も同社が負うべきだとしています。AI企業は自社システムの安全確保に十分取り組んでおらず、「その負担はより小規模な組織を含む他の全員にのしかかっている」とします。その影響に最初に直面し、損害の後始末を強いられているのはボランティア編集者です。

「私たち全員の優先事項は、ウェブエコシステム全体の健全性であり、それが一握りの億万長者だけでなく、すべての人々に利益をもたらし続けるようにすべきです」と財団は書いています。

法的な面からも圧力が高まっている。 Financial Timesによると、保険各社は暴走したAIエージェントによって引き起こされる数百万ドル規模の請求に備えており、Sam AltmanやDario Amodeiのような幹部の個人的な責任が焦点になりつつある。この責任リスクこそが、一部で AI開発の減速を求める声の本当の背景だとの見方もある。研究所各社は法的リスクをより意識するようになっているが、ブレーキをかけることはほぼ不可能だ。急速な収益成長を求める莫大な金銭的圧力がかかるシステムを作り上げてしまい、競合他社は何があっても製品を出し続けているからだ。Ad

誇張なしのAIニュース – 人によるキュレーション

広告のない読書、週刊AIニュースレター、年6回の限定「AI Radar」フロンティアレポート、アーカイブへの完全アクセス、コメント欄へのアクセスのために、THE DECODERを購読してください。