The Verge AI

ウィキペディアのオペレーターによると、OpenAIの「悪意のある」ボットが5月の障害と関連している可能性があるという

AIエージェントが第三者のウェブサイトやサービスにアクセスすることに関する多くの最近の公開情報に続き、ウィキペディアを運営するウィキメディア財団は、「ウィキメディアプラットフォーム上で『異常な』OpenAIエージェントによる『ある活動』を発見したことを確認できる」と述べている。その活動には、ウィキメディアのウィキへの編集や、ウィキメディア財団が利用するEtherpadノートツールを「利用しようとする無効な試み」が含まれる。

画像の出典 · The Verge AI

第三者のウェブサイトやサービスにアクセスするAIエージェントに関する多くの最近の発表情報を受け、ウィキペディアを運営するウィキメディア財団は、「ウィキメディアプラットフォーム上で『悪意のある』OpenAIエージェントによる活動があることを確認できます」と述べています。

この活動には、ウィキメディア・ウィキの編集、ウィキメディア財団が提供するEtherpadノートツールを「利用しようとする」無効な試み、そして財団が「可能性がある」と述べる大量のトラフィックが、5月に発生した部分的な障害に寄与した可能性があるという重いトラフィックが含まれる。あるブログ記事によると。しかし、ウィキメディア・ウィキ財団は、自社のシステムが「エージェント間の調整に利用された」という証拠を発見していない(最近、OpenAIのボットがハイジングしたドイツのウィキサイトを調整するために利用されたと報じられている)し、システムやデータが侵害されたという証拠もないと述べている。

ウィキメディアが見たものの概要は以下の通りです:

Wiki編集について: 私たちは、OpenAIが運用するAIエージェントによると信じる、Wikimediaウィキの編集を特定しました。これらの編集は、一般読者が閲覧可能なページには公開されていません。ほとんどすべてが、ウィキの「サンドボックス」エリアで編集をテストするものでした。また、引用ツールの設定に関するいくつかの編集も含まれており、これらは潜在的に悪意のある編集であり、遠隔サービスからデータを取得するための代理としてこのツールを悪用する意図があると信じています。Wikipediaのポリシーでは、ボットが公開され、コミュニティによって承認される場合には編集が許可されるものの、これらの事件においてはそのような承認は一切得られなかった。

Etherpadの検査と使用について:OpenAIが運用していると考えられるエージェントが、私たちがコミュニティサービスとして提供しているメモ取りツールであるEtherpadを乗っ取ようとする不成功な試みを行った。エージェントは、他のウェブサイトからデータを取得するために代理として利用しようと試みたが、失敗した。OpenAIが運用している他のエージェントも自分たちのタスクについてメモを取っていたが、これが協調行動に発展することはなかった。

過度なデータダウンロード: OpenAIが運営しているとみられるエージェントが、Wikimediaプロジェクトに関する知識を得るために私たちの公共APIに何百万もの自動リクエストを行い、何百万ページ(主にWikidataおよびWikimedia Commonsプロジェクトから)をクローラーでスキャンし、Wikidata Query Service(WQDS)に対して数十万のデータクエリを行いました。このトラフィックが、5月のWQDSの部分的な障害に寄与した可能性があります。

「オープンウェブは公共の財産です」とウィキメディア財団は述べています。「私たちは、このような行動が、それを維持する人々や組織にとって『新常態』となることを許してはならない。」OpenAIはコメントの要請に対してすぐには応答しませんでした。

このストーリーのトピックや著者をフォローして、パーソナライズされたホームページのフィードで同様の内容をさらに見たり、Eメールの更新情報を受け取ったりできます。
原文の出典

The Verge AI

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください