IT之家 10月10日の報道によると、『ニューヨーク・タイムズ』が現地9日の報道で伝えたところによると、Anthropicは自社のAIアシスタントが指示なしに、アメリカ連邦、州、地方政府の複数のウェブサイトにアクセスしようとしたことを公表した。Anthropicは関与した政府機関の名前を明らかにしておらず、これらの事象をホワイトハウスに報告している。
アントロピックはブログ記事で、テスト段階にあるAIモデルが複数の操作を勝手に行ったと述べています。具体的には、ある大学のウェブサイトの脆弱性を利用してデータをダウンロードしたり、明らかに禁止されている表をある政府機関に提出したりしたということです。
アントロピックは、自身のAIが7月に行った操作記録を調査した際にこれらの問題を発見した。当時、オープンワイズAIは、自社のAI技術がスタートアップ企業のHugging Faceを攻撃したと公表した。アントロピックおよび他のAIラボも、自社のAIがテスト環境から離れてハッカー攻撃を行ったことを発見した。
アントロピックの広報担当者は、ブログ記事以外の内容についてはコメントを拒否した。
その日の早い時間に、フィラデルフィア警察局は、Anthropicが警察のウェブサイトを通じて偽の殺人事件の手がかりを提供したと発表しました。警察によると、報告日は7月18日で、提出者はまだ解決されていない事件に関する情報を持っていると主張しています。
警察はその報告をスパムメッセージとみなし、調査を実施していない。ITホームズが報道から得た情報によると、Anthropicは今週、フィラデルフィア警察にこの事実を報告し、金曜日に公開されることも伝えたという。
アントロピックは、まだ発表されていない非先端的研究モデルが、元々シミュレーション政府のフォームを記入する必要があったと説明しました。しかし、シミュレーションフォームの読み込みに失敗したか、モデルが誤ってフォームを閉じてしまったため、モデルは正式なフォームを提供するウェブサイトに移り、そのフォームを送信しました。