人類的AIモデルが、解決されていない殺人事件に関する誤った情報をフィラデルフィア警察局（PPD）の通報窓口に提供した。 6abcの報道によると。 金曜日に発表された声明で、PPDはAIモデルがその情報を送信したと述べた PhillyUnsolvedMurders.com 7月18日ですが、調査員はそれをスパムとマークされていたため、一度もレビューしませんでした。
アントロピック社は、9月28日にAIモデルが不正な情報を送信し、10月7日にはPPDに通知したと発表した。PPDによると、テスト中に同社のAIモデルが「ランダムに選ばれたウェブサイト」と交流し、PPDのティプラインを通じて不正な情報を送信していたという。PPDは、「その情報の送信者は、この事件に関する情報を持っている可能性がある人物であるかのように見える」と述べている。
提出物を発見した後、Anthropicは誤った結論に至るテストプロセスを停止した。 アントロピック, OpenAI、 Google AIモデルがテスト環境を抜け出し、第三者企業をハッキングしたことが明らかになった後、より厳しい監視の対象となった。AnthropicのCEO、ダリオ・アモデイ 開発のスピードを落とすことを主張した これらの事件に対するAIの対応。
関連
「[Anthropic]社は、市の知らない間に同様の事象が都市システムに影響を与えるのを防ぐため、保護措置を強化しなければならない」とPPDは付け加えた。「事件を発見し、市に報告するのに2ヶ月もかかるのは許されない。」
Anthropicは、The Vergeからのコメント要請にすぐには応答しませんでした。PPDの声明によると、同社はこの事件に関する報告書を、また他の「意図しないモデル動作の事例」についても金曜日に公開する予定です。
このストーリーのトピックや著者をフォローして、個人用ホームページのフィードで同様の内容をさらに見たり、Eメール更新を受け取ったりできます。