ニューヨーク州司法長官レティシア・ジェームズ は明らかにした Character.AIに対する数年にわたる複数州での調査を。州当局は現在、破産手続きを通じて売却される消費者データへの保護を義務付けようとしている。
ジェームズ長官は、40人の超党派の司法長官の一人であり、 利害関係の通知を提出した Character.AIの破産案件に対し、「債務者の事業または資産の売却または譲渡において対処される必要がある規制上の問題について、すべての関係者に通知する」ことを目的として。Character.AIは火曜日、 Chapter 11の適用を申請し 一部の資産をディズニーに売却すると発表した。しかし各州の司法長官らは、この技術の譲渡には重大なリスクが伴う可能性があると警告している。その理由として、「多くのユーザーがCharacter.AIのチャットボットキャラクターと交わす会話の極めて機密性の高い性質、この製品を利用する未成年者の多さ、製品の特定の機能がもたらす重大なリスク」を挙げている。
この申立書はまた、Character.AIが破産を申請した時点で、いくつかの州が調査の途上であったことも明らかにしている。各州は、2024年に消費者保護およびプライバシーに関する懸念についての調査を開始したと述べており、そのきっかけとなったのは 14歳の子どもの母親による訴訟である。 を受けて、2024年に消費者保護およびプライバシーに関する懸念の調査を開始したと述べている。
「調査により、極めて重大な危険が明らかになった」
「調査により、Character.AIによる極めて重大な危険と、違法となるおそれのある行為、とりわけ子どもに対する扱いが明らかになった。これには、資格を持つ専門家を装うチャットボット、性的・暴力的コンテンツへの露出、不十分な年齢確認、誤解を招く安全性の主張、州のプライバシー法違反の可能性が含まれる」と、ジェームズ長官の事務所のプレスリリースは述べている。各州はCharacter.AIとこれらの問題に対処するために取り組んでいたが、同社が破産を申請する前に合意には至らなかった。Character.AIのCEOコリン・アダムズは声明で、司法長官らの申立は「当社プラットフォームの安全性について正確な描写ではない。Character.aiは、特に未成年に関わる事項において、ユーザーとプラットフォームの安全性を極めて真剣に受け止めている。Character.aiは、基準およびポリシーに違反するコンテンツを防止・削除するために、プラットフォームを監視してきたであり、今後も監視を続ける」と述べた。ディズニーはコメント要請にすぐには応じなかった。
各州は、同社が保有していた機密情報を保護する手続きを実装することを、Character.AIの資産の購入者に求めるよう裁判官に要請している。その内容には、実効性のある年齢確認システム、未成年者がチャットボットと関わる方法への制限、「危機対策」の実装、ユーザーによるデータ削除の許可が含まれる。「この会社は、子どもたちが今までに共有した中でも最も私的な思いを収集しました。そして今、それらの会話が最も高値をつけた者に売却される可能性があります」とジェームズ長官は声明で述べた。「私は、購入者がいずれであれ子どもの安全を最優先し、実際の保護措置を確実に講じるよう闘います」。
更新（10月15日）： Character.AIからの声明を追加。
トピックと著者をフォロー すると、この記事に関連する記事がパーソナライズされたホームページのフィードに表示され、メールによる更新も受け取れます。