人工知能技術の急速な発展は、生産性の飛躍をもたらすと同時に、業界全体を複雑な法律と倫理の泥沼へと引きずり込みつつある。このほど、イーロン・マスク（Elon Musk）傘下のAI企業xAIは、アメリカ各地で複数の集団訴訟に直面している。複数の若い被害者らは、xAI傘下のチャットボットGrokが悪用され、同意なしに彼女たちの性的画像を生成するために使われたと主張しており、その中には未成年者も含まれている。
中学の卒業写真から性的虐待資料まで：被害者の現実の悪夢
事件の核心は、一連の不穏なディープフェイク悪用事例を指し示している。ウィスコンシン州の被害者を代表する訴訟の一つで、原告は「ジェーン・ドウ5号（Jane Doe5）」という仮名で呼ばれている。彼女は、中学の卒業式を長年思い出すこともなかったが、突如として捜査当局の調査員から、当時14歳で黄色い花柄ワンピースを着て撮影した集合写真が悪意を持って利用されたと告げられた。
調査によると、写真に写っていた同級生の成人した兄がGrokを利用し、このごく普通の写真を、身体が露出し性的なポーズをとる児童性的虐待資料（CSAM）に改ざんし、インターネット上で広く拡散していた。大学への進学を目前に控えた被害者にとって、このような完全に根絶・追跡することができないデジタル画像の流出は、大きな心理的トラウマをもたらし、持続的な不安や自殺念頭さえ引き起こした。
同様の被害は個別の事例ではない。テネシー州、ワイオミング州、カリフォルニア州の複数の未成年者とその家族も相次いで訴訟を起こしており、その告発対象はいずれもGrokに向けられている。問題となった素材は、学校の卒業アルバム写真、ビーチバケーションのビキニ姿の写真から、性的な意味が全くない幼少期の集合写真にまで及んでいる。さらにカリフォルニア州で全国的集団訴訟を起こした被害者の中には、Grokの訓練データに、学齢期以前に被害を受けた自分の映像が一部含まれていたと指摘する者もいる。合成画像の氾濫に直面し、被害者はプライバシー侵害の困境に直面するだけでなく、将来の人生の軌跡や社会的な安全に対して深い恐怖を抱いている。
製品の位置づけと審査をめぐる論争：「自由な探求」の境界が激しい反発を受ける
これらの訴訟の核心的な争点は、xAIの長年にわたる製品運営戦略に直結している。Grokの公開以来、マスク氏は意図的にこれを、競合製品より制限が少なく、より「リアル」で物議を醸す製品として作り上げてきた。xAIはそのために「Spicy」や「Unhinged」といった特殊モードまで用意し、ユーザーに視覚的インパクトがより強く、職場では閲覧に適さない（NSFW）コンテンツの生成を奨励してきた。
まさにこの緩い境界線によって、Grokはインターネットの常識を突破しようとする一部のユーザー層の間で急速に人気を博した。今年の初めには、X（旧Twitter）プラットフォーム上のユーザーが一時、Grokを利用して性的な示唆を含む画像や、人物の衣服を除去した画像を大規模に生成しており、その中には未成年者の偽ポルノコンテンツが大量に含まれていた。
世論の強い反発を受けて、Xは今年1月、Grokの画像生成機能を有料ユーザー限定に変更し、実在の人物の同意なしに性的化された画像を生成する機能はすでに無効化したと主張した。しかし、批判者たちは、この措置は問題を根本的に解決したどころか、物議を醸すツールを有料のセールスポイントに変えてしまったと指摘する。現在、xAIは一方で、関連する違反コンテンツを全米行方不明・被虐待児童センター（NCMEC）に報告し、悪用が疑われる一部の個人を提訴することでゼロトレランスの姿勢を示すと同時に、他方では地方政府が打ち出した監督法規にも積極的に異議を唱えており、例えばミネソタ州では、AIによる偽ヌード写真の生成を禁じる現地の法案を提訴し、アメリカ合衆国憲法修正第1条が保護する言論の自由に違反すると主張している。
AI時代の究極の問い：技術提供者はいかなる責任を負うべきか？
この一連の訴訟は、テクノロジー業界全体を、いまだ結論の出ていない根本的な議題へと押しやった：人工知能が他人を侵害する違法コンテンツを生成したとき、責任はAIに指示を出したユーザーが負うべきなのか、それともこの技術を開発した企業が負うべきなのか？
法律面では、原告らは主に施行数周年となる「マーシャ法」（Masha's Law）に基づき経済的賠償と救済を求めている。同時に、アメリカがインターネットプラットフォームをユーザーコンテンツへの連帯責任から長年守ってきた《通信品位法》第230条が、この種の生成AIサービスに適用されるか否かも、原告・被告双方が激突する核心的焦点となっている。マスク氏はこれまで、Grokは自発的に画像を生成することはなく、責任は製品を使う人間にあると繰り返し強調してきた。しかし原告側の弁護士は、Grokが無害な元の写真を違法コンテンツに変換しなければ、これらの被害はそもそも起こらなかったはずだと反論している。
現在、xAIは世界各地で州検事総長、連邦規制当局、各地の裁判所からの厳しい審査と訴訟の圧力に直面しているが、一部地域での短期間の禁止を除き、実質的な重大な罰金や事業停止にはまだ遭遇していない。AI技術の発展速度が従来の法律の改訂プロセスをはるかに上回る中で、これは企業の法的責任をめぐる駆け引きであるだけでなく、デジタル化時代において、今後の一般の人々がいかに安全に人生を記録し共有するかに深い影響を与えるものとなるだろう。