IT之家 11月11日の報道によると、ネットプラットフォーム上ではAI生成コンテンツがますます増えており、《人工知能生成合成コンテンツ表示管理弁法》の規定に基づき、AI生成コンテンツには表示（ラベル）を付ける必要がある。表示しない場合、プラットフォームは法律に基づき表示制限、削除、アカウント制限などの措置を講じることができ、関係主体も相应の法的責任を負う可能性がある。
ユーザー自身が作成したコンテンツが、プラットフォームにAI生成コンテンツと認定されて処理された場合は、どうすればよいのでしょうか。中央広播電視総台の中国之声（チャイナ・ボイス）が本日報じたところによると、北京インターネット法院は先日、関連訴訟の審理状況を明らかにした。
被告の某テクノロジー企業が運営するプラットフォームは、クリエイターに対しAI生成コンテンツに自発的に識別表示を追加することを求めている。プラットフォームユーザーの小唐氏はこのプラットフォームに係争対象となるテキストコンテンツを投稿しており、もともとは自分の創作成果を共有するつもりだったが、却.PLATFORMによって「AI生成コンテンツが含まれているが未表示」という違反状況と認定された。
北京インターネット法院立案庭の高雅裁判官：「プラットフォームの規定では、クリエイターのコンテンツにAI生成のものがある場合、クリエイターが自主的に表示ラベルを追加する必要があるため、被告は原告が投稿したコンテンツを非表示にし、1日の発言禁止処分を行いました。原告は、そのコンテンツは自分自身が作成したものであり、AIが作成したものではないと主張しています。」申し立てを行いましたが、解除が認められなかったため、裁判所に提訴しました。。
被告は、係争中の回答が機械識別および人工的な再確認を経てAI生成コンテンツと認定されたと弁明し、技術的秘密およびアルゴリズムのロジックに関わることを理由として、認定メカニズムをユーザーに説明する必要はないと主張した。
法官の高雅氏：係争中の回答は即時性のある創作によるテキストの一種であり、訴訟過程において、原告に創作の草稿や原本ファイルといった創作過程を提出するよう求めることは困難である。しかし、プラットフォームがAI生成と判断した場合、アルゴリズムツールや演算過程については被告が合理的に立証するか、あるいは説明を行うべきである。。
IT之家が報道から得たところによると、裁判所は最終的に被告側プラットフォームの債務不履行を認定した。
裁判所は、プラットフォームが契約の約定に基づき係争内容がAI生成・合成コンテンツに該当するかどうかを審査・処理する権利を有すると認定したが、その審査および処理の結果には合理的な根拠がなければならないとした。アルゴリズムツールの演算過程と審査結果は被告が管理しており、被告はその事実について合理的な立証または説明を行うべきである。被告が適切な説明を行わなかった場合、事実根拠を欠く処理について違約責任を負わなければならない。最終的に裁判所は、被告に対して係争中のコンテンツの非表示を解除し、管理画面の該当する違反処理記録を削除するよう判決を下した。。
本件の典型的な意義は、プラットフォームの説明義務を明確にしたことに加え、プラットフォームが誤判定に対する救済の問題を解決すべきであると指摘した点にもある。
高雅：本案では、プラットフォームがアルゴリズムを使ってAI生成コンテンツを識別し、それに応じた処置を講じる場合、自らの判定の根拠や結果について適度な説明を行うべきであることも明確にされました。プラットフォームは、ユーザーが理解できる形でアルゴリズムの仕組みや誤判定に対する救済措置を説明するべきであり、営業秘密にかかわるという理由だけで説明を拒んではなりません。プラットフォームも説明義務を積極的に履行し、ユーザーの合法的な権益を保障すべきであることを示唆している。。
裁判所は、プラットフォームに対し違反行為に対する段階的処分メカニズムを構築し、過罰相当の原則を堅持して、違反の程度に応じて警告、機能制限、サービス停止などの差別化された措置を取ることを提案した。裁判所はまた、情報コンテンツ管理を強化し、コンテンツ審査メカニズムを確立・健全化することを強調した。