Meta は水曜日、 2026年上半期にFacebookとInstagramで33.2百万件の児童性的搾取コンテンツに対して措置を講じたと発表した。同時に、同社は違法な児童虐待資料へ人々を密かに誘導するために使用される可能性のある広告やアカウントを見つけるための新AIツールを展開している。
Metaが措置を講じたコンテンツの97%以上は、ユーザーが報告する前に同社のシステムによって発見されたと同社は述べた。インドでは、同じ期間中にMetaは5.3百万件の児童性的搾取コンテンツに対して措置を講じ、その98%以上がユーザーからの報告前に検出された。
Metaは、最新のAIツールは、無害に見える広告を使ってユーザーをMetaのプラットフォーム外の違法コンテンツへ誘導する人々を対象としていると述べた。
同社は、Metaが「サインポスティング」と呼ぶものを検出するための新しい大規模言語モデル(LLM)システムを導入した。これは、正常に見えるかもしれないが、ユーザーを違法コンテンツやインターネット上の他の場所での有害な活動へ誘導している疑いのある広告を指す。Metaは、悪意ある行為者が検出を回避するために手法を変え続ける中、最近この戦術が使われているのを目撃したと述べている。広告自体には違法な素材が含まれていない場合でも、児童性的虐待資料をホストするウェブサイトへの入り口として機能し得る。
このため、Metaは現在、広告の内容だけでなく、広告がユーザーをどこへ誘導するかも調べていると述べた。同社はこの情報を利用して、規則に違反するウェブサイトやその他の目的地をブロックし、その背後にいるアカウントに対して措置を講じることができる。
Metaはまた、追加のAI駆動型スキャンを利用して、従来のシステムでは見逃していた可能性のある児童搾取コンテンツを発見している。同社は、こうしたネットワークの運営方法について学びを深めるにつれ、新たなシグナルを追加し続けると述べた。
もう一つの新ツールは、Meta自身の安全対策をテストする「レッドチーミングAIエージェント」である。これは、悪意ある行為者が同社の保護機能を回避するために利用できる脆弱性を探す。Metaは、これにより新しい虐待手法がより広まる前に発見するのに役立つ可能性があると述べた。
さらに、同社は、以前のアカウントが削除された後に新しいアカウントでプラットフォームに戻ってくる人々を見つけるためのシステムを改善している。
これらの新措置は、Metaがプラットフォーム上の子どもの安全について圧力に直面し続ける中で発表された。同社は、ソーシャルメディアサービスが若いユーザーにもたらしうるリスクをめぐり、訴訟や議員からの批判に直面してきた。8月、Metaは 最大180億ドル を支払い、米国29州が関与する子どもの安全に関する訴訟を和解させることで合意に達し、オンラインでの子どもの保護に関する懸念に対処した。
Metaは今年、以下を含むいくつかの児童安全機能を導入している。 Meta AIのペアレンタルコントロール, WhatsAppのプレティーンアカウント や、子どもがInstagramで自傷行為のコンテンツを検索した際の保護者向けの アラート である。
9月には、WhatsAppが保護者向けの さらなるコントロール を追加した。保護者は、ティーンエイジャーのチャンネルの利用を制限したり、ステータス更新を誰が見られるかを管理したり、子どもをグループに追加できる人を決めたりできる。保護者は特定のグループ活動に関する通知を受け取ることも選択できる。