過去2年半にわたり、私たちは 報じた オン 多くの の ザ 方法 で どちら 脅威 俳優 当社のモデルをサイバー攻撃、隐蔽性の高い影響工作(influence operations)、詐欺その他の利用規約違反に使用しようとする事例がありました。当社はこれらのレポートを公開することで、規制当局、業界の同業者、そしてより広範な社会に対し、脅威アクターがAIを悪用しようとする動向や、彼らが狙う脆弱性についての当社の見解を伝えています。
当社は最近、2つの影響力operation（IO）を禁止しました。1つはロシア発、もう1つはイラン発のもので、これらは当社のモデルを、より伝統的な手法や技術と組み合わせて、洗練された「偽の表の」組織を支援するために使用しました。これらの組織は、地政学的なメッセージや紛争関連のメッセージを標的とする聴衆に浸透させるために利用されました。イランの作戦には7人の「ジャーナリスト」のペルソナが含まれており、それを使って世界中の中小のオンラインメディアに長文記事を売り込みました。ロシアの作戦は、ラテンアメリカの無自覚な人々を取り込んで、現地で「シンクタンク」を運営させたとみられます。
どちらの作戦も多面的で、目標達成のために幅広いさまざまな戦術を試みていました。長文記事に加えて、イランの作戦はソーシャルメディアのコメントをまとめて生成しており、その多くは米伊戦争に関する話題に関連していました。「シンクタンク」を運営するだけでなく、ロシアの作戦は偽の「リークされた」文書や音声スクリプトを作成し、その一部がオンラインで拡散されているのを確認しました。どちらの作戦も内部報告書の作成にAIを多用しており(ロシアの作戦は他の何よりもこれを多く行っていました)。いずれの場合も、活動者たちは疑わしい、あるいは明らかに欺瞞的な手法を用いて、運営者の成果を誇張していました。
これらの作戦で最も印象的なのは、AI以前の時代の複雑な影響力工作と酷似していた一方で、一部のワークフローを効率化するためにAIを利用していた点です。イランの作戦が運用していたジャーナリストのペルソナは、架空のジャーナリスト「アリス（新しいウィンドウで開きます） ドノヴァン（新しいウィンドウで開きます）。これはロシア軍情報部のフロント組織であり、その記事は2016年から17年にかけて西側のさまざまなメディアに掲載された。2020年には、ロシアのインターネット・リサーチ・エージェンシーの過去の活動に関連する人々が、「」という偽の「ニュース」サイトを運営した。PeaceData（新しいウィンドウで開きます）、「」は世界中の無自覚なジャーナリストを取り込んで記事を書かせていたものである。
これらの作戦は、その潜在的な影響範囲の点でも異例でした。IOを使用して ブレイクアウト・スケール（新しいウィンドウで開きます）（1（最低）から6（最高）までのスケールでIOを評価するもの）によれば、ロシア発のこの作戦は カテゴリ 5「これは取材を開始して以来、私たちが妨害した初のカテゴリー5作戦です。イラン発のこの作戦は被害が及び」 カテゴリー4。両者とも、コンテンツの一部は当社のモデルによって生成されたものではないものの、そのコンテンツをソーシャルメディアに単に投稿するのではなく、主流メディアに掲載させることに成功しました。これは、過去2年半に当社が暴露してきた30件の隠密的影響工作から観察されたパターンと一致しています。偽のソーシャルメディアでの拡散に頼るのではなく、実際のメディアへの掲載を試みる工作は、到達範囲と影響力が最も大きくなる傾向があります。
2024年初頭以降に当社が暴露した30件の影響工作(IO)のマトリックスで、主な配布方法(ソーシャルメディア、運営者自身のウェブサイト、外部刊行物)とブレイクアウト・スケールのスコアによって評価しています。ウェブサイトを運営し、それをソーシャルメディアで宣伝するなど、複数の配布方法を使用した工作は、その工作の中核を構成していたと思われる方法に分類されています。
AIは、このような偽フロント活動に、より大きな規模、効率性、言語能力、そして編集能力をもたらしうる。運営者はこれらの優位性を利用して、疑いを持たない被害者（従業員や編集者など）を悪用し、誰が背後にいるのか、何が動機であったのかをまったく知らない読者の前に自らのコンテンツを植え付けることができる。これらの活動はまた、脅威アクターが目標達成のために偽のペルソナや組織を利用することの複雑さと洗練度をも示している。脅威アクターがこれらの試みで悪用する脆弱性を理解し、それらの脆弱性がいかにして読者層とリーチにつながるかを把握することは、組織全体の堅牢な防御を維持するために不可欠である。
しかし、こうした偽フロント活動の秘密性ゆえに、責任ある開示（レスポンシブル・ディスクロージャー）に対して特に脆弱でもある。「Alice Donovan」と「PeaceData」はいずれも暴露された後に活動を停止した。だからこそ、私たちがこれらの偽フロント活動を報告する目的は、さらなる研究と妨害を容易にし、活動の継続を困難にすることにある。
ロシア：「Dark Clark」作戦
ラテンアメリカ全域で影響力工作を実行するロシア発のアクター。
アクター
ロシアに発生源があるChatGPTアカウントのクラスタを禁止した。彼らは、ラテンアメリカ全域の国々を標的とする秘密の影響力作戦に関連する一連のタスクにChatGPTを使用していた。この活動の多くは、同地域におけるウクライナの評判を損なうことを目的としていたように見えたが、一部は現地の政治的結果に影響を与えることを目的としていたように見え、特にアルゼンチンとボリビアで顕著であった。運営者の大部分はロシア語でプロンプトを入力しており、1人はスペイン語で入力していたが、それでもロシアに所在しているように見えた。この事例に関する情報は関係当局と共有した。
運営者はChatGPTを、主に3つのタスクに使用した。すなわち、自らの活動（および自らの功績として妥当に主張できる他人の活動）に関する内部報告書の作成、活動用コンテンツの作成、そしてSocial Research Center（SRC）と称するラテンアメリカの自称「研究プラットフォーム」の実績に関する報告書の起草である。彼らは「Mia Clark」という偽のペルソナを通じてSRCを管理していたと見られ、この名前にちなんで、私たちはこの作戦を「Dark Clark」と名付けた。ロシアからは私たちのモデルへのアクセスを許可していないため、彼らはVPNを使って当社のサービスに接続していた。
内部報告書の中で、運営者は、ウクライナや現地の指導者を貶めるためにラテンアメリカ全域に偽情報を拡散したと主張していた。これらの偽情報の一部は、 オープンソース(opens in a new window) の研究者たち(opens in a new window) によって、ロシアの実体である「Politology」または「La Compania」として知られる組織、すなわちワグネル・グループおよびロシアのオリガルヒ、イェブゲニー・プリゴジンが設立した他の組織の後継と報じられている組織に帰属されている。運営者はまた、Politologyとワグネルに関する公開報道を翻訳または説明するよう当社のモデルに依頼しており、その量は他のロシア発のネットワークについての依頼をはるかに上回っていた。
この作戦は2つの点で異例であった。第一に、ラテンアメリカの個人をうまく取り込んでSRCのために働かせることに成功したように見えることである。ロシア人運営者によるSRCに関する報告書には、給与水準、採用、解雇などの問題に関する決定が言及されており、協力関係にあったのではなく、彼らがこの組織を支配していたことを示唆している。入手可能な証拠によれば、ラテンアメリカにおけるSRCの従業員は、ロシアのグループのために働いていることを知らされていなかった。私たちが 最近暴露した別のロシア系「シンクタンク」とは異なり、SRCは取り込んだスタッフを通じて majority のオリジナルコンテンツを作成していたと見られる。これは、過去2年半で私たちが妨害した中で、最も複雑なフロント組織運営の試みとして際立っている。
第二に、いくつかのオープンソースの証拠は、Dark Clarkの偽情報が、 ファクトチェック(opens in a new window) や 公式の否定(opens in a new window)を引き起こすほど広く拡散したことを示唆しており、これは過去2年間で私たちが妨害したどの影響力作戦をも超える浸透度を示している。この作戦がペルーに植え付けたと主張した偽情報の一つは、ウクライナとポーランドの間の公的な緊張にまで影響を与えた。
内部報告
運営者がChatGPTを使用した主な方法は、不明の上司に宛てた内部報告書の起草と更新であった。これらの定期的な報告書は、ラテンアメリカ全域で秘密の影響力キャンペーンを実施する取り組みを記述していた。それらは3つの主要な作業ストリームを網羅していた。すなわち、ウクライナを貶め、ウクライナ軍への募集を妨害する取り組み、特定の国々、特にボリビアとアルゼンチンの国内政治に介入する取り組み、そしてSRCの管理である。大半のケースでは、脅威アクターが当社のモデルを使用してキャンペーン用コンテンツを作成するのではなく、それらについて報告するのだけを観測した（少数の例外については 後述する).
報告書は戦術的な詳細に富み、この作戦がウクライナや一部の国の指導者、とりわけアルゼンチン、ボリビア、エクアドルの大統領を弱体化させようとしていた実態を明らかにした。地元住民を騙して作戦担当者が武器化できる活動を実行させる試みを描写したものもあれば、作戦担当者が流したと主張する偽の「リーク」について記述したものもあった。
2つの事例では、その証拠が運営者を「Politology」に関する公開報道と結びつけています。運営者らは、2024年にアルゼンチンのハビエル・ミレイ大統領を標的とする2つのキャンペーンを実施したと報告しています。第一に、ミレイが自分の犬のためにカルティエの宝石をあしらった首輪を購入したという虚偽の報道を拡散したと述べています。第二に、地元の俳優に報酬を支払い、ブエノスアイレスで反ミレイの落書きを描かせたと主張しています。漏洩した文書に基づくと、これらの主張はどちらも 公に（新しいウィンドウで開きます） 帰属される(新しいウィンドウで開きます) 「Politology」と「La Compania」へ。
かつてロシアの影響活動(IO)と結び付けられてこなかった偽情報は、さらに多く存在します。例えば、活動者らは、2026年5月にペルーのリマ教育地域局から送られたものと見せかけた偽のメールアドレスを作成したと主張しています。彼らはこれを用い、管内の学校に対して、文化と言語の多様性の国民の日(5月21日)にウクライナに捧げるイベントを開催するよう指示しました。メールには、一部のウクライナ人には独立の象徴と見なされる一方、ロシアやポーランドではファシズム、戦時中の協力、残虐行為と結び付けられる、20世紀の物議を醸すウクライナ民族主義者ステパン・バンデラなどへの言及を行うという明示的な指示が含まれていました。活動者らによれば、一部の学校は偽のメールアドレスに返信し、そうしたイベントを開催したことを確認し、さらには写真まで提供したといいます。
その後、作戦の実行者らは、ペルーとポーランドの両国のメディアにこの事件に関する記事を掲載し、ウクライナが超国家主義的なイデオロギーを「輸出」しているという主張と併せて発表したと主張し、憤激を引き起こしました。オープンソースでの検索により、この主張と一致する記事が次の場所で確認されました。 ペルー人（新しいウィンドウで開きます） および（新しいウィンドウで開きます） ポーランド語（新しいウィンドウで開きます） 報道機関（新しいウィンドウで開きます）, ならびに英語による刊行物は ハンガリー(新しいウィンドウで開きます) (一部の記事はその後削除されました。) 一部の（新しいウィンドウで開きます） 記事(新しいウィンドウで開きます) 「ポーランド人への敵意(反ポーランド性)を示した人々を宣言されるべきだと提唱した欧州議会のポーランド人議員の反応が含まれていた ペルソナ・ノン・グラータ(好ましからざる人物) ポーランドで、である。このロシアの偽情報は、こうしてウクライナ人とポーランド人の間の歴史的緊張に食い込み、それをさらに助長するものとなった。
同様に6月には、運営者らは別の偽メールアドレスを使い、エクアドルの学校たちにダニエル・ノボア大統領と民間軍事会社ブラックウォーターの元トップであるエリック・プリンスへの忠誠を誓う式典を実施するよう仕向けたと主張した。運営者らは、この事件がエクアドルで憤りを引き起こし、政府に偽情報を否定するよう圧力をかけたことで、全国規模の聴衆に偽情報を拡散することになったと主張した。ここでも、オープンソース調査により特定された。 メディア（新しいウィンドウで開きます） 報道(新しいウィンドウで開きます) における エクアドルの(新しいウィンドウで開きます) 報道(新しいウィンドウで開きます) にはこの主張に非常によく似たものがあり、さらにエクアドル教育大臣による 詳細な反論(新しいウィンドウで開きます) さえあった。
運営者たちは、偽のストーリーを補強するためにさまざまな手法を用いました。彼らの内部報告によれば、3月にエクアドルを標的とした2種類の偽情報を拡散しました。1つは、エクアドル駐在のウクライナ領事のものとして偽の音声を使用し、彼がエクアドル人を中傷する発言をしたと主張するものでした。当社のオープンソース調査では、この主張に正確に一致するTikTokの投稿を特定しましたが、それは限られた反響しか得ていないようでした。もう1つは、実在するニュースチャンネルのロゴを用いてXとTikTok上で拡散された偽の映像クリップを描写するもので、ノボア政権がウクライナで戦うために若い男性を募集していると主張していました。 ファクトチェック機関(新しいウィンドウで開きます) エクアドルでは、4月初旬にこの特徴に一致するキャンペーンが報告された。
2026年4月8日に投稿されたTikTok動画で、この作戦によって捏造され、ウクライナ領事のものとされる音声が使われています。
5月後半、反政府抗議がピークに達していたボリビアで彼らが流布した偽情報について、別の内部報告書が記述している。作戦担当者たちは、このキャンペーンの目的を抗議活動をめぐる危機を悪化させることだと明確に説明していた。このキャンペーンでは、国営水道会社EPSASの労働者が、政府が行政首都ラパスへの給水を停止し、非常事態を宣言するつもりだと語る偽の音声録音が使われた。我々のオープンソース調査は、ある 虚言を暴く(新しいウィンドウで開きます) 一致する請求の一部であり、 公式な否定（新しいウィンドウで開きます） EPSASからのものです。
その他の内部報告には、公開情報源からは裏付けを取れない偽情報が含まれていた。これは、すでに削除されていたか、拡散に失敗したためかもしれない。例えば、操作者たちは1月に、ブラジルのインフルエンサーでありモデルである女性がウクライナ大使館の関係者によってウクライナに人身売買され、キーウで殺害されたとする話を拡散したと主張していた。6月には、ボリビアで別の偽の音声クリップを拡散したと主張した。今回はボリビア中央銀行の職員からのものであるとし、同銀行が現金引き出しを制限しようとしていると警告する内容だった。さらに、同国の炭化水素庁からの偽の手紙を拡散したとも主張しており、その手紙は個人乗用車への燃料販売の制限を警告する内容だった。
他の報告では、オペレーターは、自らが関与していなかった場合でも手柄を主張できるように、対象国における事件を特定するよう当社のモデルに依頼しました。例えばアルゼンチンでは、オペレーターは、アルゼンチン外相がフォークランド/マルビナス諸島に関する国連委員会の会合で彼らの作戦を引用したと主張しました。オペレーターは、住民自決の原則は同諸島には適用されないという論点や、英国が同諸島に不釣り合いな軍事的存在を維持しているという論点を流布した手柄を主張しました。実際には、これらの主張はいずれも以前からアルゼンチンの公式立場の一部となっています。 多くの(新しいウィンドウで開きます) 年（新しいウィンドウで開きます）。同様に6月には、ブラジルメディア 報じた(新しいウィンドウで開きます) ウクライナへ渡って軍に参加し、ロシア軍に捕らえられ、その後、自分は騙されて戦っていたとテレビで声明を出したブラジル人市民の事件について。ChatGPTの運営者たちは、この報道が彼らの作戦のメッセージを再現したものだと主張しようとした。実際には、それは 捕虜自身の映像を引用した(新しいウィンドウで開きます)。これは、外部の読者層ではなく、自身の雇用主を標的にした影響工作を実行しようとする運用者たちの試みであることを示唆している。
その「研究プラットフォーム」
報告者の一部は、自称「研究プラットフォーム」である社会研究中心(Social Research Center、ロシア語では Центр социологических исследований)に言及していた。同センター(SRC)のウェブサイトによれば、ラテンアメリカにおけるインド系ディアスポラ、およびインドと同地域諸国との関係に焦点を当てているという。
内部報告書は、運営者がシンクタンクと単に協力関係にあっただけでなく、シンクタンクを管理していたことを示唆していた。例えば、採用や解雇の決定、給与水準、人員計画、進行中の研究プロジェクトなどに言及していた。決定的なことに、運営者が「Mia Clark」という偽のペルソナを作り、この作戦のソーシャルメディア活動を運営し、ラテンアメリカの現地スタッフと関わっていたことも報告書には記されていた。入手可能な証拠によれば、これらの現地の従業員は自分がロシアの作戦のために働いていることを全く知らず、誠実に研究業務を行っていたという。このような知らされないまま利用された中継役の手法は、プリゴジンの世界にも関連づけられた以前のロシアの作戦「PeaceData」と酷似しており、この作戦はMetaが 暴露した（新しいウィンドウで開きます） 2020年のものである。
ロシアの運営者らの報告から判断すると、彼らがラテンアメリカに配置したスタッフは地域全体の専門家や論評者に取材を行い、その調査結果に基づいて研究論文を執筆したようです。テーマは、BRICSグループに関する世論の幅広い分析から、ジャイール・ボルソナロ大統領とルイス・イナシオ・ルーラ・ダ・シルバ大統領の下でのブラジル経済の詳細な比較にまで及びました。ロシアの運営者らが研究プロジェクトの進捗報告を公開前に作成していたこともあり、制作プロセスへの深い関与がうかがえます。我々はSRCのウェブサイト上で60本をはるかに超える記事を確認しましたが、その大半はオリジナルの作品であるように見えました。これは、Dark Clarkを、最近我々が暴露したロシア発の作戦とは異なるものにしています。後者もシンクタンクを隠れ蓑として運営していましたが、その内容の大半を剽窃していました。この違いは、ラテンアメリカ各地に人脈を持つ、より持続的な隠れ蓑組織を築こうとする意図を示唆しています。
SRCの活動を促進するため、ロシア人のオペレーターはソーシャルメディアアカウントのネットワークを作ろうとしたと主張した。彼らの報告によれば、このソーシャルメディア活動は、世界のさまざまな地域にいるオペレーターが同じアカウントにアクセスしようとした際に問題に直面し、アカウントの制限につながったという。この痕跡はオープンソースの記録にも見られる。例えば、X上のSRCの主要アカウントの透明性設定では、ドイツの所在地(VPN使用の結果の可能性)が表示された一方で、ロシア連邦のApp Store経由での接続が示されており、またInstagramアカウントの一つの透明性設定ではベネズエラの管理者所在地が表示されていた。私たちが特定した3つのSRCブランドのFacebookアカウントはいずれも、管理者所在地設定を表示させるのに十分なフォロワー数を持っていなかった。
左は社会研究センター(Social Research Center)にリンクされたXアカウント。ロシア連邦のアプリストア経由で接続されたことを示す透明度設定に注目。右はSRCのInstagramアカウント。ベネズエラの場所設定に注目。
オペレーターらは、特にLinkedInで問題が生じたと報告している。彼らはSRCを代表する明示的に偽のアカウントを作成したが、そのネットワークを構築するのに苦労したという。彼らの報告によれば、解決策は、より多くの偽アカウントを作成して最初のアカウントをフォローさせ、より説得力のあるものに見せることだった。8月17日時点で、同じSocial Research Centerのブランド名を持つLinkedInアカウントはフォロワー961人を数え、スタッフ200〜500人を主張していたが、記載されていた従業員は2名のみだった。
フェイクの作成
時折、レポートの更新にAIを利用することに加えて、運用者たちは、自らの活動で使えるテキストの設計や作成を当社のモデルに依頼することもありました。例えば、さまざまな国に合わせて偽情報が正しいアクセント、語彙、そして機関の文体を使用しているかを確認するための支援を求めるといったことです。これは業務全体に占める割合としては比較的小さなものでした。おそらく、この運用にはラテンアメリカ出身のネイティブスペイン語話者が少なくとも1名含まれていたと思われ、そのためAIによる言語サポートの必要性が低かったためと考えられます。
例えば、ある時、ロシア語を話すオペレーターの一人が、パナマのウクライナ名誉領事の汚職を示唆する手紙をロシア語で起草するようモデルに依頼しました。その後、スペイン語を話すオペレーターが、その手紙をスペイン語に翻訳し、それに添える音声スクリプトの生成をモデルに依頼しました。手紙の内容に一致する写真に、オペレーターのスクリプトに一致するナレーションを付けた動画が、ニュースメディアを装うアカウントによってTikTokに投稿されましたが、そのアカウントにはパナマのロゴが TVN Noticias（新しいウィンドウで開きます）「TikTokチャンネルはフォロワーが1人だけで、この偽情報を投稿した後は投稿を止めています。」
この操作によってテキストが生成された手紙と、同じく操作によって生成されたナレーション台本が映っているTikTokの投稿。
別の機会には、ロシア在住のスペイン語話者オペレーターが、ノボアがエクアドルの貧困層を侮辱したと主張するロシア語の文をモデルに渡し、エクアドルのスペイン語に翻訳するよう求めた。3回目には、3月に同じユーザーが、「International Security Solutions FZE」という企業とエクアドルの個人との間で、ウクライナにおけるインフラサービスを提供すると称するスペイン語契約書の草案の校正をモデルに依頼した。ユーザーの質問は、どの語を太字にすべきかを尋ねるなど、表現やレイアウトを改善する方法に焦点を当てたものだった。
契約に関するユーザーのプロンプトは、文言が確定した時点で終了しました。しかし、オープンソースの調査によると、その後「契約」の画像が ソーシャルメディア上で拡散された(新しいウィンドウで開きます)。これは、ノボア政権がペーパーカンパニーと結託し、エクアドル人を騙してウクライナ軍に勧誘させていたという主張を補強するために使われた。この偽情報は、4月初旬に ファクトチェック（新しいウィンドウで開きます） を引き起こすほど広く拡散した。ファクトチェッカーらは、この会社は「エクアドル会社・証券・保険監督庁の登記簿には記載されていない」と結論づけた。
影響
この作戦の影響を評価するには、とりわけ慎重な検討が必要である。前述のとおり、作戦実行者の主な手法の一つは、自分たちの作戦とは無関係の活動の手柄を横取りすることだった。したがって、内部報告における彼ら自身の影響に関する主張は、額面どおりには受け取れない。同様に、彼らが流布したと主張した偽ニュースの一部は、オープンソース調査では確認できなかった。これは、非公開のチャンネルで拡散されたか、すでに削除されたか、あるいは実際には投稿されていなかった可能性がある。
しかしながら、オープンソース調査により、彼らの主張の一部を裏付けることができました。この作戦が拡散したと主張した偽情報の一部は、その後ファクトチェッカーによって報告され、各国政府によって否定されており、対応に値するほど広く拡散していたことを示唆しています。その他のケースでは、この作戦が生成したコンテンツと極めて類似したコンテンツをオンライン上で特定できました。最も顕著な例として、バンデラを称賛するイベントをペルーの学校に開催させたというこの作戦の主張は、その後ラテンアメリカとヨーロッパの両方で報道され、少なくとも1名のポーランド出身の欧州議会議員によるコメントにつながったとみられます。
IOの影響度の測定 Breakout Scale(新しいウィンドウで開きます)はIOを1（最低）から6（最高）のスケールで評価するものであり、このスケールに基づくと、この作戦は カテゴリー5に属すると評価します。複数の国の政治家による公的なコメントにつながったことを示唆する証拠があるためです。これは報告を開始して以来、初めてのカテゴリー5作戦の遮断です。
イラン：作戦「Bogus Bylines」
イラン発の作戦で、オンラインニュースメディアに偽の署名で長文記事をばら撒いています。
行為者
イランに発するChatGPTアカウントのクラスターを禁止しました。これらのアカウントはペルシア語でプロンプトを入力し、ペルシア語と英語でコンテンツを生成していました。行為者はVPNを使ってChatGPTにアクセスし、所在を隠していました。
この作戦は、当社のモデルを長文記事や編集ピッチの推敲、ソーシャルメディアコメントの生成、内部レポートの精緻化に使用していました。運営者は7つの異なる署名を使って記事を売り込んでいたため、このキャンペーンを「Bogus Bylines」と名付けました。長文記事は米イラン紛争に焦点を当てたものでした。コメントの大半も同様に紛争に関するもので、少数は米国政治を扱っていましたが、多くの場合紛争というより広い文脈の中でのものでした。
彼らの主要な活動の見かけ上の影響は大きく異なっていました。世界中の約12のオンラインメディアにわたり、この作戦の署名名義で公開または配信された記事をほぼ100本特定しました。これらは小規模から中規模のメディアで、一般的に国際情勢、地政学、中東の出来事に焦点を当てていました。対照的に、ソーシャルメディアのコメントは、いいね、シェア、さらなる返信のいずれの面でも実質的なエンゲージメントを生んだものは見当たりませんでした。実際、運営者の内部レポートでは、ソーシャルメディア上の影響力を測るために欺瞞的な計算が用いられており、運営者の見かけ上の効果を水増しする試みであった可能性があります。
活動全体は、報酬を受けて影響力工作を行う商用の行為者と整合的に見えますが、関与した特定の行為者を特定することはできませんでした。本ケースに関する情報は関係当局と共有済みです。
記事の植え付け
この作戦で最も影響範囲の広い活動は、米イラン紛争の地政学に関する英語の長文記事をChatGPTにレビュー・推敲させるというものでした。典型的なプロンプトでは、英語の草稿を特定のオンラインメディアの投稿基準に照らして評価し、基準を満たすための編集提案を求めていました。運営者が編集を承認すると、当該オンラインメディアの編集者に記事を売り込む際に使えるメールの生成をモデルに依頼していました。
これらの売り込みメッセージは、7つの異なる偽の署名、すなわちErvin B. Hoskins、Noah Lamington、Sophia Gonzalez、Michael Harrison、Ericka Feusier、Jenny Williams、Alice Johnsonを用いて作成されました。一部の記事とともにオンラインに掲載された経歴によれば、各ペルソナは西洋のジャーナリスト（通常は米国人ですが、Noah Lamingtonのペルソナの経歴はニュージーランド在住と主張していました）を装い、多くの場合、国際政治、中東、人権、紛争に焦点を当てているとしていました。ペルソナの1人「Michael Harrison」については、運営者は経歴自体の執筆をモデルに依頼しました。（参考までに、3月にMetaは「Michael Harrison」というジャーナリストのペルソナが登場する別のイラン発IOを 遮断(新しいウィンドウで開きます) しています。）
これらのペルソナの一部は、さまざまなソーシャルメディアプラットフォーム上のアカウントによって補強されていました。例えばMichael Harrisonのペルソナは、Medium、X、Facebookで補強されていました。Ervin B. Hoskinsのペルソナには、X、Facebook、Instagram、Threadsにアカウントがありました。このペルソナの経歴は「米国人フリーランスライター」と自称していましたが、ソーシャルメディアの透明性設定により、これらのアカウントがイランにあることが判明しました。
上、Ervin HoskinsペルソナのInstagramの経歴。左下、Xアカウントの透明性情報で、West Asia Androidアプリの使用を示しています。右下、Instagramアカウントの透明性情報で、イランの所在地を示しています。Metaは8月にこのInstagramアカウントを禁止しました。
オープンソース調査の手法を用いて、運営者のいずれかの署名名義で公開された記事を、12以上の異なる出版物にわたってほぼ100本特定しました。これらの出版物は一般的に国際情勢、地政学、中東の出来事に焦点を当てており、時に反戦的またはリベラルな観点からでした。特定した最も古い記事は2025年7月に公開され、最新のものは2026年10月でした。記事の頻度は米イラン紛争の勃発後に大幅に増加しました。
2025年7月〜2026年9月の著者別・テーマ別記事のタイムライン。2026年3月以降の米イラン関係に関する出版物の密度に注目してください。
2026年2月から7月の間にこの作戦に関連する署名名義でさまざまなオンラインメディアに掲載された記事の見出しサンプル。
これらの記事の少なくとも一部は、その後、該当する報道機関のソーシャルメディアアカウントによって拡散されており、イランの運営者たちは、他の手段では到達できなかったであろう読者層にアクセスする潜在的な手段を得ていたことになる。
一括コメント
記事と併せて、脅威アクターはChatGPTに対し、地政学的または政治的なトピックに関する英語またはペルシア語のコメントを一括生成するよう求めていました。アクターの典型的な手法は、ソーシャルメディア投稿のテキストまたはスクリーンショットを入力し、彼らの全体的な方針に沿った一連の返信をモデルに求めるというものでした。これらはその後オンラインに投稿され、多くの場合数分以内の間隔で投稿されていました。運営者の内部報告には人手による投稿と自動投稿の両方が言及されていましたが、この自動化が当社のモデルを利用して行われたことを示す証拠はありません。
この操作によって生成され、7月に投稿された英語(左)とペルシャ語(右)のツイート。英語のコメントは、米国がイランへの「大規模な攻撃」を準備していると警告する英語のツイートへの返信だった。この画像内のすべてのコメントは10分間のうちに投稿されたものだ。ペルシャ語のコメントは、米国によるイランへの攻撃についてのペルシャ語のツイートへの返信で、13分以内に投稿された。
この一括コメント活動の一部は、作戦自身のニュース記事に関するソーシャルメディアの投稿への返信の生成で構成されていました。ここでは、運営者が自らの記事を宣伝する投稿のスクリーンショットを入力し、それらを賞賛または支持するコメントを生成していました。これはおそらく、記事がより人気があるように見せるためと考えられます。
米国の地元ニュースページがこの作戦によって生成された記事をシェアしたFacebook投稿、およびその投稿に対して同じ作戦によって生成されたコメント。
コメントのバッチの大半は、より広くイラン、アメリカ、イスラエル間の紛争に焦点を当てたものでした。ユーザーは、ミサイル攻撃、停戦、外交駆け引きなどのトピックについてのコメントを求め、アメリカを攻撃者として、イスラエルをアメリカの信頼できない同盟国として、イランは反抗的でありながらも打たれ強い被害者として描く出力を指定していました。運営者たちは、イラン政権の批判者である英国拠点の衛星ネットワーク「Iran International」による投稿への返信を特に大量に生成し、敵対的なペルシア語の返信を2ダースを超えるバッチで作成しました。少数のバッチでは、アメリカの政治問題に関するソーシャルメディアの投稿への返信が生成されており、これも typically 紛争というより広い文脈の中でのものでした。
米国の政治に関する投稿への返信としてこの操作によって生成されたInstagramのコメント。
我々は、こうした返信の一部がオンラインに投稿されていることを確認した。オープンソース調査にはより多くの返信が現れなかった。その理由として、投稿されなかったか、すでに削除されたアカウントによって投稿された可能性がある。（例えば、ジャーナリストのペルソナ3名——Ericka Feusier、Alice Johnson、Jenny Williams——は公開プロフィールにXアカウントのハンドル名を記載していたが、2026年8月時点で3件すべてが停止されていた。）オンラインでコメントを投稿していたアカウントの中には、西洋風の名前を持ちながら、アカウントの所在地がイランと表示されていたものもあった。
上の画像に示されたコメントを投稿したInstagramアカウントの透明性設定。イランから投稿されたことがわかる。
これらの返信が投稿されているのを確認できた場所では、それらは通常、当該投稿へのコメント全体の中で少数派を占めており、運営者が本物の反応の中で支配的な声ではなかったことが示唆されます。また、実質的なエンゲージメントを集めた様子もありませんでした。実際、この工作の返信への「いいね」の多くは、その工作自体に関連するアカウントからのものでした。この事例に関する情報は、エンゲージメントに関する総合的な評価を最も行う立場にある業界パートナーと共有しています。
内部通報
その活動をより人気があるように見せる試みは、一般に公開される投稿に留まらなかった。コンテンツ生成と並行して、運営者は時にChatGPTに対し、ソーシャルメディアキャンペーンに関する内部報告らしきものを洗練させるよう依頼していた。これは通常、一連の統計数値をモデルに提供し、それを磨き上げられたプレゼンテーションに仕上げさせるというものだった。
これは、AIを使ってその文章を書いていた作戦を我々が阻止した初めての事例ではありません 自分の(新しいウィンドウで開きます) セルフレビュー（新しいウィンドウで開きます）イランの運用者が自分の答案を採点する際に最も印象的だったのは、そのために用いた手法である。彼らが主な「インパクト」指標として用いたのは、自身が返信した投稿の閲覧数であった(ない 実際の返信の閲覧数(返信が投稿される前と、投稿後の特定しない期間に計測されたもの)に基づいて算出された。この計算では、元の投稿の人気や他のコメントなど、他の要因による閲覧は考慮されていなかった。そのため、この作戦の影響力の数字は大きく誇張されており、運営者はより正確な計算方法を知らなかったか、あるいは知っていても使わなかったことを示唆している。
影響
実際、公開情報の観察から得られる証拠に基づくと、この作戦の2つの主要な活動領域は、もたらしたと考えられる影響の度合いが大きく異なっていたようだ。
識別できたソーシャルメディア上の返信は、概していいね、閲覧数、コメント数が少なかった(1桁または2桁)。前述のとおり、これらの返信は通常、対象の投稿への全コメントの中で少数派を占めていた。IOを1(最低)から6(最高)の尺度で評価するIO Breakout Scale(新しいウィンドウで開きます)（IOを1（最低）から6（最高）のスケールで評価するもの）によれば、作戦のこの部分は カテゴリー2と評価する。複数のプラットフォームにコメントが存在したものの、ブレイクアウトや返信を支配する能力の兆候はほとんど見られなかった。
対照的に、ジャーナリストのペルソナは様々な媒体に記事を掲載することに成功しており、中には大きなフォロワーを持つ媒体もあった。例えば、この作戦の記事を掲載したオンライン媒体のひとつは、2026年8月時点でFacebookに約2百万人、Xに約355,000人、Instagramに544,000人以上のフォロワーを持っていた。この作戦のこの部分は、複数のメディアへの持続的なブレイクアウトに基づき、 カテゴリー4と評価する。