過去2年半にわたり、私たちは 報じた オン 多くの の その 方法 in どの 脅威 出演者 私たちのモデルをサイバー攻撃、隠密的な影響力活動(IO)、詐欺、その他の利用規約への違反に利用しようとする者がいました。私たちがこれらの報告書を公開するのは、脅威アクターがAIを悪用しようとする様子や、彼らが突こうとする脆弱性について、規制当局、業界の同業者、そしてより広い社会に知らせるためです。
私たちは最近、IOを2件停止しました。1件はロシア発、もう1件はイラン発で、いずれも当社のモデルをより従来的な手法や技術と組み合わせて使い、高度な「偽の看板」組織を運営していました。これらの組織を利用して、地政学的なメッセージや紛争関連のプロパガンダをターゲットとする読者層に流通させていました。イランの作戦には7人の「ジャーナリスト」ペルソナの集団が含まれており、これを使って世界中の中小規模のオンライン媒体に長文記事を売り込んでいました。ロシアの作戦では、ラテンアメリカの無自覚な人々を取り込んで、現地に「シンクタンク」を運営させていたとみられます。
両作戦はいずれも多次元的で、目標を達成するために幅広いさまざまな戦術を試みました。長文記事に加え、イランの作戦は主に米伊戦争に関連する話題について、ソーシャルメディアのコメントをまとめて生成していました。「シンクタンク」を運営するだけでなく、ロシアの作戦は偽の「リークされた」文書や音声スクリプトを作成し、その一部がオンラインで拡散されているのを特定しました。両作戦はまた、内部報告の起草にAIを大々的に活用しました（ロシアの作戦は何よりもこれを多く行っていました）。いずれの場合も、活動者は作戦関係者の成果を誇張するために、疑わしい、あるいは明らかに欺瞞的な手法を用いていました。
これらの作戦で最も印象的なのは、AI以前の時代の複雑な影響作戦に酷似しており、その一方でAIを使って一部のワークフローを容易にしていた点です。イランの作戦が運用したジャーナリストのペルソナは、偽物のジャーナリスト「アリス（新しいウィンドウで開きます） ドノヴァン(新しいウィンドウで開きます)],"2016~17年にロシア軍情報機関のフロント組織であり、その記事はさまざまな西洋メディアに掲載された。2020年には、ロシアのインターネット・リサーチ・エージェンシーの過去の活動に関係する人物たちが「」という偽の「ニュース」サイトを運営した。PeaceData（新しいウィンドウで開きます）、それは世界中の気づかぬジャーナリストを巻き込み、自分のために書かせていた。
これらの作戦は、その潜在的な影響範囲の点でも異例でした。IOを利用することで ブレイクアウト・スケール(新しいウィンドウで開きます)(1が最低、6が最高の1～6段階でIOを評価するもの)に基づけば、ロシア発のこの活動は カテゴリー5「これは取材を開始して以来、私たちが妨害した初のカテゴリー5の作戦です。イラン発のこの作戦は~に達していました」 カテゴリー4。両者とも、単にソーシャルメディアに投稿するのではなく、そのコンテンツ(すべてが当社のモデルで生成されたものではない)を主流メディアに掲載させることに成功しました。これは、過去2年半に当社が暴露した30件の潜在的な影響工作から観察されたパターンと一致しています。偽のソーシャルメディアでの拡散に頼るのではなく、実際のメディアへの掲載を狙う工作は、最高のリーチと影響力を持つ傾向があります。
2024年初頭以降に当社が暴露した30件の影響工作(IO)のマトリクス。主な配信方法(ソーシャルメディア、工作主体が運営するウェブサイト、外部媒体への掲載)とブレイクアウトスケールのスコアによって評価したもの。ウェブサイトを運営し、それをソーシャルメディアで宣伝するなど、複数の配信方法を用いた工作は、その工作の中核を構成していたとみられる方法に分類しています。
AIは、こうした見せかけだけの活動に、より大きな規模、効率性、言語の流暢さ、そして編集能力をもたらす可能性があります。運営者はこれらの利点を利用して、従業員や編集者などの疑いを持たない被害者につけ込み、自分たちが誰なのか、どのような動機を持っていたのかを知らない読者の目の前にコンテンツを配置することができます。こうした活動はまた、脅威アクターが目標を達成するために偽のペルソナや組織を利用することの複雑さと高度さを示しています。脅威アクターがこうした取り組みで悪用する脆弱性を理解し、それらの脆弱性がどのようにして読者層とリーチに結びつくのかを理解することは、組織全体の強固な防御を維持するために不可欠です。
しかし、こうした偽装組織の隐蔽性は、同時に責任ある開示に対して特に脆弱でもある。「Alice Donovan」と「PeaceData」はいずれも暴露後に活動を停止した。だからこそ、私たちがこれらの偽装組織を報道する目的は、さらなる研究や妨害を容易にし、活動の継続を困難にすることにある。
ロシア:作戦「Dark Clark」
ラテンアメリカ全域で影響力工作活動を展開するロシア発のアクター。
俳優
ロシアを発生源とする一連のChatGPTアカウントを禁止しました。これらのアカウントは、ラテンアメリカ全域の国々を標的とした秘密裏の影響工作に関連するさまざまなタスクにChatGPTを使用していました。この活動の多くは、この地域におけるウクライナの評判を落とすことを目的としているように見られましたが、一部は現地の政治的結果に影響を与えることを狙ったもので、特にアルゼンチンとボリビアで顕著でした。運営者の大半はロシア語でプロンプトを入力しており、1名はスペイン語で入力していましたが、それでもロシアに所在していると見られます。この事例に関する情報は、関係当局と共有しています。
操作者はChatGPTを、主に3つのタスクに使用していました。すなわち、自身の活動(および自らの功績としてもっともらしく主張できる他者の活動)に関する内部報告書の作成、作戦用コンテンツの作成、そして「Social Research Center(SRC)」と自称するラテンアメリカの「研究プラットフォーム」の実績に関する報告書の作成です。彼らは「Mia Clark」という偽のペルソナを通じてSRCを管理していたようです。この名前にちなみ、私たちはこの作戦を「Dark Clark」と名付けました。ロシアからは当社のモデルへのアクセスを許可していないため、彼らはVPNを使用して当社のサービスに接続していました。
内部報告書の中で、運営者らはウクライナや現地の指導者を貶めるために、ラテンアメリカ全域にフェイク記事を拡散したと主張していた。これらのフェイクの一部は〜によるものとされている。 オープンソース（新しいウィンドウで開きます） 研究者たち（新しいウィンドウで開きます） 「Politology」または「La Compania」として知られるロシアの団体への支出が報じられています。これは、ロシアのオリガルヒ、イェフゲニー・プリゴジンによって設立されたワグネル・グループその他の団体の後継とされる存在です。運営者たちはまた、Politologyとワグネルに関する公開報道の翻訳や説明もモデルに求めており、これはその他のどのロシア発のネットワークについての質問よりもはるかに多くの量でした。
この作戦は2つの点で unusual でした。第一に、ラテンアメリカの個人をうまく取り込んでSRCのために働かせていたと見られる点です。ロシアの作戦関与者によるSRCに関する報告書には、給与水準、採用、解雇といった問題に関する決定が言及されており、彼らが単に協力していたのではなく、この組織を支配していたことを示唆しています。入手可能な証拠によれば、SRCのラテンアメリカにおける従業員は、ロシアのグループのために働いていることを認識していなかったと示されています。私たちが調査した別のロシアとつながりのある「シンクタンク」とは異なり、 最近暴露された、SRCは取り込んだスタッフを通じて大多数のオリジナルコンテンツを制作していたようです。これは、過去2年半で我々が妨害してきたフロント組織の運営の試みの中で、最も複雑なものとして際立っています。
第二に、いくつかの公開されている情報から、Dark Clarkの偽物が幅広く拡散され、 provokedするほどであったことを示唆している ファクトチェック（新しいウィンドウで開きます） および 公式の否認（新しいウィンドウで開きます）を示しており、これは過去2年間に我々が解除したいずれの影響工作よりも深い浸透度を物語っています。この作戦がペルーに仕掛けたと主張した偽情報の一つは、ウクライナとポーランドの間の公的な緊張にまで影響を及ぼしました。
内部通報
オペレーターたちがChatGPTを使用した主な目的は、身元不明の上司に提出する内部報告書の作成と更新でした。これらの定期的な報告書は、ラテンアメリカ全域で極秘の影響力工作を実行する取り組みについて記述していました。それらは3つの主要な作業ストリームを包含していました。ウクライナを中傷し、ウクライナ軍への志願を弱体化させる取り組み。特定の国、特にボリビアとアルゼンチンの国内政治への介入の取り組み。そしてSRCの管理です。大多数のケースにおいて、脅威アクターがキャンペーン用のコンテンツ作成に当社のモデルを使用するのではなく、それらについて報告するために使用するのを確認しただけでした(少数の例外については後に記載されます)。 以下).
報告書は戦術的な詳細に富んでおり、この作戦がウクライナや一部の国の指導者、特にアルゼンチン、ボリビア、エクアドルの大統領を动摇させることを図っていた実態を明るみに出した。地元民をだまして、作戦実行部隊が武器化できる活動を行わせようとした試みを描写したものもあれば、実行部隊が拡散したと主張する偽の「リーク」について述べたものもあった。
2つの事例では、証拠が運営者を「Politology」に関する公開報道と結びつけています。運営者らは、2024年にアルゼンチンのハビエル・ミレイ大統領を標的とする2つのキャンペーンを実施したと報告しています。第一に、ミレイが自分の犬のためにカルティエの宝石をあしらった首輪を購入したという虚偽の報道を広めたと述べています。第二に、ブエノスアイレスで反ミレイの落書きを書かせるため、地元の俳優に報酬を支払ったと主張しています。流出した文書に基づくと、これら両方の主張は 公に（新しいウィンドウで開きます） 帰属された(新しいウィンドウで開きます) 「Politology」と「La Compania」へ。
これまでロシアの影響工作(IO)と結び付けられてこなかった偽情報ははるかに多く存在します。例えば、運営者たちは、2026年5月にペルーのリマの教育地域局を装った偽のメールアドレスを作成したと主張しています。彼らはこれを利用して、管轄区内の学校に対し、国家の文化的・言語的多様性の日(5月21日)にウクライナにちなんだイベントを開催するよう指示しました。これらのメールには、とりわけ物議を醸す20世紀のウクライナ民族主義者ステパーン・バンデーラに言及するという明示的な指示が含まれていました。バンデーラは一部のウクライナ人から独立の象徴とみなされている一方、ロシアやポーランドではファシズム、戦時中の協力、残虐行為と結び付けられています。運営者たちによると、一部の学校は偽のメールアドレスに返信し、そのようなイベントを開催したことを確認し、さらには写真まで提供したといいます。
その後、作戦の実行者たちは、ペルーとポーランドの両国のメディアにこれらの出来事に関する記事を掲載したと主張し、さらにウクライナが超ナショナリズム思想を「輸出」しているという主張とともに、激しい憤りを引き起こしたとしました。オープンソースによる検索では、この主張と一致する記事が ペルー人（新しいウィンドウで開きます） および（新しいウィンドウで開きます） ポーランド語(新しいウィンドウで開きます) プレス（新しいウィンドウで開きます）、および英語による出版物は ハンガリー（新しいウィンドウで開きます） （一部の記事はその後削除されました。） 一部の(新しいウィンドウで開きます) 記事(新しいウィンドウで開きます) 「反ポーランド的」な人物を宣言すべきだと提案する、ポーランド出身の欧州議会議員の反応が含まれていた ペルソナ・ノン・グラータ(好ましからざる人物) ポーランドで。このロシアの偽情報は、こうしてウクライナ人とポーランド人の間の歴史的緊張に食い込み、同時にそれを助長したのです。
同様に、6月には、操作者たちは別の偽メールアドレスを使ってエクアドルの学校を騙し、ダニエル・ノボア大統領と民間軍事会社ブラックウォーターの元責任者エリック・プリンスへの忠誠を誓う式典を行わせたと主張しました。操作者たちは、この事件がエクアドルで憤りを引き起こし、政府に偽情報を否定するよう圧力をかけ、それによって偽情報を全国規模の聴衆に増幅させたと主張しました。繰り返しになりますが、オープンソース調査によって特定されたのは メディア(新しいウィンドウで開きます) 報道です(新しいウィンドウで開きます) に エクアドルの(新しいウィンドウで開きます) 報道(新しいウィンドウで開きます) がこの主張に極めて似通った内容を伝えており、さらにエクアドル教育大臣による 詳細な反論(新しいウィンドウで開きます) さえあった。
作戦の実行者は、偽の情報を下支えするためにさまざまな手法を用いました。彼らの内部報告によると、3月にエクアドルを標的とした2種類の偽情報を拡散していました。一つは、エクアドル駐在のウクライナ領事のものとされる偽の音声を使用し、その中で同領事がエクアドル人を侮辱する発言をしたとされていました。私たちのオープンソース調査では、この主張と正確に一致するTikTokの投稿を特定しましたが、その投稿は限られた反響しか得ていなかったようです。もう一つは、実際のニュースチャンネルのロゴの下でXとTikTok上に拡散された偽の動画で、ノボア政権がウクライナで戦うために若い男性を募集していると主張するものでした。 ファクトチェッカー（新しいウィンドウで開きます） エクアドルでは、4月上旬にこの特徴に一致するキャンペーンが実施されたと説明された。
2026年4月8日に投稿されたTikTok動画で、この作戦による偽の音声が含まれ、ウクライナ領事のものとされたもの。
もう一つの内部報告書では、5月下旬、反政府デモのピーク時にボリビアで拡散されたフェイクについて述べられている。運営者たちは、このキャンペーンの目的をデモをめぐる危機を悪化させることであると明確に説明していた。このキャンペーンでは、国営水道会社EPSASの従業員が、政府は行政首都ラパスへの給水を停止し、非常事態を宣言する予定だと語るという音声の偽録が使われた。私たちのオープンソース調査では、あることを特定した 誤解を打ち消す（新しいウィンドウで開きます） 該当する請求と1つの 公式の否定（新しいウィンドウで開きます） EPSASより。
その他の内部報告には、オープンソースからは裏付けが取れなかった偽情報が含まれていた。これは、すでに削除されていたか、拡散に失敗していたためと考えられる。例えば、運営者たちは1月、あるブラジル人インフルエンサーでモデルの女性がウクライナ大使館の関係者によってウクライナに人身売買され、キーウで殺害されたとする記事を拡散したと主張していた。6月には、ボリバスで別の偽の音声クリップを拡散したと主張しており、今回はボリバス中央銀行の職員からのもので、銀行が現金引き出しを制限しようとしていると警告する内容だった。さらに、同国の炭化水素庁からの偽の書簡を拡散したとも主張しており、私用車への燃料販売制限を警告する内容だった。
他の報告では、作戦実施者は、たとえ自分たちが関与していなくても、目標国で起きたインシデントの中で自らの手柄と主張できるものを特定するよう当社のモデルに依頼しました。例えばアルゼンチンでは、作戦実施者は、アルゼンチン外相が国連のフォークランド(マルビナス)諸島に関する委員会会合で自分たちの作戦を引用したと主張しました。実施者は、住民自決の原則は同諸島には適用されない、そして英国が同諸島に不釣り合いな規模の軍事的プレゼンスを維持している、という論拠を仕込んだことを手柄として主張しました。実際には、どちらの主張も以前からアルゼンチンの公式立場の一部となっています。 多数の（新しいウィンドウで開きます） 年(新しいウィンドウで開きます)。同様に6月には、ブラジルメディア 報じた（新しいウィンドウで開きます） ブラジル国籍の男性が軍に参加するためウクライナへ渡り、ロシア軍に捕虜となった後、自身が騙されて戦闘に参加させられたと主張する声明をテレビで行った事例に関する報道。ChatGPTの運営者たちは、この報道が彼らの作戦のメッセージを再現したものだとして主張しようとしたが、実際にはその報道は 捕虜自身の映像を引用した（新しいウィンドウで開きます）。これは、外部の読者層ではなく、運営者自身の雇用主を標的とした影響工作を実行しようとした試みを示唆している。
その「リサーチプラットフォーム」
操作者の報告の一部は、自称「リサーチプラットフォーム」であるSocial Research Center（ロシア語ではЦентр социологических исследований）と呼ばれる組織に言及していた。同センター（SRC）のウェブサイトによれば、ラテンアメリカにおけるインド系ディアスポラ、およびインドと同地域諸国との関係に注力しているという。
内部報告書は、オペレーターたちがシンクタンクを単に協力関係にあるだけでなく、実際に支配していたことを示唆していた。例えば、採用や解雇の決定、給与水準、人員計画、進行中の研究プロジェクトなどに言及していた。決定的なことに、報告書は、オペレーターたちが「Mia Clark」という名の偽ペルソナを作成し、この作戦のソーシャルメディア活動を運営し、ラテンアメリカで現地のスタッフと関わっていたことも述べていた。入手可能な証拠によれば、これらの現地従業員はロシアの作戦のために働いているとは全く知らず、誠実に研究業務を行っていたという。このような知らぬ間に利用された仲介者の使い方は、プリゴジンの世界にも関連していた以前のロシアの作戦「PeaceData」と酷似しており、Metaは 露出(新しいウィンドウで開きます) 2020年に。
ロシア人オペレーターたちの報告から判断すると、ラテンアメリカに駐在する彼らのスタッフは地域全体の専門家や解説者にインタビューを行い、その調査結果に基づいて調査報告書を起草していた。テーマは、BRICSグループに対する世論の幅広い分析から、ジャイール・ボルソナロ大統領とルイス・イナシオ・ルーラ・ダ・シルバ大統領の下でのブラジル経済の詳細な比較にまで及んだ。場合によっては、ロシア人オペレーターは研究プロジェクトが公表される前に進捗報告書を起草しており、制作プロセスへの深い関与を示している。我々はSRCのウェブサイト上で60件をはるかに超える記事を確認したが、その大多数はオリジナルの文章であるように見えた。これは、Dark Clarkを、最近我々が暴露したロシア発の作戦とは区別するものである。後者もシンクタンクを偽装組織として運営していたが、そのコンテンツの大部分を盗用していた。このことは、ラテンアメリカ全体に人脈を持つ、より恒久的な偽装組織を構築しようとする意図を示唆している。
SRCの活動を宣伝するために、ロシア人オペレーターたちはソーシャルメディアのアカウント網の構築を試みたと主張していた。彼らの報告によれば、このソーシャルメディア活動は、世界の異なる地域にいるオペレーターが同じアカウントにアクセスしようとしたことでアカウント制限が発生し、問題に直面したという。この痕跡はオープンソースの記録にも見られる。例えば、X上のSRCのメインアカウントの透明性設定は、ドイツの所在地(VPN使用の結果の可能性がある)を表示していたが、接続はロシア連邦のApp Store経由で行われていた。また、SRCのInstagramアカウントの一つの透明性設定には、ベネズエラの管理者所在地が表示されていた。我々が特定した3つのSRCブランドのFacebookアカウントのいずれも、管理者所在地設定が表示されるほどのフォロワー数には達していなかった。
左：Social Research Centerに紐づくXアカウント。ロシア連邦のアプリストア経由でアカウントが接続されていることを示す透明性設定に注意。右：SRCのInstagramアカウント。ベネズエラの所在地に注意。
オペレーターたちは、LinkedInで特に問題に直面したと報告している。彼らは、SRCを代表する明白な偽アカウントを作成したが、そのネットワークを構築するのに苦労したという。彼らの報告によれば、解決策は、最初のアカウントをフォローしてより説得力のある見た目にするための偽アカウントをさらに作成することだった。8月17日時点で、同じSocial Research Centerのブランドを持つLinkedInアカウントは961人のフォロワーを数え、200〜500人のスタッフを主張していたが、掲載されていた従業員はわずか2人だった。
偽アカウントの作成
時折、オペレーターたちは報告書の更新にAIを使うだけでなく、作戦で使用できるテキストの設計や作成を支援するようモデルに依頼することもあった。例えば、偽アカウントが異なる国に応じた正しいアクセント、語彙、機関の文体を使用していることを確認するための支援を求めるといったことである。これは作業全体に占める割合は比較的小さかった。これはおそらく、この作戦にはラテンアメリカ出身のネイティブスペイン語話者が少なくとも1人含まれていたと思われ、AIの言語サポートへの必要性が低かったためである。
例えば、あるときロシア語を話すオペレーターの一人が、ウクライナのパナマ名誉領事を汚職に巻き込む内容の手紙をロシア語で起草するようモデルに依頼した。その後、スペイン語を話すオペレーターが、その手紙をスペイン語に翻訳し、それに付随する音声台本の生成をモデルに依頼した。手紙の内容に合致する写真と、オペレーターの台本に合致するナレーションを添えた動画が、ニュースメディアを装うアカウントによってTikTokに投稿されたが、そのロゴはパナマの TVN Noticias(新しいウィンドウで開きます)のものだった。このTikTokチャンネルのフォロワーはわずか1人で、この偽情報を植え付けた後は投稿を停止した。
この作戦によってテキストが生成された手紙を示すTikTok投稿。ナレーション台本も同様に作戦によって生成されたもの。
別の機会には、ロシアにいるスペイン語を話すオペレーターが、ノボアがエクアドルの貧しい人々を侮辱したと主張するロシア語の台本をモデルに入力し、それをエクアドルのスペイン語に翻訳するよう依頼した。3つ目の例として、3月に同じユーザーが、「International Security Solutions FZE」という会社とエクアドルの個人との間で、ウクライナにおけるインフラサービスの提供をうたうスペイン語の契約書草案の校正をモデルに依頼した。ユーザーの質問は、太字にすべき単語を尋ねるなど、文言とレイアウトの改善方法に焦点が当てられていた。
契約書に関するユーザーのプロンプトは、文言が確定した時点で終わった。しかし、オープンソース調査によれば、その後「契約書」の画像が ソーシャルメディア上で拡散(新しいウィンドウで開きます)されていた。これは、ノボア政権が身分を隠した会社と結託し、エクアドル人を騙してウクライナ軍に勧誘させていたという主張を裏付けるために使われた。この偽情報は4月上旬に ファクトチェック(新しいウィンドウで開きます) を引き起こすほど広く拡散した。ファクトチェッカーは、この会社は「エクアドルの会社・証券・保険監督庁の登記簿には登場しない」と結論づけた。
影響
この作戦の影響の評価には、特に慎重な検討が必要である。前述のとおり、オペレーターたちの主な手法の一つは、自分たちの作戦とは無関係の活動の手柄を横取りすることだった。そのため、内部報告における彼ら自身の影響に関する主張を額面通りに受け取ることはできない。同様に、彼らが植え付けたと主張した偽ストーリーの一部は、オープンソース調査では確認されなかった。これは、非公開のチャンネルで拡散されたか、すでに削除されたか、あるいは実際には投稿されていなかった可能性がある。
しかしながら、公開情報による検証により、彼らの主張の一部を裏付けることができました。この作戦が拡散したと主張した偽情報の一部は、その後にファクトチェッカーによって報告され、政府によって反駁されており、対応に値するほど広く拡散していたことを示唆しています。また別の事例では、この作戦が生成したコンテンツに極めて類似したコンテンツをオンライン上で特定することができました。最も顕著な例として、バンデラを美化するイベントをペルーの学校に開催させたというこの作戦の主張は、その後ラテンアメリカとヨーロッパの両方で報道され、少なくとも1名のポーランド人欧州議会議員による発言につながったとみられます。
IOの活用 ブレイクアウトスケール（新しいウィンドウで開きます）（最低の1から最高の6までのスケールでIOを評価するもの）を用いると、この作戦は カテゴリー5に属すると評価します。複数の国の政治家による公の発言につながったことを示唆する証拠があるためです。これは、報告を開始して以来、私たちが排除した初のカテゴリー5の作戦です。
イラン：作戦「Bogus Bylines（偽の署名）」
イラン発の作戦で、オンラインニュースメディアにおいて欺瞞的な署名名義で長編記事を流通させています。
主体
私たちは、イランに発源するChatGPTアカウントのクラスタを禁止しました。これらはペルシア語でプロンプトを入力し、ペルシア語と英語でコンテンツを生成していました。行為者は、VPNを使ってChatGPTにアクセスすることで所在地を隠していました。
この作戦は、私たちのモデルを、長編記事や編集提案の推敲、ソーシャルメディアコメントの生成、内部報告の推敲に使用しました。運営者は7つの異なる署名名義を使って記事を売り込んでいたため、私たちはこのキャンペーンを「Bogus Bylines」と名付けました。長編記事は米イラン紛争に焦点を当てたものでした。コメントの大半も同様にこの紛争に関連するものでしたが、少数は米国政治を扱い、多くの場合、紛争というより広い文脈の中でのものでした。
主要な活動の見かけ上の影響は大きく異なっていました。私たちは、世界中の約12のオンラインメディアにわたり、この作戦の署名名義で公開または配信されたほぼ100の記事を特定しました。これらは中小規模のメディアで、一般的に国際情勢、地政学、中東の出来事に焦点を当てていました。対照的に、ソーシャルメディアのコメントのいずれも、いいね、シェア、さらなる返信の面で実質的なエンゲージメントを生んだ様子はありませんでした。実際、運営者の内部報告は、ソーシャルメディアでの影響を測定するために欺瞞的な計算を用いており、運営者の見かけ上の効果を水増ししようとした可能性があります。
活動全体は、有償で影響力工作を行う商業的主体の活動と整合的に見えましたが、関与した特定の主体を特定することはできませんでした。この事例に関する情報は関係当局と共有しています。
記事の植え付け
この作戦で最も広範に及んだ活動は、米イラン紛争の地政学に関する英語の長編記事をChatGPTに確認・推敲させるものでした。典型的なプロンプトでは、英語の草稿を特定のオンラインメディアの投稿基準と照らして評価し、基準を満たすための編集提案を行うようモデルに求めていました。運営者は編集案を承認した後、当該オンラインメディアの編集者に記事を売り込むために使えるメールを生成するようモデルに依頼しました。
これらの売り込みメッセージは、7つの異なる偽の署名名義を用いて作成されました。Ervin B. Hoskins、Noah Lamington、Sophia Gonzalez、Michael Harrison、Ericka Feusier、Jenny Williams、そしてAlice Johnsonです。これらの記事の一部とともにオンラインに掲載された経歴によれば、各ペルソナは西洋人ジャーナリスト（多くは米国人ですが、Noah Lamingtonペルソナの経歴はニュージーランド在住と主張していました）を装い、多くの場合、国際政治、中東、人権、紛争を専門としていました。ペルソナの1人「Michael Harrison」については、運営者は経歴自体をモデルに書かせていました。（参考までに、3月にMetaは、「Michael Harrison」というジャーナリストのペルソナが登場するイラン発のIOを 排除（新しいウィンドウで開きます） しています。）
これらのペルソナの一部は、さまざまなソーシャルメディアプラットフォーム上のアカウントによって補強されていました。例えばMichael Harrisonのペルソナは、Medium、X、Facebookで補強されていました。Ervin B. Hoskinsのペルソナは、X、Facebook、Instagram、Threadsにアカウントを持っていました。このペルソナの経歴は「米人のフリーランスライター」であると主張していましたが、ソーシャルメディアの透明性設定により、これらのアカウントがイランにあることが判明しました。
上：Ervin HoskinsペルソナのInstagram経歴。左下：Xアカウントの透明性情報で、West AsiaのAndroidアプリの使用を示しています。右下：Instagramアカウントの透明性情報で、イランの所在地を示しています。Metaは8月にこのInstagramアカウントを禁止しました。
公開情報調査の手法を用いて、私たちは、運営者の署名名義のいずれかで公開されたほぼ100の記事を、12以上の異なる出版物にわたって特定しました。これらの出版物は、一般的に国際情勢、地政学、中東の出来事に焦点を当てており、場合によっては反戦的または進歩的な観点からでした。私たちが特定した最も古い記事は2025年7月に、最新のものは2026年10月に公開されました。記事の頻度は、米イラン紛争の勃発後に大幅に増加しました。
2025年7月〜2026年9月の著者別・テーマ別記事のタイムライン。2026年3月以降の米イラン関係に関する出版物の密度に注目してください。
2026年2月から7月の間にこの作戦に関連する署名名義で公開された記事の見出しサンプル。さまざまなオンラインメディアに掲載されています。
その記事の少なくとも一部は、その後、当該メディアのソーシャルメディアアカウントによって拡散されており、イランの運営者に、本来なら届かなかったであろう読者層にアクセスする可能性のある手段を与えていた。
一括コメント
記事と併せて、脅威アクターはChatGPTに対し、地政学的または政治的なトピックに関する英語またはペルシャ語のコメントをまとめて生成するよう求めていました。アクターの典型的な手法は、ソーシャルメディア投稿のテキストまたはスクリーンショットを入力し、彼らの全体的な活動方針に沿った一連の返信をモデルに求めるというものでした。これらはその後オンラインに投稿され、多くの場合、数分以内の間隔で投稿されました。運営者の内部報告では人手による投稿と自動投稿の両方が言及されていましたが、この自動化が弊社のモデルを用いて行われたことを示す証拠はありません。
この作戦で生成され、7月に投稿された英語(左)とペルシャ語(右)のツイート。英語のコメントは、米国がイランへの「大規模攻撃」を準備していると警告する英語ツイートへの返信だった。この画像内のコメントはすべて10分以内に投稿されたものである。ペルシャ語のコメントは、米国によるイランへの攻撃についてのペルシャ語ツイートへの返信で、13分以内に投稿された。
この一括コメント活動の一部は、作戦自身のニュース記事に関するソーシャルメディア投稿への返信の生成で構成されていました。ここでは運営者が自らの記事を宣伝する投稿のスクリーンショットを入力し、それを称賛または支持するコメントを生成していました。これはおそらく、記事がより人気があるように見せるためでした。
米国の地元ニュースページが、この操作によって生成された記事をシェアしたFacebook投稿、およびその投稿に対するこの操作によって生成されたコメント。
コメントのバッチの大多数は、イラン、アメリカ、イスラエル間の紛争についてより一般的に焦点を当てたものでした。ユーザーは、ミサイル攻撃、停戦、外交駆け引きなどのトピックについてのコメントを求め、アメリカを侵略者として、イスラエルをアメリカの頼りにならない同盟国として、イランを反抗的でありながらも強靭な被害者として描く出力を指定していました。運営者たちは、イラン政権の批判者である英国拠点の衛星テレビネットワークIran Internationalの投稿に対して、とりわけ大量の返信を生成し、敵対的なペルシャ語の返信を25以上のバッチで作成しました。少数のバッチでは、アメリカの政治問題に関するソーシャルメディアの投稿への返信が生成されましたが、これも通常、紛争というより広い文脈の中でのものでした。
この操作によって生成された、米国政治に関する投稿への返信としてのInstagramコメント。
我々は、こうした返信の一部がオンラインに投稿されていることを確認した。それ以外の多くはオープンソース調査では確認できなかった。その理由として、投稿されなかったか、すでに削除されたアカウントによって投稿された可能性がある。(例えば、ジャーナリストのペルソナのうちEricka Feusier、Alice Johnson、Jenny Williamsの3人は、公開プロフィールにXのアカウントハンドルを記載していたが、いずれも2026年8月時点で停止されていた。)オンラインでコメントを投稿していたアカウントの中には、西洋風の名前を持ちながら、アカウントの所在地がイランと表示されているものもあった。
上の図でコメントを投稿した Instagram アカウントの透明性設定の様子。これらのアカウントがイランに拠点を置いていたことがわかる。
これらの返信が投稿されていた場所では、それらは通常、当該投稿の全コメントの中で少数派を占めており、運営者が正規の反応の中で支配的な声ではなかったことを示唆しています。また、 substantial なエンゲージメントを集めた様子もありませんでした。実際、この工作の返信への「いいね」の多くは、工作自体に紐づくアカウントからのものでした。今回の事例に関する情報は、エンゲージメントについて包括的な評価を行う立場にある業界パートナーと共有しています。
内部通報
その活動をより人気があるように見せる試みは、一般向けの投稿にとどまらなかった。コンテンツ生成と並行して、運営者は時にChatGPTに対し、ソーシャルメディアキャンペーンに関する内部報告と思われる文書の推敲を依頼していた。これは通常、一連の統計数値をモデルに提供し、それを洗練されたプレゼンテーションに仕上げるよう求めるという形だった。
これは、AIを使ってその文を書いていた作戦を我々が破壊した初めての事例ではありません 自分の(新しいウィンドウで開きます) セルフレビュー（新しいウィンドウで開きます）イランの運用者が自らの「答案」を採点しようとした取り組みで最も際立っていたのは、そのために用いた手法だった。彼らが主に使用した「影響」の指標は、自分たちが返信した投稿の閲覧数であった（ない 実際の返信の閲覧数（返信が投稿される前と、投稿後の unspecified な期間経過後の時点でカウントされたもの）を基に計算された。この計算では、元の投稿の人気や他のコメントなど、他の要因による閲覧は考慮されていなかった。そのため、この作戦の影響数は大幅に誇張されており、運営者がより効果的な計算方法を知らなかったか、あるいは使うことを選択しなかったことを示唆している。
影響
実際、公開情報から得られる観察に基づくと、この作戦の2つの主要な活動区分は、生じたであろう影響の程度が大きく異なっていたようだ。
特定できたソーシャルメディア上の返信は、概して「いいね」、閲覧数、コメントの数が少ない(1桁または2桁)水準にとどまっていました。前述のとおり、これらの返信は通常、当該投稿へのコメント全体の中では少数派でした。IOを1(最低)から6(最高)のスケールで評価するIO Breakout Scale(opens in a new window)IOを1(最低)から6(最高)の尺度で評価するものに基づくと、この作戦のこの部分は Category 2と評価します。複数のプラットフォームにコメントが見られるものの、ブレイクアウトの兆候や返信を支配する能力はほとんど見られません。
対照的に、ジャーナリストのペルソナはさまざまなメディアに記事を掲載させることに成功しました。その中にはフォロワー数が相当数に上るメディアもありました。例えば、この作戦の記事を掲載したオンラインメディアの一つは、2026年8月時点でFacebookのフォロワーが約2百万、Xのフォロワーが約355,000、Instagramのフォロワーが544,000超でした。複数のメディアへの持続的なブレイクアウトに基づき、作戦のこの部分は Category 4と評価します。