지난 2년 반 동안 우리는 보도했다 켜기 많은 의 그 방법 에서 어느 위협 배우들 우리 모델을 이용해 사이버 공격, 은밀한 영향력 작전(IO), 사기 및 기타 이용 정책 위반을 시도하려 했습니다. 우리는 이러한 보고서를 발행하여 규제 기관, 업계 동료, 그리고 더 넓은 사회에 위협 행위자들이 AI를 활용하려는 방식과 그들이 이용하려는 취약점에 대한 정보를 제공합니다.
최근 우리는 러시아와 이란에서 각각 온 두 개의 영향력 작전(IO)을 차단했습니다. 이들은 우리 모델을 보다 전통적인 기법 및 기술과 결합하여 정교한 '가면' 조직을 지원했습니다. 이들은 해당 조직을 통해 지정학적 및 분쟁 관련 메시지를 표적 대상자들에게 세탁하여 전달했습니다. 이란 작전은 7명의 '기자' 페르소나로 구성된 팀을 포함했으며, 이를 이용해 전 세계의 중소 온라인 매체에 장문 기사를 제안했습니다. 러시아 작전은 라틴 아메리카의 아무것도 모르는 사람들을 끌어들여 현지에 '싱크탱크'를 운영하게 한 것으로 보입니다.
두 작전 모두 다차원적이었으며, 목표 달성을 위해 다양한 전술을 시도했습니다. 이란 작전은 장문 기사 외에도 일반적으로 미국-이란 전쟁 관련 주제에 대한 소셜 미디어 댓글을 배치로 생성했습니다. 러시아 작전은 '싱크탱크'를 운영하는 것 외에도 가짜 '유출' 문서와 오디오 대본을 만들었으며, 그 일부가 온라인에 퍼지는 것을 우리가 확인했습니다. 두 작전 모두 내부 보고서 작성에 AI를 많이 활용했으며(러시아 작전은 그 외 어떤 것보다 이를 더 많이 했습니다); 두 경우 모두 작전 수행자들은 자신들의 효과를 과장하기 위해 의심스럽거나 노골적으로 기만적인 방법론을 사용했습니다.
이러한 작전에서 가장 눈에 띄는 점은 AI 이전 시대의 복잡한 영향력 작전과 매우 유사했지만, AI를 사용해 일부 작업 흐름을 더 쉽게 만들었다는 것입니다. 이란 작전이 운영한 기자 페르소나들은 2016-17년 여러 서구 매체에 기사가 게재되었던 러시아 군정보부의 전면에 서 있던 가짜 기자 'Alice(새 창에서 열림) Donovan(새 창에서 열림),” 2016-17년에 다양한 서구 언론이 게재한 기사를 낸 러시아 군 정보기관의 전면 조직이다. 2020년에는 러시아 인터넷 리서치 에이전시(Internet Research Agency)의 과거 활동과 연관된 인물들이 “PeaceData(새 창에서 열림)'라는 가짜 '뉴스' 매체를 운영하며 전 세계의 아무것도 모르는 기자들을 끌어들여 글을 쓰게 했습니다.
이 작전들은 잠재적 도달 범위 면에서도 특이했습니다. 영향력 작전을 1(최저)부터 6(최고)까지의 척도로 평가하는 IO Breakout Scale(새 창에서 열림)(1(최저)부터 6(최고)까지의 척도로 정보 작전(IO)을 평가하는) 이 척도에서 우리는 러시아 기원의 작전을 다음 등급에 속하는 것으로 평가할 것이다 카테고리 5에 속한다고 평가합니다. 이는 보고를 시작한 이래 우리가 차단한 첫 번째 카테고리 5 작전입니다. 이란발 작전은 카테고리 4. 두 작전 모두 콘텐츠를 소셜 미디어에 단순히 게시하는 것이 아니라 주류 언론 매체에 실는 데 성공했습니다(그 콘텐츠가 모두 우리 모델로 생성된 것은 아닙니다). 이는 지난 2년 반 동안 우리가 적발한 30건의 은밀한 영향력 작전 전반에서 관찰된 패턴과 일치합니다. 가짜 소셜 미디어 배포에 의존하지 않고 실제 언론 매체에 콘텐츠를 실으려 하는 작전들이 가장 높은 도달 범위와 영향력 잠재력을 보이는 경향이 있습니다.
2024년 초 이후 우리가 적발한 30건의 IO에 대한 매트릭스로, 주요 배포 방식(소셜 미디어, 작전 운영 웹사이트, 외부 출판물)과 Breakout Scale 점수 기준으로 평가되었습니다. 웹사이트를 운영하고 이를 소셜 미디어에서 홍보하는 것처럼 하나 이상의 배포 방식을 사용한 작전은 작전의 핵심을 이룬 것으로 보이는 방식으로 분류되었습니다.
AI는 이러한 가면 조작(fake-front operation)에 더 큰 규모, 효율성, 언어 유창성, 편집 능력을 부여할 수 있습니다. 조작자들은 이러한 이점을 활용해 아무것도 모르는 피해자들, 예컨대 직원이나 편집자를 이용하고, 누가 그 뒤에 있는지 또는 그들의 동기가 무엇이었는지 전혀 알지 못하는 청중 앞에 자신들의 콘텐츠를 심을 수 있습니다. 이러한 조작은 또한 위협 행위자들이 자신들의 목표를 달성하기 위해 가상 페르소나와 단체를 사용하는 방식의 복잡성과 정교함을 보여줍니다. 위협 행위자들이 이러한 노력에서 악용하는 취약점, 그리고 그 취약점이 어떻게 청중과 도달 범위로 이어질 수 있는지 이해하는 것은 조직 전반에 걸쳐 강력한 방어를 유지하는 데 필수적입니다.
그러나 이러한 가면 조작의 은밀한 성격은 책임 있는 공개(responsible disclosure)에 특히 취약하게 만들기도 합니다. 'Alice Donovan'과 'PeaceData'는 모두 폭로된 후 활동을 중단했습니다. 이 때문에 우리가 이러한 가면 조작을 보고하는 목표는 추가 연구와 방해 활동을 더 쉽게 만들고, 조작의 지속을 더 어렵게 만드는 것입니다.
러시아: 'Dark Clark' 작전
라틴 아메리카 전역에서 영향력 작전을 수행하는 러시아 출신 행위자.
행위자
러시아에서 시작된 ChatGPT 계정 무리를 차단했습니다. 이들은 라틴 아메리카 여러 국가를 표적으로 하는 은밀한 영향력 작전과 관련된 다양한 작업에 ChatGPT를 사용했습니다. 이 활동의 상당 부분은 이 지역에서 우크라이나의 평판을 훼손하는 것을 겨냥한 것으로 보였지만, 일부는 특히 아르헨티나와 볼리비아에서 현지 정치 결과에 영향을 미치려는 것으로 보였습니다. 대부분의 조작자는 러시아어로 프롬프트를 입력했으며, 한 명은 스페인어로 입력했지만 그럼에도 러시아에 위치한 것으로 보였습니다. 이 사건에 대한 정보를 관련 당국과 공유했습니다.
조작자들은 ChatGPT를 사용해 세 가지 주요 작업을 수행했습니다: 자신들의 활동(그리고 자신들이 그럴듯하게 공을 주장할 수 있는 타인의 활동)에 대한 내부 보고서 작성, 자신들의 작전을 위한 콘텐츠 제작, 그리고 Social Research Center(SRC)라고 자칭하는 라틴 아메리카의 '연구 플랫폼'의 성과에 대한 보고서 작성입니다. 이들은 'Mia Clark'이라는 가짜 페르소나를 통해 SRC를 통제한 것으로 보입니다. 이 이름을 기려 우리는 이 작전을 'Dark Clark'라고 명명했습니다. 우리는 러시아에서의 모델 접근을 허용하지 않기 때문에, 이들은 VPN을 사용해 우리 서비스에 접속했습니다.
조작자들은 내부 보고서에서 우크라이나나 현지 지도자들을 훼손하기 위해 라틴 아메리카 전역에 가짜 이야기를 퍼뜨렸다고 주장했습니다. 이러한 가짜 중 일부는 오픈소스(새 창에서 열립니다) 연구자들에 의해(새 창에서 열립니다) 러시아 과두재벌 예브게니 프리고진(Yevgeniy Prigozhin)이 설립한 Wagner Group 및 기타 단체의 후계자로 알려진 'Politology' 또는 'La Compania'로 알려진 러시아 단체의 소행으로 귀속되었습니다. 조작자들은 또한 우리 모델에게 Politology와 Wagner에 대한 공개 보도를 번역하거나 설명해 달라고 요청했는데, 그 빈도가 다른 러시아 출신 네트워크에 대한 요청보다 훨씬 많았습니다.
이 작전은 두 가지 면에서 특이했습니다. 첫째, 라틴 아메리카의 개인들을 성공적으로 포섭하여 SRC를 위해 일하게 한 것으로 보입니다. 러시아 조작자들의 SRC에 대한 보고서는 급여 체계, 채용, 해고 등의 문제에 대한 결정을 언급하고 있어, 그들이 SRC와 협력한 것이 아니라 이 단체를 통제했음을 시사합니다. 이용 가능한 증거에 따르면 라틴 아메리카의 SRC 직원들은 자신이 러시아 그룹을 위해 일하고 있다는 사실을 알지 못했습니다. 우리가 최근에 폭로한 또 다른 러시아계 '싱크탱크'와 달리SRC는 포섭된 직원들을 통해 대부분의 오리지널 콘텐츠를 생산한 것으로 보입니다. 이는 지난 2년 반 동안 우리가 방해한 활동 중 가장 복잡한 전면(front) 신분 운영 시도로 두드러집니다.
둘째, 일부 오픈소스 증거는 Dark Clark의 가짜 뉴스가 널리 퍼져 팩트 체크(새 창에서 열립니다) 와 공식 부인(새 창에서 열립니다)을 불러일 정도였음을 시사하며, 이는 지난 2년간 우리가 방해한 어떤 영향력 작전보다도 높은 침투 수준을 나타냅니다. 이 작전이 페루에 심었다고 주장한 가짜 뉴스 하나는 심지어 우크라이나와 폴란드 사이의 공적 긴장에까지 영향을 미쳤습니다.
내부 보고
조작자들이 ChatGPT를 사용한 주요 방식은 미상의 상급자에게 제출할 내부 보고서를 작성하고 업데이트하는 것이었습니다. 이러한 정기 보고서는 라틴 아메리카 전역에서 은밀한 영향력 캠페인을 수행하려는 노력을 담고 있었습니다. 여기에는 세 가지 주요 업무 흐름이 포함되었습니다: 우크라이나를 비하하고 우크라이나군 모집을 약화시키려는 노력, 특정 국가들, 특히 볼리비아와 아르헨티나의 국내 정치에 개입하려는 노력, 그리고 SRC의 관리. 대부분의 경우, 우리는 위협 행위자들이 캠페인을 위한 콘텐츠를 만드는 데 모델을 사용하는 것을 관찰하지 못했고, 캠페인에 대해 보고하는 데만 사용하는 것을 관찰했습니다(몇 가지 예외는 아래에 설명되어 있습니다).
이 보고서들은 전술적 세부 사항이 풍부하여, 이 작전이 어떻게 우크라이나와 일부 국가 지도자들, 특히 아르헨티나, 볼리비아, 에콰도르의 대통령들을 약화시키려 했는지 조명하고 있습니다. 일부 보고서는 운영자들이 악용할 수 있는 활동을 현지인들이 수행하도록 속이려는 시도를 묘사했고, 다른 보고서들은 운영자들이 퍼뜨렸다고 주장한 가짜 '유출'에 대해 묘사했습니다.
두 건의 사례에서, 그 증거는 운영자들을 'Politology'에 관한 공개 보도와 연결시킵니다. 운영자들은 2024년에 아르헨티나의 하비에르 밀레이 대통령을 표적으로 하는 두 번의 캠페인을 수행했다고 보고했습니다. 첫째, 그들은 밀레이가 자신의 개들을 위해 Cartier 보석 목걸이를 샀다는 거짓 보도를 퍼뜨렸다고 말했습니다. 둘째, 그들은 부에노스아이레스에서 반(反)밀레이 낙서를 게시하기 위해 현지 배우들에게 돈을 지불했다고 주장했습니다. 유출된 문서를 바탕으로, 이 두 주장은 모두 공개적으로(새 창에서 열림) 귀속(새 창에서 열림) 되어 'Politology'와 'La Compania'에 연결되었습니다.
훨씬 더 많은 가짜들이 이전까지는 러시아 정보작전(IO)과 연결된 적이 없었습니다. 예를 들어, 운영자들은 2026년 5월에 페루 리마의 교육지역국에서 보낸 것으로 추정되는 가짜 이메일 주소를 만들었다고 주장했습니다. 그들은 이를 사용해 해당 지역의 학교들에게 국가 문화·언어 다양성의 날(5월 21일)에 우크라이나 전용 행사를 개최하도록 지시했습니다. 이 이메일에는 그중에서도 20세기의 논란이 많은 우크라이나 민족주의자 스테판 반데라를 언급하라는 명시적인 지시가 포함되어 있었는데, 반데라는 일부 우크라이나인들에게 독립 인물로 여겨지지만, 러시아와 폴란드에서는 파시즘, 전시 협력, 만행과 연관되어 있습니다. 운영자들에 따르면, 일부 학교들은 그 가짜 이메일 주소로 답장을 보내 그러한 행사를 개최했음을 확인했고 심지어 사진까지 제공했다고 합니다.
운영자들은 이후 페루와 폴란드 양국의 언론에 이 행사들에 대한 기사를 심었으며, 우크라이나가 극단적 민족주의 이념을 '수출'하고 있다는 주장과 함께 격분을 불러일으켰다고 주장했습니다. 공개자료 검색을 통해 이 주장과 일치하는 기사가 페루(새 창에서 열림) 및(새 창에서 열림) 폴란드(새 창에서 열림) 언론(새 창에서 열림)에서 발견되었고, 헝가리(새 창에서 열림) 의 영어 출판물에서도 발견되었습니다(일부 기사는 이후 삭제되었습니다). 일부(새 창에서 열림) 기사(새 창에서 열림) 에는 '반(反)폴란드성'을 보인 사람들이 폴란드에서 persona non grata (페르소나 논 그라타)로 선언되어야 한다고 제안한 유럽의회 폴란드 의원의 반응이 포함되어 있었습니다. 이 러시아의 가짜는 이렇게 우크라이나인과 폴란드인 사이의 역사적 긴장에 편승하는 동시에 그 긴장을 더욱 부채질했습니다.
마찬가지로, 6월에 운영자들은 다른 가짜 이메일 주소를 사용해 에콰도르의 학교들을 속여 다니엘 노보아 대통령과 민간 군사기업 블랙워터의 전 수장 에릭 프린스에게 충성 서약을 하는 의식을 거행하게 했다고 주장했습니다. 운영자들은 이 사건이 에콰도르에서 격분을 불러일으켰고, 정부가 이 가짜를 부인하도록 압박하여 전국 규모의 청중에게 확산시켰다고 주장했습니다. 다시 한번, 공개자료 연구를 통해 언론(새 창에서 열림) 보도가 확인되었습니다(새 창에서 열립니다) 에서 에콰도르(새 창에서 열립니다) 언론에(새 창에서 열립니다) 이 주장과 매우 유사한 보도가 있었으며, 심지어 에콰도르 교육부 장관에 의한 상세한 반박(새 창에서 열립니다) 도 있었습니다.
운영자들은 허위 이야기를 뒷받침하기 위해 다양한 기법을 사용했습니다. 그들의 내부 보고에 따르면, 이들은 3월에 에콰도르를 겨냥한 서로 다른 두 가지 가짜 뉴스를 퍼뜨렸습니다. 하나는 에콰도르 주재 우크라이나 영사의 것으로 둔갑한 가짜 음성을 사용해, 그가 에콰도르인들을 비하하는 발언을 했다고 주장했습니다. 저희 오픈소스 조사에서는 이 정확한 주장과 일치하는 TikTok 게시물을 확인했으며, 이 게시물은 제한적인 반응만 받은 것으로 보였습니다. 다른 하나는 실제 뉴스 채널의 로고를 달고 X와 TikTok에 퍼진 가짜 영상 클립으로, 노보아 정부가 우크라이나에서 싸우도록 젊은 남성들을 모집하고 있다고 주장했습니다. 팩트 체커(새 창에서 열립니다) 에콰도르에서는 4월 초 이 설명과 일치하는 캠페인이 있었다고 전해졌다.
2026년 4월 8일에 게시된 틱톡 영상으로, 이 작전에서 주장되었으며 우크라이나 영사의 것으로 돌려진 조작된 음성이 담겨 있다.
또 다른 내부 보고서는 5월 말, 반정부 시위가 절정에 달했을 때 볼리비아에서 퍼뜨린 가짜 뉴스를 설명했다. 운영자들은 이 캠페인의 목표를 시위를 둘러싼 위기를 악화시키는 것이라고 명시적으로 기술했다. 이 캠페인에는 정부가 행정 수도 라파스에 대한 물 공급을 차단하고 비상사태를 선포할 것이라고 말하는 국영 수도회사 EPSAS 직원의 가짜 음성 녹음이 포함되어 있었다. 우리의 오픈소스 조사는 논박하다(새 창에서 열립니다) 해당 청구의 부분 및 공식 부인(새 창에서 열립니다) EPSAS에서.
다른 내부 보고서에는 공개 출처를 통해 확인할 수 없는 가짜 뉴스도 포함되어 있었는데, 아마 이미 삭제되었거나 확산에 실패했기 때문일 것입니다. 예를 들어, 이 조직은 1월에 한 브라질 인플루언서이자 모델이 우크라이나 대사관 관계자들에 의해 우크라이나로 인신매매되어 키이우에서 살해되었다는 주장의 기사를 퍼뜨렸다고 주장했습니다. 6월에는 볼리비아에서 또 다른 가짜 오디오 클립을 퍼뜨렸다고 주장했는데, 이번에는 볼리비아 중앙은행 직원의 것으로 추정되며 은행이 곧 현금 인출을 제한할 것이라고 경고하는 내용이었습니다. 또한 이들은 해당 국가의 석유 자원 기관이 개인 차량에 대한 연료 판매 제한을 경고하는 위조된 편지를 퍼뜨렸다고 주장했습니다.
다른 보고 내용에서는 운영자들이 자신들이 관여하지 않았더라도 공로를 주장할 수 있는 표적 국가 내 사건을 식별하는 데 우리 모델에 도움을 요청했습니다. 예를 들어 아르헨티나에서 운영자들은 아르헨티나 외무장관이 포클랜드/말비나스 제도에 관한 유엔 위원회 회의에서 자신들의 작전을 인용했다고 주장했습니다. 운영자들은 자결의 원칙이 이 섬들에는 적용되지 않는다는 논거와 영국이 그곳에 과도한 군사 주둔을 유지하고 있다는 논거를 퍼뜨린 공로를 주장했습니다. 실제로 두 논거 모두 오랫동안 아르헨티나의 공식 입장의 일부였습니다. 많은(새 창에서 열립니다) 년(새 창에서 열립니다). 마찬가지로 6월에는 브라질 언론이 보도했다(새 창에서 열립니다) 브라질 시민이 우크라이나로 가서 군에 입대했다가 러시아군에게 포로로 잡힌 뒤, 자신이 속아서 싸우게 되었다고 주장하는 내용을 TV 인터뷰에서 밝힌 사건에 관한 것이었습니다. ChatGPT 운영자들은 이 보도가 자신들의 작전 메시지를 재현했다고 주장하려 했지만, 실제로 이 보도는 피해자 본인의 영상을 인용했다(새 창에서 열립니다). 이는 외부 청중이 아닌 자신들의 고용주를 표적으로 삼는 영향력 작전을 운영하려는 운영자들의 시도임을 시사합니다.
“연구 플랫폼”
일부 운영자의 보고서는 사회연구센터(Social Research Center, 러시아어로 Центр социологических исследований)라 불리는 스스로를 “연구 플랫폼”이라 칭하는 단체를 언급했습니다. SRC 웹사이트에 따르면, 이 단체는 라틴 아메리카의 인도 디아스포라와 인도와 해당 지역 국가 간의 관계에 초점을 맞추고 있습니다.
해당 내부 보고서는 이 운영자들이 싱크탱크와 단순히 협력하는 것이 아니라 싱크탱크를 통제하고 있음을 시사했다. 예컨대 보고서에는 채용 및 해고 결정, 급여 체계, 인력 계획, 진행 중인 연구 프로젝트가 언급되어 있었다. 결정적으로, 보고서는 운영자들이 이 작전의 소셜 미디어 활동을 수행하고 라틴아메리카 현지 직원들과 소통하기 위해 '미아 클라크(Mia Clark)'라는 가상 인물을 만들었다고도 밝혔다. 이용 가능한 증거에 따르면 이 현지 직원들은 자신이 러시아 작전을 위해 일하고 있다는 사실을 전혀 모른 채 선의로 연구 업무를 수행했던 것으로 보인다. 이처럼 모르는 사람을 매개로 활용하는 방식은 프리고진의 세계와 연결된 것으로 알려진 이전 러시아 작전인 '피스데이터(PeaceData)'와 매우 유사하며, Meta는 노출됨(새 창에서 열립니다) 2020년.
러시아 운영자들의 보고서를 판단해 보면, 라틴아메리카 현지의 이들이 지역 전역의 전문가와 논평자들을 인터뷰한 뒤 그 결과를 바탕으로 연구 논문을 작성한 것으로 보인다. 주제는 BRICS 그룹에 대한 여론의 폭넓은 분석부터 하이르 보소나루와 루이스 이나시우 룰라 다 실바 대통령 시기 브라질 경제의 상세 비교에 이르렀다. 때때로 러시아 운영자들은 연구 프로젝트가 발표되기 전에 진행 상황 보고서를 작성했는데, 이는 제작 과정에 대한 깊은 관여를 시사한다. 우리는 SRC 웹사이트에서 60개가 넘는 기사를 확인했으며, 그 대다수는 독창적인 저작으로 보였다. 이는 최근에 우리가 폭로한 러시아 기반 작전과 Dark Clark를 구별해 주는 지점인데, 그 작전 역시 싱크탱크를 위장 업체로 운영했지만 콘텐츠 대부분을 표절했다. 이는 라틴아메리카 전역에 연락망을 갖춘 더 오래 지속되는 위장 조직을 구축하려는 의도를 시사한다.
SRC의 활동을 홍보하기 위해 러시아 운영자들은 소셜 미디어 자산 네트워크를 만들려고 시도했다고 주장했다. 그들의 보고서에 따르면, 이 소셜 미디어 활동은 세계 각지의 운영자들이 동일한 계정에 접속하려다 보니 계정 제한을 받는 문제에 부딪혔다. 이 흔적은 공개 자료에서도 확인할 수 있다. 예를 들어, X의 SRC 메인 계정의 투명성 설정은 독일 위치(VPN 사용의 결과일 수 있음)를 표시했지만, 러시아 연방 App Store를 통한 연결이었으며, SRC의 인스타그램 계정 중 하나의 투명성 설정은 베네수엘라에 있는 관리자 위치를 표시했다. 우리가 확인한 세 개의 SRC 브랜드 페이스북 계정 중 어느 것도 관리자 위치 설정을 촉발할 만큼 충분한 팔로워를 갖고 있지 않았다.
왼쪽: Social Research Center와 연관된 X 계정. 러시아 연방 앱 스토어를 통해 연결된 계정임을 보여주는 투명성 설정에 주목하라. 오른쪽: SRC 인스타그램 계정. 베네수엘라 위치에 주목하라.
운영자들은 특히 링크드인에서 문제를 겪었다고 보고했는데, 그들은 SRC를 대표하는 명백한 가짜 계정을 만들었지만 네트워크를 구축하는 데 어려움을 겪었다고 했다. 그들의 보고서에 따르면 해결책은 첫 번째 계정을 팔로우하고 더 설득력 있어 보이게 만들기 위해 더 많은 가짜 계정을 만드는 것이었다. 8월 17일 기준, 동일한 Social Research Center 브랜딩을 사용하는 링크드인 계정은 팔로워 961명을 보유했고 직원 200-500명을 주장했지만, 실제로 나열된 직원은 두 명뿐이었다.
가짜 만들기
때때로 운영자들은 보고서를 AI로 업데이트하는 것 외에도, 작전에 사용할 수 있는 텍스트를 설계하고 제작하도록 우리 모델에 요청하기도 했다. 예를 들어, 가짜 콘텐츠가 국가마다 올바른 억양, 어휘, 기관적 문체를 사용하도록 도움을 요청한 것이다. 이는 전체 업무량 중 비교적 작은 비중이었는데, 아마도 이 작전에 라틴아메리카 출신 원어민 스페인어 화자가 최소 한 명 포함되어 있어 AI 언어 지원의 필요성이 적었기 때문으로 보인다.
예를 들어, 한 번은 러시아어 사용 운영자 중 한 명이 모델에게 우크라이나의 파나마 명예 영사를 부정부패에 연루시키는 편지 초안을 러시아어로 작성하도록 도와달라고 요청했다. 그런 다음 스페인어 사용 운영자가 모델에게 그 편지를 스페인어로 번역하고 이를 곁들일 오디오 대본을 생성해 달라고 요청했다. 편지 내용과 일치하는 사진이, 운영자의 대본과 일치하는 내레이션과 함께 뉴스 매체를 자칭하는 계정에 의해 틱톡에 게시되었으며, 그 계정은 파나마의 TVN Noticias(새 창에서 열림)로고를 사용하고 있었다. 이 틱톡 채널은 팔로워가 한 명뿐이었고, 이 가짜 콘텐츠를 심은 후 게시를 중단했다.
이 작전이 생성한 텍스트의 편지를 보여주는 틱톡 게시물. 내레이션 대본 역시 이 작전이 생성한 것이다.
또 다른 경우, 러시아에 있는 스페인어 사용 운영자가 노보아가 에콰도르의 가난한 사람들을 모욕했다고 주장하는 러시아어 대본을 모델에 제공하고 이를 에콰도르 스페인어로 번역해 달라고 요청했다. 3월에는 동일한 사용자가 "International Security Solutions FZE"라는 회사와 에콰도르의 한 개인 간의, 우크라이나에서 인프라 서비스를 제공한다고 주장하는 스페인어 계약서 초안을 교정해 달라고 모델에 요청했다. 사용자의 질문은 굵은 글씨로 표시할 단어를 묻는 것을 포함해 언어와 레이아웃을 개선하는 방법에 집중되어 있었다.
사용자의 계약서 관련 프롬프트는 문구가 확정되면 끝났다. 그러나 공개자료 조사에 따르면, 그 "계약서"의 사진은 이후 소셜 미디어에서 유통되었다(새 창에서 열림). 이는 노보아 정부가 위장 회사와 협력해 에콰도르인들을 속여 우크라이나군에 입대하도록 모집했다는 주장을 뒷받침하는 데 사용되었다. 이 가짜는 충분히 널리 퍼져 4월 초 팩트 체크(새 창에서 열림) 를 촉발했다. 팩트 체커들은 해당 회사가 "에콰도르 기업·유가증권·보험 감독원 등록부에 나타나지 않는다"고 결론 내렸다.
영향력
이 작전의 영향력은 특히 신중한 평가가 필요하다. 앞서 언급했듯이, 운영자들의 주요 접근법 중 하나는 그들의 작전과 아무 관련이 없는 활동에 대한 공을 주장하는 것이었다. 따라서 그들의 내부 보고서에 담긴 영향력 주장을 표면적으로 받아들일 수는 없다. 마찬가지로, 그들이 심었다고 주장한 일부 가짜 소식은 공개자료 조사에서 나타나지 않았는데, 비공개 채널에서 유통되었거나 이미 삭제되었거나 실제로 게시되지 않았기 때문일 수 있다.
그러나 오픈소스 증거를 통해 우리는 이들이 주장한 내용 중 일부를 뒷받침할 수 있었습니다. 이 작전이 퍼뜨렸다고 주장한 가짜 콘텐츠 일부는 이후 팩트체커들에 의해 보도되었고 정부들에 의해 허위로 판명되었는데, 이는 해당 콘텐츠가 대응할 가치가 있을 만큼 널리 퍼졌음을 시사합니다. 다른 경우에는 이 작전이 생성한 콘텐츠와 매우 유사한 콘텐츠를 온라인에서 식별할 수 있었습니다. 가장 두드러지게는, Bandera를 찬양하는 행사를 페루의 한 학교가 열도록 속였다는 이 작전의 주장은 이후 라틴아메리카와 유럽 양쪽에서 보도되었으며, 적어도 한 명의 폴란드 유럽의회 의원의 논평으로 이어진 것으로 보입니다.
IO 활용 Breakout Scale(opens in a new window)은(는) IO를 1(최하)부터 6(최고)까지의 척도로 평가하는데, 이 척도를 기준으로 우리는 이 작전이 범주 5에 속한다고 평가하며, 여러 국가의 정치인들에 의한 공개 논평으로 이어졌다는 증거가 있습니다. 이는 보고를 시작한 이래 우리가 차단한 첫 번째 범주 5 작전입니다.
이란: 작전 “Bogus Bylines”
이란발 작전으로, 온라인 뉴스 매체에 기만적인 필명으로 장문 기사를 심는 활동.
행위자
우리는 이란에서 시작된 ChatGPT 계정 무리를 차단했습니다. 이들은 페르시아어로 프롬프트를 입력했으며, 페르시아어와 영어로 콘텐츠를 생성했습니다. 행위자들은 VPN을 사용하여 ChatGPT에 접속함으로써 자신의 위치를 숨겼습니다.
이 작전은 우리 모델을 사용하여 장문 기사와 편집 제안서를 다듬고, 소셜 미디어 댓글을 생성하며, 내부 보고서를 수정했습니다. 운영자들은 일곱 가지 서로 다른 필명으로 기사를 제안했기에, 우리는 이들의 캠페인을 “Bogus Bylines”라고 명명했습니다. 장문 기사들은 미국-이란 분쟁에 초점을 맞췄습니다. 댓글 대다수 역시 이 분쟁을 다루었으며, 소수는 미국 정치를 다루었는데, 대개 분쟁이라는 더 넓은 맥락에서 다루었습니다.
이들의 주요 활동의 외견상 영향은 크게 달랐습니다. 우리는 전 세계 약 12개의 온라인 매체에서 이 작전의 필명으로 발표되거나 배포된 거의 100편의 기사를 식별했습니다. 이들은 국제 관계, 지정학, 중동 사건에 일반적으로 초점을 맞춘 소규모 내지 중간 규모 매체였습니다. 이와 대조적으로, 소셜 미디어 댓글 중 어느 것도 좋아요, 공유 또는 추가 답글 측면에서 실질적인 참여를 일으킨 것으로 보이지 않았습니다. 실제로 운영자들의 내부 보고서는 소셜 미디어 영향력을 측정하는 데 기만적인 계산 방식을 사용했는데, 이는 운영자들의 외견상 효과를 과장하려는 시도였을 가능성이 있습니다.
전반적인 활동은 돈을 받고 영향력 캠페인을 수행하는 상업적 행위자의 활동과 일치하는 것으로 보였지만, 우리는 관련된 특정 행위자를 식별할 수 없습니다. 우리는 이 사건에 대한 정보를 관련 당국과 공유했습니다.
기사 심기
이 작전의 가장 광범위한 활동은 미국-이란 분쟁의 지정학에 관한 장문의 영어 기사를 검토하고 다듬어 달라고 ChatGPT에 요청하는 것이었습니다. 전형적인 프롬프트는 특정 온라인 매체의 게재 기준에 대해 영어 초안을 평가하고, 기준을 준수하도록 수정 사항을 제안해 달라고 모델에 요청했습니다. 운영자들이 수정 사항을 승인하면, 해당 온라인 매체의 편집자에게 기사를 제안할 때 사용할 수 있는 이메일을 생성해 달라고 모델에 요청했습니다.
이러한 제안 메시지는 일곱 가지 서로 다른 가짜 필명을 사용하여 작성되었습니다: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams, Alice Johnson. 이 기사 일부와 함께 온라인에 게시된 약력에 따르면, 각 페르소나는 서구 저널리스트(대개 미국인이지만, Noah Lamington 페르소나의 약력은 자신이 뉴질랜드에 있다고 주장했습니다)를 자칭했으며, 흔히 국제 정치, 중동, 인권 또는 분쟁에 초점을 두고 있었습니다. 한 페르소나인 “Michael Harrison”의 경우, 운영자들은 모델에게 약력 자체를 작성해 달라고 요청했습니다. (참고로, 3월에 Meta가 “Michael Harrison” 저널리스트 페르소나를 특징으로 하는 이란 IO를 차단(opens in a new window) 한 바 있습니다.)
이러한 페르소나 일부는 다양한 소셜 미디어 플랫폼의 계정들로 뒷받침되었습니다. 예를 들어 Michael Harrison 페르소나는 Medium, X, Facebook에서 뒷받침되었습니다. Ervin B. Hoskins 페르소나는 X, Facebook, Instagram, Threads에 계정을 두고 있었습니다. 이 페르소나의 약력은 “미국인 프리랜서 작가”라고 주장했지만, 소셜 미디어 투명성 설정은 해당 계정들이 이란에 있음을 보여주었습니다.
위, Ervin Hoskins 페르소나의 Instagram 약력. 왼쪽 아래, West Asia Android 앱의 사용을 보여주는 X 계정 투명성 정보. 오른쪽 아래, 이란 내 위치를 보여주는 Instagram 계정 투명성 정보. Meta는 8월에 해당 Instagram 계정을 차단했습니다.
오픈소스 조사 기법을 사용하여 우리는 운영자들의 필명 중 하나 이하로 발표된 거의 100편의 기사를 12개가 넘는 서로 다른 출판물에서 식별했습니다. 이 출판물들은 일반적으로 국제 관계, 지정학, 중동 사건에 초점을 맞췄으며, 때로는 반전 또는 진보적 관점에서 다루었습니다. 우리가 식별한 가장 이른 기사는 2025년 7월에 발표되었고, 가장 최근 기사는 2026년 10월에 발표되었습니다. 기사의 빈도는 미국-이란 분쟁 발발 이후 크게 증가했습니다.
2025년 7월—2026년 9월, 저자와 주제별 기사 타임라인. 2026년 3월 이후 미국-이란 관계에 관한 게시물의 밀도에 유의하십시오.
2026년 2월부터 7월 사이에 이 작전과 연결된 필명으로 다양한 온라인 매체에 발표된 기사의 표지 예시.
이 기사들 중 적어도 일부는 이후 해당 언론 매체의 소셜 미디어 계정을 통해 홍보되었으며, 이는 이란 운영자들이 그렇지 않았다면 도달하지 못했을 청중에게 접근할 수 있는 잠재적 경로를 제공했습니다.
대량 댓글 작성
위 기사들과 더불어 위협 행위자들은 ChatGPT에게 지정학적 또는 정치적 주제에 대해 영어나 페르시아어로 댓글 묶음을 생성하도록 요청했습니다. 이 행위자들의 일반적인 방식은 소셜 미디어 게시물의 텍스트나 스크린샷을 입력하고, 전체적인 방향에 부합하는 답글 세트를 모델에게 요청하는 것이었습니다. 그런 다음 이 답글들은 온라인에 게시되었으며, 종종 몇 분 간격으로 연달아 올라갔습니다. 운영자들의 내부 보고서에는 사람이 직접 하는 게시와 자동화된 게시가 모두 언급되어 있었지만, 이 자동화가 저희 모델의 도움으로 이루어졌다는 증거는 없습니다.
이 작업으로 생성되어 7월에 게시된 영어 트윗(왼쪽)과 페르시아어 트윗(오른쪽). 영어 댓글들은 미국이 이란에 대한 “대규모 공격”을 준비하고 있다고 경고한 영어 트윗에 대한 답글이었다. 이 이미지의 모든 댓글은 10분 범위 안에 게시되었다. 페르시아어 댓글들은 미국의 이란 공습에 관한 페르시아어 트윗에 대한 답글이었으며 13분 안에 게시되었다.
이번 대량 댓글 활동 중 일부는 이 작전 자체의 뉴스 기사에 관한 소셜 미디어 게시물에 답글을 생성하는 것이었습니다. 이 경우 운영자들은 자신들의 기사를 홍보하는 게시물의 스크린샷을 입력한 뒤, 이를 칭찬하거나 지지하는 댓글을 생성했습니다. 이는 기사들이 더 인기 있어 보이도록 만들기 위한 것으로 보입니다.
미국 현지 뉴스 페이지가 이 작전을 통해 생성된 기사를 공유한 Facebook 게시물과, 해당 게시물에 이 작전이 생성한 댓글들.
댓글 배치의 대다수는 이란, 미국, 이스라엘 간의 분쟁에 대해 보다 일반적으로 초점을 맞추었습니다. 사용자들은 미사일 공습, 휴전, 외교적 움직임 등의 주제에 대한 댓글을 요청하면서, 미국을 침략자로, 이스라엘을 미국의 믿을 수 없는 동맹으로, 이란은 저항적이지만 회복력 있는 피해자로 묘사하는 결과물을 지정했습니다. 운영자들은 이란 정권의 비판자인 영국 기반 위성 방송사 Iran International의 게시물에 대해 특히 많은 수의 답글을 생성했으며, 적대적인 페르시아어 답글 배치만 20개가 넘게 만들어냈습니다. 소수의 배치는 미국 정치 이슈에 관한 소셜 미디어 게시물에 답글을 생성했으며, 이 역시 대개 분쟁이라는 더 넓은 맥락에서 이루어졌습니다.
이 작업으로 생성된, 미국 정치 관련 게시물에 달리는 Instagram 댓글.
우리는 이러한 답글 중 소수가 온라인에 게시된 것을 확인했습니다. 훨씬 더 많은 답글은 우리의 오픈소스 검색에서 나타나지 않았는데, 이는 게시되지 않았거나 이미 삭제된 계정에 의해 게시되었기 때문일 수 있습니다. (예를 들어, 기자 페르소나 중 Ericka Feusier, Alice Johnson, Jenny Williams 세 명은 공개된 소개글에 X 계정 핸들을 표기했었는데, 세 계정 모두 2026년 8월 기준 정지된 상태였습니다.) 온라인에 댓글을 게시한 일부 계정은 서양식으로 보이는 이름을 가지고 있었지만, 계정 위치는 이란으로 표시되어 있었습니다.
위에 제시된 댓글을 작성한 Instagram 계정들의 투명성 설정 화면으로, 해당 계정들이 이란에 위치해 있었음을 보여준다.
우리가 이러한 답글이 게시된 것을 확인한 경우, 해당 게시물의 전체 댓글에서 이들은 소수에 불과한 경우가 대부분이었으며, 이는 운영자들이 실제 사용자들의 반응 속에서 지배적인 목소리였음을 시사하지 않습니다. 또한 이들이 상당한 참여를 불러일으킨 것으로 보이지도 않습니다. 실제로 이 활동의 답글에 달린 좋아요 상당수는 그 자체로 이 활동과 연결된 계정에서 나온 것이었습니다. 우리는 이 사례에 대한 정보를 참여 전반에 대한 종합적인 평가를 수행할 수 있는 가장 적임자인 업계 파트너들과 공유했습니다.
내부 보고
자신들의 활동을 더 인기 있는 것처럼 보이게 하려는 시도는 대외적으로 공개되는 게시물에만 국한되지 않았습니다. 콘텐츠 생성과 함께, 운영자들은 가끔 ChatGPT에게 자신들의 소셜 미디어 캠페인에 관한 내부 보고서로 보이는 것을 다듬어 달라고 요청했습니다. 이는 일반적으로 모델에 일련의 통계를 제공하고 이를 정돈된 프레젠테이션으로 바꿔달라고 요청하는 방식으로 이루어졌습니다.
이것은 AI를 사용해 자신들의 자체(opens in a new window) 자기 평가(opens in a new window)를 작성하게 한 우리가 차단한 첫 번째 작전이 아닙니다. 이란 운영자들의 자신의 숙제를 채점하려는 노력에서 가장 눈에 띄었던 것은 그들이 사용한 방법이었습니다. 그들이 사용한 주요 “영향력” 지표는 자신들이 답글을 단 게시물의 조회 수였으며(실제 답글의 조회 수가 아님 ), 답글이 게시되기 전과 답글 게시 후 특정되지 않은 기간이 지난 후에 집계되었습니다. 이 계산은 원본 게시물의 인기나 다른 댓글과 같은 다른 요인으로 인해 발생했을 수 있는 조회 수는 고려하지 않았습니다. 그 결과, 이는 작전의 영향력 수치를 크게 과장했으며, 이는 운영자들이 이를 계산하는 더 효과적인 방법을 알지 못했거나 그 방법을 사용하기로 선택하지 않았음을 시사합니다.
영향력
사실, 공개 소스 관찰을 통해 얻을 수 있는 증거에 기반하면, 이 작전의 두 가지 주요 작업 흐름은 예상되는 영향력의 정도가 매우 달랐던 것으로 보입니다.
우리가 확인할 수 있었던 소셜 미디어 답글은 대체로 좋아요, 조회수, 댓글 수가 낮은 수준(한 자리 또는 두 자리 숫자)에 그쳤습니다. 앞서 언급했듯이, 이 답글들은 해당 게시물의 전체 댓글에서 소수를 차지하는 경우가 대부분이었습니다. IO를 1(최하)부터 6(최고)까지의 척도로 평가하는 Breakout Scale(새 창에서 열림), 즉 IO를 1(최저)부터 6(최고)까지의 척도로 평가하는데, 우리는 이 작전의 이 부분을 다음과 같이 평가할 것이다. Category 2로 평가합니다. 즉, 여러 플랫폼에 댓글이 존재하지만 확산되거나 답글을 장악할 수 있는 징후는 거의 없었습니다.
이에 반해, 언론인 페르소나들은 다양한 매체에 기사를 게재하는 데 성공했으며, 일부 매체는 상당한 팔로워를 보유하고 있었습니다. 예를 들어, 이 작전의 기사를 게재한 온라인 매체 중 하나는 2026년 8월 기준 Facebook에서 거의 2백만 명, X에서 거리 355,000명, Instagram에서 544,000명이 넘는 팔로워를 보유하고 있었습니다. 우리는 여러 매체로의 지속적인 확산을 근거로 이 작전의 이 부분을 Category 4로 평가합니다.