지난 2년 반 동안 우리는 보도했다 on 많은 의 그 방법 안에 어느 것 위협 배우 당사의 모델을 이용해 사이버 공격, 은밀한 영향력 작전(IO), 사기 및 기타 이용 정책 위반을 시도했습니다. 당사는 이러한 보고서를 발간하여 규제 기관, 업계 동료 및 더 넓은 사회에 위협 행위자들이 AI를 어떻게 활용하려 하는지, 그리고 그들이 악용하려 하는 취약점이 무엇인지 알리고 밝히고자 합니다.
최근 우리는 두 개의 IO(영향력 작전)를 차단했는데, 하나는 러시아, 하나는 이란의 것으로, 이들은 정교한 '가면' 조직을 지원하기 위해 당사의 모델을 보다 전통적인 기법 및 기술과 결합하여 사용했습니다. 이들은 그러한 조직을 이용해 지정학적, 분쟁 관련 메시지를 표적 대상자들에게 세탁했습니다. 이란 작전은 전 세계의 중소 온라인 매체에 장문 기사를 제안하는 데 사용된 7명의 '기자' 페르소나로 구성된 그룹을 포함했으며, 러시아 작전은 라틴 아메리카의 무지한 사람들을 이용해 현지에서 '싱크탱크'를 운영하게 한 것으로 보입니다.
두 작전은 모두 다차원적으로, 목표 달성을 위해 다양한 전술을 시도했습니다. 긴 형식의 기사 외에도, 이란 작전은 일반적으로 미국-이란 전쟁과 관련된 주제에 대해 소셜 미디어 댓글 묶음을 생성했습니다. "싱크탱크"를 운영하는 것 외에도, 러시아 작전은 가짜 "유출된" 문서와 오디오 대본을 만들었으며, 그중 일부는 온라인에서 확산되는 것이 확인되었습니다. 두 작전 모두 내부 보고서 작성에 AI를 적극적으로 활용했습니다(러시아 작전이 다른 어떤 것보다 이를 많이 했습니다); 두 경우 모두 작전 수행자들이 운영자의 효과를 과장하기 위해 의심스럽거나 노골적으로 기만적인 방법론을 사용했습니다.
이러한 작전에서 가장 두드러진 점은 AI 이전 시대의 복잡한 영향력 작전과 매우 흡사하면서도, 일부 작업 흐름을 더 쉽게 만들기 위해 AI를 활용했다는 것입니다. 이란 작전이 운영한 기자 페르소나는 가짜 기자 “앨리스(새 창에서 열립니다) 도노반(새 창에서 열립니다)," 2016~17년 여러 서구 언론에 기사가 게재된 러시아 군 정보기구의 전면 조직이다. 2020년에는 러시아 인터넷 리서치 에이전시의 과거 활동과 연관된 인들이 "라는 가짜 "뉴스" 매체를 운영했다.PeaceData(새 창에서 열립니다)—이는 전 세계의 아무것도 모르는 기자들을 이용해 글을 쓰게 했다.
이 작전들은 잠재적 도달 범위 면에서도 이례적이었습니다. Using the IO 돌파 규모(새 창에서 열립니다), 1(최하)부터 6(최고)까지의 척도로 정보작전(IO)을 평가하는 기준에 따르면, 러시아 기원 작전은 다음 등급에 속하는 것으로 평가할 것이다 카테고리 5. 이는 우리가 취재를 시작한 이후 차단한 첫 번째 카테고리 5(Category 5) 작전입니다. 이란 출신의 이 작전은 다음에 도달했습니다 카테고리 4. 두 사례 모두 콘텐츠를 소셜 미디어에 단순히 게시하는 것이 아니라 주류 언론 매체에 실어 올리는 데 성공했습니다(그 콘텐츠 전부가 저희 모델로 생성된 것은 아니었습니다). 이는 지난 2년 반 동안 저희가 폭로한 30건의 은밀한 영향력 작전에서 관찰된 패턴과 일치합니다. 가짜 소셜 미디어 배포에 의존하지 않고 실제 언론 매체에 콘텐츠를 실으려 시도하는 작전은 도달 범위와 영향력 측면에서 가장 높은 잠재력을 보이는 경향이 있습니다.
2024년 초 이후 저희가 폭로한 30건의 IO를 주요 배포 방식(소셜 미디어, 작전 운영 웹사이트, 외부 출판물)과 브레이크아웃 척도 점수를 기준으로 평가한 매트릭스입니다. 웹사이트를 운영하고 이를 소셜 미디어에서 홍보하는 것처럼 두 가지 이상의 배포 방식을 사용한 작전은 작전의 핵심을 이룬 것으로 보이는 방식을 기준으로 분류되었습니다.
AI는 이러한 가면 조직에 더 큰 규모, 효율성, 언어 유창성, 그리고 편집 능력을 부여할 수 있습니다. 운영자들은 이러한 이점을 활용해 아무것도 모르는 피해자들, 예를 들어 직원이나 편집자 등을 이용하고, 누가 그 뒤에 있는지 또는 그들의 동기가 무엇인지 전혀 모르는 독자들 앞에 자신의 콘텐츠를 심을 수 있습니다. 이러한 조직들은 또한 위협 행위자들이 목표 달성을 위해 가짜 페르소나와 개체를 활용하는 복잡성과 정교함을 보여줍니다. 위협 행위자들이 이러한 노력에서 악용하는 취약점과, 그 취약점이 어떻게 독자층과 도달 범위로 이어질 수 있는지를 이해하는 것은 조직 전반의 강력한 방어 체계를 유지하는 데 필수적입니다.
하지만 이러한 가짜 위장 조작의 은밀한 특성은 역으로 책임 있는 공개(책임 있는 폭로)에 특히 취약하게 만들기도 합니다. "Alice Donovan"과 "PeaceData"는 모두 노출된 후 활동을 중단했습니다. 그렇기 때문에 우리가 이러한 가짜 위장 조작을 보도하는 목표는 추가 연구와 방해 활동을 더 쉽게 만들고, 조작의 지속을 더 어렵게 만드는 것입니다.
러시아: '다크 클라크' 작전
라틴 아메리카 전역에서 영향력 작전을 수행하는 러시아 기반 행위자들.
배우
우리는 러시아에서 시작된 일군의 ChatGPT 계정을 차단했습니다. 이들은 라틴아메리카 여러 국가를 표적으로 삼은 은밀한 영향력 작전과 관련된 다양한 작업에 ChatGPT를 사용했습니다. 이 활동의 상당 부분은 해당 지역에서 우크라이나의 명성을 훼손하는 것을 겨냥한 것으로 보였지만, 일부는 특히 아르헨티나와 볼리비아의 지역 정치 결과에 영향을 미치려는 것으로 보였습니다. 대부분의 운영자는 러시아어로 프롬프트를 입력했으며, 한 명은 스페인어로 입력했지만 그럼에도 불구하고 러시아에 위치한 것으로 보였습니다. 우리는 이 사건에 관한 정보를 관련 당국과 공유했습니다.
이 운영자들은 ChatGPT를 사용해 세 가지 주요 작업을 수행했습니다: 자신들의 활동(그리고 그들이 그럴듯하게 공을 주장할 수 있는 다른 사람들의 활동)에 대한 내부 보고서 작성, 자신들의 활동을 위한 콘텐츠 제작, 그리고 Social Research Center(SRC)라 불리는 라틴 아메리카의 스스로를 '연구 플랫폼'이라고 칭하는 단체의 성과에 대한 보고서 작성이었습니다. 이들은 'Mia Clark'이라는 가상 페르소나를 통해 SRC를 통제한 것으로 보입니다. 이 이름을 기려 우리는 이 작전을 'Dark Clark'라고 명명했습니다. 우리는 러시아에서의 모델 접근을 허용하지 않기 때문에, 이들은 VPN을 사용해 우리 서비스에 접속했습니다.
이들은 내부 보고서에서 라틴아메리카 전역에 가짜 소식을 퍼뜨려 우크라이나나 현지 지도자들을 약화시켰다고 주장했다. 이 가짜 소식 일부는 다음에 의해 귀속되었다: 오픈 소스(새 창으로 열립니다) 연구자들(새 창에서 열립니다) “Politology” 또는 “La Compania”로 알려진, 러시아 올리가르흐 예브게니 프리고진(Yevgeniy Prigozhin)이 설립한 워너 그룹(Wagner Group) 및 기타 단체의 후속으로 알려진 러시아 단체에 관한 내용이었습니다. 운영자들은 또한 다른 어떤 러시아 기원 네트워크에 대해 묻는 것보다 훨씬 많이, Politology와 Wagner에 관한 공개 보도를 번역하거나 설명해 달라고 모델들에게 요청했습니다.
이 작전은 두 가지 면에서 특이했습니다. 첫째, 이 작전은 라틴아메리카의 개인들을 성공적으로 포섭하여 SRC를 위해 일하게 했던 것으로 보입니다. 러시아 운영자들이 SRC에 대해 작성한 보고서에는 급여 수준, 채용, 해고 등의 사안에 대한 결정이 언급되어 있어, 그들이 해당 단체와 협력한 것이 아니라 단체를 통제했음을 시사합니다. 이용 가능한 증거에 따르면 라틴아메리카에서 활동한 SRC 직원들은 자신이 러시아 그룹을 위해 일하고 있다는 사실을 알지 못했습니다. 우리가 최근 폭로한또 다른 러시아 연계 '싱크탱크'와 달리, SRC는 포섭한 직원들을 통해 대부분의 독창적 콘텐츠를 제작한 것으로 보입니다. 이는 지난 2년 반 동안 우리가 차단한 시도 중 가장 복잡한 프런트 신원 운용 시도로 두드러집니다.
둘째, 일부 공개 소스 증거에 따르면 Dark Clark의 가짜 정보가 널리 퍼져 팩트 체크(opens in a new window) 와 공식 부인(opens in a new window)을 불러일 정도였으며, 이는 지난 2년간 우리가 차단한 어떤 영향력 작전보다도 깊이 침투했음을 보여줍니다. 이 작전이 페루에 심었다고 주장한 가짜 정보 하나는 우크라이나와 폴란드 사이의 공적 긴장에까지 영향을 미쳤습니다.
내부 보고
운영자들이 ChatGPT를 사용한 주된 방식은 알려지지 않은 상급자에게 보낼 내부 보고서를 작성하고 갱신하는 것이었습니다. 이러한 정기 보고서는 라틴아메리카 전역에서 은밀한 영향력 캠페인을 수행하려는 활동을 담고 있었습니다. 여기에는 세 가지 주요 업무 흐름이 포함되었습니다: 우크라이나를 비하하고 우크라이나군 모집을 약화시키려는 활동, 특정 국가들, 특히 볼리비아와 아르헨티나의 국내 정치에 개입하려는 활동, 그리고 SRC의 관리 업무였습니다. 대부분의 경우, 위협 행위자들이 캠페인 콘텐츠를 만들기 위해 우리 모델을 사용하는 것은 관찰되지 않았고, 캠페인에 대해 보고하는 데만 사용했습니다(몇 가지 예외는 아래).
보고서들은 작전상 세부 사항이 풍부했으며, 그 작전이 우크라이나와 일부 국가 지도자들, 특히 아르헨티나, 볼리비아, 에콰도르의 대통령들을 약화시키려 어떻게 시도했는지 조명했습니다. 일부 보고서는 작전 수행자들이 무기화할 수 있는 활동을 현지인들이 수행하도록 속이려는 시도를, 다른 보고서들은 작전 수행자들이 퍼뜨렸다고 주장한 가짜 "유출" 자료를 설명했습니다.
두 건의 사례에서 이 증거는 운영자들을 'Politology'에 관한 공개 보도와 연결합니다. 운영자들은 2024년 아르헨티나의 하비에르 밀레이 대통령을 표적으로 삼은 두 차례의 캠페인을 수행했다고 보고했습니다. 첫째, 그들은 밀레이가 자신의 개들을 위해 Cartier 보석 목걸이를 구매했다는 거짓 보도를 퍼뜨렸다고 말했습니다. 둘째, 그들이 부에노스아이레스에서 반(反)밀레이 낙서를 게시하기 위해 현지 배우들에게 돈을 지불했다고 주장했습니다. 유출된 문서에 따르면 이 두 주장 모두 다음과 같이 공개적으로(새 창에서 열립니다) 귀속된(새 창에서 열립니다) “Politology”와 “La Compania.”로
이전에 러시아 정보작전(IO)과 연계된 것으로 확인되지 않은 훨씬 더 많은 가짜들이 존재합니다. 예를 들어, 이 작전 수행자들은 2026년 5월 페루 리마 교육지역청(Redirector Regional de Educación de Lima)에서 보낸 것으로 위장한 가짜 이메일 주소를 만들었다고 주장했습니다. 그들은 이를 이용해 해당 지역의 학교들에게 문화·언어 다양성의 날(5월 21일)에 우크라이나 전용 행사를 개최하도록 지시했습니다. 이 이메일에는 논란이 된 20세기 우크라이나 민족주의자 스테판 반데라를 언급하라는 명시적인 지시가 포함되어 있었는데, 반데라는 일부 우크라이나인들에게 독립 운동 인물로 여겨지지만, 러시아와 폴란드에서는 파시즘, 전시 협력, 만행과 연관되는 인물입니다. 작전 수행자들에 따르면, 일부 학교들이 이 가짜 이메일 주소로 답신을 보내 그러한 행사를 개최했음을 확인했고 심지어 사진까지 제공했습니다.
이들 요원은 이후 페루와 폴란드 언론에 해당 사건에 대한 기사를 심었다고 주장했으며, 우크라이나가 초국수주의 이념을 “수출”하고 있다는 주장과 함께 분노를 촉발했습니다. 오픈소스 검색을 통해 이 주장과 일치하는 기사가 다음에서 확인되었습니다. 페루인(새 창에서 열립니다) 그리고(새 창에서 열립니다) 폴란드어(새 창에서 열립니다) 보도(새 창에서 열립니다)및 영어 매체인 헝가리(새 창에서 열립니다) (일부 기사는 이후 삭제되었습니다.) 일부(새 창에서 열립니다) 기사(새 창에서 열립니다) '반폴란드적 행위'를 보인 사람들을 적시(戳示)하자고 제안한 폴란드 출신 유럽의회 의원의 반응을 포함했다 페르소나 논 그라타 폴란드에서 말이다. 이 러시아의 가짜 뉴스는 thus 우크라이나인과 폴란드인 사이의 역사적 갈등을 먹고 자랐을 뿐만 아니라, 그 갈등을 다시 부추기기도 했다.
유사하게, 6월에는 운영자들이 다른 가짜 이메일 주소를 사용해 에콰도르의 학교들을 속여 다니엘 노보아 대통령과 민간 군사업체 블랙워터의 전 수장인 에릭 프린스에 대한 충성 맹세 의식을 거행하게 했다고 주장했습니다. 운영자들은 이 사건이 에콰도르에서 분노를 불러일으키고 정부가 가짜를 부인하도록 압박함으로써 전국적 규모로 확산시켰다고 주장했습니다. 다시 한번, 오픈소스 조사는 미디어(새 창에서 열립니다) 보도(새 창에서 열림) 에서 에콰도르(새 창에서 열림) 언론에 게재된(새 창에서 열림) 이 주장과 매우 유사한 내용이 있었으며, 에콰도르 교육부 장관이 작성한 상세한 반박(새 창에서 열림) 심지어 나오기도 했습니다.
이 조직들은 허위 사례를 뒷받침하기 위해 다양한 기법을 사용했습니다. 이들의 내부 보고에 따르면, 3월에 에콰도르를 겨냥한 서로 다른 두 가지 가짜 뉴스를 퍼뜨렸습니다. 하나는 우크라이나 주재 에콰도르 영사의 것으로 둔속된 가짜 음성을 사용해, 그가 에콰도르인들에 대한 비하 발언을 했다고 주장했습니다. 저희 오픈소스 조사에서는 이 정확한 주장과 일치하는 틱톡(TikTok) 게시물을 확인했으며, 이 게시물은 매우 제한적인 반응만 얻은 것으로 보였습니다. 다른 하나는 실제 뉴스 채널의 로고를 사용해 X와 틱톡에 퍼진 가짜 영상으로, 노보아(Noboa) 정부가 우크라이나에서 싸우기 위해 젊은 남성들을 모집하고 있다고 주장했습니다. 팩트체커(새 창에서 열립니다) 에콰도르에서는 4월 초에 이러한 묘사와 일치하는 캠페인이 있었다고 전했습니다.
2026년 4월 8일에 게시된 틱톡(TikTok) 동영상으로, 이 작전에서 주장되었으며 우크라이나 영사의 것으로 돌려진 조작된 음성이 담겨 있다.
또 다른 내부 보고서는 5월 말, 반정부 시위가 절정에 달했을 때 볼리비아에서 퍼뜨린 가짜에 대해 설명했다. 운영자들은 이 캠페인의 목표를 시위를 둘러싼 위기를 악화시키는 것이라고 명확히 언급했다. 이 캠페인에는 국영 수도회사 EPSAS의 직원이 정부가 행정 수도인 라파스에 물 공급을 차단하고 비상사태를 선포할 것이라고 말하는 가짜 음성 녹음이 포함되어 있었다. 당사의 오픈소스 조사는 한 낱낱이 폭로하다(새 창에서 열림) 일치하는 청구의 일부이며 공식 부인(새 창에서 열립니다) EPSAS에서.
기타 내부 보고서에는 공개 자료를 통해 확인할 수 없는 가짜 정보들이 포함되어 있었는데, 이미 삭제되었거나 확산에 실패했기 때문일 수 있습니다. 예를 들어, 이 조직의 운영자들은 1월에 한 브라질 인플루언서이자 모델이 우크라이나 대사관 관계자들에 의해 우크라이나로 인신매매되어 키이우에서 살해되었다는 주장의 기사를 퍼뜨렸다고 주장했습니다. 6월에는 볼리비아에서 또 다른 가짜 오디오 클립을 퍼뜨렸다고 주장했는데, 이번에는 볼리비아 중앙은행 직원의 것으로 떠드는 내용으로 은행이 곧 현금 인출을 제한할 것이라고 경고하는 것이었습니다. 또한 이들 국가의 탄화수소 관리기관이 개인 승용차에 대한 연료 판매 제한을 경고하는 위조된 서한을 퍼뜨렸다고 주장했습니다.
다른 보고서들에서는 이 작업자들이 자신들이 관여하지 않았음에도 공로를 주장할 수 있는 표적 국가 내의 사건을 파악하도록 우리 모델들에 도움을 요청했습니다. 예를 들어, 아르헨티나에서 작업자들은 아르헨티나 외무장관이 포클랜드/말비나스 제도에 관한 유엔 위원회 회의에서 자신들의 작전을 인용했다고 주장했습니다. 작업자들은 자결의 원칙이 이 제도에는 적용되지 않으며 영국이 그곳에 과도한 군사 주둔을 유지하고 있다는 주장을 확산시킨 공을 주장했습니다. 실제로 두 주장 모두 다음과 같은 이래로 아르헨티나의 공식 입장의 일부였습니다 많은(새 창에서 열립니다) 년(새 창에서 열립니다)마찬가지로 6월에는 브라질 언론 보도했다(새 창에서 열립니다) 브라질 국민이 우크라이나로 가서 군에 입대했다가 러시아군에 포로로 잡힌 뒤, 자신이 속아서 싸움에 참여하게 되었다고 주장하는 내용의 텔레비전 방송 발언을 한 사건에 관한 보도였다. ChatGPT 운영자들은 이 보도가 자신들의 작전 메시지를 재현했다고 주장하려 했지만, 사실 이 보도는 피해자 본인의 영상을 인용했다(새 창에서 열립니다)“. 이는 외부 청중을 겨냥한 것이 아니라 운영자들이 자신들의 고용주를 표적으로 삼는 영향력 작전을 시도했음을 시사합니다.”
“연구 플랫폼”
일부 오퍼레이터들의 보고서는 스스로를 '연구 플랫폼'이라 칭하는 Social Research Center(러시아어로 Центр социологических исследований)를 언급했습니다. SRC의 웹사이트에 따르면, 이 기관은 라틴 아메리카의 인디아스포라와 인도와 이 지역 국가들 간의 관계에 초점을 맞추고 있습니다.
내부 보고서들은 해당 운영자들이 싱크탱크와 단순히 협력한 것이 아니라 싱크탱크를 통제했다고 시사했다. 보고서에는 예를 들어 채용 및 해고 결정, 급여 체계, 인력 계획, 진행 중인 연구 프로젝트 등이 언급되어 있었다. 결정적으로, 보고서들은 운영자들이 "Mia Clark"이라는 가짜 페르소나를 만들어 이 작전의 소셜 미디어 활동을 수행하고 라틴 아메리카 현지 직원들과 소통하게 했다고 밝혔다. 이용 가능한 증거에 따르면 이 현지 직원들은 자신들이 러시아 작전을 위해 일하고 있다는 사실을 전혀 몰랐으며, 선의로 연구 업무를 수행했다. 이러한 무지의 매개체(컷아웃) 활용은 프리고진의 세계와 연계된 것으로 알려진 이전의 러시아 작전인 "PeaceData"와 매우 유사하다. Meta는 노출된(새 창에서 열립니다) 2020년에.
러시아 운영자들의 보고서를 보면, 그들이 라틴아메리카 현지에 두고 있는 직원들은 이 지역 전역의 전문가와 논평가들을 인터뷰한 뒤 그 결과를 바탕으로 연구 논문을 작성했습니다. 주제는 BRICS 그룹에 대한 여론의 폭넓은 분석부터 자이르 보우소나루와 루이스 이나시우 룰라 다 시우바 대통령 시절 브라질 경제에 대한 상세 비교까지 다양했습니다. 때로는 러시아 운영자들이 해당 연구 프로젝트가 발표되기 전에 진행 상황 보고서를 작성하기도 했는데, 이는 생산 과정에 깊이 관여하고 있었음을 보여줍니다. 우리는 SRC 웹사이트에서 60개가 넘는 기사를 확인했으며, 그 대다수는 독창적으로 작성된 것으로 보였습니다. 이는 Dark Clark을 우리가 최근 폭로한 러시아 출신 작전과 차별화되는 부분입니다. 그 작전 역시 씽크탱크를 위장 업체로 운영했지만 콘텐츠 대부분을 표절했는데, Dark Clark은 라틴아메리카 전역에 인맥을 갖춘 더 오래 지속될 수 있는 위장 조직을 구축하려는 의도를 시사합니다.
SRC의 활동을 홍보하기 위해 러시아 운영자들은 소셜 미디어 자산 네트워크를 구축하려고 시도했다고 주장했다. 그들의 보고서에 따르면, 이 소셜 미디어 활동은 세계 각지의 운영자들이 동일한 계정에 접속하려고 하면서 계정 제한이 발생하는 문제에 부딪혔다. 이러한 흔적은 공개 자료에서 확인할 수 있다. 예를 들어, X에서 SRC의 주 계정의 투명성 설정은 독일 위치(VPN 사용의 결과일 수 있음)를 표시했지만 러시아 연방 App Store를 통한 접속이 있었으며, SRC의 Instagram 계정 중 하나의 투명성 설정은 관리자 위치가 베네수엘라에 있는 것으로 표시되었다. 우리가 확인한 세 개의 SRC 브랜드 Facebook 계정 모두 관리자 위치 설정이 표시될 만큼 충분한 팔로워를 보유하지 못했다.
왼쪽: 사회연구센터(Social Research Center)와 연계된 X 계정. 러시아 연방 앱 스토어를 통해 연결된 계정임을 보여주는 투명도 설정에 주목하라. 오른쪽: SRC 인스타그램 계정. 베네수엘라 위치 표시에 주목하라.
운영자들은 LinkedIn에서 특히 문제가 많았다고 보고했는데, SRC를 대표하는 명백히 가짜 계정을 만들었지만 이를 위한 네트워크를 구축하는 데 어려움을 겪었다고 말했습니다. 그들의 보고에 따르면 해결책은 더 많은 가짜 계정을 만들어 첫 번째 계정을 팔로우하게 하고 더 설득력 있어 보이게 만드는 것이었습니다. 8월 17일 기준, 동일한 Social Research Center 브랜딩을 사용하는 LinkedIn 계정은 961명의 팔로워를 보유하고 200-500명의 직원을 두고 있다고 주장했지만, 실제로는 직원 두 명만 표시되어 있었습니다.
가짜 만들기
때때로 AI를 사용해 보고서를 업데이트하는 것 외에도, 운영자들이 우리 모델에게 자신들의 작전에 사용할 수 있는 텍스트를 설계하고 제작하는 데 도움을 요청한 경우도 있었습니다. 예를 들어, 서로 다른 국가에 맞는 올바른 억양, 어휘 및 기관 스타일을 가짜 뉴스에 사용하도록 도움을 요청하는 식이었습니다. 이는 전체 작업량에서 비교적 작은 비중을 차지했는데, 아마도 이 작전에 라틴아메리카 출신 원어민 스페인어 사용자가 최소 한 명 포함되어 있어 AI 언어 지원의 필요성이 상대적으로 적었기 때문인 것으로 보입니다.
예를 들어, 한 번은 러시아어를 사용하는 운영자 한 명이 모델에게 우크라이나 주 파나마 명예영사를 부패에 연루시키는 편지를 러시아어로 작성하는 것을 도와달라고 요청했습니다. 그런 다음 스페인어를 사용하는 운영자가 모델에게 그 편지를 스페인어로 번역하고, 여기에 함께할 오디오 대본을 생성해 달라고 요청했습니다. 편지의 내용과 일치하는 사진이 운영자의 대본과 일치하는 내레이션과 함께 뉴스 매체를 자칭하는 계정이지만 파나마의 로고를 단 채 TikTok에 게시되었습니다. TVN Noticias(새 창에서 열립니다). 이 TikTok 채널은 팔로워가 한 명뿐이었으며, 이 가짜를 심은 후 게시를 중단했습니다.
이 작업으로 생성된 텍스트가 담긴 편지와 마찬가지로 이 작업으로 생성된 내레이션 대본을 보여주는 TikTok 게시물입니다.
또 다른 사례에서는 러시아에 있는 스페인어 사용 운영자가 노보아가 에콰도르의 가난한 사람들을 모욕했다고 주장하는 러시아어 대본을 모델에 제공하고 이를 에콰도르 스페인어로 번역해 달라고 요청했다. 세 번째 사례로, 3월에 동일한 사용자가 “International Security Solutions FZE”라는 회사와 에콰도르의 개인 사이에 체결되어 우크라이나에서 인프라 서비스를 제공한다고 명시된 스페인어 계약서 초안을 교정해 달라고 모델에 요청했다. 사용자의 질문은 어조와 레이아웃을 개선하는 방법에 초점이 맞춰져 있었으며, 어떤 단어를 굵게 표시해야 하는지 묻는 것도 포함되어 있었다.
계약서에 대한 사용자의 프롬프트는 문구가 확정되면 끝났다. 그러나 오픈소스 조사에 따르면 이후 '계약서' 사진이 소셜 미디어에 유포되었다(새 창에서 열립니다). 이는 노보아 정부가 전면회사와 협력해 에콰도르 사람들을 속여 우크라이나군에 모집되도록 했다는 주장을 뒷받침하는 데 사용되었다. 이 가짜는 4월 초 사실확인 팩트 체크(새 창에서 열림) 을 촉발할 만큼 널리 퍼졌고, 팩트 체커들은 해당 회사가 “에콰도르 기업·증권·보험 감독원의 등록부에 나타나지 않는다”고 결론 내렸다.
영향
이 작전의 영향은 특히 신중하게 평가할 필요가 있다. 앞서 언급했듯이, 운영자들의 주요 접근법 중 하나는 자신들의 작전과 아무런 관련이 없는 활동에 대해 공을 주장하는 것이었다. 따라서 내부 보고에서 그들이 주장한 영향력 있는 발언을 곧이곧대로 받아들일 수는 없다. 마찬가지로, 그들이 심었다고 주장한 일부 가짜 기사는 공개소스 조사에서 나타나지 않았는데, 이는 비공개 채널에서 퍼졌거나, 이미 삭제되었거나, 실제로 게시되지 않았기 때문일 수 있다.
그러나 오픈소스 증거를 통해 우리는 이들이 주장한 내용 중 일부를 뒷받침할 수 있었습니다. 이 작업이 퍼뜨렸다고 주장한 가짜 정보 중 일부는 이후 팩트체커들이 보도했고 정부들이 반박했는데, 이는 해당 정보가 대응할 가치가 있을 만큼 널리 퍼졌음을 시사합니다. 다른 경우에는 이 작업이 생성한 콘텐츠와 매우 유사한 콘텐츠를 온라인에서 확인할 수 있었습니다. 가장 두드러진 사례로, 이 작업이 페루의 한 학교를 속여 Bandera를 찬양하는 행사를 개최하게 했다는 주장은 이후 라틴아메리카와 유럽에서 보도되었으며, 적어도 한 명의 폴란드 유럽의회 의원의 논평으로 이어진 것으로 보입니다.
IO 활용 Breakout Scale(새 창에서 열립니다)은 IO를 1(최저)에서 6(최고)까지의 척도로 평가하는데, 이 척도를 사용하여 우리는 이 작업을 카테고리 5에 속하는 것으로 평가하며, 여러 국가의 정치인들이 공개적으로 언급했다는 증거가 있습니다. 이는 보고를 시작한 이후 우리가 차단한 첫 번째 카테고리 5 작업입니다.
이란: 작전 "Bogus Bylines"
이란 발 작업으로, 온라인 뉴스 매체에 기만적인 필명으로 장문 기사를 유포합니다.
행위자
우리는 이란에서 시작된 일군의 ChatGPT 계정을 차단했습니다. 이들은 페르시아어로 프롬프트를 입력했으며, 페르시아어와 영어로 콘텐츠를 생성했습니다. 행위자들은 VPN을 사용해 ChatGPT에 접속함으로써 자신의 위치를 숨겼습니다.
이 작업은 우리 모델을 사용하여 장문 기사와 편집 제안서를 다듬고, 소셜 미디어 댓글을 생성하고, 내부 보고서를 개선했습니다. 작전 담당자들은 일곱 가지 서로 다른 필명을 사용하여 기사를 제안했기에, 우리는 그들의 캠페인을 "Bogus Bylines"라고 명명했습니다. 장문 기사는 미국-이란 분쟁에 초점을 맞췄습니다. 댓글 대다수 역시 이 분쟁을 다루었으며, 소수는 미국 정치를 다루었고, 대체로 분쟁이라는 더 넓은 맥락에서 다루었습니다.
이들의 주요 활동의 표면상 영향력은 크게 달랐습니다. 우리는 전 세계 약 12개 온라인 매체에서 이 작업의 필명으로 게재되거나 배포된 거의 100편의 기사를 확인했습니다. 이들은 국제 문제, 지정학, 중동 사안에 주로 초점을 맞춘 소규모~중간 규모 매체였습니다. 반면 소셜 미디어 댓글 중 어느 것도 좋아요, 공유 또는 추가 답글 측면에서 실질적인 참여를 일으킨 것으로 보이지 않았습니다. 실제로 작전 담당자들의 내부 보고서는 소셜 미디어 영향력을 측정하는 데 기만적인 계산 방식을 사용했는데, 이는 담당자들의 표면상 효과를 부풀리려는 시도였을 가능성이 있습니다.
전반적인 활동은 돈을 받고 수행하는 영향력 캠페인을 운영하는 상업적 행위자와 일치하는 것으로 보였지만, 우리는 관련된 특정 행위자를 식별할 수 없습니다. 우리는 이 사례에 대한 정보를 관련 당국과 공유했습니다.
기사 심기
이 작업의 가장 광범위한 활동은 ChatGPT에게 미국-이란 분쟁의 지정학에 관한 장문의 영어 기사를 검토하고 다듬어 달라고 요청하는 것이었습니다. 일반적인 프롬프트는 영어 초안을 특정 온라인 매체의 투고 기준에 따라 평가하고, 기준을 준수하도록 편집 사항을 제안하라고 모델에 요구했습니다. 담당자들이 편집 사항을 승인하면, 해당 온라인 매체의 편집자에게 기사를 제안하는 데 사용할 이메일을 생성해 달라고 모델에 요청했습니다.
이러한 제안 메시지는 일곱 가지 서로 다른 가짜 필명을 사용해 작성되었습니다: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams, 그리고 Alice Johnson. 이 기사 일부와 함께 온라인에 게재된 약력에 따르면, 각 페르소나는 서구 기자(대체로 미국인이었으나, Noah Lamington 페르소나의 약력은 자신이 뉴질랜드에 있다고 주장했습니다)를 자칭했으며, 종종 국제 정치, 중동, 인권 또는 분쟁에 초점을 두고 있었습니다. 한 페르소나인 "Michael Harrison"의 경우, 담당자들은 모델에게 약력 자체를 작성해 달라고 요청했습니다. (참고로, 3월에 Meta가 "Michael Harrison" 기자 페르소나를 특징으로 하는 이란 IO를 차단(새 창에서 열립니다) 한 바 있습니다.)
이러한 페르소나 일부는 다양한 소셜 미디어 플랫폼의 계정들로 뒷받침되었습니다. 예를 들어 Michael Harrison 페르소나는 Medium, X, Facebook에서 뒷받침되었습니다. Ervin B. Hoskins 페르소나는 X, Facebook, Instagram, Threads에 계정을 두고 있었습니다. 이 페르소나의 약력은 "미국인 프리랜서 작가"라고 주장했지만, 소셜 미디어 투명성 설정은 해당 계정들이 이란에 있음을 보여주었습니다.
위, Ervin Hoskins 페르소나의 Instagram 약력. 왼쪽 아래, West Asia Android 앱 사용을 보여주는 X 계정 투명성 정보. 오른쪽 아래, 이란 내 위치를 보여주는 Instagram 계정 투명성 정보. Meta는 8월에 해당 Instagram 계정을 차단했습니다.
오픈소스 조사 기법을 사용하여 우리는 담당자들의 필명 중 하나 또는 다른 필명으로 게재된 거의 100편의 기사를 12개가 넘는 서로 다른 출판물에서 확인했습니다. 이 출판물들은 대체로 국제 문제, 지정학, 중동 사안에 초점을 두었으며, 때로는 반전 또는 진보적 관점에서 다루었습니다. 우리가 확인한 가장 이른 기사는 2025년 7월에 게재되었고, 가장 늦은 기사는 2026년 10월에 게재되었습니다. 기사의 빈도는 미국-이란 분쟁 발발 이후 크게 증가했습니다.
2025년 7월~2026년 9월, 저자와 주제별 기사 타임라인. 2026년 3월 이후 미국-이란 관계 관련 게시물의 밀집에 주목하십시오.
2026년 2월부터 7월 사이에 이 작업과 연관된 필명으로 다양한 온라인 매체에 게재된 기사의 표제어 샘플.
적어도 일부 기사는 해당 언론 매체의 소셜 미디어 계정을 통해 홍보되었으며, 이는 이란 운영자들에게 그렇지 않았다면 도달하지 못했을 청중에게 접근할 수 있는 잠재적 통로를 제공했습니다.
대량 댓글 작성
기사와 함께, 위협 행위자들은 ChatGPT에게 지정학적 또는 정치적 주제에 대한 영어 또는 페르시아어 댓글 묶음을 생성하도록 요청했습니다. 이 행위자들의 전형적인 방식은 소셜 미디어 게시물의 텍스트나 스크린샷을 입력하고, 자신들의 전반적인 방향에 부합하는 일련의 답글을 모델에게 요청하는 것이었습니다. 그런 다음 이러한 댓글들은 흔히 서로 몇 분 간격으로 온라인에 게시되었습니다. 운영자들의 내부 보고서에는 인간과 자동화 게시가 모두 언급되어 있었지만, 이 자동화가 당사의 모델을 통해 수행되었다는 증거는 없습니다.
이 작업에 의해 생성되어 7월에 게시된 영어 트윗(왼쪽)과 페르시아어 트윗(오른쪽). 영어 댓글들은 미국이 이란에 대한 “대규모 공격”을 준비하고 있다고 경고하는 영어 트윗에 답글을 단 것이었습니다. 이 이미지의 모든 댓글은 10분 범위 내에 게시되었습니다. 페르시아어 댓글들은 미국의 이란 공습에 관한 페르시아어 트윗에 답글을 단 것으로, 13분 이내에 게시되었습니다.
이 대량 댓글 활동 중 일부는 작업 자체의 뉴스 기사에 관한 소셜 미디어 게시물에 답글을 생성하는 것으로 구성되었습니다. 여기서 운영자들은 자신들의 기사를 홍보하는 게시물의 스크린샷을 입력한 후, 해당 기사를 칭찬하거나 지지하는 댓글을 생성했으며, 이는 기사가 더 인기 있어 보이도록 만들기 위한 것으로 보입니다.
작업이 생성한 기사를 공유한 미국 지역 뉴스 페이지의 Facebook 게시물과, 작업이 생성한 해당 게시물에 대한 댓글.
댓글 묶음의 대다수는 이란, 미국, 이스라엘 간의 분쟁에 대해 보다 일반적으로 초점을 맞추었습니다. 사용자들은 미사일 공습, 휴전, 외교적 움직임 등의 주제에 대한 댓글을 요청하면서, 미국을 침략자로, 이스라엘을 미국의 신뢰할 수 없는 동맹으로, 이란을 저항적이지만 회복력 있는 피해자로 묘사하는 결과물을 명시했습니다. 운영자들은 이란 정권에 비판적인 영국 기반 위성 방송사 Iran International의 게시물에 특히 많은 답글을 생성하여, 적대적인 페르시아어 답글 25개 이상의 묶음을 생성했습니다. 일부 묶음은 미국 정치 문제에 관한 소셜 미디어 게시물에 답글을 생성했으며, 이 역시 대개 분쟁이라는 더 넓은 맥락에서 이루어졌습니다.
미국 정치에 관한 게시물에 대한 답글로 이 작업이 생성한 Instagram 댓글.
당사는 이러한 답글 중 소수가 온라인에 게시되는 것을 확인했으며, 훨씬 더 많은 답글은 오픈소스 검색에서 나타나지 않았는데, 이는 게시되지 않았거나 이미 제거된 계정에 의해 게시되었기 때문일 수 있습니다. (예를 들어, 기자 페르소나 중 Ericka Feusier, Alice Johnson, Jenny Williams 세 명은 공개된 소개글에 X 계정 핸들을 표시했는데, 2026년 8월 기준 모두 정지된 상태였습니다.) 온라인에 댓글을 게시한 일부 계정은 서구식으로 보이는 이름을 사용했지만, 계정 위치는 이란으로 표시되어 있었습니다.
위에서 언급한 댓글을 작성한 Instagram 계정들의 투명성 설정으로, 해당 계정들이 이란에 위치해 있었음을 보여줍니다.
이러한 답글이 게시된 것을 발견한 경우, 해당 게시물의 전체 댓글에서 답글이 차지하는 비중은 대개 소수에 불과했으며, 이는 운영자들이 실제 반응들 사이에서 지배적인 목소리가 아니었음을 시사합니다. 또한 상당한 참여를 이끌어낸 것으로도 보이지 않았습니다. 실제로 작업의 답글에 달린 좋아요 상당수는 그 자체로 작업과 연관된 계정에서 온 것이었습니다. 당사는 이 사건에 관한 정보를 참여도에 대한 전반적인 평가를 제공할 수 있는 가장 적임자인 업계 파트너들과 공유했습니다.
내부 보고
자신들의 활동을 더 인기 있어 보이게 만들려는 시도는 대외 게시물에 국한되지 않았습니다. 운영자들은 콘텐츠 생성과 함께, 때때로 ChatGPT에게 소셜 미디어 캠페인에 관한 것으로 보이는 내부 보고서를 다듬어 달라고 요청했습니다. 이는 대개 일련의 통계를 모델에 제공하고 이를 완성도 있는 프레젠테이션으로 만들어 달라고 요청하는 형태였습니다.
이는 당사가 AI를 사용해 자체적인 활동 평가를 작성하는 것을 저해(새 창에서 열림) 한 작업을 차단한 첫 사례가 아닙니다(새 창에서 열림). 이란 운영자들의 자체 채점 노력에서 가장 두드러졌던 점은 그들이 사용한 방식이었습니다. 그들이 사용한 주요 “영향력” 지표는 자신들이 답글을 단 게시물의 조회 수(이지 실제 답글의 조회 수가 아님)였으며, 답글이 게시되기 전과 게시된 후 불특정 기간에 걸쳐 집계되었습니다. 이 계산 방식은 원본 게시물의 인기나 다른 댓글 등 다른 요인으로 인해 발생했을 수 있는 조회 수는 고려하지 않았습니다. 그 결과, 이는 작업의 영향력 수치를 크게 과장했으며, 운영자들이 더 효과적인 계산 방법을 알지 못했거나 사용하지 않기로 선택했음을 시사합니다.
영향력
실제로 오픈소스 관찰을 통해 얻을 수 있는 증거에 기반하면, 이 작업의 두 가지 주요 활동 분야는 예상되는 영향력의 정도가 매우 달랐던 것으로 보입니다.
우리가 확인할 수 있었던 소셜 미디어 답글은 일반적으로 좋아요, 조회수, 댓글 수가 낮은 수준(한 자리 또는 두 자리 숫자)에 머물렀다. 앞서 언급했듯이, 이 답글들은 대체로 해당 게시물의 전체 댓글 중 소수를 차지했다. IO를 1(최하)부터 6(최고)까지의 척도로 평가하는 IO Breakout Scale(새 창에서 열림)IO를 1(최하)에서 6(최고)까지의 척도로 평가하는 기준에 따르면, 우리는 작전의 이 부분을 다음과 같이 평가할 것이다: Category 2로 평가한다. 여러 플랫폼에 댓글이 있었지만, 확산되거나 답글을 장악할 수 있다는 징후는 거의 없었다.
이와 대조적으로, 언론인 페르소나는 다양한 매체에 기사를 게재하는 데 성공했으며, 그중 일부는 상당한 팔로워를 보유하고 있었다. 예를 들어, 이 작전의 기사를 게재한 온라인 매체 중 하나는 2026년 8월 기준으로 페이스북에서 약 2백만 명, X에서 약 355,000명, 인스타그램에서 544,000명 이상의 팔로워를 보유하고 있었다. 우리는 이 작전의 이 부분을 여러 매체로의 지속적인 확산을 근거로 Category 4로 평가한다.