대부분의 기업은 AI 에이전트를 사용해 제품을 더 빨리 출시하거나 업무 흐름을 가속화한다. Apate.ai 는 에이전트를 잠입시켜 사기를 당하게 한다.
2024년 시드니의 Macquarie University에서 이루어진 연구를 바탕으로 설립된 이 호주 스타트업은 무고한 피해자로 가장하는 수천 개의 AI 에이전트를 배치한다. 이 에이전트들은 사기 전화에 응답하고, 수상한 메시지와 이메일에 회신하고, 피싱 링크를 클릭하고, 소셜 미디어 그룹에 가입해 사기꾼을 유인할 수 있다. 이들은 다양한 나이, 성별, 억양을 지닌 온갖 부류의 사람들로 가장하고, 여러 언어를 구사하며 사기꾼이 유용한 정보를 얻을 수 있을 만큼 충분히 오래 대화를 이어가려 한다.
이 회사는 자사 에이전트 함대가 지금까지 2.5백만 건의 대화에서 사기꾼들의 시간을 총 17년치 낭비하게 만들었다고 밝혔다. 은행, 통신사, 정부 기관, 공공유틸리티로 구성된 Apate의 고객 기반에 더욱 중요한 것은, 이 잠입 에이전트들이 사기꾼들이 스스로에 관해 밝히도록 유도한다는 점인데, 이는 보통 피해자가 사기를 당한 후에야 알 수 있는 정보들이다: 은행 계좌, 암호화폐 지갑, 전화번호, 악성 웹사이트, 사기꾼들이 사칭하는 브랜드, 그리고 그들이 진행 중인 사기에 관한 기타 세부 사항들이다.
올해 TechCrunch Disrupt의 Startup Battlefield 200 결선 진출자 중 하나인 Apate는 이 정보를 고객에게 제공하며, 고객들은 이를 활용해 대사기 조치와 이니셔티브를 강화한다. (이 회사는 Disrupt에서 VC 심사위원 패널 앞에 피칭할 예정이며, 이 행사는 10월 15일 목요일까지 샌프란시스코의 Moscone West에서 진행 중이다.)
이것은 스캠 베이팅(scam-baiting)의 기묘한 진화이지만, AI가 사기꾼과 해커에게 얼마나 큰 힘을 실어주었는지를 고려하면 그리 놀라운 일도 아니다. FBI는 2025년에 AI 관련 범죄 신고를 22,000건 넘게 2025년에 AI 관련 범죄 신고가 22,000건을 넘었으며, 이로 인한 피해액은 약 893 million 달러에 달했습니다. 그중 632 million 달러 이상이 투자 사기에서 발생했으며, FBI에 따르면 사기범들은 AI를 이용해 대화를 진행하고 유명인, 기업 임원 및 신뢰할 수 있는 인물의 목소리와 모습을 딥페이크한다고 합니다.
오랫동안 사람들은 사기꾼을 일부러 끌어당기는 것을 취미로 삼아 왔다 — 때로는 사기꾼에게 책 전체를 소리 내어 읽게 하거나, 심지어 터무니없는 문신을 하게 만드는등 우스꽝스러운 방식으로 말이다. 이제 AI가 점점 더 강력해지면서 상황이 역전되고 있다.
흥미롭게도 Apate의 아이디어는 실제 사기 전화에서 시작되었다.
몇 년 전, Apate의 창업자이자 CEO인 Dali Kaafar는 가족 소풍을 가던 중 알 수 없는 번호로부터 전화를 받았다. 상대가 사기꾼임을 깨닫고, 그는 아이들을 보여주기 위해 멍청한 척하기로 하고 통화를 44분 동안 이어가는 데 성공했다.
모두가 웃었지만, Kaafar는 그 44분 동안 사기꾼이 진짜 피해자에게 전화를 걸지 않았다는 사실을 알아차렸다. 동시에 그 44분은 자신의 시간을 낭비한 것이기도 했고, 이는 그에게 하나의 의문을 안겨주었다: 이것을 자동화하고, 그 과정에서 유용한 정보를 얻을 수 있을까?
그 아이디어는 결국 Macquarie University에서의 그의 직장에서 연구 과제로 이어졌고, Kaafar와 동료들은 기계 학습과 자연어 처리를 활용해 사기 전화의 내용을 파악하고 사기를 더 잘 탐지하고 예방하는 방법을 개발했다.
“업계 대부분은 사후에 움직입니다. 통신사는 번호를 차단하지만 사기꾼들은 그냥 새 번호를 얻습니다. 은행은 거래를 감시하지만 그 무렵에는 이미 사기꾼이 고객에게 닿은 뒤입니다. 우리는 사기꾼에게 직접 다가가 누구도 피해를 입기 전에 정보를 얻습니다.”라고 공동창업자이자 최고상업책임자인 Brad Joffe가 TechCrunch에 말했다. “우리의 AI 에이전트는 매일 전화, 메시지, 이메일, 웹을 통해 수만 명의 사기꾼들과 대화합니다. 우리가 고객에게 제공하는 것은 그 대화에서 나오는 정보와 그것으로 할 수 있는 일입니다.”
Joffe에 따르면 Apate는 프론티어 모델과 자체 파인튜닝 모델을 모두 사용해 에이전트와 분석을 구동한다. 이 회사는 에이전트들이 사기꾼들과 나눈 대화와 Kaafar가 Macquarie에서 수행한 연구를 바탕으로 모델을 학습시킨다.
Apate의 에이전트 함대에 대한 접근 권한 외에도, 고객들은 자사의 최종 사용자나 직원, 브랜드, 제품 등을 겨냥한 사기에 관한 인텔리전스와 분석을 제공하는 인사이트 포털에 접근할 수 있다. 고객은 이 에이전트들에게 은행 계좌 번호나 암호화폐 지갑 주소 확보와 같은 특정 임무를 부여할 수도 있다. 텍스트 에이전트는 포럼, 투자 그룹, 소셜 플랫폼에서 잠재적 사기 활동을 검색하고, 조작된 신분으로 대화에 참여해 사기꾼들의 세부 정보를 드러낼 수 있다.
이 스타트업의 고객에는 Commonwealth Bank of Australia, TPG Telecom을 비롯해 다른 공공유틸리티, 통신사, 정부 기관들이 포함되어 있다. Joffe에 따르면 TPG는 약 590,000건의 전화를 Apate의 에이전트로 돌렸고, Commonwealth는 공개적으로 보고된 사기 피해액이 76% 감소했으며, 이 스타트업과 협력하는 이름이 공개되지 않은 호주 은행은 발신 에이전트를 활용해 22건의 사기 캠페인을 차단했다.
투자자들은 사기꾼을 속여서도 돈을 벌 수 있다는 데에 베팅하고 있다. Apate는 8월에 Lobby Capital, OIF Ventures, Investible, Concept Ventures, Baobab Ventures로부터 815만 달러의 시드 펀딩을 유치했다. Joffe는 직원 20명 규모인 이 회사가 총 1,000만 달러에 약간 못 미치는 금액을 조달했으며, 최신 라운드 자금을 제품과 국제 확장, 즉 런던 사무소 개설과 미국 내 더 큰 거점 구축에 사용할 계획이라고 말했다.
“Apate는 그리스 신화의 기만의 여신에서 이름을 따왔는데, 저희 에이전트가 하는 일을 고려하면 적절하다고 느꼈습니다.”라고 Joffe는 말하며, 이 스타트업이 심지어 프레젠테이션 자료에 봇에게 욕설을 퍼붓는 사기꾼들의 모습을 담고 있다고 덧붙였다.
“저희는 그것을 좌절감의 신호로 추적하며, Apate에서는 욕설 한마디 한마디를 축하합니다. 저희는 고객이 제품에 욕을 할 때 이를 축하하는 세계에서 몇 안 되는, 어쩌면 유일한 기업일 것입니다.”