Die meisten Unternehmen nutzen KI-Agenten, um Produkte schneller auszuliefern oder Workflows zu beschleunigen. Apate.ai schickt sie verdeckt los, um sich betrügen zu lassen.
Das australische Startup wurde 2024 auf Basis von Forschungsarbeiten an der Macquarie University in Sydney gegründet und setzt Tausende von KI-Agenten ein, die sich als ahnungslose Opfer ausgeben. Die Agenten können Betrugsanrufe annehmen, auf zwielichtige Nachrichten und E-Mails antworten, Phishing-Links folgen und Gruppen in sozialen Medien beitreten, um Betrüger zu ködern. Sie geben sich als Menschen jeder Art aus – mit unterschiedlichen Altersgruppen, Geschlechtern und Akzenten – und sprechen verschiedene Sprachen, während sie versuchen, Betrüger lange genug bei der Stange zu halten, um etwas Nützliches zu erfahren.
Das Unternehmen sagt, seine Agentenflotte hat bisher 17 Jahre Zeit von Betrügern in 2,5 Millionen Gesprächen verschwendet. Wichtiger noch für Apates Kundenstamm aus Banken, Telekommunikationsunternehmen, Regierungsbehörden und Versorgern: Die verdeckten Agenten versuchen, Betrügern Informationen über sich selbst zu entlocken, die normalerweise erst nachdem ein Opfer betrogen wurde, erlernt werden: Bankkonten, Krypto-Wallets, Telefonnummern, bösartige Websites, die Marken, die sie imitieren, und weitere Details zu den Betrugsmaschen, die sie betreiben.
Apate, einer der Finalisten beim diesjährigen Startup Battlefield 200 der TechCrunch Disrupt, speist diese Informationen dann an seine Kunden weiter, die sie zur Gestaltung ihrer Anti-Betrugsmaßnahmen und -initiativen nutzen. (Das Unternehmen wird vor einer Jury aus VC-Richtern bei der Disrupt pitchen, die diese Woche im Moscone West in San Francisco bis Donnerstag, den 15. Oktober stattfindet.)
Es ist eine kuriose Weiterentwicklung des Scam-Baiting, aber angesichts dessen, wie sehr KI Betrüger und Hacker gestärkt hat, nicht sonderlich überraschend. Das FBI erhielt 2025 mehr als 22,000 Beschwerden über KI-bezogene Verbrechen, die zu Verlusten von etwa $893 Millionen führten. Mehr als $632 Millionen davon stammten aus Anlagebetrug, bei dem Betrüger laut FBI KI nutzen, um Gespräche zu führen und die Stimmen und das Aussehen von Prominenten, Führungskräften und vertrauenswürdigen Persönlichkeiten per Deepfake zu imitieren.
Lange Zeit haben Menschen es sich zum Hobby gemacht, Betrüger absichtlich hinzuhalten – manchmal zum Schreien komisch, etwa indem sie Betrüger dazu brachten, ganze Bücher vorzulesen, oder sie sogar zu lächerlichen Tattoos zu bewegen. Jetzt, da die KI immer fähiger wird, drehen sich die Tabellen.
Kurioserweise wurde die Idee hinter Apate durch einen echten Betrugsanruf ausgelöst.
Vor mehreren Jahren war Apates Gründer und CEO Dali Kaafar bei einem Familienpicknick, als er einen Anruf von einer unbekannten Nummer erhielt. Als er merkte, dass ein Betrüger am anderen Ende war, beschloss er, zum Nutzen seiner Kinder dumm zu spielen, und schaffte es, das Gespräch 44 Minuten lang am Laufen zu halten.
Alle mussten lachen, aber Kaafar bemerkte, dass das 44 Minuten waren, die der Betrüger nicht damit verbracht hatte, ein echtes Opfer anzurufen. Es waren auch 44 Minuten seiner verschwendeten Zeit, was ihn zu der Frage brachte: Könnte er das automatisieren und dabei etwas Nützliches lernen?
Diese Idee führte schließlich zu Forschungsarbeiten an seiner Stelle an der Macquarie University, wo Kaafar und seine Kollegen maschinelles Lernen und Verarbeitung natürlicher Sprache einsetzten, um den Inhalt von Betrugsanrufen aufzudecken und bessere Wege zu entwickeln, Betrug zu erkennen und zu verhindern.
„Der Großteil der Branche arbeitet nachträglich. Telekom-Anbieter sperren Nummern, aber Betrüger besorgen sich einfach neue. Banken beobachten Transaktionen, aber bis dahin hat der Betrüger den Kunden bereits erreicht. Wir gehen direkt zum Betrüger und bekommen die Informationen, bevor jemand zu Schaden kommt“, sagte Brad Joffe, Mitgründer und Chief Commercial Officer, gegenüber TechCrunch. „Unsere KI-Agenten sprechen täglich mit Zehntausenden von Betrügern – per Anruf, Nachricht, E-Mail und im Web. Was wir unseren Kunden bieten, ist das, was aus diesen Gesprächen hervorgeht, und was sie damit anfangen können.“
Joffe sagte, Apate nutze sowohl Frontier-Modelle als auch eigene feinabgestimmte Modelle, um seine Agenten und Analysen anzutreiben. Das Unternehmen trainiert seine Modelle auf Gesprächen, die seine Agenten mit Betrügern geführt haben, sowie auf der Forschung, die Kaafar an der Macquarie betrieb.
Neben dem Zugang zu Apates Agentenflotte erhalten Kunden Zugang zu einem Insights-Portal, das Aufklärungsdaten und Analysen zu Betrugsversuchen gegen ihre Endnutzer oder Mitarbeiter, Marken, Produkte und mehr bietet. Kunden können diesen Agenten sogar bestimmte Missionen zuweisen, etwa die Beschaffung einer Bankkontonummer oder einer Krypto-Wallet-Adresse. Seine Text-Agenten können Foren, Anlagegruppen und soziale Plattformen nach potenziellen Betrugsaktivitäten durchsuchen und dann mit einer erfundenen Identität in Gespräche eintreten, um die Details der Betrüger ans Licht zu bringen.
Zu den Kunden des Startups gehören die Commonwealth Bank of Australia, TPG Telecom sowie weitere Versorger, Telekommunikationsunternehmen und Regierungsbehörden. Joffe sagte, TPG habe fast 590,000 Anrufe an Apates Agenten umgeleitet, die Commonwealth habe einen Rückgang der öffentlich gemeldeten Betrugsverluste um 76 % verzeichnet, und eine namentlich nicht genannte australische Bank, mit der das Startup zusammenarbeitet, habe seine ausgehenden Agenten genutzt, um 22 Betrugs kampagnen zu stören.
Auch Anleger wetten darauf, dass sich mit dem Austricksen von Betrügern Geld verdienen lässt. Apate sammelte im August 8,15 Millionen US-Dollar in einer Seed-Finanzierungsrunde von Lobby Capital, OIF Ventures, Investible, Concept Ventures und Baobab Ventures ein. Joffe sagte, das 20-köpfige Unternehmen habe insgesamt knapp unter 10 Millionen US-Dollar eingesammelt und plane, die neueste Runde in sein Produkt und die internationale Expansion zu investieren, einschließlich der Eröffnung eines Büros in London und des Aufbaus einer größeren Präsenz in den USA.
„Apate ist nach der griechischen Göttin der Täuschung benannt, was angesichts dessen, was unsere Agenten tun, passend erschien“, sagte Joffe und fügte hinzu, dass das Startup in seinem Pitch-Material sogar Betrüger zeigt, die die Bots anschreien.
„Wir verfolgen das als Zeichen von Frustration, und jedes Schimpfwort wird bei uns bei Apate gefeiert. Wir sind wahrscheinlich eines der wenigen Unternehmen der Welt, das feiert, wenn Leute unser Produkt beschimpfen.“