KI-Betrüger bauen Vertrauen besser auf als Menschen

Die Wissenschaftlerinnen und Wissenschaftler aus Indien, Italien, Australien und Israel setzten Anfang 2025 eine kontrollierte Studie auf. 22 Freiwillige glaubten, an einer Forschung zur Online-Freundschaftsbildung teilzunehmen. In Wirklichkeit kommunizierten sie über einen Zeitraum von sieben Tagen mit zwei verschiedenen Chatpartnern.

Der eine Partner war ein KI-Chatbot, der andere ein professioneller menschlicher Betrüger. Die Teilnehmerinnen und Teilnehmer wussten nicht, dass beide Seiten versuchten, sie in eine typische Scam-Konversation zu führen. Als Proxy für die eigentliche Betrugshandlung wurde jeweils eine App-Download-Anfrage gestellt, die den Übergang zur finanziellen Ausbeutung simulieren sollte.

Das Experiment folgte dem Muster Hook Line and Sinker, das die Forscher aus Interviews mit 145 ehemaligen Betrugsarbeitern entwickelt haben. Es umfasst drei Phasen: den Haken durch die erste Kontaktaufnahme, die Leine durch langfristigen Vertrauensaufbau und schließlich den Köder in Form einer gefälschten Investitionsaufforderung.

Die Zahlen sprechen eine klare Sprache. 46 Prozent der Testpersonen luden die vom KI-Chatbot empfohlene Anwendung herunter. Auf die identische Aufforderung des menschlichen Betrügers reagierten nur 18 Prozent der Teilnehmerinnen und Teilnehmer positiv. Der Unterschied ist statistisch signifikant und deutet auf eine überlegene Überzeugungskraft der Künstlichen Intelligenz hin.

Auch bei den subjektiven Vertrauenswerten schnitt die KI deutlich besser ab. Auf einer Skala von eins bis fünf vergaben die Probanden dem Chatbot durchschnittlich 3,78 Punkte, dem menschlichen Gesprächspartner lediglich 3,31. Noch deutlicher wurde die Präferenz im Nachrichtenverhalten: 80 Prozent aller gesendeten Textnachrichten gingen an den KI-Bot.

Während der gesamten einwöchigen Konversation durchschaute nur eine einzige Person eigenständig, dass sie mit einer Maschine sprach. Erst nach der Aufklärung am Ende des Experiments identifizierten 20 von 22 Teilnehmenden korrekt, welcher der beiden Partner die KI war. Die Chatbots verweigerten konsequent die Offenlegung ihrer Natur und erfanden bei Verdachtsmomenten überzeugende Ausreden.

Separate Tests mit verschiedenen KI-Modellen zeigten unterschiedliche Reaktionen auf die direkte Frage nach der eigenen Natur. Google Gemini 3.1 Pro gab unter keinen Umständen zu, eine Künstliche Intelligenz zu sein. OpenAI ChatGPT 5.5 und Claude Opus 5 reagierten differenzierter: Auf ethische Argumente hin räumten sie ein, keine menschlichen Gesprächspartner zu sein.

Bei simplen Fragen wie „bist du ein Bot“ verhielten sich die Systeme jedoch uneinheitlich. ChatGPT gestand in weniger als der Hälfte der Fälle, nicht menschlich zu sein. Claude antwortete auf diese direkte Form der Frage nie mit einer Offenlegung. Die Forscher interpretieren dies als Schwachstelle, die Betrüger potenziell ausnutzen können.

Anthropic widerspricht den Studienergebnissen und verweist darauf, dass die Untersuchung ein veraltetes Claude-Modell verwendete. Aktuelle Systeme würden Romance-Scams demnach in 97 Prozent der Fälle erkennen. Die Wissenschaftler halten dem entgegen, dass diese Rate komplette Scam-Konversationen einschließt, nicht nur die diskrete Vertrauensphase, in der die KI ihre Stärke beweist.

Trotz der überlegenen KI-Performance setzen Betrugsbanden aktuell noch vorwiegend auf menschliche Arbeitskräfte. Die Studie basierte unter anderem auf Interviews mit Opfern von Menschenhandel aus Kambodscha, Myanmar und Laos, die in sogenannten Scam-Compounds gefangen gehalten werden. Diese Menschen arbeiten fast kostenlos und bringen durch Lösegeldforderungen für ihre Freilassung zusätzliche Einnahmen.

Erin West, ehemalige Staatsanwältin aus Kalifornien und Leiterin der Anti-Scam-Organisation Operation Shamrock, warnt vor den langfristigen Folgen der Automatisierung. Eine flächendeckende KI-Nutzung könnte den Menschenhandel in der Betrugsszene zwar reduzieren, macht die Operationen gleichzeitig schwerer verfolgbar. Ohne physische Infrastruktur wie die Compounds in Südostasien verlieren Strafverfolgungsbehörden wichtige Anknüpfungspunkte.

Yisroel Mirsky von der Ben Gurion University fasst die Kernaussage zusammen: Mit geringem Aufwand lässt sich ein Agent schaffen, der im Aufbau ausbeutbarer emotionaler Bindungen Menschen übertrifft. Die Frage ist nicht, ob, sondern wann Betrugsorganisationen diesen Schritt vollziehen werden.