Fake-Dating-Apps mit KI: Echte Profile erkennen

Sie laden eine Dating-App herunter, wischen durch Profile und bekommen ein Match. Ein paar Tage lang schreiben Sie hin und her, die Antworten kommen prompt und klingen sympathisch. Irgendwann werden Sie misstrauisch und bitten um einen kurzen Videoanruf. Er kommt zustande. Also ein echter Mensch.

Nicht unbedingt. Ein neuer Bericht beschreibt ein Netz aus mehr als 20 solcher Dating-Apps. Etwa drei von vier Profilen darin waren keine Menschen, sondern eine KI. Und echte Leute wurden dafür bezahlt, genau solche Videoanrufe zu führen – damit niemand Verdacht schöpft.

Drei von vier Profilen waren Maschinen

Bezahlt wurde mit Münzen in der App: Wer weiterschreiben wollte, musste nachkaufen. Das Geschäftsmodell brauchte also keinen großen Betrug am Ende, keine erfundene Notlage, keine Überweisung ins Ausland. Es reichte, dass das Gespräch nicht aufhört. Genau deshalb waren die KI-Profile laut Bericht angewiesen, nie zuzugeben, dass sie automatisiert sind, Bitten um Fotos oder Videoanrufe abzuwimmeln und ein Gespräch in festen Stufen zu führen.

Die echten Menschen waren der eigentliche Trick

Irgendwann will man sein Match sehen. Genau dafür hat der Betreiber echte Leute angeworben und pro Nachricht, pro Videoanruf und pro Social-Media-Follow bezahlt. Ihre Profile lagen im selben Stapel wie die KI-Profile. Wer also misstrauisch wurde und einen Beweis verlangte, konnte ihn bekommen – nur bewies er nichts. Dazu kam Software, die Likes und Profilbesuche erfand, bei Bedarf vorab aufgenommene „Videos“ einspielte und mitschrieb, welche Nutzer bereits Verdacht geschöpft hatten.

Das ist der Teil, der über diesen einen Fall hinausreicht. Die üblichen Echtheitsproben sind erschöpft.

Was jetzt nichts mehr beweist

Vier Beweise, die keine mehr sind

Jeweils mit dem Grund aus dem dokumentierten Fall. Keiner davon heißt automatisch Betrug – aber keiner entlastet.

„Wir hatten doch einen Videoanruf.“

Für Videoanrufe wurden bezahlte Menschen eingesetzt, die nicht die Person aus dem Chat sein mussten. Teils lief laut Bericht vorab aufgenommenes Material.

„Sie folgt mir auf Social Media.“

Auch Rückfolgungen wurden extra vergütet. Das Konto ist echt, die Verbindung zur Chatpartnerin trotzdem nicht belegt.

„So gut schreibt keine Maschine.“

Über zwei Wochen entstanden rund 2,36 Millionen Nachrichten. Sprachliche Qualität ist heute kein Unterscheidungsmerkmal mehr.

„So viele Leute interessieren sich für mein Profil.“

Likes und Besucher wurden teilweise von der Software selbst erzeugt, um Betrieb vorzutäuschen.

Was bleibt: Geld. Wer Sie beim Chatten zum Nachzahlen bringt, verdient daran, dass Sie weiterschreiben.

Warum die KI nicht abgebrochen hat

Eine berechtigte Frage. Für die KI sah jedes einzelne Gespräch aus wie ein harmloses Rollenspiel, der Betrug war in keiner einzelnen Nachricht sichtbar. Anthropic räumt zudem ein, dass die KI in einigen Fällen erkannte, dass etwas nicht stimmte – etwa wenn Menschen von schwerer Krankheit oder akuter Belastung schrieben – und trotzdem in der Rolle blieb. Auf einen eingebauten Schutz sollte man sich also nicht verlassen.

Dasselbe Prinzip, angewendet auf Nachrichten

Der Bericht beschreibt noch einen zweiten Bereich, und dort wiederholt sich die Logik. Eine französische Werbeagentur soll rund 70 Nachrichtenseiten betrieben haben, die wie lokale Zeitungen aussahen, dazu über 250 Konten, die die Beiträge kommentierten und teilten. Mindestens 8.913 Artikel in etwa 20 Sprachen, unterzeichnet von Journalisten, die es nicht gibt. Oft wurden echte Artikel echter Reporter umgeschrieben und mit einem politischen Dreh versehen, den das Original nicht hatte. Eine feste Haltung hatte das Netz nicht, es schrieb für die zahlende Seite.

Für Sie als Leser heißt das dasselbe wie bei den Dating-Apps: Ein Signal fällt weg. Bisher galt, dass eine Meldung glaubwürdiger wird, wenn sie an mehreren Stellen auftaucht. Wenn aber 70 Seiten einer Hand gehören, bestätigen sie einander nicht, sie wiederholen sich nur. In einem dokumentierten Fall erschienen nahezu identische Artikel innerhalb von drei Minuten.

Eine Entwarnung liefert der Bericht gleich mit: Die meisten dieser Netzwerke erreichten kaum echte Menschen und wurden oft abgeschaltet, bevor sie Publikum hatten. Reichweite entstand dort, wo etablierte Kanäle mitmachten, in einem Fall ein lokaler Radiosender. Das Massenhafte allein ist also nicht das Problem.

Auf die Sprache achten hilft nicht mehr

Ein verbreiteter Rat lautet, man erkenne KI-Texte am Stil. Laut Bericht haben die Betreiber die KI ausdrücklich angewiesen, nicht nach KI zu klingen, und typische Merkmale entfernen lassen. Wer professionell arbeitet, optimiert den Stil zuerst. Übrig bleiben Strukturmerkmale: Konten, die im selben Zeitraum entstanden sind. Texte, die anderswo fast wortgleich stehen. Profilbilder, die schon woanders aufgetaucht sind – dafür genügt eine Bilder-Rückwärtssuche.

Woran erkennt man nun ein echtes Profil? Ehrliche Antwort: mit Sicherheit gar nicht mehr, jedenfalls nicht im Chat selbst. Was bleibt, sind Dinge, die sich schlecht in Serie fälschen lassen. Zeit außerhalb des Systems, also ein Konto mit Vergangenheit und gemeinsame Bekannte. Etwas Unvorhergesehenes, denn ein Drehbuch mit festen Gesprächsstufen verträgt keine Abweichung. Und vor allem: die Bereitschaft, den Chat zu verlassen. Ein Mensch, der Sie mag, will Sie irgendwann treffen. Ein Geschäftsmodell, das am Weiterschreiben verdient, will das nie.

Wer das berichtet

Der Bericht stammt von Anthropic, einem US-Unternehmen, das den KI-Chatbot Claude entwickelt. Beschrieben wird, wie Kriminelle und staatliche Stellen diesen Chatbot missbraucht haben – also die eigene Software. Das Unternehmen stellt Sicherheit ins Zentrum seines öffentlichen Auftritts, und ein solcher Bericht zeigt eben auch, wie gründlich es Missbrauch aufspürt. Überprüfen lassen sich die Angaben von außen nicht, und über andere KI-Anbieter sagen sie nichts. Als Zielgruppe der Dating-Apps nennt der Bericht Nutzer in den USA. Brauchbar bleibt er trotzdem, weil er zeigt, welche Prüfungen Sie sich künftig sparen können.

Quellen