Sex-KI auf Facebook: Wer kontrolliert diese Werbung?

Meta spielt bezahlte Werbung für eine Sex-KI aus. Ausgangspunkt unserer Recherche ist eine Facebook-Seite mit null Followern, einem künstlich erzeugten Männergesicht als Profilbild und einem Namen, der für Außenstehende kaum einer nachvollziehbaren Unternehmensidentität entspricht. Hinter den Anzeigen steht ein Dienst, der Bilder als Ausgangsmaterial für KI-generierte Inhalte und kurze Videos verarbeitet – darunter ausdrücklich sexualisierte Vorlagen.

Und es geht längst nicht mehr um eine einzelne Anzeige. Wir konnten sieben Werbeschaltungen dokumentieren. Meta weist dafür einzelne Reichweiten von 17.303, 11.608, 711, 113, 107, 104 und 24 Konten aus. Addiert ergeben diese Werte 29.970. Das bedeutet nicht, dass 29.970 verschiedene Menschen erreicht wurden – dieselben Konten können mehrere Anzeigen gesehen haben. Eine deduplizierte Gesamtreichweite stellt Meta in den von uns dokumentierten Angaben nicht bereit.

Eine der aktuell aktiven Anzeigen trägt die Bibliotheks-ID 1082608567808493 und wird laut Meta erst seit dem 5. Oktober 2026 ausgeliefert. Zum Zeitpunkt unserer Dokumentation am 7. Oktober war diese Werbeschaltung damit gerade erst rund zwei Tage aktiv. Meta zeigt für sie eine Auslieferung über Facebook, Instagram, Audience Network, WhatsApp und Threads.

Das ist mehr als dubiose Erwachsenenwerbung. Genau jene technische Grundidee, bei der ein vorhandenes Foto zum Ausgangsmaterial einer KI-Manipulation wird, spielt auch bei sexualisierten Deepfakes realer Menschen eine zentrale Rolle. Ein öffentlich verfügbares Porträt kann heute genügen. Während Betroffene längst mit erfundenen Nacktbildern und sexualisierten KI-Fälschungen kämpfen, stellt sich bei dieser Kampagne eine ziemlich einfache Frage: Was genau prüft Meta eigentlich, bevor solche Werbung freigeschaltet und über mehrere seiner Plattformen ausgespielt wird?

So sieht die Werbung auf Facebook aus

Die eigentliche Facebook-Anzeige wirkt auf den ersten Blick deutlich unverfänglicher als das Angebot, zu dem der mobile Klick später führt. Zu sehen ist eine Werbeanzeige der Seite „Climplatgloltbla Pospacra“ mit mehreren weiblichen KI- beziehungsweise Charakterdarstellungen. Unter dem Werbemotiv nennt Facebook als Ziel OPENFUN.ART und zeigt den Text „Jordan | open lover chat AI Character“ sowie den Button „Registrieren“.

Genau dieser Unterschied gehört zur Recherche: Die sichtbare Anzeige auf Facebook präsentiert kein offen pornografisches Angebot. Erst beim weiteren Aufruf auf dem Smartphone landeten wir bei GenSpicy mit den deutlich expliziteren Adult-KI-Vorlagen. Das macht die Frage nach Metas Prüfung der tatsächlichen Zielseite umso relevanter.

Null Follower, KI-Gesicht – und trotzdem darf die Seite werben

Die Facebook-Seite hinter der Kampagne heißt „Climplatgloltbla Pospacra“. Laut der von uns archivierten Seitentransparenz wurde sie am 12. September 2026 angelegt. Zum Zeitpunkt unserer Dokumentation zeigte Facebook null Follower und null gefolgte Konten an. Als Kategorie war „Lokales Unternehmen“ angegeben.

Auch das von uns dokumentierte Profilbild ist bemerkenswert. Das vorliegende Ausgangsbild trägt unten rechts ausdrücklich den Hinweis „StyleGAN2 (Karras et al.)“. StyleGAN2 ist ein generatives Modell, mit dem unter anderem künstliche Gesichter erzeugt werden können. Die Seite trat damit zumindest zum Zeitpunkt dieser Dokumentation mit einem als synthetisch gekennzeichneten Männerporträt auf.

Ein KI-Bild als Profilfoto ist für sich genommen kein Beweis für Betrug. Auch ein eigenartiger Seitenname beweist nichts. In Kombination mit einer kaum etablierten Seite ohne Community und bezahlter Werbung für ein sensibles Adult-KI-Angebot wird aber eine andere Frage relevant: Welche Identitätsprüfung hat hier überhaupt stattgefunden?

Meta nennt einen Zahlenden – für Außenstehende bleibt vieles unklar

In der Werbebibliothek weist Meta als Werbetreibenden und Zahlenden „Keldfruglo Drashandsti“ aus. Dieser Name entspricht weder dem Seitennamen noch lässt sich aus der Werbebibliothek erkennen, welche konkrete Firma oder Person dahintersteht.

Meta erklärt selbst, die Verifizierung von Werbetreibenden auszubauen. Im März 2026 teilte das Unternehmen mit, dass eine Verifizierung unter anderem vom Auslieferungsort, früheren Regelverstößen oder der Risikokategorie abhängen könne. Bis Ende 2026 sollen nach Metas Ziel 90 Prozent der Werbeumsätze von verifizierten Werbetreibenden stammen.

Welche Prüfung der konkrete Werbekunde hinter dieser Kampagne durchlaufen musste, wissen wir nicht. Für Nutzerinnen und Nutzer bleibt ein eigenartiges Bild: Eine Facebook-Seite ohne erkennbare Community kann innerhalb kurzer Zeit mehrere Werbeanzeigen schalten und damit über verschiedene Meta-Angebote ein europäisches Publikum erreichen.

Sieben Anzeigen – fast 30.000 ausgewiesene Einzelreichweiten

Unsere erste Dokumentation zeigte bereits eine fünfstellige Reichweite bei einer einzelnen Anzeige. Inzwischen lässt sich das Bild genauer zeichnen: Wir haben sieben einzelne Werbeschaltungen der Seite dokumentiert.

Meta weist dafür Reichweiten von 17.303, 11.608, 711, 113, 107, 104 und 24 Konten aus. Die Summe dieser sieben Einzelwerte beträgt 29.970.

Diese Zahl darf allerdings nicht als 29.970 unterschiedliche Personen gelesen werden. Die Reichweite wird für jede Anzeige separat angegeben. Wer zwei oder mehr Anzeigen gesehen hat, kann daher mehrfach in diesen Werten enthalten sein. Seriös lässt sich deshalb sagen: Die sieben von uns dokumentierten Anzeigen kommen addiert auf 29.970 von Meta ausgewiesene Einzelreichweiten. Wie viele unterschiedliche Konten insgesamt dahinterstehen, lässt sich daraus nicht bestimmen.

Bemerkenswert ist auch, wie aktuell ein Teil der Kampagne ist. Die aktive Anzeige mit der Bibliotheks-ID 1082608567808493 wird laut Meta erst seit dem 5. Oktober 2026 ausgeliefert. Bei unserer Dokumentation zwei Tage später lief sie bereits über fünf verschiedene Meta-Angebote.

Damit handelt es sich nicht um einen einzelnen Werbeversuch auf Facebook. Die Kampagne besteht aus mehreren Anzeigen, von denen einzelne fünfstellige Reichweiten erzielen, während zumindest eine aktuelle Variante gleichzeitig über Facebook, Instagram, Audience Network, WhatsApp und Threads ausgespielt wird.

Hinter der Werbung steckt eine KI für explizite Inhalte

Nach dem Klick wird deutlich, in welcher Produktkategorie wir uns befinden. Auf der von uns dokumentierten mobilen Zielseite von genspicy.ai erscheinen Vorlagen mit Bezeichnungen wie „Deepthroat“, „Cowgirl“, „DoggyStyle“, „Missionary“ oder „Hot Shower Sex“. Es geht hier also weit über einen flirtenden KI-Chatbot hinaus.

Ein aktueller Quellencheck des Dienstes beschreibt GenSpicy als Generator für Standbilder und kurze Videos. Der Workflow akzeptiert dabei auch Bild-Uploads zur weiteren KI-Verarbeitung. Damit verbindet das Produkt genau jene Bausteine, die bei sexualisierten Deepfakes problematisch werden können: vorhandenes Bildmaterial, generative KI und die Erzeugung neuer visueller beziehungsweise bewegter Inhalte.

Zur journalistischen Genauigkeit gehört allerdings eine Grenze. Die öffentlich beschriebenen Nutzungsbedingungen sollen Uploads fremder realer Personen verbieten. Wir haben bewusst nicht versucht, diese Vorgabe mit einem Foto einer anderen Person zu umgehen. Deshalb behaupten wir nicht, dass sich bei GenSpicy nachweislich jedes beliebige fremde Profilbild ohne Wissen der betroffenen Person verwenden lässt.

Belegt ist bereits genug: Der Dienst verarbeitet Bild-Uploads und bietet die Erzeugung sexualisierter KI-Inhalte und Videos an. Aus den öffentlich beschriebenen Abläufen ist für uns nicht ersichtlich, welche technische Identitäts- oder Einwilligungsprüfung beim Upload tatsächlich erfolgt. Eine Klausel in den Nutzungsbedingungen schützt Betroffene nur dann zuverlässig, wenn sie auch wirksam durchgesetzt wird.

Ein normales Foto kann heute zum Rohmaterial werden

Dass dieses Missbrauchspotenzial keine abstrakte Zukunftsfrage ist, zeigen aktuelle Untersuchungen zu sexualisierten Deepfakes. Die Agora Digitale Transformation untersuchte 5.872 Abgeordnete nationaler Parlamente in den 27 EU-Staaten. 138 Frauen und neun Männer wurden dabei in Verbindung mit Deepfake-Pornografie gefunden. Frauen waren wesentlich häufiger betroffen.

Besonders problematisch sind sogenannte „Gateways“: Seiten, auf denen Biografien, Social-Media-Profile oder gewöhnliche Fotos realer Personen direkt neben Links zu Werkzeugen auftauchen, mit denen sexualisierte KI-Darstellungen erzeugt werden können. Das Ausgangsmaterial muss dabei kein intimes Bild sein. Bereits ein öffentlich verfügbares Porträt kann genügen.

Anfang Oktober wurde das Problem auch in Österreich sehr konkret sichtbar. Eine weitere Untersuchung identifizierte laut ORF 50 betroffene Mitglieder des Europäischen Parlaments, darunter 46 Frauen. Zu ihnen gehört die österreichische EU-Abgeordnete Lena Schilling. Sie berichtete davon, Nacktdarstellungen ihrer Person im Internet gefunden zu haben, obwohl sie solche Bilder nie erstellt hatte.

Zwischen GenSpicy und den Fälschungen von Lena Schilling gibt es keinen belegten Zusammenhang. Ihr Fall zeigt jedoch, warum Werkzeuge, die normale Bilder in sexualisierte KI-Darstellungen verwandeln können, so heikel sind. Man muss heute keine intime Aufnahme veröffentlicht haben, um plötzlich auf einer solchen Fälschung aufzutauchen.

Ein normales Profilbild, ein Pressefoto oder ein öffentliches Porträt kann zum Rohmaterial werden. Die betroffene Person muss davon zunächst überhaupt nichts wissen.

Und ausgerechnet dafür läuft Werbung über Meta

Damit bekommt die Kampagne eine Dimension, die weit über die Frage hinausgeht, ob man auf Facebook für Erwachsenenangebote werben darf. Hier wird ein Produkt beworben, das Bild-Uploads mit sexualisierten KI-Inhalten verbindet – also eine technische Kombination, deren Missbrauch gegen reale Menschen längst dokumentiert ist.

Metas Regeln verbieten Erwachsenenwerbung dabei nicht pauschal. Wenn sich Anzeigen ausschließlich an Volljährige richten, dürfen Werbetreibende unter bestimmten Voraussetzungen beispielsweise Links oder Logos von Websites mit Erwachsenen-Abonnements verwenden.

Gleichzeitig setzt Meta Grenzen. Anzeigen dürfen unter anderem keine pornografischen Inhalte anbieten oder anfragen, sexuelle Begegnungen beziehungsweise gewerbliche sexuelle Dienstleistungen fördern oder sexuelle Praktiken und Erlebnisse diskutieren.

Deshalb wäre die Aussage zu einfach, jede Werbung für eine Adult-Plattform müsse automatisch gegen Metas Regeln verstoßen. Genau damit ist Meta allerdings nicht aus der Verantwortung. Denn selbst wenn die sichtbare Anzeige formal eine Ausnahme erfüllt, bleibt zu klären, wie Meta den dahinterstehenden Werbekunden, die Zielseite und das tatsächlich beworbene Produkt geprüft hat.

Hinzu kommt inzwischen eine weitere Frage: Wenn dieselbe Kampagne über Facebook, Instagram, Audience Network, WhatsApp und Threads ausgespielt werden kann, an welcher Stelle greift Metas Kontrolle – und gilt dieselbe Prüfung für sämtliche Ausspielwege?

Noch eine Auffälligkeit: Der Klick führt nicht immer zum selben Ziel

Bei unserer Recherche fiel außerdem ein merkwürdiger Unterschied auf. Öffneten wir die Anzeige am Desktop, landeten wir auf openfun.art. Dort wird ein vergleichsweise harmloser KI-Charakter namens Jordan beschrieben. Beim mobilen Aufruf desselben von uns getesteten Werbewegs führte der Klick dagegen zu GenSpicy und dessen explizitem Adult-KI-Angebot.

Beide URLs enthielten denselben Parameter source=GSDTK71y1-1214. Das beweist nicht, dass hier absichtlich Metas Anzeigenprüfung ausgetrickst wird. Unterschiedliche Weiterleitungen können technisch verschiedene Ursachen haben.

Bemerkenswert ist es trotzdem. Meta selbst verwendet für eine Methode, bei der Werbeprüfsysteme eine andere Website-Version sehen als reale Nutzer, den Begriff Cloaking. Erst im Februar 2026 erklärte der Konzern erneut, entsprechende Anzeigen zu blockieren und mit KI nach Weiterleitungen zu suchen, die die tatsächliche Zielseite vor der Anzeigenprüfung verbergen.

Für diesen Fall bleibt Cloaking daher eine Prüfspur, kein belegter Vorwurf. Die Geschichte ist auch ohne diesen Punkt problematisch genug.

Die EU reagiert inzwischen auf sexualisierte KI-Fälschungen

Auch die europäische Politik reagiert inzwischen auf die Entwicklung. Der Rat der Europäischen Union beschloss 2026 neue Regeln gegen KI-Praktiken zur Erzeugung nicht einvernehmlicher sexueller und intimer Inhalte. Systeme, die Nacktdarstellungen realer Personen erzeugen oder Kleidung auf vorhandenen Fotos digital entfernen, sollen ab 2. Dezember 2026 unter das Verbot fallen.

Damit versucht Europa gerade, eine Technologie stärker einzugrenzen, deren Missbrauch längst reale Opfer produziert. Gleichzeitig kann Werbung für ein Adult-KI-Angebot mit Bild-Upload-Funktion innerhalb weniger Tage über mehrere Meta-Plattformen verbreitet werden.

Meta weiß erstaunlich viel – aber reicht die Kontrolle?

Meta kann für die untersuchten Anzeigen ziemlich genau ausweisen, welche Reichweite einzelne Werbeschaltungen erzielt haben. Die Werbebibliothek dokumentiert Altersgruppen, Geschlecht und Länder. Sie zeigt, wann eine Anzeige gestartet wurde, über welche Plattformen sie läuft und welcher Name als Werbetreibender und Zahlender hinterlegt wurde.

Bei sieben von uns dokumentierten Anzeigen summieren sich die von Meta ausgewiesenen einzelnen Reichweitenwerte auf 29.970. Eine davon war bei unserer Recherche gerade erst seit dem 5. Oktober aktiv und wurde über fünf verschiedene Meta-Angebote ausgeliefert.

Gleichzeitig konnte eine Facebook-Seite ohne erkennbare Community eine Kampagne für eine KI ausspielen, die Bild-Uploads mit sexualisierten Inhalten und Videos verbindet.

Parallel zeigen aktuelle Fälle, was aus dieser technischen Möglichkeit entstehen kann, wenn sie gegen reale Menschen eingesetzt wird: erfundene Nacktbilder, sexualisierte Darstellungen und Videos, denen die Betroffenen niemals zugestimmt haben. Die Technik dafür wird leichter zugänglich, während bereits ein normales öffentliches Foto als Ausgangsmaterial reichen kann.

Die Frage an Meta lautet deshalb nicht bloß, ob eine einzelne Anzeige irgendwie unter eine Ausnahme für Erwachsenenwerbung fällt.

Die Frage lautet: Warum kann eine derart auffällige Werbeseite innerhalb kurzer Zeit mehrere Anzeigen für ein Produkt mit diesem Missbrauchspotenzial über verschiedene Meta-Plattformen verbreiten – und welche Prüfung hat davor tatsächlich stattgefunden?