Meta: Wenn Facebook-Werbung zu illegalen Inhalten führt

Auf Facebook sieht eine Werbeanzeige zunächst ganz gewöhnlich aus. Ein paar KI-Figuren, ein Registrierungsbutton, der Verweis auf eine Website. Was nach dem Klick passiert, kann allerdings eine andere Geschichte erzählen. Bei einer Mimikama-Recherche vom 7. Oktober 2026 führte der von uns getestete Werbeweg am Computer zu einer vergleichsweise harmlosen KI-Charakterseite. Auf dem Smartphone erreichten wir über denselben Werbeweg ein deutlich expliziteres Angebot für sexualisierte KI-Inhalte.

Am selben Tag veröffentlichte Meta eine Mitteilung, die eine ganz ähnliche Schwierigkeit der Werbekontrolle aus einem wesentlich schwerwiegenderen Bereich beschreibt. Nach Angaben des Unternehmens nutzen Täter scheinbar unverdächtige Anzeigen, um verdeckt auf Angebote außerhalb von Facebook und Instagram zu verweisen, die mit der sexuellen Ausbeutung von Kindern zusammenhängen. Meta kündigt dafür zusätzliche Erkennungssysteme an. Die Frage ist, ob die Plattform damit künftig auch zuverlässig erkennt, was hinter einer bezahlten Anzeige tatsächlich angeboten wird.

Die Anzeige wirkt harmlos – der Verweis ist es nicht

Meta verwendet für die neue beschriebene Methode den englischen Begriff „Signposting“. Gemeint sind Anzeigen, die für sich genommen unauffällig sein können, aber indirekte Hinweise auf illegale Inhalte oder entsprechende Aktivitäten außerhalb der Plattform enthalten. Der eigentliche Zweck erschließt sich damit womöglich erst aus dem Zusammenhang zwischen Anzeigentext, Verweis und externem Ziel. Eine Kontrolle, die sich auf das sichtbare Werbemotiv beschränkt, kann solche Zusammenhänge übersehen.

In seiner Mitteilung vom 7. Oktober erklärt Meta, bei einer untersuchten missbräuchlichen Werbemethode betroffene Konten deaktiviert und externe Links blockiert zu haben. Das Unternehmen will Anzeigen nun besser danach bewerten, wohin sie führen und welche Aktivitäten dort stattfinden. Es handelt sich um eine Darstellung der eigenen Sicherheitsmaßnahmen. Wie viele problematische Anzeigen dadurch zusätzlich entdeckt wurden, lässt sich dem Bericht nicht entnehmen.

Was wir selbst bei Facebook dokumentiert haben

Unsere Recherche zeigt, warum die Zielseite einer Anzeige eine eigene Prüfung verdient. Wir dokumentierten sieben Werbeschaltungen für ein sexualisiertes KI-Angebot. Die von Meta ausgewiesenen Einzelreichweiten ergaben addiert 29.970. Das sind ausdrücklich keine 29.970 nachgewiesenen unterschiedlichen Personen: Ein Konto kann mehrere der Anzeigen gesehen haben.

Besonders auffällig war der Unterschied zwischen den getesteten Klickwegen. Am Desktop erschien eine KI-Charakterseite, mobil ein Angebot mit expliziten KI-Vorlagen und der Möglichkeit, Bildmaterial für weitere Verarbeitung hochzuladen. Dass dahinter eine absichtliche Täuschung der Meta-Prüfung steckt, haben wir nicht nachgewiesen. Unterschiedliche Weiterleitungen können verschiedene technische Ursachen haben. Der beobachtete Unterschied bleibt dennoch relevant, wenn es darum geht, was eine automatische Werbeprüfung tatsächlich zu sehen bekommt.

Eine Grenze ist dabei wesentlich: Unser dokumentierter Fall betrifft eine Anwendung mit sexualisierten Inhalten für Erwachsene. Wir haben in diesem Zusammenhang keine Verbreitung von Darstellungen sexueller Ausbeutung von Kindern festgestellt. Auch gibt es keinen Beleg, dass die von uns untersuchte Kampagne mit den nun von Meta beschriebenen Tätern oder Anzeigen zusammenhängt. Vergleichbar ist die Schwierigkeit, aus einer zunächst sichtbaren Werbung auf das dahinterliegende Angebot zu schließen.

332 problematische Anzeigen trotz Werbeprüfung

Wie gravierend Fehler bei dieser Kontrolle ausfallen können, zeigte im September eine Untersuchung des unabhängigen Tech Transparency Project (TTP). Die Organisation identifizierte 332 bezahlte Anzeigen auf Facebook und Instagram, die sie als Darstellungen sexueller Ausbeutung von Kindern einstufte und die nach ihren Recherchen Metas Anzeigenprüfung passiert hatten. Teilweise wurden öffentlich verfügbare Fotos tatsächlicher Kinder mit KI sexualisiert. In 298 der 332 Fälle verwiesen die Anzeigen laut TTP auf Anwendungen zur Erzeugung von Bildern oder Videos. WIRED berichtete für einen weiter zurückreichenden Zeitraum seit Ende 2025 von mehr als 350 entsprechenden Anzeigen. Die Zahlen beziehen sich damit auf unterschiedlich abgegrenzte Untersuchungsbestände und sollten nicht miteinander vermischt werden.

Anders als bei den von Meta jetzt beschriebenen äußerlich unauffälligen Verweisen enthielten viele der vom TTP untersuchten Anzeigen bereits im Werbematerial selbst schwerwiegende Missbrauchsdarstellungen. Das sind unterschiedliche Erscheinungsformen eines Problems: Die Prüfverfahren verhinderten in den dokumentierten Fällen die bezahlte Verbreitung nicht. Laut den von TTP ausgewerteten Daten der Meta-Werbebibliothek erreichten die untersuchten Anzeigen in der Europäischen Union mehr als 29.000 Konten beziehungsweise Nutzer. Für Österreich oder Deutschland weist der Bericht keine gesonderten Reichweiten aus.

Besonders ernüchternd ist der Umgang mit Meldungen. Das TTP meldete nach eigenen Angaben 129 aktive problematische Anzeigen an Meta. Bei 73 davon, also rund 57 Prozent, erhielt es zunächst die Rückmeldung, die Anzeige verstoße nicht gegen die Werberichtlinien. Einige Anzeigen liefen während der Bearbeitung weiter. Nach der Übermittlung der Untersuchungsergebnisse entfernte Meta laut TTP weitere Anzeigen und korrigierte in zahlreichen Fällen die angezeigte Begründung für bereits erfolgte Maßnahmen. Gegenüber WIRED erklärte Meta, Angebote zum digitalen Entkleiden von Menschen und jede Form der sexuellen Ausbeutung von Kindern zu untersagen; ein Teil der beanstandeten Werbung sei bereits entfernt gewesen.

Meta setzt auf neue KI-Werkzeuge

Meta beschreibt nun mehrere zusätzliche Verfahren. Ein großes Sprachmodell soll versteckte Hinweise auf illegale Zielangebote erkennen. Daneben sollen Systeme die tatsächlichen Werbeziele genauer untersuchen und bereits vorhandene Anzeigen erneut durchsehen, falls ältere Prüfungen problematische Inhalte übersehen haben. Ein KI-Agent soll außerdem die eigenen Schutzmechanismen in sogenannten Red-Team-Tests auf Schwachstellen abklopfen. Verbesserte Erkennung wiederkehrender Täterkonten soll verhindern, dass gesperrte Werbetreibende mit neuen Accounts einfach weitermachen.

Das klingt nach einer umfassenderen Kontrolle, die über Bilder und Werbetexte hinausgeht. Entscheidend wäre jedoch, wie diese Verfahren im Alltag funktionieren. Prüft Meta beispielsweise auch mehrere Weiterleitungen? Werden unterschiedliche Ergebnisse auf Smartphones und Desktop-Geräten erfasst? Und wie wird kontrolliert, ob ein Werbeziel nach einer ersten Freigabe verändert wird? Die Mitteilung beantwortet diese Fragen nicht ausreichend konkret. Eine unabhängig überprüfte Erfolgsquote der neu vorgestellten Systeme nennt Meta ebenfalls nicht.

33,2 Millionen Maßnahmen – aber was sagt diese Zahl aus?

Meta nennt für den Zeitraum Jänner bis Juni 2026 weltweit 33,2 Millionen Inhalte im Zusammenhang mit sexueller Ausbeutung von Kindern auf Facebook und Instagram, gegen die das Unternehmen Maßnahmen ergriffen habe. Mehr als 97 Prozent davon seien nach Metas Angaben bereits erkannt worden, bevor jemand sie gemeldet hatte. Diese Zahl bezieht sich auf sämtliche so erfassten Inhalte der genannten Kategorie. Sie beschreibt weder 33,2 Millionen problematische Werbeanzeigen noch die Leistung der jetzt vorgestellten Verfahren.

Auch die Prozentzahl braucht eine saubere Lesart. Sie sagt aus, welcher Anteil der von Meta tatsächlich bearbeiteten Inhalte vor einer Nutzermeldung entdeckt wurde. Sie verrät nicht, wie viele problematische Inhalte oder Werbeanzeigen insgesamt unerkannt blieben. Aus den veröffentlichten Angaben lässt sich daher keine vollständige Erkennungsquote ableiten. Ebenso wenig lässt sich aus der zeitlichen Nähe zur TTP-Recherche beweisen, dass sämtliche neuen Werkzeuge erst als Reaktion darauf entwickelt wurden.

Eine überprüfbare Antwort wäre hilfreicher als das nächste Sicherheitsversprechen

Für eine seriöse Bewertung der neuen Kontrollsysteme wären andere Zahlen nötig: Wie viele Anzeigen werden wegen problematischer externer Ziele bereits vor der Veröffentlichung blockiert? Wie häufig stellen sich Entscheidungen im Nachhinein als falsch heraus? Welche Maßnahmen helfen bei wiederholten Verstößen und bei Anzeigen, deren Ziel je nach Gerät unterschiedlich erscheint? Solche Daten würden zeigen, ob aus den angekündigten Verbesserungen tatsächlich mehr Schutz entsteht.

Wer auf Facebook oder Instagram verdächtige Werbung entdeckt, sollte die Anzeige direkt auf der Plattform melden und aus einer unauffälligen Gestaltung keine Garantie für eine unbedenkliche Zielseite ableiten. Bei Verdacht auf Material zur sexuellen Ausbeutung von Kindern sollten solche Inhalte keinesfalls heruntergeladen, gespeichert oder weitergeleitet werden. In solchen Fällen sind die Polizei oder eine geeignete Meldestelle die richtige Anlaufstelle.

Meta beschreibt inzwischen selbst, dass der problematische Zweck einer Werbung hinter ihrer Fassade verborgen bleiben kann. Die technische Herausforderung ist damit benannt. Ob die neue Prüfung diesen Umgehungsversuchen tatsächlich gewachsen ist, muss sich erst anhand nachvollziehbarer Ergebnisse zeigen.