Deepfakes auf Facebook: Gemeldet und trotzdem online

Eine Politikerin sagt in einem Video einen hetzerischen Satz über Geflüchtete. Eine junge Frau wird in Videos wegen ihres Körpers verspottet. Beides ist gefälscht, gemacht mit künstlicher Intelligenz (KI). Man nennt so etwas Deepfake: ein Video, das echt aussieht und echt klingt, aber erfunden ist. Beide Videos wurden auf Facebook gemeldet. Beide blieben online, weil kein Mensch die Meldungen gelesen hat.

Erst das Oversight Board griff ein. Das ist eine Art Schiedsstelle für Facebook und Instagram. Meta hat sie gegründet, sie soll aber unabhängig entscheiden. Wer mit einer Entscheidung von Facebook nicht einverstanden ist, kann sich dort beschweren. Am 17. September 2026 entschied das Board: Beide Videos müssen weg. Metas Regeln seien „durchgehend und grundlegend unzureichend“, um mit der Flut an KI-Inhalten fertigzuwerden.

Was zeigte das erste Video?

Das Video tauchte im November 2025 auf Facebook auf. Es zeigt eine Gemeinderätin der Labour-Partei aus Schottland. Sie scheint zu sagen, Geflüchtete seien willkommen – selbst dann, wenn sie Frauen vergewaltigen. Diesen Satz hat sie nie gesagt. Wer genau hinsah, konnte die Fälschung erkennen: Ton und Lippen passten nicht ganz zusammen. Aber wer achtet schon darauf, wenn er nicht ohnehin misstrauisch ist?

Mehr als 5.000 Menschen sahen das Video. Die Politikerin hatte sich laut Beitragstext gegen die Schließung einer Flüchtlingsunterkunft in ihrer Stadt eingesetzt. Dem Board sagte sie, die Folgen seien für sie „ziemlich traumatisch“ gewesen. Sie versuchte mehrmals, das Video entfernen zu lassen, bei Meta und bei der Polizei. Ohne Erfolg. Das Board wertete das Video schließlich als Hetze, weil es Geflüchteten als ganzer Gruppe Vergewaltigungen unterstellt.

Und das zweite?

Eine junge Muslimin trat 2025 in einem europäischen Land im Fernsehen auf. Sie warb als Freiwillige für mehr Aufklärung über die Periode und Frauengesundheit, besonders für Mädchen aus Minderheiten. Danach bastelten Unbekannte aus ihrem Auftritt KI-Videos. Darin wird sie als angebliche „Gesundheitsbotschafterin“ ihres Landes vorgestellt. Sie macht lächerliche Sportübungen und isst Fast Food, während sie Ernährungstipps gibt. Nichts davon hat sie gesagt oder getan.

Unter dem Facebook-Video, das das Board geprüft hat, machten sich viele über ihr Gewicht und ihr Kopftuch lustig. Und es war nur eines von vielen. Ähnliche Videos und Bilder wurden auf verschiedenen Plattformen zusammen zig Millionen Mal angesehen. Das Board zählte mehr als 1.000 Beiträge mit derselben falschen Behauptung, an einem einzigen Tag rund 250. Auf der Plattform X bestätigte der KI-Chatbot Grok Nutzern auf Nachfrage sogar, die Behauptung stimme. Das Board wertete das Video als Mobbing.

Warum hat kein Mensch hingesehen?

Facebook bekommt jeden Tag unzählige Meldungen. Ein Computer sortiert vor, welche davon ein Mensch anschaut. Beide Videos fielen dabei durch. Auch an Faktenchecker – also Leute wie wir, die Behauptungen prüfen – ging das Video der Politikerin nicht. Laut Meta vermutlich, weil es zu wenig Menschen gesehen hatten. Das Board zeigt sich „ernsthaft besorgt“, wie viele Meldungen so nie bei einem Menschen landen.

Dabei hätte ein Mensch hier schnell etwas erkannt. Er kann das Video mit dem echten Interview vergleichen. Er kann sehen, dass hunderte fast gleiche Beiträge zusammengehören. Der Computer sieht hundert kleine Fälle. Die Betroffene erlebt einen einzigen großen Angriff.

Warum sah Meta keinen Regelverstoß?

Beim Video der Politikerin geht es um einen Warnhinweis. Meta kann unter besonders täuschende KI-Videos schreiben, dass hier eine hohe Täuschungsgefahr besteht. Das macht der Konzern aber nur ganz selten. Hier sah Meta keinen Grund dafür. Die nächste Wahl sei Monate entfernt gewesen. Das Video sei Satire, also absichtlich übertriebener Spott. Und es hätten nur wenige Menschen darauf reagiert.

Das Board überzeugt das nicht. Satire merkt man meist irgendwann, hier deutete nichts darauf hin. Und eine Fälschung wird nicht harmloser, nur weil sie 5.000 statt 500.000 Menschen gesehen haben. In einer kleinen Gemeinde können 5.000 Aufrufe reichen, um einen Ruf zu beschädigen. Eine Gemeinderätin hat keine Presseabteilung, die sich dagegen wehrt.

Beim Video der jungen Frau hat Meta eine Regel gegen gefälschte Bilder von Privatpersonen. Die hat aber zwei Haken. Sie greift nur, wenn die Betroffene den Beitrag selbst meldet. Bei hunderten Beiträgen müsste sie jeden einzelnen erst finden. Und Meta prüft nur, ob das Aussehen verändert wurde. Ihr Gesicht sah aber aus wie ihr Gesicht. Moderne KI muss niemanden entstellen. Sie lässt echte Menschen Dinge sagen und tun, die nie passiert sind. Das Board hält Metas Regel deshalb für viel zu eng.

Was ändert sich jetzt?

Nicht so viel, wie man hoffen könnte. Einig war sich das Board übrigens nicht: Einige Mitglieder hielten das Politikerinnen-Video für erlaubte Satire, andere wollten es ganz löschen. Es geht um eine schwierige Frage – wo hört scharfe Kritik auf, wo fängt Hetze an?

Woran erkenne ich so ein Video?

Jedenfalls nicht am KI-Hinweis. Fehlt er, heißt das nicht, dass ein Video echt ist. Beim Video der Politikerin fand Metas Technik keine KI-Spuren. Wer es hochlud, hätte es als KI kennzeichnen müssen, tat es aber nicht. Bestraft wurde er dafür nicht. Im Feed sah das Video aus wie jedes andere.

Wer selbst Opfer so einer Welle wird, sollte früh Beweise sichern: Links, Kontonamen, Datum und Uhrzeit, Screenshots. Damit lässt sich später zeigen, dass die Beiträge zusammengehören. Wo es Hilfe gibt, zeigt der Mimikama-Notfall-Check.

Ein Deepfake muss nicht viral gehen, um Schaden anzurichten. Und „kein Verstoß festgestellt“ heißt nicht, dass jemand hingesehen hat.