Meta muss Deepfakes löschen: Board kritisiert KI-Regeln

Meta hat zwei gefälschte Videos auf Facebook stehen lassen. Jetzt sagt ein Kontrollgremium: Beide müssen gelöscht werden. Es geht um sogenannte Deepfakes. Das sind Videos, die mit künstlicher Intelligenz (KI) gemacht wurden. Darin sagen oder tun echte Menschen Dinge, die nie passiert sind.

Das Gremium heißt Oversight Board. Man kann es sich wie eine oberste Beschwerdestelle für Facebook und Instagram vorstellen. Meta hat es 2020 selbst gegründet und bezahlt es auch, die Fachleute darin sollen aber unabhängig entscheiden. Am 17. September 2026 hat das Board seine Entscheidungen veröffentlicht. Sein Urteil über Meta fällt hart aus: Die Regeln des Konzerns gegen KI-Fälschungen seien „durchgehend und grundsätzlich unzureichend“.

Ein Satz, den sie nie gesagt hat

Im November 2025 tauchte auf Facebook ein kurzes Video auf. Es zeigt eine Politikerin aus Schottland, die für die Labour-Partei in einem Gemeinderat sitzt. Im Video sagt sie auf Englisch sinngemäß: „Flüchtlinge sind hier willkommen, auch wenn sie unsere Frauen vergewaltigen, weil Weiße das auch tun.“ Diesen Satz hat sie nie gesagt. Das Video wirkt echt, wurde aber laut Board künstlich erzeugt.

Wer das Video hochlud, schrieb noch etwas dazu: Die Politikerin hinterziehe Steuern. Belege dafür gab es keine. Die Frau selbst nannte die Wirkung des Videos „ziemlich traumatisch“.

Aus einem Fernsehinterview wurde ein Spottvideo

Im zweiten Fall geht es um eine junge Muslimin aus Europa, die keine Politikerin ist. 2025 sprach sie im Fernsehen über eine Kampagne, bei der sie freiwillig mithalf. Die Kampagne will Mädchen und Frauen aus Minderheiten besser über ihre Periode und ihre Gesundheit aufklären. Außerdem soll sie Scham rund um das Thema abbauen.

Danach haben Accounts auf mehreren Plattformen das Interview verfälscht, um die junge Frau lächerlich zu machen. In einem Video stellt sie sich scheinbar als neue Gesundheitsbotschafterin ihres Landes vor. Das ist frei erfunden. Danach macht sie seltsame Sportübungen und gibt Tipps zu gesunder Ernährung, während sie Junkfood isst. Laut Board kamen die gefälschten Videos und Bilder zusammen auf zig Millionen Aufrufe. Jemand meldete das Video bei Meta. Die Meldung wurde automatisch geschlossen, ohne dass ein Mensch sie angesehen hat. Mit dem Einspruch danach passierte genau dasselbe.

Warum ließ Meta die Videos stehen?

Meta hat seine Entscheidungen begründet, und das Board hat darauf geantwortet. Die Übersicht zeigt beides nebeneinander. Bei der Politikerin nannte Meta noch zwei weitere Gründe: Das Video habe kaum Reaktionen bekommen. Und sie stand bei den schottischen Wahlen im Mai 2026 gar nicht zur Wahl, deshalb sah Meta keine Gefahr für die Wahl.

Warum stand nirgends „KI“ dran?

Keines der beiden Videos hatte einen Hinweis, dass es mit KI gemacht wurde. Das liegt auch daran, wie Meta solche Hinweise vergibt. Beim Video der Politikerin fehlte er offenbar, weil die Person, die es hochlud, nicht selbst angegeben hatte, dass KI im Spiel war. Wer eine Fälschung verbreiten will, sagt das aber in der Regel nicht freiwillig dazu.

Meta hätte auch selbst einen Hinweis setzen können, fand das aber nicht nötig. Das Video wirke eher wie ein Witz und täusche wohl kaum jemanden. Das Board widerspricht: Das Video hätte einen gut sichtbaren Hinweis gebraucht, dass es sich um eine gefährliche KI-Fälschung handelt. Normalerweise zeigt Meta nur einen kleinen Schriftzug mit den Worten „AI Info“.

Muss Meta jetzt seine Regeln ändern?

Das Board hat Meta nicht nur die Löschung aufgetragen. Es macht auch Vorschläge, wie der Konzern künftig mit KI-Fälschungen umgehen soll. Was davon Pflicht ist und was nicht, zeigt die Übersicht.

Wie ernst Meta die Vorschläge nimmt, ist offen. Das Board kritisiert den Konzern nicht zum ersten Mal. Laut dem Technikmagazin Engadget hat Meta an seinen KI-Hinweisen bisher wenig geändert und viele Vorschläge aus anderen Fällen nicht übernommen. Erst im Sommer 2026 hob das Board eine ähnliche Entscheidung auf: Meta wollte ein mutmaßlich mit KI erzeugtes, sexualisiertes Video online lassen, das eine Frau auf Instagram nachahmte. Auf eine Anfrage von Engadget zu den neuen Entscheidungen hat Meta nicht reagiert.

Was wir bei Mimikama dazu sagen

Ab hier geht es um unsere Einschätzung. Ein gefälschter Satz bleibt gefälscht, egal ob ein kleiner Hinweis darunter steht. Hängen bleiben oft das Gesicht und der Satz – nicht der Schriftzug darunter. Wenn eine Plattform weiß, dass ein Video eine Fälschung ist, sollte sie es nicht weiter in die Feeds spielen.

Genauso wenig darf eine Meldung einfach im Nichts verschwinden. Wer ein verletzendes Video über einen Menschen meldet, sollte sich darauf verlassen können, dass ein Mensch es sich ansieht. Und der Schutz vor Fälschungen sollte nicht davon abhängen, wie bekannt jemand ist. Eine Gemeinderätin ist kein Weltstar – beim Schutz vor verfälschten Videos behandelt Metas Regel sie trotzdem so.

Beide Videos trafen Frauen, die sich öffentlich zu Wort gemeldet haben. Pamela San Martin, die das Board mitleitet, sieht darin ein Muster: KI-Fälschungen würden immer öfter genutzt, um Frauen zu belästigen und aus öffentlichen Debatten zu drängen. Wir finden: Meta sollte die Vorschläge des Boards nicht nur beantworten, sondern umsetzen.