KURZMELDUNG · GROSSBRITANNIEN
Auf Facebook spricht eine schottische Lokalpolitikerin scheinbar über Flüchtlinge und sexualisierte Gewalt. Ein anderes Video zeigt eine muslimische Gesundheitsaktivistin als angebliche Regierungsvertreterin. Am 17. September ordnete das Oversight Board die Entfernung beider mit KI manipulierter Videos an.
Das erste Video legte der Politikerin eine erfundene Aussage in den Mund. Das Oversight Board, das strittige Inhaltsentscheidungen von Meta prüft, wertete den Beitrag mehrheitlich als Hassrede gegen Flüchtlinge. Das zweite Video verspottete Gewicht und Hidschab der Aktivistin. Das Board sah darin Mobbing und einen Teil massenhafter Belästigung.
Meldungen oder Einsprüche waren automatisiert geschlossen worden. Meta hielt beide Beiträge zunächst für regelkonform und versah sie nicht mit einem KI-Hinweis. Für die automatische Kennzeichnung fehlten Herkunftsdaten in den Dateien, während die auffällige Kennzeichnung „High Risk AI“ nur nach einer seltenen internen Weiterleitung vergeben wird.
Metas interne Auslegung unerwünschter manipulierter Bilder erfasste Veränderungen am Aussehen, aber nicht zwingend erfundene Handlungen oder Aussagen. Im Fall der Aktivistin hätte sie grundsätzlich selbst melden müssen. Vier beleidigende Kommentare entfernte Meta erst nach Rückfragen des Boards.
Beide Beiträge erreichten jeweils mehr als 5.000 Aufrufe. Das Board fand zudem mehr als 1.000 ähnliche Posts zur Aktivistin; verwandte Manipulationen kamen plattformübergreifend auf zig Millionen Aufrufe. Die Entfernung der zwei geprüften Beiträge ist verbindlich, Empfehlungen zu Warnhinweisen, geringerer Reichweite und Wiederholungstätern sind es nicht.
Ein KI-Video verschwindet bei Meta nicht automatisch, nur weil es erfunden ist. Entscheidend waren hier Hassrede und gezieltes Mobbing. Das gilt auch außerhalb von Wahlkämpfen: Politische Täuschung kann wirken, lange bevor ein konkreter Wahltermin unmittelbar bevorsteht.
Quellen
Über dieses Format: Für unsere Kurzmeldungen sammeln und prüfen wir aktuelle Entwicklungen aus verlässlichen Quellen. Nach der redaktionellen Bearbeitung werden die Meldungen über unser eigenes Mimikama-Kurzmeldungs-System veröffentlicht. Daher können mehrere Beiträge denselben Veröffentlichungszeitpunkt tragen.
