KURZMELDUNG · EU
Auf Instagram, TikTok, X und YouTube stehen unter manchen Bildern und Videos Hinweise auf KI. Unter vielen anderen fehlt das Label. Eine neue Studie fand bei geprüften Deepfakes in Risikobereichen nur in 33 Prozent der Fälle eine Kennzeichnung durch die Plattform.
Das Team um Bram Rijsbosch, Luka Bekavac, Henry Tari, Gijs van Dijck und Konrad Kollnig wertete 10.722 öffentliche Beiträge aus. Eine Stichprobe von 500 Beiträgen wurde zusätzlich fachlich beurteilt. Die als Deepfakes eingeordneten Inhalte erreichten einen mittleren Wert von rund 160.000 Aufrufen – die Hälfte lag darüber, die andere darunter. Die Auswahl erfolgte über Risikobereiche und KI-Suchbegriffe. Die 33 Prozent gelten daher nicht für alle Deepfakes im Netz.
In einem zweiten Versuch lud das Forschungsteam Material aus zehn verbreiteten KI-Systemen auf die vier Plattformen hoch. Die Dateien enthielten standardisierte maschinenlesbare Herkunftsdaten. Trotzdem erhielten nur 61 Prozent der Testuploads einen entsprechenden Hinweis. Zudem entfernen Plattformen solche technischen Angaben beim Hochladen häufig aus der Datei.
Wie das praktisch aussieht, zeigte das von Mimikama geprüfte KI-Video von einem Bahnübergang. Das Original auf TikTok war als KI-generiert markiert. Bei einer später auf X verbreiteten Kopie fehlte dieser Hinweis. Der Inhalt blieb derselbe, das sichtbare Warnsignal reiste aber nicht mit.
Alle vier untersuchten Plattformen verwenden inzwischen eigene KI-Labels. Regeln, Gestaltung und Erkennung unterscheiden sich jedoch deutlich. Die am 29. September 2026 auf arXiv veröffentlichte Arbeit ist ein Preprint, also eine vorläufige Veröffentlichung. Sie wurde noch nicht von unabhängigen Fachleuten begutachtet. Methodik und Schlussfolgerungen können sich daher noch ändern.
Für den EU AI Act und den Digital Services Act – die EU-Regeln für KI und Onlineplattformen – sind solche Lücken entscheidend. Ein Plattformlabel kann bei der Einordnung helfen, hängt aber oft am jeweiligen Upload und nicht dauerhaft am Inhalt. Fehlt der Hinweis nach einem Plattformwechsel, ist das deshalb kein Echtheitsbeweis.
Quellen
Über dieses Format: Für unsere Kurzmeldungen sammeln und prüfen wir aktuelle Entwicklungen aus verlässlichen Quellen. Nach der redaktionellen Bearbeitung werden die Meldungen über unser eigenes Mimikama-Kurzmeldungs-System veröffentlicht. Daher können mehrere Beiträge denselben Veröffentlichungszeitpunkt tragen.
