Slopaganda: Wenn KI-Müll zur Propaganda wird

Wer regelmäßig durch Facebook, TikTok oder Instagram scrollt, kennt diesen Brei. Menschen mit seltsam glatter Haut erzählen rührselige Geschichten. Fantasiewesen posieren vor kitschigen Sonnenuntergängen. Angebliche Soldaten blicken bedeutungsschwer in die Kamera, und irgendwo dazwischen liest ein künstlicher Nachrichtensprecher künstliche Nachrichten vor. Vieles davon sieht schon beim ersten Hinsehen nach KI aus. Im Englischen gibt es dafür das Wort „AI slop“ – „slop“ heißt ungefähr Pampe oder Fraß. Gemeint ist billig hergestellter KI-Inhalt in riesigen Mengen. Dahinter steckt meist ein einfaches Geschäft: Inhalte möglichst billig erzeugen, Reichweite einsammeln, über Werbung Geld verdienen.

Derselbe Mechanismus lässt sich aber auch politisch nutzen. Dann wird aus dem Slop etwas anderes, und dafür gibt es seit 2025 einen Namen: Slopaganda. Das Wort setzt sich aus „AI slop“ und „Propaganda“ zusammen. Erfunden haben es der Philosoph Michał Klincewicz von der Tilburg University, sein australischer Kollege Mark Alfano und der Medienforscher Amir Ebrahimi Fard. Ihre Arbeit „Slopaganda: The interaction between propaganda and generative AI“ erschien im April 2025 in der Zeitschrift Filosofiska Notiser. Vereinfacht gesagt meinen die drei damit: KI-Inhalte, die massenhaft verbreitet werden, um Meinungen zu beeinflussen und politische Ziele zu erreichen.

Dabei ist nicht jeder politische KI-Post automatisch Slopaganda. Die Autoren betonen, dass es um die große Menge geht, um die Anpassung an einzelne Zielgruppen und um die gezielte Verbreitung. Sie nennen selbst zwei Fälle aus dem US-Wahlkampf 2024, die sie ausdrücklich nicht dazuzählen: einen KI-Beitrag von Donald Trump, der so tat, als würde Taylor Swift ihn unterstützen, und ein von Elon Musk verbreitetes Video mit einer KI-Nachahmung der Stimme von Kamala Harris. Beides sei zwar mit KI gemacht, aber eine Einzelaktion. Solche Beiträge wirken, weil der Absender Millionen Follower hat – nicht, weil tausende Varianten davon gezielt verteilt werden. Ein einzelnes KI-Bild kann also Propaganda sein, ohne schon Slopaganda zu sein.

Das Interessante an dem Begriff ist nicht das Wortspiel. Es ist die Erkenntnis, dass ein Großteil dieser Inhalte gar nicht für echt gehalten werden muss, um zu wirken.

Niemand glaubt, dass Trump einen Kampfjet fliegt

Die Tilburg University nennt in ihrer Vorstellung der Studie drei Beispiele. In iranischer Propaganda wurden Donald Trump, Benjamin Netanyahu und der Satan als Legofiguren nebeneinander gezeigt. Aus dem Umfeld des Weißen Hauses wurden echte Aufnahmen von Luftangriffen mit Szenen aus Filmen und Computerspielen vermischt. Und der amerikanische Präsident selbst veröffentlichte KI-Videos, die ihn als Kampfpiloten zeigen. Bei keinem dieser Beispiele soll jemand über eine Tatsache getäuscht werden. Niemand hält Politiker für Legosteine.

Die Botschaft funktioniert anders. Eine Person wird mit Stärke verbunden, eine andere mit Gefahr oder Lächerlichkeit. Ein politischer Gegner steht neben dem Teufel. Ein Krieg sieht aus wie ein Actionfilm. Klincewicz sagt deshalb: Slopaganda muss nicht auf Täuschung beruhen, sie kann auch über Stimmung und Image funktionieren. Es geht darum, eine Verbindung im Kopf zu erzeugen – und diese Verbindung bleibt durch Wiederholung hängen, auch wenn man weiß, dass das Bild künstlich ist.

Das unterscheidet Slopaganda von dem, was man sich meist unter einem Deepfake vorstellt. „Deepfake“ bezeichnet zunächst nur die Technik: ein künstlich erzeugtes oder verändertes Bild, Video oder Tondokument. Ein Deepfake kann Satire sein oder selbst Teil von Propaganda. Der klassische Fall mit Täuschungsabsicht will uns aber glauben machen, ein Politiker habe einen Satz wirklich gesagt. Er muss deshalb gut gemacht sein. Slopaganda darf plump sein, übertrieben, sofort als KI erkennbar – und kann ihre Aufgabe trotzdem erfüllen.

Propaganda muss keine Lüge sein

Dazu eine Unterscheidung, die im Alltag oft verwischt wird. Desinformation und Propaganda werden häufig gleichgesetzt, sind aber nicht dasselbe. Desinformation heißt: Jemand verbreitet absichtlich falsche oder irreführende Informationen. Propaganda ist weiter gefasst. Sie will beeinflussen, wie Menschen politisch denken und fühlen. Dafür kann sie Lügen benutzen, muss es aber nicht. Auch ein echtes Foto kann Propaganda sein – durch den gewählten Ausschnitt, eine irreführende Bildunterschrift oder die passende Musik dazu. Die Forscher aus Tilburg definieren Propaganda deshalb als Kommunikation, die Überzeugungen, Gefühle und Aufmerksamkeit für politische Zwecke steuern soll.

Neu an Slopaganda ist nicht diese Absicht, sondern die Maschine dahinter. Google DeepMind und Jigsaw werteten für eine 2024 veröffentlichte Untersuchung knapp 200 öffentlich dokumentierte Fälle von KI-Missbrauch aus – aus dem Zeitraum Jänner 2023 bis März 2024. Die häufigsten Ziele waren die Beeinflussung der öffentlichen Meinung, Betrug und Geldverdienen. Bemerkenswert dabei: Viele der Methoden sind älter als KI. Falsche Identitäten, erfundene Personen, gefälschte Beweise gab es alle schon vorher. Was sich laut den Autoren ändern kann, sind Kosten und Aufwand – die Werkzeuge stehen jetzt auch Leuten offen, denen vorher das technische Wissen fehlte.

Die Untersuchung hat eine Grenze, die sie selbst nennt: Sie beruht auf Medienberichten, und Medien berichten lieber über spektakuläre Fälle. Die Autoren halten sogar fest, dass herkömmliche Tricks ohne KI vermutlich weiterhin häufiger sind als KI-gestützte. Das spricht nicht gegen den Befund. Es spricht dagegen, Slopaganda größer zu machen, als sie ist.

Früher brauchte Propaganda Leute. Heute reicht teilweise ein Server

Eine politische Kampagne musste bis vor kurzem Texte schreiben lassen, Bilder gestalten, Videos drehen. Jede weitere Variante kostete Zeit und Geld. KI verändert diese Rechnung. Aus einer Botschaft entstehen in kurzer Zeit dutzende Bilder. Ein Video lässt sich mit anderen Gesichtern neu produzieren oder in andere Sprachen übersetzen. Dieselbe Geschichte kann für Pensionisten anders verpackt werden als für Schüler.

Klincewicz, Alfano und Fard nennen fünf Punkte, die Slopaganda von früherer Propaganda unterscheiden: die enorme Menge, die größere Bandbreite der Inhalte, die Geschwindigkeit, die Möglichkeit, einzelne Zielgruppen genau anzusprechen, und eine möglicherweise höhere Überzeugungskraft. Die Autoren gewichten das unterschiedlich. Wirklich neu sei nur das gezielte Ansprechen einzelner Gruppen. Menge, Bandbreite und Tempo gab es schon, aber nicht in dieser Größenordnung. Und ob KI-Propaganda tatsächlich überzeugender ist, müsse erst noch untersucht werden.

Eine Formulierung sollte man nicht zu wörtlich nehmen: Slopaganda sei „Propaganda, die von Maschinen gemacht wird“. Die KI kennt keine politischen Ziele und hat keinen eigenen Plan. Hinter jeder Kampagne stehen weiterhin Menschen, die entscheiden, welche Botschaft verbreitet wird und an wen. Die Maschine will gar nichts. Die Leute, die sie einsetzen, sehr wohl.

Wenn hundert Fremde plötzlich dasselbe erzählen

Am deutlichsten wird das bei erfundenen Personen. Die Faktencheck-Redaktion VoxCheck der ukrainischen Plattform VoxUkraine beschreibt in einem Beitrag vom Juni 2026 eine Facebook-Seite, die täglich ganze Schübe von Videos veröffentlicht. Darin sprechen KI-generierte angebliche ukrainische Soldaten. Ihre Botschaften decken sich laut VoxCheck mit russischer Propaganda: Panik verbreiten, zum Desertieren ermutigen, Misstrauen zwischen Soldaten und ihren Kommandanten säen. Auffällig sei, wie viele Videos pro Tag erscheinen und wie gleichförmig alle Beiträge Likes und Kommentare bekommen. VoxCheck wertet das als Zeichen, dass hier koordiniert nachgeholfen wird.

Noch klarer wird es bei künstlichen Straßeninterviews, die VoxCheck auf TikTok gefunden hat. Statt eines politischen Accounts, der eine Botschaft hundertmal wiederholt, treten dutzende scheinbar verschiedene Bürger in vertrauten Stadtkulissen auf. Alle sind KI-generiert, alle sagen dasselbe: Der Widerstand sei aussichtslos, der Westen habe seine Versprechen gebrochen. Für Zuschauer ist das ein ganz anderes Signal. Ein Account sagt: „Alle denken so.“ Hundert verschiedene Gesichter scheinen zu sagen: „Wir denken so.“ Man könnte das eine künstliche Mehrheit nennen. Die vielen Stimmen gibt es technisch, die Menschen dahinter womöglich nicht.

Ein Fall aus Polen zeigt, wie schnell das auch in der EU funktioniert. Ende 2025 tauchte auf TikTok das Konto „Prawilne Polki“ auf. Darauf warben KI-generierte junge Frauen in T-Shirts mit polnischen Flaggen für einen Austritt aus der Europäischen Union. Manche Videos wirkten laut Euronews täuschend echt, bei anderen passten Bild und Ton sichtbar nicht zusammen. Trotzdem sammelte das Konto nach Zählung eines von Euronews zitierten Content-Creators in zwei Wochen rund 200.000 Aufrufe und knapp 20.000 Likes.

Zwei Wochen „Prawilne Polki“

Der Lebenslauf eines TikTok-Kontos, rekonstruiert nach Angaben von Euronews.

Mai 2023

Das Konto wird angelegt – vermutlich von einem englischsprachigen Nutzer, der gelegentlich Unterhaltungsinhalte ohne jeden Polen-Bezug postet.

13. Dezember 2025

Neuer Name, neue Beschreibung („Nein zum Eurokolchos #polexit“), am selben Tag die ersten drei Beiträge im neuen Stil. Das Konto startet nicht bei null Followern.

Die folgenden zwei Wochen

Rund 200.000 Aufrufe und knapp 20.000 Likes, gezählt von einem Content-Creator, den Euronews zitiert. Zielgruppe laut einer Analyse: 15- bis 25-Jährige.

Ende Dezember 2025

Nach vielen Meldungen ist das Konto auf TikTok nicht mehr abrufbar. Eine Expertin des Polnischen Instituts für Internationale Angelegenheiten warnt vor dem „Hydra-Effekt“: Gesperrte Profile tauchen oft unter neuem Namen wieder auf.

Gerade dieser letzte Punkt ist für Faktenchecks wichtig. Dass eine Kampagne nach russischer Propaganda klingt, sagt noch nichts darüber, wer sie bezahlt und steuert. Das muss getrennt belegt werden. Sonst wird aus einer richtigen Beobachtung schnell selbst eine Behauptung ohne Beweis.

„Das sieht doch jeder“ – stimmt, und hilft trotzdem nur begrenzt

Eine der verständlichsten Reaktionen auf schlechte KI-Videos lautet: Das erkennt doch jeder. Manchmal stimmt das sogar. Nur löst es das Problem nicht, und zwar aus zwei Gründen. Der erste ist einfach: Nicht jeder erkennt es. Die polnische Analystin Aleksandra Wójtowicz berichtet Euronews aus ihren Interviews, dass die typischen KI-Merkmale – die unklare Mimik, die etwas unnatürlichen Sätze – für viele Zuschauer offensichtlich und nervig sind. Für eine bestimmte Gruppe seien sie aber komplett unsichtbar.

Der zweite Grund ist interessanter. Unser Gedächtnis speichert nicht jeden Beitrag wie einen sauber beschrifteten Akt mit Quelle, Datum und Echtheitsprüfung. Wir sehen etwas nebenbei, scrollen weiter und begegnen ähnlichen Botschaften später wieder. Dabei greift ein Effekt, den die Psychologie seit Jahrzehnten kennt: Was man öfter hört, kommt einem vertrauter vor – und was vertraut ist, hält man eher für wahr. Der Fachbegriff dafür lautet Illusory Truth Effect. Eine Übersichtsarbeit von Jessica Udry und Sarah Barber aus dem Jahr 2024 zeigt, dass dieser Effekt auch bei Falschinformationen wirkt, sogar bei Aussagen, die dem widersprechen, was jemand eigentlich weiß. Eine große Auswertung von 2026 über 182 Studien mit mehr als 31.000 Teilnehmenden bestätigt den Effekt – er ist verlässlich vorhanden, im Durchschnitt aber klein.

Das heißt nicht, dass hundert Wiederholungen jeden Menschen überzeugen. Politische Meinungen entstehen komplizierter. Aber Wiederholung verändert das Umfeld, in dem wir urteilen, und Slopaganda kann Wiederholung billig in Massen herstellen. Statt dieselbe Grafik hundertmal zu posten, produziert man hundert Varianten derselben Geschichte mit anderen Gesichtern, Stimmen und Orten. Irgendwann denkt man nicht mehr „Das habe ich schon fünfmal gesehen“, sondern: „Davon hört man mittlerweile überall.“ Der Unterschied ist gewaltig.

Die Kehrseite: Wenn auch das Echte verdächtig wird

Der wachsende Anteil künstlicher Inhalte erzeugt ein zweites Problem, und die Tilburger Forscher halten es für das größere. Menschen werden besser darin, Fälschungen zu erkennen – und beginnen gleichzeitig, echten Bildern zu Unrecht zu misstrauen. Wenn man nicht mehr weiß, welchen Quellen man trauen kann, so Klincewicz, sucht man sich aus, was man glauben will: das, was tröstet, aufregt oder empört.

Für Deepfakes ist dieser Mechanismus seit Jahren beschrieben. Die Rechtswissenschaftler Bobby Chesney und Danielle Citron nannten ihn 2019 „Liar’s Dividend“, auf Deutsch etwa: die Dividende des Lügners. Wer mit einer echten, unangenehmen Aufnahme konfrontiert wird, kann einfach behaupten, sie sei KI. Und weil alle wissen, dass es täuschend echte Fälschungen gibt, klingt diese Ausrede glaubwürdig. Slopaganda macht diese Ausrede noch leichter. Je mehr künstliches Material herumliegt, desto schwerer lässt sich sagen, woher ein einzelner Inhalt stammt. Menschen können so gleichzeitig zu leichtgläubig bei passenden Geschichten und zu misstrauisch bei echten Beweisen werden. Für politische Manipulation ist beides nützlich.

Kein neues Zeitalter, aber neue Werkzeuge

Trotzdem sollte man den Begriff nicht überhöhen. Politische Akteure haben immer die Medien benutzt, die es gerade gab. Flugblätter ermöglichten andere Propaganda als Radio oder Fernsehen, später kamen Webseiten, soziale Netzwerke und automatisierte Accounts dazu. KI erfindet Propaganda nicht neu. Was sich ändert, ist die Herstellung: Einzelne können heute so viele verschiedene Inhalte produzieren wie früher nur ein ganzes Team. Und diese Inhalte landen auf Plattformen, deren Algorithmen emotionale, viel kommentierte Beiträge besonders schnell verbreiten.

Das Problem liegt also im Zusammenspiel: KI-Massenproduktion trifft auf Netzwerke, die Aufmerksamkeit belohnen. Ein einzelnes albernes KI-Bild kann für sich genommen belanglos wirken. In großer Zahl und gezielt verbreitet können solche Inhalte jedoch ein ganzes Informationsumfeld verändern. Die Tilburger Forscher schlagen drei Gegenmaßnahmen vor: Medienkompetenz bei den Nutzern, also KI-Inhalte erkennen, Quellen prüfen und Accounts blockieren, die systematisch Slopaganda verbreiten; eine Pflicht, KI-Inhalte zu kennzeichnen; und mehr Verantwortung für die großen Technologiekonzerne über Gesetze oder Steuern. Ob das reicht, ist offen. Dass die erste Maßnahme allein nicht reicht, ist nach dem oben Gesagten ziemlich klar.

Was das für Faktenchecks bedeutet

Für Faktenchecker entsteht daraus ein unangenehmes Problem. Ein klassischer Faktencheck prüft eine konkrete Behauptung: Hat Person X diesen Satz gesagt? Zeigt das Video wirklich Ereignis Y? Stammt dieses Bild aus Stadt Z? Slopaganda entzieht sich dieser Logik teilweise. Wie prüft man die Behauptung „Alle haben Angst“, wenn sie nirgends ausgesprochen wird, aber in zweihundert künstlichen Videos ständig verängstigte Menschen auftreten? Wie widerlegt man „Die Bevölkerung hat genug“, wenn dutzende erfundene Passanten genau diesen Eindruck erzeugen?

Der einzelne Inhalt bleibt wichtig. Zunehmend muss aber auch das Muster betrachtet werden: Welche Accounts veröffentlichen solche Beiträge? Welche Geschichten wiederholen sich? Tauchen dieselben künstlichen Gesichter oder Stimmen mehrfach auf? Entstehen in kurzer Zeit ungewöhnlich viele Varianten derselben Botschaft? Die Frage lautet nicht mehr nur, ob ein Bild echt ist, sondern welchen Eindruck die Masse der Bilder erzeugen soll.

Warum es nicht reicht, den Fake zu erkennen

Vielleicht ist das die wichtigste Erkenntnis hinter dem Begriff. Wir stellen uns Manipulation gern wie einen kleinen Test vor: Jemand zeigt uns einen Fake, wir erkennen ihn, Test bestanden. So funktioniert politische Beeinflussung im Feed aber längst nicht immer. Ein künstliches Video kann lächerlich sein und trotzdem ein Feindbild verstärken. Ein erfundener Mensch kann sofort als KI erkennbar sein und trotzdem eine Botschaft wiederholen. Ein einzelner Beitrag kann sofort vergessen sein, während die Stimmung bleibt, die hunderte ähnliche Beiträge erzeugt haben.

Slopaganda beschreibt diesen Übergang ziemlich treffend: KI-Müll wird zum politischen Werkzeug, sobald Masse, Wiederholung und gezielte Verbreitung dazu dienen, unsere Wahrnehmung zu verschieben. Darum reicht die Frage „Ist dieses Bild echt?“ immer öfter nicht mehr aus. Die zweite Frage lautet: Warum bekomme ich gerade so viele davon zu sehen?

Quellen

• Michał Klincewicz, Mark Alfano, Amir Ebrahimi Fard: Slopaganda: The interaction between propaganda and generative AI, Filosofiska Notiser 12(1), S. 135–162, April 2025 (Volltext auf arXiv)
• Tilburg University: „Slopaganda“: How AI-generated content becomes a political weapon, 21. April 2026
• VoxUkraine / VoxCheck, Kateryna Ionova: Slopaganda: How AI Turns Digital „Slop“ into a Weapon of Influence, 10. Juni 2026
• Google DeepMind / Jigsaw, Nahema Marchal und Rachel Xu: Mapping the misuse of generative AI, 2. August 2024
• Jessica Udry, Sarah J. Barber: The illusory truth effect: A review of how repetition increases belief in misinformation, Current Opinion in Psychology, 2024
• Systematic review and meta-analysis of the evidence for an illusory truth effect and its determinants, 2026
• Euronews (polnische Ausgabe), Aleksandra Gałka-Reczko: Prawilne_Polki namawiały do Polexitu, 30. Dezember 2025 (deutsche Fassung)
• Bobby Chesney, Danielle Citron: Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security, California Law Review 107, 2019