Social Bots erkennen: Wie Bots Meinungen im Netz beeinflussen

Sie liken, teilen, kommentieren und widersprechen. Manche verbreiten Werbung, andere Nachrichten, wieder andere politische Botschaften oder betrügerische Links. Social Bots gehören längst zum Alltag sozialer Netzwerke – und mit künstlicher Intelligenz wird es schwieriger, zu erkennen, wo Automatisierung endet und menschliche Kommunikation beginnt. Das eigentliche Problem liegt dabei oft gar nicht darin, dass Bots besonders überzeugend argumentieren. Sie können etwas viel Grundsätzlicheres verändern: unseren Eindruck davon, wie viele Menschen einer Meinung sind und welche Themen gerade wichtig erscheinen.

Du öffnest Facebook, X oder eine andere Plattform und landest unter einem politischen Beitrag. In der Kommentarspalte herrscht bereits Betrieb. Jemand schreibt, dass „die Medien wieder schweigen“. Ein zweiter Account stimmt zu. Ein Dritter verlinkt eine Webseite, die dieselbe Geschichte erzählt. Die Kommentare bekommen Likes, weitere Nutzer steigen ein, einige teilen den Beitrag.

Was du siehst, wirkt zunächst wie eine ganz normale öffentliche Debatte. Viele Menschen, viele Meinungen, viel Zustimmung und Widerspruch.

Nur muss hinter jedem dieser Accounts tatsächlich ein Mensch sitzen?

Die Antwort lautet: nein.

Automatisierte Konten sind seit Jahren Bestandteil sozialer Netzwerke. Sie können Beiträge veröffentlichen, anderen Accounts folgen, Inhalte liken und weiterverbreiten oder auf bestimmte Begriffe reagieren. Manche funktionieren weitgehend automatisch, andere werden teilweise von Menschen gesteuert. Und inzwischen können große Sprachmodelle Texte erzeugen, die wesentlich variabler und natürlicher wirken als die alten Bot-Nachrichten aus immer denselben Textbausteinen.

Damit wird aus einer technischen Frage eine gesellschaftliche: Was passiert mit unserem Eindruck von öffentlicher Meinung, wenn ein Teil der sichtbaren Reaktionen künstlich erzeugt oder verstärkt wird?

Ein Bot ist zunächst nur Automatisierung

Bei Social Bots lohnt sich eine saubere Trennung, denn der Begriff klingt schnell bedrohlicher, als er sein muss.

Nicht jeder Bot verbreitet Propaganda oder versucht, Menschen zu betrügen. Automatisierung kann ausgesprochen banal und nützlich sein. Accounts veröffentlichen Wetterdaten, warnen vor Erdbeben, verbreiten Verkehrsmeldungen oder informieren automatisch über neue Beiträge. Unternehmen verwenden Bots im Kundendienst oder Marketing.

Eine 2025 in Scientific Reports veröffentlichte Untersuchung von Lynnette Hui Xian Ng und Kathleen Carley definiert einen Social-Media-Bot grundsätzlich als automatisierten Account, der auf sozialen Plattformen etwa Inhalte erzeugt, verbreitet oder sammelt und Beziehungen zu anderen Accounts herstellen beziehungsweise lösen kann. Die Definition sagt zunächst nichts darüber aus, ob diese Tätigkeit gutartig oder manipulativ ist. (Studie: A global comparison of social media bot and human characteristics, Scientific Reports 2025)

Problematisch wird Automatisierung dort, wo Menschen über ihren Charakter getäuscht werden sollen oder künstliche Aktivität dazu dient, Reichweite, Bedeutung oder Zustimmung vorzutäuschen.

Und dabei müssen wir uns von einer sehr einfachen Vorstellung verabschieden: Hier der Mensch, dort die Maschine.

Zwischen Mensch und Maschine liegt inzwischen eine Grauzone

Ein Account kann morgens automatisch Inhalte verteilen und am Nachmittag von einem Menschen persönlich bedient werden. Software kann Beiträge vorbereiten, während ein Mensch entscheidet, wann und wo sie erscheinen. Automatisierte und manuelle Kommunikation können innerhalb desselben Profils ineinander übergehen.

In der Forschung werden solche Mischformen teilweise als Cyborg-Accounts bezeichnet. Eine 2024 veröffentlichte Untersuchung analysierte mehr als 3,1 Millionen Twitter-Nutzer aus Datensätzen zur Corona-Pandemie und zur US-Wahl 2020. Die Forschenden beschrieben Accounts, deren Verhalten zu unterschiedlichen Zeitpunkten sowohl botähnliche als auch menschliche Merkmale aufwies und die für strategische Kommunikation eingesetzt werden konnten. (Studie: Cyborgs for strategic communication on social media, Big Data & Society 2024)

Schon deshalb ist die häufige Frage „Ist dieser Account ein Bot?“ komplizierter, als sie klingt.

Ein einzelnes Profil lässt sich von außen nicht immer zuverlässig einer Kategorie zuordnen. Noch problematischer wird es, wenn Nutzer aus einem seltsamen Profilfoto, vielen Postings oder einer unliebsamen Meinung sofort schließen: Das muss ein Bot sein.

Dafür reichen solche Hinweise nicht.

Wenn eine kleine Gruppe plötzlich wie eine Mehrheit aussieht

Das größte Manipulationspotenzial automatisierter Accounts besteht nicht unbedingt darin, dass ein Bot besonders überzeugend argumentiert.

Er muss möglicherweise überhaupt niemanden argumentativ überzeugen.

Stellen wir uns stattdessen vor, eine politische Behauptung wird von zehn Accounts verbreitet. Innerhalb kurzer Zeit teilen sie denselben Link, reagieren aufeinander und versehen ihre Beiträge mit demselben Hashtag. Weitere automatisierte Accounts liken diese Inhalte oder wiederholen die Behauptung in leicht veränderter Form.

Für jemanden, der später in diese Diskussion kommt, kann das wie eine große spontane Reaktion aussehen.

Genau darin liegt ein entscheidender Effekt künstlicher Verstärkung: Eine Position kann größer, populärer oder gesellschaftlich relevanter erscheinen, als sie aufgrund der Zahl tatsächlich beteiligter Menschen ist.

Das ist deshalb relevant, weil soziale Netzwerke permanent Signale über vermeintliche Popularität liefern. Wir sehen Aufrufzahlen, Likes, Shares und Kommentare. Wir sehen, welche Begriffe häufig auftauchen. All das beeinflusst zumindest unseren Eindruck davon, worüber andere gerade sprechen.

Automatisierung kann diese sichtbare Umgebung verändern.

Dafür muss ein Bot dir keine neue politische Überzeugung einreden. Es kann bereits reichen, wenn er dir vermittelt, dass scheinbar sehr viele andere eine bestimmte Überzeugung längst teilen.

Bots können Desinformation anschieben – Menschen verbreiten sie weiter

Wie wichtig automatisierte Accounts bei der frühen Verbreitung problematischer Inhalte sein können, zeigte eine vielzitierte Untersuchung von Chengcheng Shao und Kollegen, die 2018 in Nature Communications erschien.

Die Forschenden analysierten rund 14 Millionen Twitter-Nachrichten, über die etwa 400.000 Artikel verbreitet wurden. Der Untersuchungszeitraum umfasste zehn Monate in den Jahren 2016 und 2017. Dabei stellten sie fest, dass Social Bots bei der Verbreitung von Artikeln aus wenig vertrauenswürdigen Quellen überproportional beteiligt waren.

Besonders auffällig war der Zeitpunkt: Bots waren vor allem in einer frühen Phase der Verbreitung aktiv, also noch bevor ein Artikel größere Reichweite bekam. Außerdem richteten sie Antworten und Erwähnungen gezielt an Nutzer mit vielen Followern. (Studie: The spread of low-credibility content by social bots, Nature Communications 2018)

Der interessante Teil kommt danach.

Menschen teilten Inhalte weiter, die zuvor von Bots verbreitet worden waren. Genau an diesem Punkt verschwimmt die Grenze zwischen künstlicher und organischer Reichweite. Ein automatisierter Account kann einen Inhalt anschieben, ein echter Mensch entdeckt ihn und verbreitet ihn an seine eigenen Kontakte. Der nächste Mensch sieht dann nicht mehr unbedingt den ursprünglichen Bot, sondern einen Beitrag eines Bekannten.

Die weitere Reichweite besteht plötzlich aus ganz realem menschlichem Verhalten.

Das macht Social Bots als Instrument der Manipulation interessanter als die Vorstellung einer Maschine, die mit einem Menschen stundenlang über Politik diskutiert.

Sind wirklich 20 Prozent der Accounts Bots?

Solche Zahlen begegnen einem regelmäßig, und gerade hier ist Vorsicht nötig.

Eine 2025 veröffentlichte Studie von Ng und Carley untersuchte Twitter-Daten zu sieben internationalen Ereignissen mit insgesamt ungefähr 200 Millionen erfassten Nutzern. Die Forschenden kamen in diesen untersuchten Datensätzen im Durchschnitt auf ein Verhältnis von rund 20 Prozent Bot-Aktivität zu 80 Prozent menschlicher Aktivität. Sie fanden außerdem Unterschiede in Kommunikationsmustern und Sprache. Bots verwendeten etwa häufiger leichter automatisierbare sprachliche Elemente wie Hashtags, während menschliche Nutzer stärker dialogorientiertes Verhalten zeigten.

Diese Zahl darf allerdings nicht in den Satz verwandelt werden: „20 Prozent aller Social-Media-Accounts sind Bots.“

Das hat die Studie nicht festgestellt.

Untersucht wurden konkrete Twitter-Datensätze rund um sieben Ereignisse. Daraus lässt sich weder ein globaler Anteil sämtlicher Social-Media-Konten berechnen noch lässt sich das Ergebnis einfach auf Facebook, Instagram, TikTok oder andere Plattformen übertragen.

Diese Einschränkung ist besonders wichtig, weil ein großer Teil der Bot-Forschung historisch auf Twitter-Daten basiert.

Das Bot-Problem ist auch ein Messproblem

Wer herausfinden will, wie viele Bots es gibt, benötigt zuerst eine Methode, mit der Bots zuverlässig identifiziert werden können. Genau daran arbeitet die Forschung seit Jahren.

Eine systematische Literaturübersicht von Zineb Ellaky, Faouzia Benabbou und Sara Ouahabi aus dem Jahr 2023 zeigt, wie unterschiedlich diese Erkennungssysteme arbeiten. Analysiert werden unter anderem maschinelles Lernen, Deep Learning, Netzwerkstrukturen und hybride Verfahren. Gleichzeitig weisen die Autorinnen auf ein erhebliches Problem hin: Viele öffentlich verfügbare Datensätze zur Bot-Erkennung konzentrieren sich auf Twitter, erfassen nur bestimmte Bot-Typen oder sind begrenzt beziehungsweise nicht mehr aktuell. (Systematische Review: Social Media Bots Detection Systems, 2023)

Auch eine weitere systematische Review aus dem Jahr 2023 kommt zu dem Ergebnis, dass Bot-Erkennung längst wesentlich komplexer ist als die Suche nach einem Konto, das zu häufig postet. Moderne Systeme berücksichtigen unter anderem Profilinformationen, Inhalte und Verhaltensmuster. Für diese Übersichtsarbeit wurden aus ursprünglich 1.496 gefundenen Veröffentlichungen 40 Arbeiten nach festgelegten Kriterien ausgewählt und genauer untersucht. (Review: Social media bot detection with deep learning methods, 2023)

Für Nutzer bedeutet das etwas ziemlich Ernüchterndes: Wenn selbst wissenschaftliche Bot-Erkennung komplexe Modelle und umfangreiche Datensätze benötigt, lässt sich ein einzelner Account nicht seriös anhand von zwei auffälligen Kommentaren als Bot entlarven.

Und dann kam generative KI

Die klassische Vorstellung vom Social Bot stammt noch aus einer Zeit, in der automatisierte Accounts häufig mit vorgefertigten Texten arbeiteten. Wer hundert Accounts betreiben wollte, musste genügend Varianten vorbereiten oder damit leben, dass sich Formulierungen wiederholten.

Große Sprachmodelle verändern diese Voraussetzung.

Sie können auf Basis weniger Vorgaben unterschiedliche Texte erzeugen, Tonlagen variieren und sprachlich auf einen konkreten Kontext reagieren. Technisch wird es dadurch wesentlich einfacher, für viele Accounts Inhalte zu produzieren, die nicht wortgleich aussehen.

Was das für die Bot-Erkennung bedeuten kann, untersuchten Forschende um Shangbin Feng in einer 2024 bei der Association for Computational Linguistics veröffentlichten Arbeit. Sie testeten große Sprachmodelle sowohl als Werkzeug zur Erkennung von Bots als auch auf der anderen Seite zur Veränderung von Bot-Profilen mit dem Ziel, vorhandene Detektoren zu umgehen.

In ihren Experimenten konnten speziell angepasste Sprachmodelle bestehende Verfahren zur Bot-Erkennung übertreffen. Gleichzeitig senkten LLM-gestützte Manipulationsstrategien die Leistung vorhandener Erkennungssysteme um bis zu 29,6 Prozent. (Studie: What Does the Bot Say? Opportunities and Risks of Large Language Models in Social Media Bot Detection, ACL 2024)

Das ist ein bemerkenswerter Befund. Er bedeutet jedoch nicht, dass heute sämtliche Social-Media-Plattformen von perfekt getarnten KI-Bots überschwemmt wären.

Die Studie zeigt eine technische Möglichkeit und ein Problem für Erkennungssysteme. Wie häufig solche Methoden tatsächlich in realen Kampagnen eingesetzt werden, ist eine andere Frage.

Diese Unterscheidung ist wichtig.

KI senkt auch die Kosten für Desinformation

Dass große Sprachmodelle grundsätzlich in der Lage sind, unterschiedliche Desinformationstexte zu produzieren, zeigt eine weitere Studie der ACL-Konferenz 2024.

Ivan Vykopal und seine Kollegen untersuchten zehn Sprachmodelle anhand von 20 Desinformationsnarrativen. Insgesamt erzeugten die Systeme für das Experiment 1.200 englischsprachige Texte. Die getesteten Narrative betrafen unter anderem Gesundheit, Covid-19, den russischen Krieg gegen die Ukraine und US-Wahlen.

Die Forschenden kamen zu dem Ergebnis, dass Sprachmodelle überzeugend wirkende Artikel erzeugen konnten, die gefährliche Desinformationsnarrative stützten. Gleichzeitig unterschieden sich die Modelle deutlich darin, wie häufig sie solche Anfragen ablehnten oder mit Sicherheitshinweisen beantworteten. (Studie: Disinformation Capabilities of Large Language Models, ACL 2024)

Auch hier gilt: Die Studie beweist keine konkrete Bot-Kampagne. Sie zeigt aber, warum generative KI für Akteure interessant sein kann, die große Mengen variierter manipulativer Inhalte produzieren wollen.

Hundert Accounts müssen nicht mehr hundertmal denselben Satz posten.

Politik ist naheliegend – aber Bots sind kein magischer Wahlknopf

Social Bots werden seit Jahren im Zusammenhang mit Wahlen, geopolitischen Konflikten und gesellschaftlichen Debatten untersucht. Das liegt auf der Hand: Wer politische Kommunikation künstlich verstärken kann, kann zumindest versuchen, Aufmerksamkeit und wahrgenommene Zustimmung zu beeinflussen.

Daraus folgt jedoch nicht automatisch, dass Bots Wahlen entscheiden oder Menschen beliebig ihre politische Meinung ändern lassen.

Zwischen „Bots waren in einer Debatte aktiv“ und „Bots haben das Verhalten der Bevölkerung verändert“ liegt ein erheblicher wissenschaftlicher Unterschied.

Eine erfolgreiche Manipulationskampagne trifft außerdem nie auf einen leeren Raum. Dort sind reale Menschen, Medien, politische Akteure und Plattformalgorithmen aktiv. Influencer greifen Inhalte auf, Nutzer kommentieren sie, Journalisten berichten möglicherweise darüber. Aus einem automatisierten Impuls kann reale Aufmerksamkeit entstehen.

Deshalb ist es sinnvoller, von Verstärkung und Manipulationsversuchen zu sprechen, als Bots eine beinahe magische Macht über menschliche Überzeugungen zuzuschreiben.

Betrüger können künstliche Identitäten ebenfalls brauchen

Auch Cyberkriminelle profitieren von der Möglichkeit, große Mengen an Accounts anzulegen.

Wie industriell solche Strukturen inzwischen sein können, zeigte die von Europol unterstützte Operation „SIMCARTEL“. Im Oktober 2025 gingen Ermittler gegen ein Netzwerk vor, das Telefonnummern für kriminelle Aktivitäten bereitstellte. Über diese Infrastruktur konnten Täter unter anderem Fake-Accounts auf Social-Media- und Kommunikationsplattformen anlegen und dabei ihre tatsächliche Identität und ihren Standort verschleiern.

Europol zufolge wurden auf Grundlage dieses Dienstes mehr als 49 Millionen Online-Konten erstellt. Bei der Operation wurden unter anderem rund 1.200 SIM-Box-Geräte und 40.000 aktive SIM-Karten beschlagnahmt. (Europol: Operation SIMCARTEL, Oktober 2025)

Auch hier ist eine Präzisierung notwendig: Europol spricht von mehr als 49 Millionen Online-Accounts, die mithilfe dieser Infrastruktur erstellt wurden. Daraus werden nicht automatisch 49 Millionen Social Bots.

Der Fall zeigt trotzdem, in welchen Größenordnungen künstliche digitale Identitäten bereitgestellt werden können.

Woran erkenne ich einen Social Bot?

Die etwas unbefriedigende Antwort lautet: Nicht immer.

Ein Konto ohne Profilbild kann ein Bot sein – oder ein Mensch, der kein Foto hochladen möchte. Ein Account, der sehr häufig postet, kann automatisiert sein – oder von jemandem betrieben werden, der den ganzen Tag auf Social Media verbringt. Wiederholte Formulierungen können verdächtig wirken, beweisen aber ebenfalls nichts.

Bei koordinierten Netzwerken können Muster aussagekräftiger werden. Auffällig wären beispielsweise Accounts, die regelmäßig dieselben Inhalte nahezu gleichzeitig verbreiten, sich ständig gegenseitig verstärken oder über längere Zeit fast ausschließlich dieselben Narrative pushen. Professionelle Analysen betrachten deshalb nicht nur einzelne Kommentare, sondern Verhaltensmuster und Netzwerke.

Für den normalen Nutzer ist eine andere Fähigkeit ohnehin wertvoller: Nicht den Account zuerst prüfen, sondern die Behauptung.

Woher stammt die Information? Gibt es eine Originalquelle? Wird nur ein Screenshot weitergereicht? Berichten voneinander unabhängige seriöse Quellen darüber? Stammt eine vermeintliche Studie tatsächlich aus einem wissenschaftlichen Journal? Und taucht dieselbe Behauptung plötzlich bei zahlreichen Accounts auf, ohne dass jemand neue Belege liefert?

Diese Fragen funktionieren unabhängig davon, ob der Account dahinter ein Mensch, ein Bot oder eine Mischung aus beidem ist.

Vielleicht ist „Mensch oder Maschine?“ inzwischen die falsche Frage

Social Bots manipulieren öffentliche Debatten nicht zwingend dadurch, dass sie bessere Argumente haben.

Ihre Stärke kann viel banaler sein.

Sie können häufiger auftreten. Sie können einen Link anschieben, bevor er populär wird. Sie können Zustimmung simulieren oder dafür sorgen, dass eine Behauptung immer wieder im Feed auftaucht.

Danach kommen möglicherweise echte Menschen ins Spiel. Sie sehen den Inhalt, kommentieren ihn und teilen ihn weiter.

Spätestens dann ist aus künstlicher Verstärkung echte Reichweite geworden.

Und mit generativer KI wird die alte Grenze noch unschärfer. Automatisierte Accounts müssen längst nicht mehr wie Roboter schreiben, während gleichzeitig menschlich wirkende Sprache kein Beweis dafür ist, dass tatsächlich ein Mensch dahintersteht.

Vielleicht sollten wir uns deshalb in einer hitzigen Kommentarspalte nicht zu lange damit beschäftigen, jeden Account zweifelsfrei als Mensch oder Maschine einordnen zu wollen.

Eine andere Frage bringt uns weiter:

Ist das, was hier gerade wie eine gewaltige öffentliche Stimmung aussieht, wirklich so groß und spontan entstanden – oder wurde jemand kräftig dabei unterstützt, diesen Eindruck zu erzeugen?

Social Bots erkennen: Was kann ich selbst prüfen?

Einen einzelnen Account kann man als normaler Nutzer meist nicht zweifelsfrei als Bot identifizieren. Es gibt aber Hinweise, die misstrauisch machen können. Entscheidend ist dabei nie ein einzelnes Merkmal, sondern das Gesamtbild.

Achte darauf, ob ein Account ungewöhnlich häufig postet, fast ausschließlich dieselben Themen verbreitet oder innerhalb kürzester Zeit immer wieder dieselben Links teilt. Auffällig können auch Netzwerke sein, in denen mehrere Accounts nahezu gleichzeitig dieselben Inhalte posten, sich gegenseitig liken oder ständig aufeinander verweisen.

Auch das Profil selbst kann Hinweise liefern. Ein generisches Profilbild, kaum persönliche Inhalte, ein sehr junges Konto oder eine auffällige Mischung aus massenhafter Aktivität und praktisch keiner echten Unterhaltung können verdächtig wirken. Beweisen tun sie allerdings nichts.

Mit generativer KI ist zudem ein altes Warnsignal weniger zuverlässig geworden: die Sprache. Ein Bot muss heute weder holprig noch stereotyp klingen. KI kann unterschiedliche Formulierungen erzeugen und auf konkrete Beiträge reagieren.

Das Warnsignal „klingt komisch“ ist abgelaufen. Holprige Sprache war lange der einfachste Bot-Verdacht für Laien. Heute schreibt Automatisierung flüssig – und umgekehrt schreiben viele Menschen holprig.

Darum ist die wichtigste Regel: Prüfe zuerst die Behauptung, nicht den Account. Gibt es eine Originalquelle? Ist der verlinkte Artikel seriös? Bestätigen unabhängige Quellen die Aussage? Wenn eine Behauptung falsch ist, spielt es für deine Entscheidung letztlich keine Rolle, ob sie von einem Bot oder einem Menschen verbreitet wurde.

Häufige Fragen zu Social Bots