Frauenhass online: Jugendliche und die Gefahren extremistischer Inhalte

Fitness, Gaming, Dating, Selbstoptimierung oder Fragen zur psychischen Gesundheit: Der Einstieg in problematische Online-Welten muss keineswegs politisch aussehen. Eine Untersuchung der Dublin City University zeigt, wie schnell experimentelle Profile auf TikTok und YouTube Shorts mit Inhalten aus der sogenannten Manosphere in Kontakt kamen und wie stark sich Empfehlungen veränderten, sobald die Accounts Interesse signalisierten. Gleichzeitig dokumentieren Sicherheitsbehörden in Deutschland und Österreich, dass rechtsextreme Jugendgruppen soziale Netzwerke gezielt zur Vernetzung und Rekrutierung nutzen. Die Phänomene sind nicht gleichzusetzen – zwischen Frauenfeindlichkeit, Antifeminismus, Queerfeindlichkeit und Teilen der extremen Rechten bestehen jedoch nachweisbare Überschneidungen.

Wer auf TikTok oder YouTube Shorts unterwegs ist, sucht normalerweise nicht nach einer geschlossenen Ideologie. Jugendliche interessieren sich für Fußball oder Computerspiele, schauen Fitnessvideos, suchen Dating-Tipps oder wollen wissen, wie man selbstbewusster wird. Gerade deshalb ist die Frage relevant, welche Inhalte Empfehlungssysteme rund um solche Interessen zusätzlich ausspielen.

Eine Untersuchung des Anti-Bullying Centre der Dublin City University liefert dazu bemerkenswerte Ergebnisse. Die Forschenden richteten zehn künstliche Accounts auf zehn neuen Smartphones ein, jeweils fünf für TikTok und fünf für YouTube Shorts. Die Profile sollten 16- beziehungsweise 18-jährige Burschen und junge Männer mit unterschiedlichen Interessen simulieren. Bei YouTube wurden sie ausdrücklich als männlich registriert; TikTok fragte bei der Kontoerstellung kein Geschlecht ab.

Bei den acht Accounts, die entweder nach allgemein als typisch männlich definierten Themen oder gezielt nach Manosphere-Inhalten suchten, tauchte innerhalb von höchstens 26 Minuten Manosphere-Content auf. Auf einzelnen YouTube-Shorts-Profilen geschah das bereits nach rund zwei Minuten.

Diese Zahl ist spektakulär – und gerade deshalb muss man genau sagen, was sie bedeutet. Die Studie zeigt keine Radikalisierung innerhalb von 26 Minuten. Sie untersuchte keine Einstellungsänderungen realer Jugendlicher. Gemessen wurde, wann künstlichen Accounts bestimmte Inhalte empfohlen wurden und wie sich diese Empfehlungen im weiteren Verlauf veränderten.

Parallel dazu beobachten Sicherheitsbehörden eine zweite Entwicklung: Rechtsextreme Jugendgruppen nutzen dieselben Plattformen zur Selbstdarstellung, Vernetzung, Mobilisierung und Rekrutierung. Manosphere und Rechtsextremismus sind damit keineswegs dasselbe. Forschung zeigt jedoch, dass sich bestimmte Narrative und Online-Milieus überschneiden können.

Was ist die „Manosphere“?

Unter „Manosphere“ versteht man kein geschlossenes Netzwerk mit Mitgliedschaft oder einheitlichem Programm. Der Begriff umfasst ein loses Geflecht aus Online-Communities, Influencern, Websites und Foren, in denen Vorstellungen über Männlichkeit, Geschlechterrollen und Beziehungen verhandelt werden. Dazu werden unter anderem Red-Pill-Communities, Pick-up-Artists, Teile der Männerrechtsbewegung, sogenannte „Manfluencer“ und Incel-Communities gezählt.

Die Dublin City University beschreibt die Manosphere als loses Netzwerk antifeministischer und männlich-supremacistischer Communities. In den vergangenen Jahren hätten sich Teile dieses Milieus stark verändert. Frühere Pick-up-Artists treten beispielsweise teilweise als Life-Coaches oder Selbstoptimierungs-Influencer auf. Themen wie Motivation, Fitness oder psychische Gesundheit können dabei mit antifeministischen Botschaften verbunden werden. Die Autoren weisen außerdem auf Überschneidungen mit der extremen Rechten, Verschwörungserzählungen und Anti-Trans-Milieus hin.

Das erklärt auch, warum problematische Inhalte nicht zwingend wie politische Propaganda aussehen müssen. Ein Video kann zunächst von Sport, Geld, Disziplin oder Dating handeln. Daneben können Botschaften auftauchen, wonach Männer grundsätzlich unter Feminismus leiden würden, Frauen nach vermeintlich unumstößlichen biologischen Regeln funktionierten oder gesellschaftliche Gleichstellung Männer benachteilige.

Eine 2025 veröffentlichte Pilotstudie von SCRIPTS und dem Institute for Strategic Dialogue identifizierte im deutschen Online-Raum mehr als 350 Websites und Social-Media-Accounts mit misogynen Inhalten. Eine darauf aufbauende ISD-Untersuchung vom Jänner 2026 analysierte 502 Accounts und Channels in Deutschland, Polen, Tschechien und der Slowakei. Für Deutschland untersuchte sie unter anderem Überschneidungen zwischen der Manosphere und Narrativen beziehungsweise Akteuren der extremen Rechten.

Die Zahl von mehr als 350 Angeboten ist keine vollständige Zählung sämtlicher einschlägiger deutschsprachiger Accounts. Die Studie war als Pilotuntersuchung angelegt. Sie zeigt jedoch, dass es sich um ein weit verzweigtes digitales Milieu handelt und nicht bloß um einige wenige prominente Influencer.

Was bei dem Experiment mit den 26 Minuten tatsächlich geschah

Die 2024 veröffentlichte Studie trägt den Titel „Recommending Toxicity: The role of algorithmic recommender functions on YouTube Shorts and TikTok in promoting male supremacist influencers“. Die Forschenden richteten auf jeder der beiden Plattformen fünf Testaccounts ein.

Zwei sollten 16- beziehungsweise 18-jährige Nutzer mit Interessen darstellen, die die Forschenden als „gender-normative“ bezeichneten – dazu gehörten etwa Sport, Fitness und Videospiele. Zwei weitere gleichaltrige Accounts waren „manosphere-curious“ und suchten gezielt nach einschlägigen Akteuren und Begriffen. Zusätzlich gab es auf jeder Plattform einen Kontrollaccount, der bewusst weder nach bestimmten Themen suchte noch mit bestimmten Inhalten interagierte. Die Forschenden betonen ausdrücklich, dass die generischen Profile nicht stellvertretend für alle Burschen und Männer stehen.

Die acht interessenbasierten Profile erhielten innerhalb von höchstens 23 Minuten Inhalte, die nach dem Codebuch der Studie als „toxic“ eingestuft wurden. Manosphere-Content erschien innerhalb von höchstens 26 Minuten. Bei den generischen TikTok-Profilen geschah das nach 8 Minuten 49 Sekunden beziehungsweise 14 Minuten 45 Sekunden. Bei YouTube Shorts waren es 17 Minuten 27 Sekunden und 2 Minuten 1 Sekunde.

Besonders interessant: Bei zwei YouTube-Shorts-Accounts tauchte Manosphere-Content bereits innerhalb der ersten zwei Minuten auf – noch bevor die Forschenden die Accounts durch zusätzliche Suchanfragen gezielt in eine bestimmte Richtung gelenkt hatten. Einer davon war ein „manosphere-curious“-Profil, der andere ein generischer 18-jähriger Testaccount.

Das macht die schnelle erste Empfehlung bemerkenswert. Trotzdem sagt sie nichts darüber aus, ob ein realer Jugendlicher eine Botschaft glaubt, übernimmt oder dadurch seine politische Einstellung verändert.

Danach wurde der Algorithmus bewusst gefüttert

Für die spektakuläreren Ergebnisse nach mehreren Stunden ist die Methodik besonders wichtig.

Das Experiment bestand aus acht Durchgängen mit jeweils 50 Videos. Zwischen diesen Durchgängen führten die Forschenden Suchanfragen durch, um den Plattformen Interessen des jeweiligen Profils zu signalisieren.

Die „manosphere-curious“-Accounts suchten unter anderem nach „Andrew Tate“, „Feminist owned“, „Jordan Peterson“, „Alpha masculinity“, „Red Pill“ und weiteren einschlägigen Begriffen oder Personen. Die generischen Profile suchten nach Football, Gaming, „Gym tips“, „Hot girls“, „Men’s mental health“, Comedy und Call of Duty.

Bei jeder dieser Suchanfragen wurden die fünf obersten Treffer vollständig angesehen und gelikt. Tauchte anschließend im normalen Feed ein Video auf, das als Manosphere-, antifeministischer, rassistischer oder Anti-LGBTQ-Content eingestuft wurde, sahen die Forschenden auch dieses Video an und markierten es mit „Gefällt mir“. Insgesamt wurden pro Account 400 Feed-Videos untersucht.

Das Experiment bildet damit ausdrücklich keinen passiven Durchschnittsnutzer ab. Die Forschenden setzten wiederholt deutliche Interessenssignale. Genau das ist für die Interpretation der späteren Zahlen entscheidend.

Denn nach 400 Videos beziehungsweise ungefähr zwei bis drei Stunden war der Anteil problematischer Inhalte massiv gestiegen. In der letzten Versuchsrunde bestanden durchschnittlich 76 Prozent der TikTok-Empfehlungen und 78 Prozent der YouTube-Shorts-Empfehlungen aus Content, der nach dem Codebuch als problematisch beziehungsweise „toxic“ eingestuft wurde.

Über das gesamte Experiment hinweg lagen die Durchschnittswerte niedriger: 34,7 Prozent bei TikTok und 61,5 Prozent bei YouTube Shorts.

Die 76 beziehungsweise 78 Prozent sind deshalb kein Wert dafür, wie der gewöhnliche Feed eines 16-Jährigen aussieht. Sie zeigen, wie stark sich die Empfehlungen in diesem Experiment verändern konnten, wenn Accounts durch Suche, Watchtime und Likes immer wieder deutliches Interesse signalisierten.

Was die Forschenden überhaupt als „toxisch“ einstuften

Auch der Begriff „toxic content“ braucht eine Erklärung. Die Forschenden codierten die Videos in mehrere Kategorien. Dazu gehörten „Alpha masculinity“, Misogynie beziehungsweise Antifeminismus, „reactionary right“, Verschwörungsinhalte sowie neutrale Inhalte bekannter Akteure aus entsprechenden Milieus.

Auf TikTok entfielen im Durchschnitt 12,8 Prozent der Empfehlungen auf „Alpha masculinity“ und 8,3 Prozent auf Misogynie beziehungsweise Antifeminismus. Bei YouTube Shorts lagen diese Werte bei 32,4 und 23,9 Prozent.

Die Manosphere war allerdings nicht die einzige problematische Kategorie, die in den Feeds auftauchte. Die Forschenden fanden auch reaktionär rechte Inhalte und Verschwörungserzählungen. Auf TikTok machten „reactionary right“-Inhalte 11,2 Prozent der Empfehlungen aus, auf YouTube Shorts 3,5 Prozent. Verschwörungscontent kam auf 2,4 beziehungsweise 1,7 Prozent. Ein erheblicher Teil der reaktionär rechten Inhalte beschäftigte sich mit Anti-Trans- und „Anti-Woke“-Themen.

Genau an dieser Stelle wird die Verbindung zum weiteren Thema des Artikels sichtbar. Die DCU-Studie beweist keinen individuellen Weg von Frauenfeindlichkeit in den Rechtsextremismus. Sie zeigt aber, dass Manosphere-, reaktionär rechte und verschwörungsideologische Inhalte innerhalb derselben Empfehlungsumgebung auftauchen können.

Warum „Men’s mental health“ interessant ist

Zu den Suchbegriffen der generischen Testprofile gehörte ausdrücklich auch „Men’s mental health“.

Dass ein Forschungsteam diesen Begriff einbezieht, ist kein Hinweis darauf, dass Männergesundheit oder psychische Gesundheit an sich problematisch wären. Interessant ist vielmehr, wie nahe legitime Themen und problematische Influencer im digitalen Raum beieinanderliegen können.

Ein Jugendlicher, der nach Hilfe bei Einsamkeit, Selbstzweifeln oder Beziehungsproblemen sucht, hat ein reales Anliegen. Ebenso legitim sind Fragen zu Fitness, Motivation oder Selbstvertrauen. Problematische Akteure können solche Themen jedoch aufgreifen und mit ideologischen Erklärungen verbinden.

Aus Frust beim Dating kann dann die Behauptung werden, Frauen seien grundsätzlich manipulativ. Aus Unsicherheit wird die Erzählung, der Feminismus habe Männern ihre gesellschaftliche Rolle genommen. Aus der Suche nach Orientierung kann ein Weltbild entstehen, das einfache Schuldige für komplexe persönliche und gesellschaftliche Probleme anbietet.

Das geschieht nicht zwangsläufig. Aber genau diese Anschlussfähigkeit erklärt, warum Manosphere-Content nicht immer schon am ersten Video als frauenfeindliche Ideologie erkennbar ist.

Wo sich Frauenfeindlichkeit und Rechtsextremismus berühren

Die Manosphere und Rechtsextremismus dürfen nicht gleichgesetzt werden. Ein Anhänger eines fragwürdigen Dating-Influencers ist nicht automatisch rechtsextrem, und ein frauenfeindliches Video ist kein Beweis für eine politische Radikalisierung.

Die Überschneidungen sind trotzdem dokumentiert.

Die DCU-Forschenden beschreiben in ihrem Hintergrundkapitel Überschneidungen der Manosphere mit der „Far Right“, Verschwörungsnarrativen und Anti-Trans-Gruppen. Sie verweisen darauf, dass bestimmte prominente Akteure mit Selbstoptimierungs- und Männlichkeitsbotschaften zugleich Zugänge zu extremeren männlich-supremacistischen und rechtsextremen Online-Räumen eröffnen können.

Die ISD-Untersuchungen kommen ebenfalls zu dem Ergebnis, dass es im deutschen Online-Raum inhaltliche und akteursbezogene Schnittstellen zwischen Teilen der Manosphere und migrationsfeindlichen, nationalistischen sowie LGBTQ-feindlichen Narrativen gibt. Auch diese Forschung belegt jedoch keinen zwangsläufigen individuellen Radikalisierungspfad.

Das ist ein wichtiger Unterschied. Es gibt keinen wissenschaftlich belegten Automatismus nach dem Muster: Fitnessvideo, Frauenhass, Rechtsextremismus.

Die Forschung zeigt vielmehr digitale Nachbarschaften. Wer sich in bestimmten Themenwelten bewegt, kann mit anderen politischen und ideologischen Inhalten konfrontiert werden. Ob daraus tatsächlich eine Radikalisierung entsteht, hängt von weit mehr ab als von einem Empfehlungssystem.

Rechtsextreme Jugendgruppen nutzen Social Media gezielt

Bei rechtsextremen Jugendgruppen geht es mittlerweile über theoretische Risiken algorithmischer Empfehlungen hinaus. Sicherheitsbehörden in Deutschland und Österreich dokumentieren, dass junge rechtsextreme Akteure große soziale Plattformen gezielt zur Vernetzung, Mobilisierung und Rekrutierung einsetzen. Die jeweiligen Berichte und Ermittlungen beziehen sich auf unterschiedliche Gruppen und Entwicklungen, ergeben aber ein ähnliches Bild: Rechtsextreme Jugendmilieus finden längst dort statt, wo Jugendliche ohnehin kommunizieren.

Deutschland: Rekrutierung und Vernetzung über soziale Medien

Das deutsche Bundeskriminalamt erklärte im Mai 2025, rechtsextreme Jugendgruppen würden insbesondere TikTok, Instagram und YouTube zur Mitgliedergewinnung sowie zur Mobilisierung für Demonstrationen und Aktionen nutzen. Die Mitteilung erfolgte im Zusammenhang mit Ermittlungen gegen die sogenannte „Letzte Verteidigungswelle“, die von der Bundesanwaltschaft als mutmaßliche rechtsextremistische terroristische Vereinigung verfolgt wird. Mehrere Beschuldigte waren Jugendliche oder Heranwachsende.

Am 6. Mai 2026 ließ der Generalbundesanwalt rund 50 Objekte in zwölf deutschen Bundesländern durchsuchen. Die Ermittlungen richteten sich gegen 36 Beschuldigte, denen unter anderem eine Mitgliedschaft in den rechtsextremistischen Vereinigungen „Jung & Stark“ oder „Deutsche Jugend Voran“ vorgeworfen wird. Letztere tritt laut Bundesanwaltschaft teilweise unter der Bezeichnung „Neue Deutsche Welle“ auf.

Nach Angaben der Ermittler vernetzten sich Mitglieder über soziale Medien und persönliche Treffen. Gegen acht Personen wurde zusätzlich wegen gefährlicher Körperverletzung ermittelt. Bei dieser Aktion gab es keine Festnahmen. Für sämtliche Beschuldigte gilt die Unschuldsvermutung.

Damit ist die Nutzung sozialer Netzwerke durch rechtsextreme Jugendgruppen keine bloße Vermutung. Sie ist Bestandteil konkreter Ermittlungen und behördlicher Lagebilder.

Österreich: Neue Neonazi-Jugendgruppen auf TikTok und Instagram

Auch der österreichische Verfassungsschutz beschreibt eine entsprechende Entwicklung.

Im Verfassungsschutzbericht 2025 ist von Neugründungen gewaltaffiner und militant auftretender Neonazi-Jugend-Subgruppen seit dem letzten Quartal 2024 die Rede. Besonders auffällig sei deren Nutzung von TikTok und Instagram zu Vernetzungs- und Rekrutierungszwecken.

Die Inhalte kommen dabei nicht zwangsläufig in einer Ästhetik daher, die sofort an klassische Neonazi-Propaganda erinnert. Laut Verfassungsschutz werden rechtsextreme Inhalte unter anderem mit Codes, humoristischen Darstellungen sowie Elementen aus Kampfsport-, Fußball- und Hooligan-Kultur verbunden. Damit lassen sich extremistische Botschaften in Kommunikationsformen verpacken, die auf Social Media vertraut wirken und jüngere Zielgruppen ansprechen können.

Für 2025 registrierten österreichische Behörden insgesamt 1.986 Tathandlungen im Phänomenbereich Rechtsextremismus. Im Jahr zuvor waren es 1.486 gewesen – ein Anstieg um 33,6 Prozent. 1.701 der Tathandlungen wurden als rechtsextremistisch im engeren Sinn eingeordnet. Bei 640 der insgesamt erfassten Tathandlungen fand die gesetzeswidrige Agitation im Internet statt.

Diese Zahlen beweisen keinen ursächlichen Zusammenhang zwischen Social Media und der gestiegenen Zahl rechtsextremistischer Tathandlungen. Eine solche Aussage wäre durch die Statistik nicht gedeckt. Gleichzeitig zeigen die Erkenntnisse des Verfassungsschutzes, dass digitale Plattformen für die Vernetzung und Ansprache junger Menschen in diesem Milieu eine konkrete Rolle spielen.

Ein Algorithmus macht niemanden automatisch zum Extremisten

Die Vorstellung, ein Empfehlungssystem könne einen Jugendlichen innerhalb weniger Minuten „radikalisieren“, klingt eingängig. Wissenschaftlich wäre sie viel zu einfach.

Die DCU-Studie ist ein kurzfristiges Experiment mit künstlichen Accounts. Sie untersucht, welche Inhalte Plattformen empfehlen und wie sich diese Empfehlungen verändern, wenn Accounts wiederholt bestimmte Signale setzen. Sie misst weder politische Einstellungen noch Verhaltensänderungen realer Jugendlicher.

Die Autoren selbst weisen darauf hin, dass die Forschung zu algorithmischer Radikalisierung keineswegs abgeschlossen ist. Ein Problem besteht darin, dass Plattformen ihre Empfehlungssysteme nicht vollständig offenlegen und Forschende deshalb nur begrenzt nachvollziehen können, wie sich personalisierte Feeds realer Nutzer über längere Zeit entwickeln.

Radikalisierung entsteht zudem nicht aus einem Algorithmus allein. Persönliche Erfahrungen, soziale Beziehungen, vorhandene Weltbilder, Anerkennung innerhalb einer Gruppe oder das Bedürfnis nach Zugehörigkeit können eine Rolle spielen. Digitale Plattformen können Kontakte erleichtern und vorhandene Interessen verstärken. Sie entscheiden jedoch nicht allein darüber, welche Überzeugungen ein Mensch entwickelt.

Gerade diese Unterscheidung macht die Ergebnisse relevant. Man muss aus der Studie keine „Radikalisierungsmaschine TikTok“ machen, um ein reales Problem zu erkennen.

Was Erwachsene im Blick behalten sollten

Wer mit Jugendlichen über solche Inhalte sprechen möchte, sollte nicht erst auf offen rechtsextreme Symbole oder eindeutige Gewaltfantasien warten. Interessanter sind häufig Veränderungen, die früher sichtbar werden.

Welche Accounts tauchen plötzlich ständig auf? Welche Begriffe werden übernommen? Wie wird über Frauen gesprochen? Werden queere Menschen, Migranten oder politische Gegner zunehmend pauschal als Bedrohung dargestellt? Werden für ganz unterschiedliche gesellschaftliche Probleme immer dieselben Schuldigen präsentiert?

Ein sofortiges Plattformverbot oder Spott über den Lieblingsinfluencer wird ein solches Gespräch selten leichter machen. Sinnvoller kann es sein, sich die Inhalte zeigen zu lassen und gemeinsam zu prüfen, wie darin argumentiert wird. Gibt es für eine angebliche Statistik eine Quelle? Ist ein präsentierter Einzelfall wirklich repräsentativ? Warum erscheint gerade dieses Video im Feed? Und was verändert sich, wenn man ähnliche Inhalte immer wieder ansieht oder likt?

Medienkompetenz bedeutet deshalb auch zu verstehen, dass ein persönlicher TikTok- oder YouTube-Feed keine neutrale Abbildung der Wirklichkeit ist. Er ist eine personalisierte Auswahl, die auf Nutzungsverhalten reagiert.

Bei konkreten Hinweisen auf Gewaltbereitschaft, extremistische Vernetzung oder strafbare Inhalte reicht Medienkompetenz allerdings nicht mehr aus. Dann sollten professionelle Beratungsstellen beziehungsweise zuständige Behörden eingeschaltet werden.

Fazit

Die oft zitierten 26 Minuten aus der Untersuchung der Dublin City University sind real – aber sie bedeuten etwas anderes, als eine dramatische Schlagzeile vermuten lassen könnte.

Innerhalb von höchstens 26 Minuten wurde den acht interessenbasierten Testaccounts Manosphere-Content empfohlen. Bei zwei YouTube-Shorts-Profilen geschah dies bereits innerhalb der ersten rund zwei Minuten, noch bevor zusätzliche Suchimpulse gesetzt worden waren.

Danach interagierten die Forschenden allerdings gezielt mit bestimmten Inhalten. Sie suchten nach vorgegebenen Begriffen, sahen Ergebnisse vollständig an und likten problematische Empfehlungen. Unter diesen Bedingungen stieg deren Anteil erheblich an. Nach 400 Videos bestanden in der letzten Versuchsrunde durchschnittlich 76 Prozent der TikTok- und 78 Prozent der YouTube-Shorts-Empfehlungen aus als problematisch oder „toxic“ codiertem Content.

Die Studie zeigt damit keine Radikalisierung eines Jugendlichen in 26 Minuten. Sie zeigt, wie schnell problematische Inhalte sichtbar werden können und wie deutlich Empfehlungssysteme auf wiederholte Interessenssignale reagieren.

Unabhängig davon dokumentieren Sicherheitsbehörden in Deutschland und Österreich, dass rechtsextreme Jugendgruppen soziale Netzwerke tatsächlich zur Vernetzung und Rekrutierung einsetzen. Gleichzeitig zeigen Forschungsarbeiten Überschneidungen zwischen Teilen der Manosphere, Antifeminismus, Queerfeindlichkeit, Verschwörungserzählungen und Narrativen der extremen Rechten.

Ein Fitnessvideo führt nicht automatisch zum Frauenhass. Frauenhass führt nicht zwangsläufig zum Rechtsextremismus. Aber in einem personalisierten Feed können harmlose Interessen, persönliche Unsicherheiten und ideologische Botschaften sehr nahe nebeneinanderliegen. Genau das macht die Entwicklung relevant – und genau deshalb lohnt sich der nüchterne Blick auf das, was Forschung und Sicherheitsbehörden tatsächlich belegen.