In der vernetzten Gegenwartsgesellschaft sind digitale Räume für viele Menschen längst zu alltäglichen Orten des Austauschs, der Beziehungspflege und der Orientierung geworden. Die hohe Viralität dieser Umfelder erleichtert dabei nicht nur die Kommunikation zwischen Nutzerinnen und Nutzern, sondern vereinfacht auch die rasante Verbreitung von Hass und Hetze. Insbesondere rechtsextreme Hasskampagnen stellen aufgrund ihrer weiten Verbreitung und Mobilisierungseffekte dabei eine zunehmende Bedrohung dar. Dabei wirken sie nicht isoliert, sondern greifen auf in gesellschaftlichen Diskursen historisch gewachsene und fortbestehende Deutungsmuster und Weltbilder zurück, in denen rassistische, antisemitische sowie andere Diskriminierungsformen verankert sind und sich in der Wechselwirkung zwischen analogen und digitalen Öffentlichkeiten weiter verfestigen und verstärken. Dabei greifen sie auf die Infrastruktur des Informationsökosystems zurück: Rechtsextreme Kampagnen nutzen eine Vielzahl technischer und sozialer Dynamiken, die auf komplexe Weise ineinandergreifen. Zum einen amplifizieren automatisierte Systeme, insbesondere sogenannte „Social Bots”, die Sichtbarkeit extremistischer Inhalte: Auf Kommunikationsplattformen und in Messengerdiensten wie Telegram oder Discord werden dabei Botschaften vorbereitet und abgestimmt, bevor diese dann über automatisierte Bot-Konten in digitalen Übergriffen – etwa in Raids oder Snipermissionen – verbreitet werden. Die Kombination technischer Automatisierung, sozialer Koordination und ideologisch kodierter Kommunikation bietet so ein hochwirksames Instrumentarium, mit dem rechtsextreme Akteurinnen und Akteure ihren Einfluss auf digitale Öffentlichkeiten ausbauen.
Strategien rechtsextremer Radikalisierung Online
Rechtsextreme Hasskampagnen basieren auf einer Vielzahl miteinander verknüpfter Strategien, die sich gegenseitig verstärken und schrittweise Radikalisierung begünstigen können. Aktuelle Forschung versteht Radikalisierung dabei als einen komplexen, prozesshaften Vorgang, der nicht auf einzelne Ursachen zurückzuführen ist, sondern aus dem Zusammenspiel von Inhalten, Emotionen und plattformspezifischen Dynamiken entsteht. Studien zeigen, dass extremistische Akteure gezielt alternative Informationsökosysteme aufbauen und stark auf irreführende oder falsche Narrative zurückgreifen. Im Kontext dieser emotionalisierenden Kommunikation, gezielter Desinformation sowie digital und analog verzahnter Mobilisierung, spielen auch koordinierte, organisierte Online-Netzwerke eine wichtige Rolle, darunter sogenannte Trollfabriken, die als taktisches Mittel innerhalb komplexer, mehrschichtiger Strategien digitaler Einflussnahme eingesetzt werden.
Trollfabriken
Trollfabriken sind organisierte Netzwerke, die systematisch Hass verbreiten, um politische und gesellschaftliche Debatten zu beeinflussen und Feindbilder zu schaffen. Diese Netzwerke bestehen oft aus bezahlten oder freiwilligen Akteurinnen und Akteuren, die verschiedene Techniken anwenden, um koordinierte Propaganda zu verbreiten – etwa durch aktive Teilnahme an Online-Diskussionen und die Streuung von Hasskommentaren. Zusätzlich nutzen sie Fake-Profile und Bots, um Inhalte in großem Maßstab zu verbreiten und Diskussionen gezielt zu manipulieren. Teilweise erfolgt dies auch mit staatlicher Unterstützung, insbesondere im Rahmen sogenannter „Foreign Information Manipulation and Interference“ (FIMI), bei denen staatsnahe Akteurinnen und Akteure gezielt Narrative verbreiten, um politische Ziele zu fördern. Desinformation zielt darauf, Ängste zu schüren, das öffentliche Meinungsbild zu beeinflussen und gesellschaftliche Spaltungen voranzutreiben . Diese Aktivitäten bewegen sich oft in einer rechtlichen Grauzone: Manche Handlungen – etwa Beleidigungen, Hetze oder gezielte Desinformation – können zwar strafbar sein, werden jedoch häufig verdeckt durchgeführt, sodass die Urheberinnen und Urheber schwer nachverfolgbar sind. Gleichzeitig agieren einige Gruppen in sozialen Netzwerken, nutzen aber algorithmische Mechanismen und psychologische Tricks, um ihre Inhalte möglichst viral zu verbreiten, ohne direkt gegen Plattformregeln zu verstoßen. Ein Beispiel für einen solchen psychologischen Trick ist das gezielte Schüren von Angst und Misstrauen, etwa durch die Darstellung von vermeintlichen Bedrohungen, die Nutzerinnen und Nutzern das Gefühl geben, Teil einer bedrohten Minderheit zu sein, die gegen eine „geheime Elite“ oder eine „fremde Invasion“ kämpfen müsse. Dabei wird durch den Prozess des Otherings eine Gruppe bewusst als „die Andere“ oder als Bedrohung für die eigene Identität und Kultur konstruiert. Dieses Narrativ soll die emotionale Reaktion der Zielgruppen verstärken und die Wahrscheinlichkeit erhöhen, dass diese die Inhalte weiterverbreiten.
Informationsmanipulation aus dem Ausland
Im Vorfeld der Bundestagswahl 2025 identifizierte das ISD eine groß angelegte Desinformationskampagne, die über 6.000 Bots und gefälschte Accounts nutzte. Auch hier wurden manipulierte Videos und Meldungen über Websites verbreitet, die denen seriöser Medien ähnelten. Dabei wurden gezielt Politikerinnen und Politiker angegriffen und Falschinformationen zu Wahlprozessen, Sicherheit und Migration gestreut. So sollte Einfluss auf öffentliche Meinungen genommen, Vertrauen in demokratische Prozesse untergraben und systematisch die Wahl manipuliert werden. Diese Trollfabrik-Aktion wurde dabei von russischen Desinformationsakteuren gesteuert. Sie stellt ein Beispiel dafür dar, wie staatlich oder staatsnah zuzuordnende Akteure gezielt in internationale Informationsräume eingreifen. Auch bei klaren Verstößen gegen Plattformrichtlinien bleiben die Möglichkeiten der Inhaltsmoderation in der Praxis häufig begrenzt. In einer Studie im Vorfeld der Europawahl 2024 identifizierte das ISD an deutsche Zielgruppen adressierte, kremlfreundliche Anzeigen auf Facebook. Die Posts fokussierten sich dabei auf die Diffamierung unterschiedlicher Politikerinnen und Politiker sowie Gruppen – insbesondere von der Präsidentin der Europäischen Kommission Ursula von der Leyen und der Partei "BÜNDNIS90/DIE GRÜNEN” – und sprachen sich im gleichen Zuge für die „Alternative für Deutschland“ (AfD) und das „Bündnis Sahra Wagenknecht - Vernunft und Gerechtigkeit“ (BSW) aus. Die Anzeigen wurden von nicht-authentischen Seiten geschaltet und erreichten in Summe über 160.000 Aufrufe. Neben der gezielten Diffamierung Einzelner zielten diese Inhalte auch auf die Verstärkung von Ressentiments und Feindbildern gegen Minderheiten ab. Analysen des European Digital Media Observatory (EDMO) und angeschlossener Fact-Checking-Netzwerke zeigten, dass im Vorfeld des Wahlkampfs 2024 gezielt anti-LGBTQ+-Narrative verbreitet wurden. Diese Desinformation stellte falsche Behauptungen über eine angebliche „LGBTQ-Agenda“ auf, die etwa durch „Zwangsunterricht“ oder die „Einführung von Regenbogenflaggen in Hotels“ umgesetzt werden sollte. Durch die koordinierte Verbreitung dieser Narrative in sozialen Netzwerken wurden gezielt Feindbilder geschürt und Ressentiments gegen LGBTQ+ sowie andere marginalisierte Gruppen verstärkt. Diese Botschaften kombinierten gezielte Falschinformationen mit ideologisch aufgeladenen Symbolen und Codes. Nur wenige der Anzeigen wurden von den Plattformen entfernt, obwohl sie gegen Werbestandards verstießen.
Astroturfing
Astroturfing beschreibt eine manipulative Strategie, bei der auf sozialen Medien der Anschein einer breit unterstützten, „echten“ Bürgerbewegung erzeugt wird. Dabei sind es im Gegenteil kleine Gruppen, die organisiert Kampagnen dieser Art streuen. Der Begriff leitet sich von der Kunstrasenmarke „AstroTurf“ ab und verweist auf die Künstlichkeit dieser Bewegungen im Gegensatz zu echten Graswurzelbewegungen. So sollen politische oder gesellschaftliche Themen durch emotional aufgeladene Beiträge, virale Hashtags oder manipulierte Umfragen in den öffentlichen Diskurs gerückt werden. Diese Inhalte wirken wie spontane Meinungsäußerungen aus der Bevölkerung, sind aber oft professionell inszeniert – etwa von Lobbygruppen, rechtsextremen Netzwerken oder autoritär orientierten Akteurinnen und Akteuren im In- und Ausland. Solche Kampagnen greifen gezielt auf Fake-Accounts, Bots und gekaufte Likes oder Shares zurück, um Reichweite zu simulieren und Inhalte algorithmisch zu verstärken. Die Strategie ist besonders in sozialen Netzwerken wirksam, da dort Sichtbarkeit, Popularität und Relevanz stark miteinander verknüpft sind. Dabei wird gezielt auf Emotionalisierung, Polarisierung und die Ausnutzung von Plattformmechanismen gesetzt – vergleichbar mit Trolling-Kampagnen, aber deutlich stärker strategisch durchorganisiert. So werden beispielsweise Anerkennung und Gleichberechtigung aller Genderidentitäten, queere Sichtbarkeit oder Feminismus als Bedrohung für die „traditionelle Familie“ oder den „normalen Bürger“ dargestellt, oft in Verbindung mit der Vorstellung einer geheimen Agenda, die die Gesellschaft „zwangsweise umgestalten“ wolle und ihr „unnatürliche” Genderkonzepte aufdränge. Dahinter stehen häufig klassische, rechtsextreme Ideologeme: Die Ablehnung von Gleichberechtigung und Diversität, die Verherrlichung patriarchaler oder autoritärer Strukturen sowie die Vorstellung, dass demokratische Institutionen und pluralistische Werte eine vermeintlich „wahre“ essentialistische Ordnung bedrohen.
Strategische Aneignung von Symbolen durch rechtsextreme Akteure
Beispiel von “Pepe the Frog“
Memes und scheinbar harmlose Symbole werden von rechtsextremen Online-Communities strategisch genutzt, um tiefere, oft ideologisch motivierte Narrative zu verbreiten und zu normalisieren. Ein prominentes Beispiel ist die Karikatur „Pepe the Frog“. Ursprünglich war Pepe Teil der Online-Comicserie „Boy’s Club“ (2005). Ab 2008 wurde das Meme auf Plattformen wie 4chan populär und fand schnell Einzug in den Mainstream, wo es in verschiedensten Variationen auftauchte. Ab etwa 2014 übernahmen rechtsextreme und Alt-Right-Gruppen Pepe gezielt, um ihn mit rassistischen, antisemitischen und ethnonationalistischen Botschaften zu verbinden. Die Figur wurde zum Symbol der weißen Vorherrschaft und fand auch Eingang in die Präsidentschaftskampagne des republikanischen US-Präsidenten Donald Trump im Jahr 2016. Durch die Kombination mit Trump-Memes gewann Pepe an Sichtbarkeit und politischer Bedeutung. Ironie und Humor fungieren damit als Schutzschild: Die kritisierten Botschaften werden als Witz abgetan, was gesellschaftliche Kritik erschwert und die Verbreitung erleichtert. Memes können so als verdeckte Transportmittel extremistischer Ideologien genutzt werden.
Dog Whistles
Durch kodierte Botschaften – sogenannte „Dog Whistles” – werden rechtsextreme Botschaften subtil vermittelt, sodass sie in mainstream-kompatible Debatten eingeschleust werden und zugleich schwer angreifbar bleiben. Dog Whistles tragen so zu einer Normalisierung von antidemokratischem Gedankengut in öffentlichen Diskursen bei, ohne dass dieses offen radikal geäußert wird. Ein häufig genutztes Beispiel für einen Dog Whistle im rechtsextremen Diskurs ist z.B. der Ausdruck „Kulturelle Bereicherung“. Diese Phrase wird oft in politischen Reden oder in den Medien verwendet, um Migration und die Integration von Menschen mit Fluchterfahrung auf subtile Weise negativ zu konnotieren, ohne explizit rassistische oder Sprache zu verwenden. Die Botschaft dahinter, dass diese „Bereicherung“ in Wahrheit eine Belastung für die Gesellschaft darstellt, ist in Wahrheit eine versteckte Form der Abwertung von Migrantinnen und Migranten, die sich oft über den Kontext, in dem diese Dog Whistles platziert werden, von den Eingeweihten entsprechend erschließen lassen. Ein sachlicher und konstruktiver Austausch zu dem Thema wird so unterbunden.
OK-Handzeichen
Ähnlich funktioniert die Umdeutung des OK-Handzeichens, das ursprünglich als Zeichen der Zustimmung verwendet wird. Seit etwa 2017 wurde es in bestimmten Online-Subkulturen wie 4chan im Kontext rechtsextremer Kommunikation zeitweise als codiertes Symbol interpretiert, wobei einzelne Akteure eine Bedeutungszuweisung im Sinne von „White Power“ konstruierten. Besondere öffentliche Aufmerksamkeit erhielt das Symbol, als der Christchurch-Attentäter Brenton Tarrant es während seiner Gerichtsverhandlung zeigte. Gleichzeitig bleibt das OK-Handzeichen im alltäglichen und medialen Gebrauch weiterhin weit verbreitet und wird überwiegend harmlos konnotiert. Diese parallele Existenz ermöglicht eine strategische Nutzung von Mehrdeutigkeit. Aktuelle Forschung beschreibt solche Phänomene als bewusste Ausnutzung semantischer Ambivalenz in digitalen Kommunikationsräumen. Diese Mehrdeutigkeit erschwert insbesondere die eindeutige Zuschreibung von Intention und Kontext in digitalen sowie rechtlichen Bewertungsprozessen. Gleichzeitig erhöht sie die Anschlussfähigkeit solcher Symbole, da sie sowohl als Insider-Signal innerhalb rechtsextremer Gruppen als auch im alltäglichen Gebrauch anschlussfähig bleiben. Ein aktuelles Beispiel für diese Form semantischer Ambivalenz ist die Verwendung scheinbar harmloser Emojis als gruppeninterne Codes. Einzelne Emojis können innerhalb spezifischer Online-Communities mit zusätzlichen politischen oder ideologischen Bedeutungen aufgeladen werden, ohne ihre alltägliche und weitgehend unverdächtige Verwendung außerhalb dieser Kontexte zu verlieren.
Akteure der Radikalisierung
Akteurinnen und Akteure aus dem rechtsextremen Spektrum nutzen digitale Plattformen gezielt, um polarisierende Narrative zu verbreiten, Radikalisierungsprozesse zu beschleunigen und ihre Ideologie schrittweise in gesellschaftliche Debatten einzuschleusen. Insbesondere junge Menschen im Netz sollen erreicht werden – ein Vorgehen, das von der Alt-Right in den USA geprägt wurde und inzwischen auch in Europa wirksam eingesetzt wird.
Rechtsextreme Jugendbewegungen
Rechtsextreme Jugendbewegungen spielen in diesem Kontext eine besondere Rolle: Sie gehören zu einem losen, teils fluiden Netzwerk, das aus sich überschneidenden Bewegungen, aktiven oder ehemaligen Mitgliedern (z. B. aus der Identitären Bewegung) und neu entstandenen Splittergruppen (z.B. Jung und Stark, Störtrupp Süd, Deutsche Jugend Voran). In Teilen bestehen zudem Überschneidungen mit Strömungen von Männerrechtsbewegungen, etwa Men Going Their Own Way (MGTOW), deren Inhalte teilweise anschlussfähig an extremistische Ideologien sind und sich mit misogynen oder extremistischen Online-Subkulturen der sogenannten „Manosphere“ überlappen. Insbesondere diesen Strömungen wird in der Forschung ein erhöhtes Radikalisierungspotenzial zugeschrieben. Diese teils fluide Struktur erschwert eine eindeutige Identifizierung erheblich, da sich ideologische Narrative, personelle Überschneidungen und digitale Mobilisierungsstrategien überlappen und in ständigem Wandel befinden. Gruppierungen verbreiten über alternative Plattformen wie Telegram eine patriarchale, völkisch-nationalistische Weltanschauung, die auf der Idee einer homogenen Nation beruht. Die Strategie dieser Gruppen ist besonders auf junge Menschen ausgerichtet. Rechtsextreme Jugendbewegungen nutzen außerdem die Ästhetik und Dynamik sozialer Medien gezielt dafür, Hassnarrative emotional aufzuladen und für Jugendliche anschlussfähig zu machen. Ein Beispiel dafür ist die Kampagne zur sogenannten „Remigration“ , die seit 2023/24 verstärkt online verbreitet wird. In einem viralen Video mit dem Titel „Remigration Hit“ tanzen junge Menschen zu Elektrobeats, während sich Szenen von Deportationen abspielen. Auch das Online-Spiel „Deutschlandretter“, eine Candy Crush-Parodie, in der Migrantinnen und Migranten „aus dem Land gebracht“ werden müssen, wurde gezielt auf Plattformen wie TikTok und Instagram verbreitet. Rassistische Botschaften werden so in verharmlosender Video- oder Gaming-Optik verschleiert und weitreichend verbreitet.
Active Clubs
In der Rekrutierung und Radikalisierung Jugendlicher gewinnen sogenannte „Active Clubs“ zunehmend an Bedeutung. In diesen Clubs wird sportliche Betätigung – insbesondere Kickboxen – nicht nur als körperliches Training verstanden, sondern als ideologische Vorbereitung auf einen angenommenen, gesellschaftlichen „Kulturkampf“. Die Ursprünge der Active Clubs liegen in den USA, mittlerweile haben sich auch in Deutschland Ableger formiert. Über Kleidung, Videos und Symbolik wird Gewalt unter Mitgliedern ästhetisiert und mit einem Gefühl von Überlegenheit und Disziplin verbunden. Über Plattformen wie TikTok, Instagram oder Telegram verbreiten Active Clubs ihre Inhalte in jugendgerechter Sprache: Memes, Motivationsvideos, Musikclips oder Lifestyle-Challenges dienen als niedrigschwellige Einstiege. Scheinbar unpolitische Begriffe wie „Stärke“, „Disziplin“ und „Gemeinschaft“ werden nicht nur im Kontext von persönlicher Fitness und Motivation genutzt, sondern gezielt auf eine ideologisch aufgeladene Weise verknüpft. Während in normalen Fitness-Videos diese Werte oft als Teil einer gesunden Lebensweise und persönlicher Weiterentwicklung dargestellt werden, wird in rechtsextremen Videos der Begriff „Stärke“ in Verbindung mit einem Konzept von nationaler oder ethnischer Überlegenheit gebracht. „Gemeinschaft“ wird nicht nur als soziale Verbindung dargestellt, sondern oft als etwas, das sich von vermeintlich „Fremden“ abgrenzt und nur durch einen exklusiven, geschlossenen Kreis erhalten werden kann. Ein weiteres Unterscheidungsmerkmal sind häufig die begleitenden Kommentare und Hashtags, die in „harmlosen“ Fitness-Videos typischerweise motivieren sollen, während in den ideologisch aufgeladenen Videos Begriffe wie „Verteidigung der Heimat“, „Wiedergeburt der Nation“ oder ähnliche politische Symbole auftauchen, die den Eindruck erwecken, dass es bei der „Gemeinschaft“ um eine ethnisch oder national definierte Gruppe geht. Diese Begriffe und Codes sind ein klares Zeichen für eine rechtsextreme Ideologie, die versucht, nationale oder rassistische Exklusivität zu verbreiten. Die Übergänge zwischen vermeintlich harmlosen und problematischen Inhalten sind oft fließend und nicht immer klar erkennbar, da genau diese Graubereiche gezielt genutzt werden, um entsprechende Botschaften subtil zu vermitteln.
Manosphere
Die Manosphere – ein loses Netzwerk aus Gruppen wie „Men Going Their Own Way“ (MGTOW), „Men’s Rights Activists“ (MRA) und „Pick-Up Artists“ – bildet eine weitere subkulturelle Strömung im digitalen Raum, mit einer explizit antifeministischen und LGBTQ+-feindlichen Agenda. Akteurinnen und Akteure teilen die Überzeugung, dass die moderne Gesellschaft Männer benachteiligt, und machen Gleichstellungspolitiken für gesellschaftliche „Missstände“ verantwortlich. Frauen und queere Menschen werden dabei entmenschlicht und als nicht-vernunftbegabte, manipulative und triebgesteuerte Wesen beschrieben. Je nach Netzwerk müssten Männer infolgedessen Frauen entweder meiden (MGTOW) oder für Sex manipulieren und gefügig machen (Pick-Up-Artists). Besonders radikal ist die Incel-Community (Involuntary Celibates), die Frauen für ihre fehlenden sexuellen Beziehungen verantwortlich macht und Gewaltfantasien propagiert. Auffällig ist auch die teilweise Nutzung dieser Gruppen von antisemitischen Verschwörungserzählungen und rassistischen Narrativen wie beispielsweise der Verschwörungserzählung des Interner Link: „Großen Austauschs“ . Forschungsergebnisse der letzten Jahre verdeutlichen, dass sich Geschlechterdynamiken und Online-Radikalisierung zunehmend überschneiden, wodurch radikale Gedanken und Ideologien schneller und breiter in digitalen Räumen verbreitet werden. Ein herausragendes Beispiel dafür sind die Inhalte von Gruppen wie den Incels oder männlichen Suprematisten, die stark hierarchisierte und rigide Geschlechtervorstellungen propagieren. Dabei bleiben entsprechende Ideologien nicht auf explizit extremistische Gemeinschaften beschränkt. Vielmehr werden ihre zentralen Annahmen im Rahmen von Mainstreaming-Prozessen in populäre Online-Diskurse übersetzt, normalisiert und für breitere Zielgruppen zugänglich gemacht. In dieses Muster lässt sich auch das sogenannte „Looksmaxxing“ einordnen, das in der „Manosphere“ seinen Ursprung hat und einen Trend beschreibt, der insbesondere junge Männer dazu anregen soll, durch umfassende Selbstoptimierung unrealistische ästhetische Ideale zu erreichen. Dabei reproduziert „Looksmaxxing“ normative Vorstellungen körperlicher Attraktivität, die über geschlechtsspezifische Grenzen hinauswirken und in denen körperliche Attraktivität zunehmend als soziales und hierarchisierendes Bewertungskriterium verhandelt wird.
BeispielMisogyne Kampagne gegen Amber Heard
Die rechtsextreme Ausrichtung der Manosphere und ihr Potential misogyne Online-Kampagnen zu verstärken, wurde besonders im Prozess zwischen Johnny Depp und Amber Heard im Jahr 2022 deutlich. Der Prozess zwischen den beiden fand im Rahmen einer Verleumdungsklage statt, bei der Depp seine Ex-Frau Heard verklagte. Depp behauptete, dass Heard in einem 2018 veröffentlichten Artikel in der Washington Post fälschlicherweise von sich selbst als Opfer häuslicher Gewalt gesprochen habe, zwar ohne ihn namentlich zu nennen, aber Andeutungen gemacht habe, dass er der Täter gewesen sei. Er argumentierte, dass diese Aussagen seinen Ruf und seine Karriere erheblich geschädigt hätten und forderte Schadensersatz. Amber Heard reichte daraufhin eine Gegenklage ein, in der sie behauptete, dass Depp in den Medien eine Verleumdungskampagne gegen sie geführt habe, um ihre Glaubwürdigkeit zu untergraben. Beide Parteien warfen sich gegenseitig vor, im Rahmen ihrer Ehe Missbrauch begangen zu haben. Im Zuge des Verfahrens wurde Amber Heard zur Zielscheibe einer systematisch initiierten digitalen Hetzkampagne. Diese Angriffe, die vor allem von Nutzerinnen aus der Manosphere sowie von Unterstützerinnen der „#JusticeForJohnnyDepp“-Bewegung organisiert wurden, verbreiteten sich rasant auf Plattformen wie TikTok, YouTube und Twitter. Durch die gezielte Verbreitung von manipulierten Inhalten und koordinierten Postings wurde eine öffentliche Feindseligkeit gegen Heard geschürt, die nicht nur ihre Person angriff, sondern auch stereotype Geschlechterrollen und frauenfeindliche Narrative verstärkte. Unter dem Hashtag #AmberTurd (Turd ist die englische umgangssprachliche Bezeichnung für Kot) kursierten millionenfach geteilte Memes, Desinformationen und sexualisierte Beleidigungen gegen die Schauspielerin. Dabei wurde die Kampagne von zentralen Akteurinnen und Akteuren der Manosphere aktiv befeuert: Etwa von Influencern aus der „Men’s Rights“-Bewegung oder Incel-nahen Subkulturen, die den Fall instrumentalisierten, um ihre Erzählung vom „unterdrückten Mann“ gegen die vermeintliche Übermacht des Feminismus zu stärken. Gleichzeitig befanden sich in den Kommentarspalten und Meme-Kulturen auch antisemitische, rassistische und transfeindliche Inhalte. Außerdem gab es Hinweise auf eine ideologische Allianz mit rechtsextremen Strömungen, die Geschlechterpolitik als Teil einer umfassenden „kulturellen Zersetzung“ deuteten. Die Amber-Heard-Kampagne wirkte so als Katalysator, der frauenfeindliche Narrative über verschiedene ideologische Milieus hinweg normalisierte und emotional auflud. Soziale Medien verstärken diese Dynamik, indem sie Hasskampagnen auf die Schnittstellen von Geschlecht und Herkunft fokussieren und so die Delegitimierung sowie soziale Marginalisierung der Betroffenen systematisch vorantreiben.
Fußnoten
Ziele und Motive
Neben politischen und ideologischen Motiven gibt es auch finanzielle Anreize für Hasskampagnen. Influencer innerhalb der Manosphere steigern beispielsweise durch die Verbreitung von provokanten und kontroversen Inhalten auf YouTube ihre Reichweite, um so Werbeeinnahmen oder Spenden zu generieren. Durch Clickbait-Titel (d.h. Video-Überschriften, die bewusst darauf abzielen, die Neugier von Nutzerinnen und Nutzern zu wecken) und die Darstellung misogyner oder rassistischer Inhalte werden so hohe Klickzahlen erzielt und YouTube-Channel monetarisiert. Akteurinnen und Akteure werden entsprechend dazu angeregt, übertriebenes, sensationalistisches Clickbaiting zu betreiben und besonders radikale Inhalte zu produzieren, um mehr Reichweite zu generieren. Trolling in digitalen Räumen ist sowohl ein persönliches Motiv als auch eine gezielte Strategie. Das Motiv für viele Trolle ist die Lust an Provokation und der Freude an der Reaktion anderer, oft ohne Rücksicht auf Konsequenzen – teils aus Nihilismus. Ein weiteres persönliches Motiv kann Vergeltung sein, wenn andere Akteure als „fehlbar“ wahrgenommen werden. Ein Beispiel für diese Art des Trolling ist die „Stolzmonat“-Kampagne, die 2023 von rechtsextremen Akteuren, vor allem aus der Troll-Community „Honigwabe“, initiiert wurde. Die Kampagne zielte darauf ab, den Pride Month im Juni zu delegitimieren, indem eine angeblich „patriotische“ Alternative propagiert wurde.
Bedrohungslage
Die Bedrohung durch rechtsextreme Hasskampagnen kann für Einzelpersonen und gefährdete Gemeinschaften weitreichende Folgen haben. Besonders erwähnenswert ist hier das sogenannte Doxing. Der Begriff kommt von der englischen Redewendung „to drop docs”, die wortwörtlich für die Veröffentlichung von Dokumenten steht. Dabei werden ohne Zustimmung persönliche Daten der Betroffenen wie ihre Adresse, Telefonnummer, Arbeitsplatz oder Informationen über Angehörige veröffentlicht. Laut einer Studie von HateAid sind Konsequenzen von Doxing oft schwerwiegend, insbesondere weil persönliche Daten häufig dauerhaft im Internet erhalten bleiben und nur schwer gelöscht werden können. Dies stelle eine langfristige Bedrohung für die Privatsphäre der Betroffenen dar und erhöhe zudem das Risiko zukünftiger Angriffe. Demzufolge kann es nach der Veröffentlichung persönlicher Daten auch zu realen Übergriffen kommen wie Bedrohungen vor der Haustür.
Diese Folgen gehen für Opfer – von Doxing und Hasskampagnen im Allgemeinen – nicht selten auch mit sogenanntem „wirtschaftlichen Vandalismus“ einher. Der Ausdruck beschreibt die ökonomischen Verluste für Einzelpersonen, die durch Hasskampagnen entstehen. Sie umfassen unter anderem entgangene Arbeitsmöglichkeiten aufgrund reduzierter Auftragslagen, eingeschränkter Produktivität oder der Entscheidung vieler Betroffener, sich aus sozialen Netzwerken und dem öffentlichen Leben zurückzuziehen, um weiteren Angriffen zu entgehen. Laut einer internationalen Studie des International Center for Journalists (ICFJ) und der UNESCO (2022) berichteten 73 Prozent von über 900 befragten Journalistinnen aus 125 Ländern, dass sie Online-Gewalt im Zusammenhang mit ihrer Arbeit erfahren haben. Über 40 Prozent waren bereits Ziel koordinierter Desinformationskampagnen geworden. Rund ein Fünftel erlebte Übergriffe auch im realen Leben. Als Reaktion auf die Bedrohungen passten viele ihre Arbeitsweise an: 30 Prozent zensierten sich selbst online, 20 Prozent zogen sich aus Online-Interaktion zurück, 18 Prozent vermieden den Austausch mit ihrem Publikum. Etwa vier Prozent kündigten oder verließen ihre Position. Besonders betroffen waren mehrfach diskriminierte Journalistinnen. Eine repräsentative US‑Umfrage des Pew Research Center zeigt, dass etwa ein Drittel der Erwachsenen Online-Belästigung erlebt hat. Frauen sind dabei besonders häufig Opfer von sexualisierter Belästigung (16% der Frauen vs. 5% der Männer) oder von Stalking und berichten über stärkere emotionale Belastungen.
Präventionsansätze und Digitale Resilienz
Rechtsextreme Hasskampagnen im digitalen Raum erfordern mehrdimensionale Präventionsstrategien, die auf unterschiedlichen Ebenen ansetzen, verschiedene Wirklogiken verbinden und systematisch aufeinander bezogen sind.
Systemische Resilienz: Plattformgovernance
Ein zentraler systemischer Ansatz liegt in regulatorischen Rahmungen, die Plattformen zu struktureller Verantwortung, Transparenz und Rechenschaft verpflichten. Dazu gehört auch der Zugang zu Forschungsdaten, um algorithmische Verstärkungsmechanismen, Radikalisierungsdynamiken und Reichweitenlogiken empirisch untersuchen zu können und medien- sowie gesellschaftspolitische Entscheidungen evidenzbasiert zu fundieren. Ergänzend gewinnen gestalterische Ansätze wie Safety by Design und Democracy by Design an Bedeutung, die präventive Prinzipien frühzeitig in technische Architekturen, Interfaces und Plattformlogiken integrieren. Parallel dazu sind psychosoziale Unterstützungs- und Schutzmechanismen zentral, die Belastungen abfedern, Handlungsfähigkeit sichern und Folgen digitaler Gewalt begrenzen, ohne die Verantwortung auf Betroffene zu verschieben. Prävention wird so zunehmend als gesamtgesellschaftliche Aufgabe verstanden, die soziale Kohäsion stärkt und demokratische Teilhabe schützt.
Demokratische Informationsresilienz
Eine weitere Säule bilden Bildungs- und Resilienzansätze: insbesondere politische Bildung, kritische digitale Medienkompetenz sowie der reflektierte Umgang mit Desinformation in KI-geprägten Informationsökosystemen. Im Mittelpunkt steht dabei weniger reine Faktenvermittlung als die Stärkung von Orientierungs-, Urteils- und Handlungsfähigkeit unter Bedingungen fragmentierter, algorithmisch strukturierter und emotionalisierter Öffentlichkeiten. Ergänzend gewinnen Prebunking-Ansätze an Bedeutung, die auf der Inokulationstheorie (McGuire) basieren und durch die frühzeitige Offenlegung typischer Manipulationsstrategien – etwa emotionaler Rahmung, narrativer Vereinfachung, Verschwörungserzählungen und Othering – kognitive Abwehrmechanismen stärken. Dies umfasst auch ihre curriculare Verankerung sowie die Professionalisierung pädagogischer und präventiver Praxisfelder. Das Information Resilience Mapping Model verdeutlicht hierbei, dass Informationsresilienz nur im Zusammenspiel individueller, sozialer, institutioneller und politischer Ebenen über den gesamten Informationszyklus hinweg wirksam aufgebaut werden kann.
KI-Systeme wirken in diesem Kontext ambivalent: Sie ermöglichen einerseits neue Formen der Prävention, etwa durch Content-Moderation, Lernunterstützung oder datenbasierte Analyse, reproduzieren jedoch zugleich ökonomische Logiken der Aufmerksamkeitsmaximierung, enthalten systematische Biases und können so die Sichtbarkeit extremistischer Inhalte verstärken sowie bestehende Ungleichheiten reproduzieren. Damit prägen sie nicht nur Informationsflüsse, sondern strukturieren öffentliche Meinungsbildung selbst.
Emotional-relationale Ansätze
Aktuelle Präventionsansätze der digitalen Medienbildung berücksichtigen die emotionale und relationale Dimension digitaler Kommunikationsräume bislang nur unzureichend. Forschung zeigt jedoch, dass jenseits ideologischer Bindungen insbesondere identitätsstiftende und affektive Prozesse zentrale Einfallstore für Polarisierung und Radikalisierung darstellen. KI-Systeme fungieren dabei nicht nur als Informationskanäle, sondern als relationale Akteure, die über empathisch oder zustimmend wirkende Kommunikation Vertrauen und Bindung erzeugen. Dadurch werden nicht nur Inhalte bewertet, sondern auch emotionale Beziehungen aktiv mitgestaltet. Daraus ergibt sich der Bedarf nach Kompetenzen, die diese Bindungs- und Resonanzeffekte erkennen, reflektieren und einordnen, da sie als bislang unterbelichtete Form emotional-relationaler Einflussnahme zu verstehen sind. Eng damit verbunden ist die Entwicklung von Haltung und politischer Willensbildung insbesondere junger Menschen. Prävention und Bildung zielen daher nicht nur auf kognitive Kompetenzen, sondern auch auf die Fähigkeit, eigene Werte zu reflektieren, demokratische Orientierungen zu stabilisieren und sich in komplexen digitalen Aushandlungsprozessen handlungsfähig zu positionieren. Digitale Resilienz wird so zu einer zentralen Voraussetzung politischer Urteilsfähigkeit unter Bedingungen automatisierter Öffentlichkeiten. Die Auswirkungen von Informationsmanipulation und digitalem Hass sind dabei ungleich verteilt und verstärken bestehende soziale Ungleichheiten, insbesondere dort, wo Zugänge zu demokratischer Teilhabe, Bildung und Schutz bereits begrenzt sind. Digitale Räume können so bestehende Marginalisierungsprozesse weiter vertiefen.
Vor diesem Hintergrund sind rechtsextreme Hasskampagnen nicht allein als sicherheits- oder technikpolitisches Problem zu verstehen, sondern als Ausdruck grundlegender Fragen sozialpolitischer Gerechtigkeit und gesellschaftlichen Zusammenhalts.
(Die Autorinnen verwenden in ISD-Publikationen eine geschlechter- und identitätsinklusive Sprache und richten sich in dieser Publikation nach den Vorgaben der Bundeszentrale für politische Bildung. Wir danken unseren ISD-Kolleginnen und Kollegen Julia Ebner, Cornelius Adebahr, Jakob Guhl, Paula Matlach, Dominik Hammer, Gilda Sahebi, Leonie Oehmig und Luisa Schoneweg herzlich für ihre wertvollen Gedanken und Hinweise.)