Hate Speech und Inzivilität: Gegenmaßnahmen jenseits von Gegenrede | Soziale Medien – wie sie wurden, was sie sind | bpb.de

Nicht nur der Zugang für verschiedenste Akteur*innen, sondern auch zu einer Vielzahl von Themen wurde über soziale Medien möglich. Nutzer*innen sozialer Medien konnten Themen, die von den traditionellen Medien ignoriert wurden, auf die öffentliche Agenda setzen. Dadurch schienen diese Medien die normativen Anforderungen an eine deliberative Öffentlichkeit bestens zu erfüllen: Offenheit und adäquate Kapazität, soziale Probleme zu thematisieren. Nutzer*innen können in sozialen Medien nicht nur etwas thematisieren, sondern auch problematisieren, d.h. Ansichten einem Argumentationsprozess unterziehen. Damit wäre das deliberative Ideal der Diskursivität erfüllt.

Eine weitere Entwicklung schien das Schicksal sozialer Medien als Förderer der Demokratie zu bestätigen: In den 2010er Jahren folgten Onlinemobilisierungen mit demokratischen, sozialen oder freiheitlichen Zielen in vielen Ländern: der Arabische Frühling 2010, die Occupy-Bewegung in den USA 2011, die Movimiento 15-M, die Indignados in Spanien 2011 und 2012, die Vinegar-Proteste in Brasilien und die Gezi-Proteste in der Türkei 2013.

Das Ende des Optimismus

Der Internet-Optimismus endete jäh: Insbesondere während der Brexit-Kampagne und des Wahlkampfes von Donald Trump im Jahr 2016 wurden die destruktiven Seiten der neuen Medien für alle sichtbar. Rechtsaußen-Akteur*innen (Far Right) entdeckten das Potential sozialer Medien und nutzten die Medienlogik solcher Plattformen zu ihren eigenen Gunsten. Anschließend erschütterte der Cambridge-Analytica-Skandal die Öffentlichkeit. Hierdurch wurde öffentlich bekannt, dass Nutzer*innendaten bei Facebook an Wahlkampfteams weitergegeben wurden. Dies ermöglichte den Kandidat*innen, maßgeschneiderte 'Wahrheiten' nach den Wünschen der Wähler*innen anzubieten. Begriffe wie Microtargeting, Astroturfing, Click Farms, Troll-Fabriken und Social Bots wurden zu Schlagworten, die diese Enttäuschung begleiteten.

Das waren aber bei weiten nicht die einzigen digitalen Bedrohungen für die Demokratie, die der Phase des Internetoptimismus aus deliberativer Sicht ein Ende bereiteten. Zahllose Nutzer*innen instrumentalisierten die Offenheit des neuen Mediums auch, um historisch unterdrückte Gruppen zum Gegenstand von Herabsetzung und Hetze zu machen (Hate Speech). Statt Diskursivität beförderte das neue Medium Inzivilität und als deren Folge Sprachlosigkeit. Nutzer*innen und Politiker*innen wurden beschimpft, gedemütigt, lächerlich gemacht, bedroht und eingeschüchtert. Viele zogen sich daraufhin zunehmend aus der Öffentlichkeit und Politik zurück.

Die Reaktion der Betreiber*innen digitaler Plattformen auf gesellschaftliche Kritik trug grundsätzlich die Merkmale des deliberativen Modells in sich. Mark Zuckerberg redete davon, dass „das beste Argument gewinnt“, und vom Recht von Holocaustleugnern, falsch zu liegen . Elon Musk bezeichnete sich selbst als „free speech absolutist“. Die Folge war, dass Gegenrede zur „one-size-fits-all“-Lösung wurde. Jedes Mal, wenn von Hass und Hetze im Netz die Rede war, egal ob es sich um die Veröffentlichung einer privaten Adresse eines Politikers oder von Liebesvideos mit der Ex-Partnerin handelte oder ob Desinformationen über einzelne Personen verbreitet wurden: Die Lösung für alles schien einfach: dagegen argumentieren. Das Problem: Derartige Fälle sind nicht mit Gegenargumenten zu lösen. Auch stellt sich die Frage, ob und welches Ziel erreicht wird, wenn z. B. Argumente über die Existenz oder Gleichwertigkeit von Menschen zur Debatte stehen. Wenn Menschenwürde diskutiert wird, wird sie auch diskutabel.

Gesetz-Technologie-Bildung

Es wurde jedoch sehr bald deutlich, dass Gegenargumentation bzw. Counterspeech keine Lösung zur Bekämpfung von Hate Speech und Inzivilität in den sozialen Medien war und auch das beste Argument nur selten gewann. Das Gegenteil ist der Fall: Gegenrede kann sogar zu mehr Inzivilität führen und die digitale Öffentlichkeit in einem virtuellen „Gladiatorenring“ verwandeln. Deswegen gilt: Wer Gegenrede als Mittel nutzen möchte, muss sich so zivil wie möglich verhalten.

Far Right-Akteur*innen erkannten in der strategischen Polarisierung ein geeignetes Mittel, um die Gesellschaft zu spalten und binäre Weltanschauungen zu verbreiten. Durch Polarisierung versuchen sie erfolgreich, die Mitte der Gesellschaft dazu zu drängen, eine Seite zu wählen.

„Das beste Argument“ bzw. Gegenrede generiert zudem mehr Interaktionen. Was auf den ersten Blick positiv klingt, hat aber mehr als eine Facette. Eine hohe Interaktionsrate von Posts infolge des Konterns von Hate Speech und Inzivilität signalisiert digitalen Plattformen, deren Broterwerb aus Interaktionen besteht, dass symbolische Angriffe ein gutes Geschäft sein können. Manche davon, wie Meta, haben sogar angefangen, derartige polarisierende Inhalte zu puschen, um noch mehr Interaktion zu bekommen.

Im Ergebnis wurde deutlich, dass individuelle Ansätze bzw. der gute Willen einzelner Social-Media-Nutzer*innen allein das Problem nicht lösen können. Es folgten Gesetze auf nationaler und europäischer Ebene, wie das Netzwerkdurchsetzungsgesetz in Deutschland und der Digital Service Act in der EU. Viele deutsche Bundesländer gründeten Meldestellen für Betroffene und die Betreiber digitaler Plattformen wurden aufgefordert, Inhalte zu moderieren.

Der Ansatz Gesetz-Technologie-Bildung ist durchaus erfolgreich. Hierbei werden unterschiedliche Maßnahmen auf juristischer, technologischer und pädagogischer Ebene gegen Hate Speech und Inzivilität eingesetzt, wodurch auch verschiedene soziale Akteur*innen involviert werden. Auf der gesetzgeberischen Ebene übernimmt der Staat die Verantwortung für die Regulierung der Onlinekommunikation und die Durchsetzung der Gesetze in der Onlinewelt. In Bezug auf die Technologie werden wiederum die Plattformen aufgefordert, hetzerische und herabwürdigende Inhalte nicht mehr zu puschen, sondern diese gegebenenfalls zu entfernen sowie durch ihre technische Architektur stärker einen Dialog statt Konflikte zu fördern. Hinsichtlich der Bildung geht es darum, die Medienkompetenz bezüglich des Umgangs mit digitalen Medien zu erhöhen, was nicht nur soziales, sondern auch technisches Grundlagenwissen verlangt.

Diese Bindung ist allerdings eine stete Gratwanderung. Ein negatives Beispiel stellt hier TikTok dar, dessen Vorgehen zur Vermeidung von Hate-Speech unter anderem darin bestand, Menschen aus der LGBTQIA+ Bewegung schlicht unsichtbar zu machen. Welche Handlungsoption bieten sich in diesem Rahmen für durchschnittliche Social-Media-Nutzer*innen?

Alternativen zur Gegenrede

Es existieren zahlreiche Alternativen zum Argumentieren mit Onlinehater*innen. Alle haben jedoch eines gemeinsam: Sie erfordern Medienkompetenz, um die Funktionsweise digitaler Plattformen zu verstehen und sich dort auf kompetente und kreative Weise gegen Hate Speech und Inzivilität einzusetzen.

Handelt es sich um potenziell strafbare Inhalte, wie zum Beispiel die Leugnung des Holocausts oder die Verwendung verfassungswidriger Symbole, besteht die Möglichkeit, eine Meldestelle zu kontaktieren. Allerdings muss hier das Material sachgerecht gesichert sein, um eine Strafverfolgung zu ermöglichen. Hierfür bieten Organisationen wie HateAid Hilfe.

Eine andere Möglichkeit ist es, Nutzer*innen im eigenen Account zu blocken. Allerdings ist das Blocken mit Bedacht zu verwenden, um den freien Austausch von Ideen nicht zu beeinträchtigen. Beschimpfungen, Drohungen, Einschüchterungen sind zum Beispiel keine Einladung zu einem Austausch. Greifen Social Media- Nutzer*innen wiederholt auf solche Formen von Kommunikation zurück, kann Blocken eine Alternative darstellen.

Alternativ können problematische Inhalte bei den Plattformen selbst gemeldet werden (Flagging). Diese Gegenmaßnahme erweist sich aber häufig als unproduktiv. Dies liegt zum einen daran, dass Nutzer*innen auf ihre Meldung hin oft die Antwort bekommen, dass die angezeigten Inhalte nicht gegen die Standards der digitalen Plattform verstoßen. Zum anderen, weil antidemokratische Nutzer*innen selbst das Flagging nutzen können, um Aktivist*innen wie Feminist*innen zum Schweigen zu bringen. Die Chance, diese Strategie erfolgreich gegen problematische Inhalte zu verwenden, erhöht sich jedoch, wenn einzelne Nutzer*innen sich an kollektive Akteure wenden, z.B. Organisationen, die gegen Hate Speech, Rassismus o.ä. vorgehen und die problematischen Inhalte bzw. Hater*innen anzeigen. Diese Organisationen können eine Beschwerde weitaus erfolgreicher an eine Plattform herantragen.

Eine weitere Maßnahme besteht im Online Shaming: Das Fehlverhalten wird durch die Verbreitung der problematischen Inhalte (inklusive der Identität der Hater*innen) öffentlich angeprangert. Allerdings ist diese Gegenmaßnahme sowohl ethisch als auch juristisch umstritten, wie der Fall Sigrid Maurer in Österreich zeigte. Die Politikerin bekam über den Nachrichtendienst Messenger zahlreiche Nachrichten mit obszönen Inhalten. Als Reaktion darauf veröffentlichte sie diese Nachricht samt des Nutzernamens des Absenders online. Der Nutzer stritt die Urheberschaft der Nachrichten ab und verklagte am Ende die Politikerin. Die Klage wurde allerdings zurückgezogen.

Um solche Situationen zu vermeiden, sollte zuerst versucht werden, die Botschaft als problematisch zu offenbaren, indem man das Problem – und nicht unbedingt die Nutzer*innen – beim Namen nennt. In einem von Munger entwickelten Experiment mit Social Bots konnte die offene Nennung des Fehlverhaltens die Anwendung von rassistischen Schimpfwörtern reduzieren. Allerdings spielten andere Faktoren ebenfalls eine Rolle, wie die Hautfarbe und die Anzahl der Follower*innen von widersprechenden Nutzer*innen.

Posten Nutzer*innen die Botschaft weiter, etwa um Empörung gegen den verstörenden Inhalt bei anderen zu erwecken und/oder die Hater*innen zu beschämen, sollten sie darauf achten, die Interaktionskette zu brechen. Das ist wichtig, um den Plattformbetreibern zu signalisieren, dass sie mit Hass und Hetze keinen Interaktionen und damit auch kein Geld verdienen können. Es ist daher z.B. sinnvoller, einen Screenshot des Beitrages zu machen und diesen zu posten, als einfach den Inhalt samt Link zu teilen.

Nicht interagieren kann ebenfalls als Gegenmaßnahme fungieren. Es geht hier nicht darum, zu schweigen, sondern die Hater*innen und die Plattformen nicht mit Interaktionen zu füttern. Das ist der Fall bei unbekannten Nutzer*innen, die versuchen, Debatten zu diskreditieren oder zu kapern, indem sie sich abwertender Aussagen gegen eine Minderheit oder unzivilen Verhaltens bedienen. In solchen Fällen gilt es, den „Troll“ nicht zu füttern.

Von zentraler Bedeutung ist in allen Fällen, die Situation richtig einzuschätzen. Das heißt konkret: Die Logik der jeweiligen Plattform zu kennen und das Forum zu analysieren, in dem die Botschaft gepostet wurde: Um wen handelt es sich bei der postenden Person? Ist es eine öffentliche oder eine unbekannte Person? Sind wir persönlich betroffen oder werden wir kollektiv aufgrund eines Identitätsfaktors wie Hautfarbe, Geschlecht, Religion angegriffen? Welche Rolle haben wir selbst in diesem Forum? Sind wir Betroffene oder Beistehende? Was wollen wir mit unserer Gegenmaßnahme erreichen? All diese Faktoren spielen eine Rolle, wenn wir entscheiden wollen, ob wir z.B. auf eine Interaktion verzichten, höflich reagieren, Nutzer*innen blockieren oder die Hassmeldestelle anschreiben.

Sind die potenziellen Hater*innen öffentliche Personen, wird ein Nicht-Interagieren kaum einen Effekt haben. Werden wir persönlich beschimpft oder bedroht, können wir Anzeige erstatten. Wird Hass gegen eine Minderheit angestiftet, kann das gemeldet werden und der Staat muss aktiv werden. Höflich mit Gegenargumenten zu reagieren kann potenziell einen positiven Effekt bei Privatpersonen haben, die im Netz entgleisen. In diesen Fällen kann Gegenrede durchaus das geeignete Mittel der Wahl sein. Gegenüber „professionellen“ Hater*innen, wie rassistischen oder rechten Überzeugungstäter*innen, wird der Gegenargument, auch wenn es höfflich kommuniziert wird, kaum etwas bewirken. Der Fokus sollte in diesen Fällen nicht darauf liegen, Hetze mit „guten Argumenten“ entgegenzutreten, sondern zu vermeiden, dass man selbst verhetzt wird. In diesem Kontext sind die Identifikation und offene Nennung des Problems produktiver.

Last but not least, Social Media-Nutzer*innen können sich organisieren und kollektiv gegen Hate Speech und Inzivilität vorgehen. Koordinierter Counterspeech, so Schieb und Preuss, ist erfolgversprechender als einzelne Interventionen. Auch andere kollektive Strategien haben sich als erfolgreich erwiesen. Ein Beispiel dafür liefern dänische Facebook-Nutzer*innen. Diese beobachteten gemeinsam fiktive Profile vermeintlicher Muslim*innen, über die Hass gegen ethnische Gruppen verbreitet wurde, und offenbarten sie anschließend als Fake-Profile.

Fazit

Unabhängig von der eigenen Perspektive ist zu konstatieren, dass das deliberative Modell in den sozialen Medien in den meisten Fällen nicht funktioniert. Neben den (nur selten anwendbaren) gesetzlichen Maßnahmen bleibt der Gesellschaft vor allem eine Option, um Demokratie und freien Meinungsaustausch zu ermöglichen: Medienkompetenz. Dazu gehört die Fähigkeit, Hass und Hetze als solche zu erkennen. Notwendig ist es zudem die Medienlogik der Social Media-Plattformen zu verstehen, damit klar wird, dass bloße Empörung und Gegenrede auf demütigende und spaltende Inhalte Hate Speech und Inzivilität erst zu einem guten Geschäft machen.

Jenseits der Gegenrede braucht es aber vor allem neue, kreativere Wege im Kampf gegen Hate Speech und Inzivilität. Nicht zuletzt braucht es aber auch mehr sozialen Zusammenhalt sowie ein stärkeres Bewusstsein für das uns alle Verbindende in der Vielfältigkeit unserer Gesellschaft.