Achtung, Desinformationen! Die Europawahl auf TikTok | Lernen mit – und über – TikTok | bpb.de

Bislang zeigt sich der Bundeskanzler nicht öffentlich mit nacktem Oberkörper. Auf TikTok jetzt schon? Und er ist tätowiert? Es handelt sich hier klar um Falschinformationen. Genau dieser Moment des Zögerns und Zweifelns, der Moment, in dem Nutzerinnen und Nutzer sich nicht mehr sicher sind, ob sie etwas glauben oder auch nicht glauben können, ist bereits ein Ziel von Desinformation. Also dem Verbreiten faktisch falscher Informationen mit Täuschungsabsicht. Denn wer das “könnte ja sein” mitdenkt, wer einen Politiker oder Politikerin nicht mehr ernst nimmt, weil er oder sie die Person immer und immer wieder als KI-animierte Marionette ausgespielt bekommt und die Botschaft “muss weg” am Rande mitliest, der wird möglicherweise beeinflusst, wenn auch subtil. Weitere Accounts veröffentlichen Anfang Mai ungestört ähnliche Videos, obwohl TikTok – wie andere Plattformen auch – angekündigt hat, „manipulierten Inhalte, die irreführend sein könnten“, einschließlich KI-generierter Inhalte von Persönlichkeiten des öffentlichen Lebens nicht zu erlauben. Wie wirksam solche KI-generierten Täuschungen sein können, zeigt sich unter anderem in den Kommentaren. Unter dem Bodybuildervideo von Olaf Scholz sind sich Nutzerinnen und Nutzer trotz des kleinen Hinweises auf KI nicht so sicher, ob das Video jetzt echt sei oder nicht. So wird Desinformation Teil von Interner Link: Propaganda. Hier wird versucht Denken, Handeln und Fühlen von Menschen gezielt zu beeinflussen.

Hybride Bedrohungen

„Wir wissen, dass diese Wahlperiode in der Europäischen Union entweder durch hybride Angriffe oder ausländische Einmischung aller Art ins Visier genommen wird“, hat EU Binnenmarktkommissar Thierry Breton im Februar 2024 festgestellt. „Dabei versuchen diese fremden Staaten, auch mittels nicht-staatlicher Akteure, durch den koordinierten Einsatz verschiedener Instrumente ihre Ziele gegen unsere Interessen und Werte offen oder verdeckt durchzusetzen. Sie beabsichtigen hierbei, unsere Demokratie zu schwächen und zu destabilisieren.“ Externer Link: So beschreibt es das Bundesinnenministerium. Im Mittelpunkt dieser Bemühungen sind zunehmend Plattformen wie TikTok, Facebook oder Instagram. Denn Desinformationen lassen sich über soziale Medien und Plattformen viel leichter und ressourcenärmer verbreiten, weil alle Nutzenden heute potenziell jederzeit Desinformation selbst erstellen oder einem großen Publikum verfügbar machen können. Die Verbreitung von einfachen KI-gestützten Apps macht es umso leichter, manipulierte Audios, Bilder und zunehmend Videos anzufertigen. Die Verbreitung von Desinformation durch KI-generierte Audioinhalte ist derzeit die größte Sorge,Externer Link: berichtet das European Digital Media Observatory und verweist auf ein Beispiel aus der Slowakei, wo zwei Tage vor der Parlamentswahl 2023 manipulierte Audios eines Politikers für öffentlichen Aufruhr sorgten.

Eine spezielle EU-Task Force untersuchte im Jahr 2023 insgesamt 750 Vorfälle, bei denen ausländische Akteure vorsätzlich irreführende Informationen verbreiteten, Externer Link: berichtet die Deutsche Welle. Wie in den Vorjahren, war Russland die Hauptquelle und „versuchte, seinen Angriffskrieg gegen die Ukraine zu rechtfertigen“, schrieben die Autoren des Dokuments desExterner Link: Europäischen Auswärtigen Dienstes (EAD).

Der EAD kürzt die Bedrohung durch ausländische Informationsmanipulationen und -eingriffe mit dem Begriff FIMI ab. Er steht für Foreign Information Manipulation and Interference, also die Manipulation und Einmischung mittels Informationen durch Kräfte von außen. Oder wie es auf der Website des Bundesinnenministeriums beschrieben wird: „Bestimmte, oftmals autokratische Staaten versuchen gezielt, hierzulande das Wahlverhalten zu beeinflussen sowie insgesamt die Legitimität unserer Wahlen in Zweifel zu ziehen und das Vertrauen der Bürgerinnen und Bürger in demokratische Prozesse und Institutionen zu schwächen“ . Zum Beispiel mit gezielt verbreiteten falschen oder irreführenden Informationen (Desinformationen), die bisweilen von Gutgläubigen ohne Täuschungsabsicht aber nicht minder gefährlich weiterverbreitet werden (Misinformationen). Siehe hierzu auch das entsprechende Kapitel Interner Link: “Falsche Informationen, Kriegspropaganda und wie man sie erkennt”.

Die Beeinflussung über Plattformen wie TikTok ist ungleich leichter geworden, da wir uns am Beginn des 21. Jahrhunderts in einer grundlegend und irreversibel veränderten Informationslandschaft befinden. Statt einer durch traditionelle Medienanbieter geprägten Informationsordnung des 20. Jahrhunderts, erleben Nutzerinnen und Nutzer im 21. Jahrhundert auf ihren Endgeräten täglich ein schier endloses Nebeneinander von Nachrichten, emotional vorgetragenen Meinungen und absichtlich oder unabsichtlich geteilten Falschinformationen, die dank technologischer Entwicklung zunehmend einfach zu manipulieren sind. Die Folge – eine Informationsunordnung (Information Disorder) oder Informationsverschmutzung (Information Pollution).

Wer täuscht mit welchen Zielen

Vier Mal im Jahr veröffentlicht TikTok seinen sogenannten Transparenzbericht. Der Bericht, Externer Link: den das Unternehmen am 19. März 2024 publiziert, hat es in sich. Nach eigenen Angaben hat TikTok ein versteckt operierendes Netzwerk entdeckt, das zentrale Botschaften russischer Staatsmedien und Pro-AfD-Narrative verbreitet. Das ist zunächst einmal nichts Neues. Im Sommer 2022 hatte ein russisches Desinformationsnetzwerk bestehend aus rund 1700 verschiedenen Accounts Kriegspropaganda auf TikTok an mehr als Hunderttausend EU-Bürgerinnen und Bürger ausgespielt. Pro-AfD Botschaften waren vor der Bundestagswahl 2021 über Interner Link: gefälschte offiziell aussehende Benutzerkonten wie beispielsweise @derbundestag auf TikTok ausgespielt worden. Aber diesmal operiert das Netzwerk laut TikTok direkt aus Deutschland. Es habe sich um einen Versuch gehandelt, den öffentlichen Diskurs in Deutschland zu manipulieren, so TikTok. 32 zu dem Netzwerk gehörende Konten seien gelöscht worden.

Russland und China zählen zu den zentralen globalen Desinformationsakteuren. Beide haben in den vergangenen Jahren TikTok als Plattform zur Verbreitung von Falschinformationen genutzt, um eigene Narrative global zu verbreiten. Seit Beginn des russischen Angriffskrieges auf die Ukraine haben russische Akteurinnen und Akteure unterschiedliche Zielgruppen mit verschiedenen Narrativen bespielt. Hierzu wurden beispielsweise Fakten so verdreht, dass die völkerrechtskonforme Unterstützung gegen den rechtswidrigen Angriffskrieg Russlands auf die Ukraine als illegitim dargestellt wurde, um eine Spaltung der Öffentlichkeit zu erreichen. So wurde etwa die NATO entgegen aller Fakten als Aggressor gegen Russland dargestellt oder der Ukraine ihre Souveränität und ihrer Staatsführung die Legitimation abgesprochen. Und das mit Erfolg. Eine bevölkerungsrepräsentative Externer Link: Umfrage der gemeinnützigen Organisation Cemas (Center für Monitoring, Analyse und Strategie) im November 2022 zeigt einen Anstieg aller Zustimmungswerte zu pro-russischen Verschwörungserzählungen in der deutschen Gesamtbevölkerung. Im Mittelpunkt vieler Desinformationskampagnen: TikTok. Russlands staatlich kontrollierte Medien überschwemmen TikTok mit Desinformation über die Ukraine, berichtet Ciarán O’Connor in einer Externer Link: Analyse des Institutes for Strategic Dialogue (ISD) im März 2022. Eine weitere Strategie der russischen Propagandaakteure ist das Einbinden von reichweitenstarken Influencern auf der Plattform. Presseberichte weisen nach, dass diese in Telegramgruppen gebrieft worden seien, welche Inhalte sie wie über TikTok verbreiten sollten. Russlands Ziel vor der Europawahl: Die Integrität der Europawahlen in Frage stellen, demokratiefeindliche Akteurinnen und Akteure stärken und im öffentlich Diskurs für Unsicherheit sorgen.

Welche Rolle TikTok vor Wahlen spielen kann, zeigt das Beispiel Taiwan. China nutzte die Plattform im Vorfeld der Präsidentenwahl in Taiwan im Januar 2024, um das demokratische System der Insel zu untergraben. Dafür wurden sowohl TikTok Influencer und KI-manipulierte Videos, so genannte Deepfakes eingesetzt als auch koordinierte Attacken durchgeführt. TikTok hatte bereits im Sommer 2023 rund 284 Accounts entfernt, die mit einer chinesischen Desinformationskampagne in Australien assoziiert wurden. Es ist zu vermuten, dass die Dunkelziffer nicht von TikTok erkannter oder gesperrter Accounts deutlich höher liegt.

Natürlich ist TikTok nicht die einzige Plattform, die für Manipulation und Propaganda im Vorfeld von Wahlen genutzt wird. So hat die Europäische Kommission Anfang Mai 2024 ein Verfahren gegen den US-amerikanischen Konzern Meta eröffnet. Der Vorwurf: Das eigene Werbeprogramm so gestaltet zu haben, dass es von russischen Akteuren für Desinformation im Vorfeld der Wahlen zum Europäischen Parlament genutzt werden kann. Genauso, wie zuvor beispielsweise bei den Parlamentswahlen in der Slowakei 2023.

Wie sehen Desinformationen auf TikTok aus und welche Narrative werden verbreitet

Windräder sind krebserregend. Zumindest behaupten das Externer Link: TikTok-User wie Christina Kaufmann. Das Bild eines angeblich zwei bis drei Jahre alten Windrades kommentiert sie mit der Feststellung, die Erosion setze Nanopartikel frei. Diese „fliegen bis 100 km weit und sind lungengängig und krebserregend“. Einzelne Videos mit ähnlichen Botschaften erreichen auf TikTok bis zu 200.000 Aufrufe. Die Externer Link: Faktenchecker von Correctiv haben die Behauptungen analysiert. Ihr Fazit: Laut der Bundesanstalt für Materialforschung und -prüfung ist die Freisetzung von Fasern, die lungengängig sein können, bei der Erosion unwahrscheinlich. Die Partikel seien zudem nach wenigen hundert Metern so verdünnt, dass sie ungefährlich seien. Windräder generell eignen sich perfekt zum Anheizen von politischen Debatten. Denn verschiedene politische Lager beurteilen die Sinnhaftigkeit von Windrädern unterschiedlich. Dabei wird die Diskussion vor allem von Windkraftgegnern bisweilen sehr emotional geführt. Ein perfekter Nährboden für eine Zuspitzung auf Grundlage faktisch falscher Tatsachenbehauptungen, die sich in einen von Rechtspopulisten verbreiteten thematischen Kanon einfügen.

Manipulationsversuche wie dieser sind meist emotional gestaltet, subtil und auf spezifische Zielgruppen zugeschnitten. Sie alle eint, dass sie jeweils spezielle Ziele verfolgen und häufig faktisch falsche Informationen nutzen. Diese stehen im Mittelpunkt einer breit angelegten Untersuchung der Externer Link: Europäischen Beobachtungsstelle für digitale Medien, kurz EDMO . Im März 2024 haben die beteiligten Wissenschaftlerinnen und Wissenschaftler Externer Link: einen neuen Bericht vorgelegt. Die Task Force hat Desinformationsnarrative im Vorfeld der Europawahlen 2024 untersucht. Dafür wurden über 1000 veröffentlichte Artikel zur Faktenprüfung von nationalen Wahlen in zwölf europäischen Ländern analysiert. Das Ergebnis: Weitverbreitete Desinformationen im Wahlkampf in allen betrachteten Ländern. Das Ziel: Die Wahlen zu delegitimieren. Obwohl jedes Land eigene Themen aufweist, die von nationalen Faktoren abhängen, gibt es zentrale Themen, die sich ähneln. So zum Beispiel den Krieg in der Ukraine, den menschengemachten Klimawandel, die EU und ihre Institutionen, Wirtschaftsthemen (Steuern, Inflation), Genderthemen, Migration und Geflüchtete, Gesundheit und Covid und Sicherheitsbedrohungen.

Der muslimische Fastenmonat Ramadan ist beispielsweise auch immer wieder Gegenstand für Falschbehauptungen. Häufig geht es hier darum, dass sich angeblich nicht-muslimische Abläufe den muslimischen anpassen sollen, was Hass und Hetze schüren kann, berichten die Faktenchecker von Correctiv und entlarven ein TikTok-Video, in dem behauptet wird, die Externer Link: EU wolle aus Rücksicht auf Muslime die Zeitumstellung bis nach Ramadan aussetzen. Dadurch könnten Fastende eine Stunde früher essen. Der Screenshot im TikTok-Beitrag zeigt eine Satire-Meldung aus dem Jahr 2023. Zudem richtet sich die Fastenzeit im Ramadan nicht nach der Uhrzeit, sondern nach der Sonne. Eine Falschmeldung. Der Kontext der Satire-Meldung wird hier aber bewusst ausgeblendet, um Stimmung gegen Mitbürgerinnen und Mitbürger muslimischen Glaubens zu schüren. Wie in vielen Desinformationen steckt auch hier ein Fünkchen Wahrheit. Denn Diskussionen darum, die Zeitumstellung in der Europäischen Union abzuschaffen, gab es immer wieder. Dies hat zwar nichts mit der geschilderten Behauptung zu tun, führt aber bei Nutzerinnen und Nutzer gegebenenfalls zu einem „Ja, das hab ich schon mal irgendwo gehört“-Moment. Und verstärkt so gegebenenfalls islam- und muslimfeindliche Ressentiments.

Die umfassenden und besorgniserregenden Auswirkungen von Desinformationen gehen über die Wahlentscheidung hinaus, schreibt Federica Marconi des European Policy Centers. Desinformationskampagnen könnten das allgemeine Vertrauen in den Wahlprozess, seine Ergebnisse, die für die Berichterstattung verantwortlichen Medien und in Politikerinnen und Politiker untergraben und zum Vertrauensverlust in demokratische Gesellschaften führen.

Die Task Force des European Digital Media Observatory verweist in einem Externer Link: Disinfo Bulletin auf jüngste falsche Behauptungen, die besagen, dass Britta Ernst, die Frau des deutschen Bundeskanzlers Olaf Scholz, eine Transgender-Frau sei. Eine ähnliche Behauptung sei kürzlich gegen Brigitte Macron, die Frau des französischen Premierministers, verwendet worden. Sucht man nun auf TikTok nach Britta Ernst, ergänzt die TikTok-Suche automatisch „Britta Ernst ein Mann“. Zu Brigitte Macron finden sich Videos mit Titeln wie „The shocking truth behind the First Lady of France“. Zu sehen sind recht offensichtliche Fotomontagen von Brigitte Macron mit schwarzen Bartstoppeln. Das Ziel: Politisches Personal und Angehörige diskreditieren und gleichzeitig gegen queere Menschen Stimmung machen.

Wie lassen sich falsche Informationen und Manipulationsversuche erkennen

Auf den ersten raschen Blick könnte es sich bei dem TikTok-Account wirklich um einen Account der Bundesagentur für Arbeit handeln. Das Profilbild hat ein offiziell scheinendes Logo und der Name „Jobcenter“ steht im Nutzernamen. In einem Video heißt es, dass Ukrainer ab dem 1. März eine Bonuszahlung von 500 Euro bekommen sollen. Der angebliche Grund dafür: „Eine kleine Aufmunterung wegen des Krieges“. Das Video erreichte zehntausende Menschen und verbreitete sich auch außerhalb von TikTok. Erst beim Blick auf die Profilseite lässt sich die Beschreibung „Alles Satire, mein Profil dient zur Unterhaltung“ lesen. Das sehen Nutzerinnen und Nutzer aber nur, wenn sie auf das Profil klicken. Im Video fehlt der Hinweis, dass es sich hier um eine erfundene Tatsache handelt.

Das Beispiel zeigt, dass bei der Nutzung der App immer auf irreführende oder inkonsistente Informationen geachtet werden sollte. Eine rasche Kontextanalyse des Accounts kann Hinweise auf die Glaubwürdigkeit des Profils geben. Natürlich lässt sich mit einem Kurzcheck ein Account nicht abschließend verifizieren, er schärft aber das Bewusstsein für einen kritischen Umgang mit der App und Informationen im Allgemeinen. So sollten Fragen wie: „Was sehe ich hier eigentlich? Kann ich diese Informationen überprüfen? Wer hat das mit welchem Interesse gepostet?“ zum täglichen Nachrichtenkonsum dazugehören. Vor allem, wenn er auf einer Plattform stattfindet, auf der jede und jeder mit einem Smartphone beliebige Informationen posten kann. TikTok sollte demnach nicht die einzige Informationsquelle sein. Quellen wie tradierte Medien, wissenschaftliche Zeitschriften oder offizielle Websites von staatlichen Akteuren, etc. sollten ergänzend herangezogen werden. Vorsicht ist vor allem bei hoch emotionalisierenden Inhalten geboten, setzen manipulative Videos doch häufig genau hier an.

Neben diesen konkreten Tipps – Externer Link: wie sie beispielsweise auch die Amadeu Antonio Stiftung bereithält – gibt es einige generelle Hinweise, die helfen können, sensibler im Umgang mit möglicherweise manipulierten oder falschen Informationen zu werden. Denn trotz kritischer App-Nutzung ist es wahrscheinlich, dass die meisten Nutzerinnen und Nutzer selbst auch irgendwann einmal auf falsche Informationen hereinfallen. Diese Erkenntnis lässt sich für einen reflektierten Umgang nutzen. „Seien Sie skeptisch, aber seien Sie nicht zynisch. Es ist ein schmaler Grat zwischen den beiden, aber es ist wichtig, ihn einzuhalten.“ So formuliert es Yotam Ophir, Assistenzprofessor am Department of Communication der University at Buffalo Externer Link: gegenüber Euronews.