Rick vor der Kamera.

22.3.2019 | Von:
Sebastian Schöbel-Matthey

Übernehmen Algorithmen die Weltherrschaft?

Der Facebook-Algorithmus bestimmt, welche Beiträge man sieht, und der YouTube-Algorithmus bestimmt, welche Videos einem vorgeschlagen werden: Die Formeln, nach denen Plattformen ihre Inhalte auf die errechneten Interessen der Nutzer abstimmen, beeinflussen zunehmend, wie wir das Netz – und damit auch die reale Welt – wahrnehmen. Was steckt dahinter?


Algorithmen sind Abfolgen von genau definierten Arbeitsschritten, die nacheinander ausgeführt zu einem bestimmten Ergebnis führen. Meist versteht man darunter komplexe Rechenvorgänge, aber auch ein einfaches Backrezept kann als Algorithmus beschrieben werden: Man mische genau abgemessene Mengen bestimmter Zutaten, bearbeite sie auf eine vorgeschriebene Art und Weise, erhitze das Ganze für eine definierte Zeit bei einer festgelegten Temperatur und erhalte eine bestimmte Backware. Jede exakt gleiche Wiederholung sollte zum exakt gleichen Ergebnis führen. Im Netz sind Algorithmen freilich viel komplexere, mathematische Berechnungen in Form von Codes, die zum Beispiel Web-Inhalte filtern und individuell angepasst anzeigen – basierend auf großen Mengen an Nutzerdaten, die von Plattformen wie Facebook, YouTube oder Amazon gesammelt werden. Bei komplexen Vorgängen wie diesen kann das vorgegebene "Ergebnis" auch als Zielvorgabe verstanden werden. Um beispielsweise die Watch Time, also die Sehdauer, auf einer Plattform zu erhöhen, reicht natürlich nicht eine Regel. Stattdessen wird eine Vielzahl von Regeln angewandt, die voneinander und auch von wechselnden Nutzerdaten abhängen. Das Ergebnis bzw. die Zielvorgabe zu erreichen, ist also gar nicht so leicht, weswegen vor allem Algorithmen von Social-Media-Plattformen häufiger umgestellt werden, um sie aus Sicht der Plattformbetreiber weiter zu optimieren.

Zuletzt wurde vor allem der Algorithmus von Facebook diskutiert: Der neue "News Feed" [1], der in Deutschland etwa seit März 2018 aktiv ist. Mark Zuckerberg hatte in einem Facebook-Post [2] einige Details verraten: Inhalte, die von Freunden verbreitet oder kommentiert wurden, werden demnach häufiger angezeigt als Inhalte von offiziellen Facebook-Seiten, die zum Beispiel von Unternehmen und Medienhäusern betrieben werden, um ihre Nachrichten zu verbreiten. Laut Facebook soll das vor allem die "Aufenthaltsqualität" im Netzwerk verbessern: Die Nutzenden und ihre Freundeskreise sollen wichtiger sein als irgendeine Firma, die Werbung verbreiten will. Aber Kritikerinnen und Kritiker sagen, am Ende gehe es doch nur um Geld: Die Unternehmen sollen für die wenigen – und damit teureren – Werbeplätze auf Facebook zahlen, um auf diese Weise doch noch in die News Feeds der Nutzerinnen und Nutzer zu gelangen.

Die Welt durch die Algorithmus-Brille gesehen

Die Änderung des Facebook-Algorithmus löste zum wiederholten Mal eine Debatte über den Einfluss der versteckten Logik hinter den sozialen Netzwerken aus: Denn Plattformen wie Facebook, Instagram oder Google beeinflussen, wie ihre Nutzer die Welt sehen. "Was dort nicht stattfindet, das hat auch in der Welt nie stattgefunden", spitzt es der bekannte deutsche Technik-Journalist Richard Gutjahr zu. Facebook und Co. lösen zunehmend die traditionellen und journalistischen Vorgaben unterworfenen Medien in ihrer Rolle als Informationsfilter ab. Damit fehlt bei der Berichterstattung über aktuelle Ereignisse oft die Überprüfung von Informationen: Recherche wird durch Mutmaßung ersetzt – oder durch Manipulation.

Welche Auswirkung das haben kann, zeigte die letzte Präsidentschaftswahl in den USA: Nach dem Sieg von Donald Trump offenbarten viele Studien, wie weitgehend der Einfluss von sogenannten "Fake News" [3], also gezielt gestreuter Falschnachrichten, auf das Wählerverhalten war. Am stärksten verbreitet wurden solche Nachrichten mit zum Teil rassistischen, ausländerfeindlichen Inhalten über soziale Medien – befeuert von der Logik der Algorithmen, die nicht nach inhaltlicher Qualität, sondern nach ermittelten Interessen der Nutzenden filtern. Das Ergebnis: Eine Informations-Blase, in der bestehende Meinungen zum Teil auch durch falsche Informationen weiter bestätigt und konträre Meinungen und Fakten ausgeblendet werden.

Der nächste Schritt: Künstliche Intelligenz

Wie sehr ein Algorithmus die Sicht auf die Welt beeinflussen kann, lässt sich allerdings nicht nur bei Facebook nachweisen. So zeigte zum Beispiel der Social-Media-Experte Ray Serrato, dass der für die deutsche YouTube-Seite eingesetzte Algorithmus Nutzern nach einem Tötungsdelikt in Chemnitz im August und September 2018 verstärkt rechtsgerichtete Inhalte empfahl. [4] Nach einer Messerstecherei im Sommer 2018, bei der ein Deutscher zu Tode kam, waren zwei Asylbewerber als Verdächtige verhaftet worden. Nach Bekanntwerden des Vorfalls wurden auf YouTube verstärkt irreführende Inhalte sowie gezielt gestreute "Fake News" in den Suchergebnissen angezeigt. [5] Rechtsextreme und rechtspopulistische Gruppierungen riefen zu mehreren Demonstrationen in der Stadt auf. Es kam zu gewalttätigen Auseinandersetzungen, über die auch internationale Medien berichteten.

Das Beispiel zeigt, wie gefährlich die Logik der Social-Media-Algorithmen sein kann: Ausgerichtet auf das kommerzielle Interesse der Anbieter sollen die Userinnen und User vor allem Beiträge sehen, mit denen häufig interagiert wurde, um so eine möglichst lange Verweildauer zu garantieren – denn je länger sie bleiben, desto mehr Werbung schauen sie sich an. Ob – wie in diesem Fall – viele der vorgeschlagenen Videos gezielte "Fake News" beinhalteten, wurde nicht beachtet. Nach kritischer Berichterstattung zur Wirkungsweise von Algorithmen im Fall Chemnitz reagierte YouTube und passte seinen Algorithmus an. In den Suchergebnissen zu Chemnitz sollten fortan bevorzugt Berichte von vertrauenswürdigen Quellen angezeigt werden. [6] Nach welchen Kriterien dies passierte, wurde nicht offengelegt.

Die Codezeilen der Algorithmen sind die Basis für den wirtschaftlichen Erfolg der Konzerne, die dazu gespeicherten Nutzerdaten zementieren ihre Macht. Zudem investieren die Konzerne längst in die Technologie, welche die Algorithmen auf die nächste Entwicklungsstufe heben: Künstliche Intelligenz (KI). Die Algorithmen "lernen" ständig dazu, entwickeln sich aufgrund der gesammelten Nutzerdaten und veränderten Vorgaben der Internetkonzerne selbständig weiter.

So können sie inzwischen weit mehr, als nur Suchergebnisse im Internet filtern. Google setzt die Technologie etwa in seinem "Google Assistant" ein, einem Programm, das man per Spracheingabe steuern kann und das in Zukunft die Schnittstelle zwischen Menschen und dem "Internet der Dinge", quasi dem vernetzten Haushalt, sein soll. Künstliche Intelligenz soll es dem Assistant erlauben, beinahe menschenähnliche Konversationen [7] führen zu können. Google hat zuletzt Millionen für den Kauf mehrerer KI-Startups ausgegeben [8] und betreibt in Zürich ein eigenes Forschungszentrum für KI [9].

Lassen sich die Konzerne in die Karten schauen?

Die Bundesregierung hat Ende 2018 Eckpunkte für eine KI-Strategie [10] beschlossen. Sie verfolgt vor allem zwei Ziele: Einerseits soll Deutschland "zu einem führenden Standort für die Entwicklung und Anwendung von KI-Technologien" gemacht werden, andererseits will man Regeln aufstellen, um die "verantwortungsvolle und gemeinwohlorientierte Entwicklung und Nutzung von KI sicherzustellen".

Damit steht auch die oben angesprochene Frage im Raum, ob Internetkonzerne wie Google oder Facebook ihre Algorithmen ganz oder teilweise offenlegen sollten, weil die Technologien bestehende Vorurteile eher bestärken. So berichtete etwa die Politikwissenschaftlerin Julia Krüger bei der Konferenz re:publica 2018 [11] über Algorithmen, die Menschen nach bestimmten Kriterien unterscheiden und kategorisieren können. Das könne aber zum Beispiel dazu führen, dass ein Programm zur automatisierten Bewerberauswahl Frauen gegenüber Männern benachteilige, weil Frauen oft längere Unterbrechungen in ihren Karrieren haben – vor allem, weil sie Kindern bekommen. Ein anderes Beispiel ist Software zur Gefährdungsprognose, die etwa in den USA zur Bewertung von potentiellen Straftätern eingesetzt wird. Hier habe es immer wieder Beispiele für die Diskriminierung von schwarzen Männern gegeben. Krüger forderte auf, dass Vertreter der Zivilgesellschaft bei der Entwicklung dieser Technologie einbezogen werden sollten.

Die Bundesregierung hat bereits gefordert, dass Facebook und andere Konzerne ihre Algorithmen offenlegen. [12] Weit gekommen ist sie damit nicht: Mehr als die Zusage, das Ansinnen "wohlwollend prüfen" zu wollen, gab Facebook nach einem Spitzentreffen 2018 nicht. "Wir verstehen, dass Transparenz der Algorithmen für die deutschen Bürger wichtig ist", sagte Facebook-Manager Joe Kaplan, der im April 2018 im Digitalausschuss des Bundestags zu Gast war. Facebook teile das Ziel, durch Algorithmen niemanden diskriminieren oder benachteiligen zu wollen. "Wir wollen gemeinsam daran arbeiten, Rahmenbedingungen zu entwickeln, die auf den Prinzipien Transparenz, Kontrolle und Nichtdiskriminierung basieren", so Kaplan.

Ob solche Versprechen ernst gemeint sind, darf zumindest bezweifelt werden. Das wurde zuletzt Anfang Februar 2019 deutlich, als das Bundeskartellamt Facebook untersagte, auf verschiedenen Plattformen gesammelte Nutzerdaten zusammenzuführen. Facebook kündigte umgehend an, dagegen juristisch vorgehen zu wollen. Denn während die Netzgiganten zum Beispiel in Wettbewerbs- und Steuerfragen für europäische Behörden durchaus angreifbar sind, gilt das nicht für grundsätzliche Fragen der Unternehmensführung. Google machte jedenfalls bereits deutlich: Algorithmen sind ein Geschäftsgeheimnis. Und angesichts der Macht der Internet- und Technologiekonzerne ist die Frage offen, ob Politiker ihre Forderungen nach mehr Transparenz umsetzen können. Die Auseinandersetzung geht weiter.

Wie sehr Algorithmen und künstliche Intelligenz heute und in Zukunft unser aller Leben bestimmen, wird allerdings nicht so sehr in Gerichten entschieden, sondern im gesamtgesellschaftlichen Diskurs. Denn welche Regeln wir für die lernenden Maschinen brauchen, kann und muss am Ende der Gesetzgeber entscheiden – und der wird in Deutschland von den Wählerinnen und Wählern bestimmt. Für informierte Entscheidungen auf allen Seiten bedarf es jedoch mehr Transparenz darüber, wie weit der Einfluss von Algorithmen bereits reicht – und auch einer (selbst)kritischen Diskussion, dass die treibende Kraft dahinter unsere Bereitschaft zur Übermittlung persönlicher Daten ist.

Fußnoten

1.
https://www.zdf.de/nachrichten/heute/facebook-startet-news-feed-in-deutschland-100.html
2.
https://www.facebook.com/zuck/posts/10104413015393571
3.
https://www.npr.org/2018/04/11/601323233/6-facts-we-know-about-fake-news-in-the-2016-election?t=1549486194671
4.
https://algorithmwatch.org/how-youtubes-algorithm-amplified-the-right-during-chemnitz/
5.
http://faktenfinder.tagesschau.de/inland/chemnitz-fakes-trauerspiel-101.html
6.
Youtube ändert Nachrichten-Anzeige: Verlässliche Quellen vor rechten Blogs. Online: http://www.belltower.news/artikel/youtube-%C3%A4ndert-nachrichten-anzeige-verl%C3%A4ssliche-quellen-vor-rechten-blogs-14248 [03.10.2018]
7.
http://www.spiegel.de/netzwelt/web/google-duplex-auf-der-i-o-gruselig-gute-kuenstliche-intelligenz-a-1206938.html
8.
http://www.spiegel.de/wirtschaft/unternehmen/google-kauft-start-up-deepmind-fuer-kuenstliche-intelligenz-a-945668.html
9.
https://www.sueddeutsche.de/digital/algorithmen-so-trainiert-google-kuenstliche-intelligenz-1.3759233#redirectedFromLandingpage
10.
https://www.bmbf.de/de/bundesregierung-beschliesst-strategie-kuenstliche-intelligenz-7337.html
11.
https://www.youtube.com/watch?v=TuF5VLVMYso
12.
Positionspapier der Bundesrepublik Deutschland zum Regelungsumfeld für Plattformen, Online-Vermittler, Daten, Cloud Computing und die partizipative Wirtschaft, 2016 (pdf) https://www.bmwi.de/Redaktion/DE/Downloads/P-R/positionspapier-zum-regelungsumfeld-plattformen-online-vermittler.pdf?__blob=publicationFile&v=4

Mediathek

The Cleaners

Tausende externe Mitarbeiter sichten für Facebook, Youtube, Twitter und weitere Social Media Angebote Fotos und Videos. Der Film erzählt von ihrer belastenden Arbeit, bei der sie im Sekundentakt über das Löschen oder Veröffentlichen entscheiden. Die Kriterien und Vorgaben dieser Arbeit sind eines der am besten geschützten Geheimnisse der Internet Giganten. Wer kontrolliert, was wir sehen und was wir denken?

Jetzt ansehen

Big Data ist Realität und Big Data wird unser Leben verändern. Über Big Data wachsen Medienbildung und politische Bildung untrennbar zusammen. Diese Website liefert Material für die Bildungsarbeit: Mit exemplarischen Thesen und herausragenden Vertreter_innen dieser Disziplinen, Einführungen, Definitionen, Bild- und Tondokumenten und vor allem Handreichungen für die Praxis.

Mehr lesen

Das Netz, das sind Kabel und Kno­ten, Ser­ver und Rechen­zentren, und die sind fest in pri­va­ter Hand. Der Tele­kom gehört dabei ein gro­ßer Teil der Netz­in­fra­struk­tur, sie ist fast schon so etwas wie ein Mono­po­list, fin­den zumin­dest Blogger Björn Grau und Frei­fun­ker Jür­gen Neu­mann.

Jetzt ansehen

Medienpolitik ist ein komplexes und differenziertes Aufgabenfeld mit vielen Inhalten: Film, Fernsehen, Online-Anwendungen, Telekommunikation und Presse. Hier werden einige der wesentlichen Abläufe und beteiligten Akteure vorgestellt.

Mehr lesen

Damit Big Data und KI tatsächlich Treibstoff für neue gesellschaftsverträgliche, faire und nachhaltige Geschäfte werden können, müssten mindestens drei Bedingungen erfüllt sein: • Dezentralisierung: Zwingt zur Kooperation und zu neuen technischen Konzepten, erschwert Monopolbildung sowie Machtkonzentration und –missbrauch. • Transparenz: Einsichtnahme in die Funktionsweise der Technik ermöglicht Widerspruch. • Transnationale Regulierung: Erschwert sowohl auf staatlicher wie unternehmerischer Seite das Prinzip ‚Teile und herrsche‘.

Jetzt ansehen

Publikation zum Thema

Bewegtbildung denken – Beiträge zu Webvideo und politischer Bildung im Social Web

Bewegtbildung denken – Beiträge zu Webvideo und politischer Bildung im Social Web

Das EPUB "Bewegtbildung denken“ des Netzwerks bewegtbildung.net liefert einen Überblick über aktuelle Debatten sowie Praxis- und Forschungsansätze im Feld politischer Bildung mit und in Webvideo.Weiter...

Zum Shop