"Das derzeitige Fundament von KI ist nicht tragfähig" | Digitale Zivilgesellschaft | bpb.de

werkstatt.bpb.de: Frau Chukunzira, in welchem Kontext sprechen Sie von digitalem Kolonialismus?

Angela Chukunzira: Es ist sehr schwer, den digitalen Kolonialismus vom ursprünglichen Konzept des historischen oder klassischen Kolonialismus zu trennen. Letztlich beschreibt der Begriff die Evolution des Kolonialismus im digitalen Zeitalter. Um das an meinem Kontext zu verdeutlichen: Ich komme aus Kenia. Die ostafrikanischen Staaten erlangten in den frühen 1960er-Jahren ihre Unabhängigkeit von Großbritannien. Was in den Jahrzehnten danach geschah, wird teilweise ebenfalls als Kolonialismus bezeichnet – allerdings sprechen wir seit dem Ende der britischen Besatzung von „Neokolonialismus“. Der Begriff „digitaler Kolonialismus” markiert eine Fortschreibung kolonialer Machtverhältnisse. Der Unterschied ist, dass der digitale Kolonialismus oft physisch nicht sichtbar ist, da er vermeintlich digital stattfindet. Inzwischen sind jedoch nicht mehr nur die Peripheriestaaten betroffen, sondern auch Menschen im globalen Norden. Das liegt daran, dass sich Großkonzerne weltweit private Daten aneignen und monetarisieren.

Einordnung Digitaler Kolonialismus

Der Begriff „Digitaler Kolonialismus“ beschreibt Macht- und Abhängigkeitsverhältnisse, die durch die globale Digitalisierung entstehen oder verstärkt werden. Technologiekonzerne und Staaten aus den westlichen Industriestaaten – zunehmend auch aus China – kontrollieren digitale Infrastruktur, Plattformen und Datenströme und nutzen Rohstoffe, Arbeitskraft und Daten des sogenannten Globalen Südens unter häufig ausbeuterischen Bedingungen. Konkret zeigt sich dies etwa im Abbau kritischer Rohstoffe für digitale Geräte, in „Clickwork“ oder in der Abschöpfung von Daten ohne angemessene Gegenleistung. Vertreterinnen und Vertreter des Konzepts wie der Kommunikationswissenschaftler Nick Couldry und Ulises A. Mejias sehen darin eine Fortsetzung kolonialer Strukturen mit digitalen Mitteln. Kritikerinnen und Kritiker wenden ein, die Analogie zum historischen Kolonialismus könne dessen spezifische Gewalt relativieren und den Begriff analytisch unscharf machen.

werkstatt.bpb.de: Frau Grünberger, wie würden Sie den Begriff im Rahmen Ihrer Arbeit definieren?

Nina Grünberger: Mein Hintergrund liegt in der Medienbildung, und ich arbeite mit Studierenden bzw. mit angehenden Lehrkräften. Medienbildung fokussiert etwa die Frage, wie wir digitale Technologien nutzen wollen. In den letzten fünf bis zehn Jahren hat mein Team und ich den Blick verstärkt auf Produktionsprozesse digitaler Technologien und deren Auswirkungen auf die Lebensbedingungen auf unserem Planeten – also auf Nachhaltigkeit – im Kontext digitaler Entwicklungen gerichtet.

Will man das Thema Nachhaltigkeit umfassend bearbeiten, müssen Aspekte wie soziale Ungleichheit regional und global berücksichtigt werden. Dafür müssen wir auch die Geschichte des Kolonialismus und dessen Verhältnis zur Entwicklung und Produktion digitaler Technologien verstehen: Wer produziert digitale Technologien? Wer verfügt über das Wissen dazu – und wer nicht?

Das große Problem von Phänomenen des digitalen Kolonialismus ist deren Unsichtbarkeit. Kolonialismus an sich ist ein hochkomplexes Thema. in einer Zeit der Postdigitalität wird es ein noch viel komplexeres und noch viel schwerer sicht- und lösbares Problem. Gerade deshalb halte ich es für wichtig, zu diesem Thema in interdisziplinären Zusammenhängen zusammenzuarbeiten.

werkstatt.bpb.de: Frau Chukunzira, Sie arbeiten an der Schnittstelle von KI-Entwicklung und Arbeitsrechten in Kenia. Welche Arbeit steckt im Training von KI-Modellen und unter welchen Bedingungen wird diese Arbeit verrichtet?

Angela Chukunzira: Ich arbeite derzeit mit der Externer Link: Datalabelers Association zusammen. The Datalabelers ist eine selbstorganisierte Initiative von Datenarbeitern und Clickworkern. Ihr Ziel ist es, den oft unsichtbaren Arbeitskräften hinter KI-Technologien eine Stimme zu geben. Sie setzt sich weltweit für Anerkennung und faire Arbeitsbedingungen von Datenarbeitern und Clickworkern ein. In diesem Sektor arbeiten überwiegend junge Menschen zwischen 18 und 25 Jahren unter prekären und häufig traumatischen Bedingungen.

In Kenia sind Arbeiter und Arbeiterinnen in einem Kreislauf des „projektbasierten“ Überlebens gefangen. Sie arbeiten monatelang 18 bis 20 Stunden am Tag ohne vertragliche Sicherheiten in kurzfristigen Beschäftigungsverhältnissen. Oft jonglieren sie mehrere Projekte gleichzeitig und opfern ihren Schlaf und ihre Gesundheit, um ihre Lebensgrundlage zu sichern. Auf drei Monate Arbeit folgen oft fünf Monate Arbeitslosigkeit, was ständige Existenzangst auslöst.

Gleichzeitig trainieren diese Arbeiter und Arbeiterinnen selbstfahrende Autos oder andere High-End-Geräte, die sie selbst niemals besitzen werden und für die die lokale Infrastruktur in Kenia gar nicht ausgelegt ist. KI-Technologien werden häufig als „smart“ beworben, etwa wenn ein „künstlich intelligenter“ Staubsauger zwischen einem Neugeborenen, einer Socke und Staub unterscheiden kann. Tatsächlich basiert diese Intelligenz jedoch auf menschlicher Arbeit. Menschen verbringen Stunden vor Bildschirmen, um der Maschine, die hinter dem KI-Staubsauger steht, anhand von Bildern zu erklären, was diese saugen soll und was nicht. Doch die Arbeit ist nicht immer so banal: Datenarbeiter aus der Datalabelers Association haben mir berichtet, dass sie über Monate hinweg Bilder von Leichen kategorisieren oder andere verstörende Bilder benennen mussten – ohne zu wissen, für wen sie arbeiten und was der Zweck dieser Arbeit ist. Andere werden angewiesen, hochgradig persönliche Bilder bereitzustellen – etwa Fotos von sich während der Schwangerschaft oder von ihren Kindern, ohne zu wissen, von wem und wofür diese Daten verwendet und gespeichert werden. Diese Form der Arbeit hinterlässt tiefe Spuren. Viele leiden unter Posttraumatischen Belastungsstörungen (PTBS).

werkstatt.bpb.de: Was sind aus Ihrer Sicht die dringendsten Reformen im Bereich der Arbeiterrechte von Datenarbeiterinnen und -arbeitern oder Clickworkern?

Angela Chukunzira: Zunächst braucht es dringend Transparenz. Hinter diesen sogenannten projektbasierten Aufgaben der Datenarbeiter und Clickworker stehen Firmen wie Meta, Appen, Toloka, Hive Work oder Forma. Vieles spricht dafür, dass diese Unternehmen die Arbeit dieser Menschen bewusst unsichtbar halten, damit Konsumentinnen und Konsumenten die menschliche Arbeit hinter den Technologien nicht sehen. Die meisten dieser Firmen sind Multi-Milliarden-Unternehmen. Da stellt sich für mich die Frage, warum sie für diese fehlende Transparenz nicht zur Rechenschaft gezogen werden. Die fehlende Transparenz ist ein entscheidender Grund dafür, warum digitaler Kolonialismus keine größere Aufmerksamkeit erhält. Außerdem braucht es psychologische Unterstützung und einen Einsatz für Arbeiterrechte, der über Lohnfragen hinausgeht.

werkstatt.bpb.de: Könnten Sie noch etwas genauer darauf eingehen, was im Produktionsprozess geschieht und wie sich dieser auf die betroffenen Gesellschaften auswirkt?

Angela Chukunzira: Die Lieferkette von KI ist deutlich weiter gefasst, als sich viele vorstellen können. Der Kreislauf beginnt beim Rohstoffabbau von beispielsweise Lithium aus Chile oder Seltenen Erden aus China. Hinzu kommen die enormen Umweltkosten für den Betrieb dieser Systeme. Jeder einzelne KI-Prompt verbraucht Wasser; multipliziert man das mit Millionen von Prompts pro Minute, ergibt sich eine Wasserkrise, die ganze Gemeinden betreffen.

Der sogenannte Globale Süden, der die globale Mehrheit der Weltbevölkerung stellt, wird von der Tech-Industrie vielerorts wie ein „Müllhalde“ behandelt: Wir liefern viele Rohstoffe, wir leisten schlecht bezahlte Arbeit, und am Ende wird unser Land – etwa durch die Verarbeitung von Elektroschrott in Accra in Ghana – zur tatsächlichen Deponie. Unsere Städte werden zu menschenfeindlichen Umgebungen, in denen die Lebensbedingungen vom Verfall geprägt sind. Diese Bedingungen sind Auswirkungen kolonialer Strukturen.

Einordnung Globaler Süden / Globaler Norden

Die Begriffe Globaler Süden und Globaler Norden bezeichnen keine geografischen Regionen im wörtlichen Sinne. Sie sind soziale Konstruktionen, die auf ein geopolitisches und wirtschaftliches Gefälle zwischen Staaten aufmerksam machen wollen. Ein Land des Globalen Südens gilt demnach als politisch, wirtschaftlich oder gesellschaftlich benachteiligter Staat, während Länder des Globalen Nordens eine bessergestellte Position hinsichtlich Wohlstand, politischer Freiheit und wirtschaftlicher Entwicklung einnehmen. Geprägt hat den Begriff „Globaler Süden“ der US-amerikanische Autor und Aktivist Carl Ogelsby im Kontext des Vietnamkriegs. Populär wurde die Unterscheidung maßgeblich durch den „Brandt-Report“ von 1980, den eine Kommission unter Vorsitz des ehemaligen Bundeskanzlers Willy Brandt im Auftrag der Weltbank erstellt hatte. Er teilte die Welt anhand ökonomischer Kriterien in Norden und Süden ein. Der Begriff „Globaler Süden“ hat dabei Begriffe wie „Dritte Welt“ oder „Interner Link: Entwicklungsländer“ abgelöst. Er sollte die geteilte Erfahrung struktureller Ausgrenzung vieler Länder – in der großen Mehrzahl ehemalige Kolonien – im globalen System verdeutlichen und wird in aktivistischen Kreisen inzwischen auch in Abgrenzung zur Unterscheidung zwischen Ländern „mit niedrigem“, „mit mittlerem“ und „mit hohem Einkommen“ verwendet, in der sich mit dem alleinigen Fokus auf ein wirtschaftliches Kriterium für „Entwicklung“ eine markliberale Logik widerspiegelt. Der Begriff „Globaler Süden“ ist damit vor allem ein (entwicklungs-)politischer Begriff, der auf die lange Geschichte globaler Ungleichheit und Machtasymmetrien aufmerksam machen will. Selbst Länder, die inzwischen global einflussreich sind – wie Indien, China oder die Vereinigten Arabischen Emirate –, werden weiterhin als „Interner Link: Schwellenländer“ klassifiziert. In den Sozialwissenschaften wird das Begriffspaar daher unter anderem im Kontext von Ungleichheitsforschung verwendet.
Wie die meisten anderen Begriffe, sind die Begriffe „Globaler Süden“ und „Globaler Norden“ nicht neutral, wertfrei und unumstritten, zudem auch nicht analytisch scharf; eine einheitliche Definition fehlt bislang. Zu den zentralen Kritikpunkten zählen: die Gefahr der Reproduktion von Stereotypen, eine Einheit zu behaupten bzw. ungleiche Machtverhältnisse / Entwicklungsstadien innerhalb des Globalen Südens zu verdecken, oder die Handlungsmacht (Agency) bestimmter Länder (etwa mit Blick auf China) zu verneinen; weitere Kritikpunkte richten sich an die geografische Ungenauigkeit des Begriffspaares (Australien etwa wird dem Globalen Norden zugerechnet, während die VAE zum Globalen Süden gezählt werden – trotz ihres Reichtums) oder es wird kritisiert, dass es ein dezidiert politischer Begriff sei. Gleichzeitig bereiten alternative Begriffe wie „Industriestaaten“, „Entwicklungs- und Schwellenländer“ oder „Staaten mit niedrigem/hohem Einkommen“, bei denen eine starke eurozentristische Perspektive mitschwingt, ähnliche Schwierigkeiten.

werkstatt.bpb.de: Gibt es, als Folge dessen, lokale Profiteure?

Angela Chukunzira: Ich glaube nicht, dass wir von klarer Korruption in diesem Kontext sprechen können, aber Politiker vor Ort sind häufig selbst Aktionäre von Tech-Unternehmen und profitieren dadurch von diesem System. Wenn Tech-Unternehmen in Kenia werben, wird dies zudem oft als Chance für die Beschäftigung von Jugendlichen verkauft. Genau das ermöglicht es diesen Unternehmen, zu florieren.

werkstatt.bpb.de: Wo zeigen sich die von Ihnen beschriebenen Machtverhältnisse noch?

Angela Chukunzira: Diese Dominanz zeigt sich auch kulturell. Schauen Sie sich die Algorithmen an: Mein Social-Media-Feed ist beispielsweise voll von amerikanischen Rezepten – wo ist der afrikanische Content? Menschen produzieren überall auf der Welt Inhalte, doch die Technologie ist so gestaltet, dass der digitale Raum von westlicher Kultur dominiert wird. Viele sogenannte Content Creator sind zu 24-Stunden-Arbeitenden für Tech-Konzerne geworden. Sie filmen ihr Leben vom Aufwachen bis zum Einschlafen. Sie geben ihre Privatsphäre, ihre Wohnungen und ihre kulturellen Identitäten für „Peanuts“ preis. Es ist zutiefst problematisch und unethisch, wie unser alltägliches Leben systematisch in Daten verwandelt und ökonomisch verwertet wird.

Nina Grünberger: Ich stimme dem, was Frau Chukunzira sagt, vollkommen zu und möchte ergänzen: Wir tappen leicht in die Falle zu denken, die „glänzende“ digitale Technologie, die wir beispielsweise in europäischen Bildungskontexten nutzen, wäre irgendwie getrennt von den problematischen Arbeitsbedingungen der Clickarbeiter und Clickarbeiterinnen, die Frau Chukunzira beschreibt. Aber: Wir leben auf einem gemeinsamen Planeten und unsere Gesellschaften sind miteinander verflochten. Wenn wir digitale Technologien als saubere und glatte Artefakte sehen, ohne ihre Herkunft und ihre Entstehungs- und Produktionsgeschichte zu hinterfragen, ignorieren wir den Umstand, dass wir alle Teil dieses Systems sind.

werkstatt.bpb.de: Wie kann das Thema digitaler Kolonialismus im Bildungskontext adressiert werden, Frau Grünberger?

Nina Grünberger: Die Begriffe „Kolonialismus“, „Kolonialität“ und „Digitalität“ lenken den Blick auf tief verankerte Strukturen, die sich über lange Zeit hinweg hartnäckig halten. Ich hege nicht die Illusion, dass wir irgendwann in einer Welt leben werden, die für alle vollkommen gleich oder frei von Machtverhältnissen ist. Die entscheidende Frage ist vielmehr, wie – und in welchem Ausmaß – wir von ihnen beherrscht werden. Deshalb ist es eine zentrale Aufgabe der Bildungsarbeit, diese komplexe Lage anschaulich zu vermitteln. Auch wenn ich nicht glaube, dass die Art und Weise, wie Menschen digitale Technologien grundsätzlich nutzen, einfach veränderlich ist, ist es entscheidend, sich bewusst zu machen, dass die eigene Technologienutzung die Welt mitgestaltet. Die Förderung des Bewusstseins über die Mitgestaltung der digitalen Infrastrukturen und damit der Machtverhältnisse durch die individuelle Nutzung und Mitentwicklung digitaler Technologien sollte ein zentrales Ziel von Medienbildung sein.

Ich versuche deshalb mehr und mehr, das gängige Narrativ zu verändern oder zu irritieren, wir seien IT-Monopolen, die scheinbar alles beherrschen, machtlos ausgeliefert. Gegen dieses Gefühl der Ohnmacht müssen wir angehen, damit Menschen sich vorstellen können, wie eine Welt mit digitalen Technologien bspw. auch gemeinwohlorientiert sein könnte. Diese beiden Aspekte – Heranwachsenden eine neue Perspektive auf digitale Technologien und deren Nutzung zu eröffnen und ko-kreativ Ideen für eine bessere Zukunft in der Postdigitalität zu entwickeln – mögen klein erscheinen, sind aus meiner Sicht aber von großer Bedeutung.

werkstatt.bpb.de: Haben Sie konkrete Ideen für den Unterricht oder Szenarien, die man sich anschauen könnte?

Nina Grünberger: Wir haben in mehreren Projekten didaktische Szenarien und – auf Deutsch und Englisch – frei zugängliche Lehr-Lernmaterialien zum Thema Digitalität und Nachhaltigkeit entwickelt, erprobt und selbst schon oft eingesetzt. Wichtig dabei ist, dass der Begriff Nachhaltigkeit als Schlüssel dient, um schließlich auch zu Themen wie soziale Ungleichheiten oder post- und neokoloniale Verhältnisse in der Postdigitalität zu arbeiten. Dabei ist es wesentlich, nicht bei der Kritik der Probleme stehen zu bleiben, sondern kollektiv – manchmal groß visionierend, manchmal kleiner dafür konkreter – überhaupt potenziell zukünftige Gegenentwürfe zur aktuellenLebenswelt mit digitalen Technologien zu entwerfen. Da hilft es eben auch konkrete Beispiele zu benennen, kollektiv zu sammeln und darüber zu sprechen.

werkstatt.bpb.de: Was sind die größten Herausforderungen bei der Entwicklung einer ethisch vertretbaren KI?

Angela Chukunzira: Ich würde gerne eine gewisse utopische Zuversicht teilen. Doch die Realität ist, dass das derzeitige Fundament von KI nicht tragfähig ist: Wenn ein Haus auf einem schwachen Fundament gebaut wird, bekommt es irgendwann Risse und stürzt ein. Wir brauchen meiner Meinung nach völlig neue Grundlagen und ein Umdenken darin, wie wir KI-Modelle trainieren – zumal Technologie niemals wirklich neutral sein kann. Voreingenommenheit (Bias) ist ein Teil von Menschen, und weil Menschen diese Maschinen entwickeln und trainieren, werden sich diese Bias immer auch in die Maschinen selbst einschreiben. Vielleicht besteht ein Ansatz darin, ethische Leitlinien zu entwickeln, die dieses menschliche Element in der Technologie anerkennen, anstatt so zu tun, als könne Technologie ohne unsere Unvollkommenheiten existieren.

Nina Grünberger: Ich stimme zu und erinnere an Melvin Kranzbergs berühmt gewordenen Satz: „Technik ist weder gut noch böse; noch ist sie neutral.“ Das Problem ist, dass Tech-Unternehmen aktiv versuchen, unser Alltagsleben so stark zu beeinflussen, dass wir am Ende glauben, nicht einmal mehr eine E-Mail ohne KI-Unterstützung schreiben zu können. In vielerlei Hinsicht wird diese Technologie für Zwecke eingesetzt, für die sie nicht unbedingt entwickelt wurde. Es werden Technologien entwickelt für Bedarfe, die es möglicherweise gar nicht gab.

Ich denke, wir sollten zwischen fachspezifischen, sinnvollen Anwendungen – etwa dem Einsatz von KI in der Medizin zur Früherkennung von Krebs – und der eher unnötigen oder nicht unbedingt nötigen Automatisierung alltäglicher Aufgaben unterscheiden. Wenn wir die Notwendigkeit solcher Werkzeuge kritisch prüfen, reduziert sich der tatsächliche Einsatzbereich von KI auf sehr wenige Situationen, in denen sie wirklich hilfreich ist. Während KI etwa beim Übersetzen in eine andere Sprache die internationale Kommunikation unterstützen kann, ist es für die meisten Menschen nicht dringend notwendig, sie zum Schreiben einer E-Mail in der eigenen Muttersprache zu verwenden. Wir sollten genau benennen, wo KI-Technologien tatsächlich einen Mehrwert bieten; und wo eben nicht.

werkstatt.bpb.de: Welche Änderungen wären Ihrer Meinung nach nötig, um die aktuelle Situation für Datenarbeitende im Technologiesektor zu verbessern?

Angela Chukunzira: Im Kontext sozialer Bewegungen, aus dem ich komme, geht es vor allem darum, bei den Datenarbeiterinnen und Datenarbeitern selbst ein Bewusstsein für fairere Arbeitsbedingungen zu entwickeln.

Die Arbeiterinnen und Arbeiter der Data Labelers Association etwa rufen beispielsweise auch Forschende aus dem Globalen Norden dazu auf, das Feld zu untersuchen. Denn Studien und belastbare Belege können politische Veränderungen anstoßen. Das ist entscheidend, denn rechtliche Rahmenbedingungen halten mit der technologischen Entwicklung kaum Schritt: Gesetze zu erlassen und zu ratifizieren dauert oft Jahre, und in vielen Regionen werden bestehende Regelungen zudem weitgehend straffrei ignoriert.

Letztlich bedeutet Veränderung, Menschen zu mobilisieren und ihr Bewusstsein zu stärken. Es geht darum, die Gemeinschaften zu stärken, die von den Produktionsbedingungen digitaler Technologien besonders betroffen sind, damit sie sich zusammenschließen und sagen können: „Genug.“ Dazu gehört auch, dass KI-Arbeiterinnen und -Arbeiter Solidarität mit Menschen an Orten wie dem Kongo zeigen, wo der Abbau von Mineralien mit Gewaltverbrechen verbunden ist.

Wir müssen die Vorstellung zurückweisen, dass Menschen keine Handlungsmacht hätten. Menschen können „Nein“ sagen und einfordern, dass planetare Grenzen respektiert werden. Wir können nicht alles jederzeit ausbeuten – sonst werden wir daran zugrunde gehen. Für mich beginnt genau dort der Weg zur Veränderung.

Nina Grünberger: Aufbauend auf Frau Chukunziras Gedanken möchte ich ergänzen, dass wir auch die Rolle der Wissenschaft in einem größeren, systemischen Zusammenhang sehen sollten. Ich würde argumentieren, dass jede Person, die an einer Universität im Globalen Norden einen Bachelor- oder Masterabschluss macht – unabhängig vom jeweiligen Fachgebiet –, sich verpflichtend mit den Themen Kolonialität und Digitalität auseinandersetzen sollte.

Studierende von informatischen Studiengängen werden während ihres Studiums nicht verpflichtend mit ethischen oder kolonialgeschichtlichen Fragen konfrontiert. Es geht stattdessen darum, wie Trainingsdaten kategorisiert werden können und mit welchen finanziellen Mitteln. Selten wird die Frage thematisiert, wer diese Arbeit eigentlich macht oder unter welchen Bedingungen.

Angela Chukunzira: Ich stimme Frau Grünberger zu, möchte aber ergänzen, dass wir uns auch mit der systematischen Auslöschung der Geschichte des Kolonialismus in unseren eigenen Gesellschaften im Globalen Süden auseinandersetzen müssen.

Viele junge Menschen in Kenia betrachten Kolonialismus als ein fernes, abgeschlossenes Ereignis, doch tatsächlich erleben wir seine „Alltäglichkeit“ in den banalsten Momenten unseres Lebens. Wenn wir verstehen, dass viele unserer Gewohnheiten und kulturellen Standards koloniale Hinterlassenschaften sind, können wir dieser Auslöschung entgegenwirken und die Machtverhältnisse der Gegenwart besser verstehen.

Das Interview wurde ursprünglich auf Englisch geführt und anschließend ins Deutsche übersetzt. Das Gespräch führten Marvin Brodersen und Philine Janus.