Meine Merkliste Geteilte Merkliste PDF oder EPUB erstellen

Herausforderung Künstliche Intelligenz und digitale Gesellschaft | Presse | bpb.de

Presse Pressemitteilungen Pressetexte 2024 Archiv Reden Archiv Pressekits Fotos | Logos | Banner Logos Virtuelle Hintergründe Thomas Krüger Jahresrückblicke Jahresberichte Auszeichnungen Pressekontakt

Herausforderung Künstliche Intelligenz und digitale Gesellschaft

/ 9 Minuten zu lesen

"Herausforderung Künstliche Intelligenz und digitale Gesellschaft: Wer hat die Macht? Wer entscheidet?" Zu diesem Thema sprach Thomas Krüger am 2. März 2018 und eröffnete die Bonner Gespräche 2018.

Meine Damen und Herren,

ich begrüße Sie ganz herzlich zu den Bonner Gesprächen zur politischen Bildung 2018. Können Sie sich erinnern, wann wir darüber entschieden haben, wie die digitale Transformation unserer Gesellschaft verlaufen soll? Wann haben wir darüber abgestimmt, von welcher Nachrichtenagentur „Alexa“ die Topmeldung des Tages übernimmt? Haben wir entschieden, nach welchen Regeln sich Autopiloten verhalten sollen: den Fahrer schützen oder das Kind, dass vors Auto läuft?

Ich kann mich daran nicht erinnern. Und Sie sicher auch nicht. In den letzten Jahren beobachten wir eine Veränderung der Gesellschaft durch digitale Technologien. Allumfassend hat dies unsere Kommunikation verändert: Wir schreiben Kurznachrichten, anstatt zu telefonieren; die meisten von uns nutzen Facebook und Messenger-Dienste, Jugendliche und Junggebliebene stellen sich auf Instagram und YouTube dar. In seiner Radiotheorie formulierte Bertolt Brecht die Hoffnung, der Mensch würde an Freiheit gewinnen, wenn er nicht nur Empfänger, sondern auch Sender sei. Woran Brecht vor fast 100 Jahren noch nicht dachte: Wir kommunizieren miteinander und senden nun auch – wir bestimmen aber nicht die Regeln, nach denen wir dies tun.

Wir sprechen miteinander, aber sind dabei nicht unter uns. Die uns zur Verfügung stehenden sozialen Netzwerke und Plattformen sind immer auch Werkzeuge derjenigen, die sie uns anbieten. Die vermeintlich kostenlose Nutzung bezahlen wir mit unseren Daten. Die Alternative der Verweigerung ist keine echte Alternative, denn wer nicht mitmacht, ist abgehängt. Das geht oft schneller als uns lieb sein kann. Kontinuierlich drängen Innovationen auf den Markt. Das sehen wir an der Fülle von immer neuen Buzzwords, die in den Medien kursieren: Breitband. Virtual Reality. Autonomes Fahren. Blockchain. E-Health, Internet-of-Things. Wearables. Hier zeigt sich eine Spaltung in der Gesellschaft: Was für die einen schon alltäglich geworden ist, ist für viele andere noch immer das oft zitierte „Neuland“. Was bedeuten diese Begriffe für uns persönlich und für die Gesellschaft? Yvonne Hofstetter wird sie später am Nachmittag für Sie analysieren. Ich will ihr deshalb nicht vorgreifen, sie aber doch kurz zitieren: „Das Recht und die Regeln, sie hinken hinterher. Haben wir das so gewollt? Wenn wir nicht über diese Art des Umbaus der Gesellschaft demokratisch abgestimmt haben, legitimieren wir ihn anders?“

Bereits bei den Bonner Gesprächen 2016 haben wir Big Data als eine Herausforderung für die politische Bildung betrachtet. Aus der Konferenz bin ich mit dem Gedanken gegangen, dass es keine objektiven Wahrheiten gibt. Auch nicht im Big Data. Vieles, worüber wir 2016 gesprochen haben, trifft immer noch zu und zentrale Fragen von damals sind auch heute noch nicht beantwortet. Der digitale Wandel ist trotzdem weiter vorangeschritten. Mit den Bonner Gesprächen 2018 nehmen wir uns nun gesellschaftlich herausragende Themen vor. Wir setzen dabei vier Schwerpunkte: Gesundheit, Politik, Bildung und Arbeit. Immer mit zwei Fragen im Hinterkopf: Wer hat die Macht? Wer entscheidet?

Denn Big Data kommt mit vielen Versprechen: technischen, sozialen, politischen. Die Bedeutungen dieser Versprechungen zu bewerten, kann und darf uns niemand abnehmen – auch nicht Maschinen. Die dazu nötigen Grundlagen, Haltungen und Kompetenzen zu vermitteln, ist Aufgabe politischer Bildung – nicht mehr, aber eben auch nicht weniger.

Nehmen wir uns zuerst das Thema Gesundheit vor: Ein Versprechen von Big Data ist, Epidemien vorauszusagen oder durch den Vergleich persönlicher Daten Krankheiten zu verhindern, bevor sie überhaupt ausbrechen. Millionen Gesundheits-Tracker sind im Einsatz. Zur Selbstoptimierung, aber auch als Deal mit der Krankenversicherung. Doch wie lohnenswert ist es tatsächlich, seine Daten für Rabatte bei der monatlichen Beitragszahlung preiszugeben? Zugespitzt: Verzichten wir auf digitale Selbstverteidigung zugunsten gesellschaftlicher Wirtschaftlichkeit und Gesundheitsprävention? Der beste Kenner im Bereich „Big Data und Gesundheit“, Thilo Weichert, wird morgen den Workshop zu diesem Thema halten.

Im Manifest „Die Demokratie verteidigen im digitalen Zeitalter“ heißt es: „Eine der tragenden Säulen der Demokratie ist die Unverletzlichkeit des Individuums. Doch die Würde des Menschen geht über seine Körpergrenze hinaus. Alle Menschen haben das Recht, in ihren Gedanken und Privaträumen, in ihren Briefen und Gesprächen frei und unbeobachtet zu bleiben.“ Über 500 Autorinnen und Autoren, darunter Yvonne Hofstetter, haben sich zu einer öffentlichen Intervention gegen die Gefahren der systematischen Massenüberwachung zusammengeschlossen. Grundsätzlich geht es ihnen darum, dass unsere demokratischen Grundrechte in der virtuellen Welt ebenso durchgesetzt werden müssen wie in der realen. Denn ein Mensch unter Beobachtung ist niemals frei; und eine Gesellschaft unter ständiger Beobachtung ist keine Demokratie mehr. Das wissen wir in Deutschland aus unserer eigenen Geschichte noch sehr gut.

Unser zweiter Themenkomplex ist der politische: Nehmen wir das Beispiel der Bundestagswahl. Auch das hiesige Hochamt der Demokratie, stand im vergangenen Jahr im Zeichen von Big Data. Dass Wahlen mittlerweile im Internet mit-entschieden werden, bedarf keiner Diskussion. Wer wüsste das besser als wir von der bpb mit unserem Wahl-O-Mat!? Wichtig ist in dieser Frage schon lange nicht mehr das Ob, sondern das Wie.

Ich möchte mich den Juristen von iRights anschließen: „Für solche Fähigkeiten sollte es keinen Markt geben. Wenn einzelne Akteure so mächtig werden, dass sie mit ihren Algorithmen Wahlen beeinflussen können, dann ist das ein Problem für die demokratische Selbstbestimmung.“ Ich spreche hier weniger von algorithmusgesteuerter Wahlwerbung, auch wenn diese natürlich den Ausgang beeinflussen kann. Vielmehr geht es um „Social Bots“, also Algorithmen, die auf Social-Media-Plattformen so wahrgenommen werden sollen, als wären es Menschen. Julius van der Laar, der Kampagnenstratege, der unter anderem für Barack Obama die Präsidentschaftskampagnen 2008 und 2012 geleitet hat, wird uns morgen im Workshop „Big Data und Politik“ dazu Rede und Antwort stehen. Ich bin gespannt, ob er uns beruhigen kann oder weiter beunruhigen wird.

Wir müssen verstehen, wie solche Systeme funktionieren. Dann müssen wir darüber debattieren, wie sich diese Herausforderungen bewältigen lassen. Und dafür brauchen wir Transparenz. Je größer der Einfluss auf unsere Gesellschaft oder das Individuum ist, desto besser müssen die Akteure erklären, wie ihre Algorithmen funktionieren und welche direkten Auswirkungen sie haben.

Ein weiterer interessanter Themenbereich im Bereich Politik sind die legislativen Antworten auf die Digitalisierung. So wurde nach langen Verhandlungen 2015 eine europäische Einigung auf die EU-Datenschutz-Grundverordnung (EU-DSGVO) erzielt. Diese soll zu einer weitgehenden Vereinheitlichung europäischen Datenschutzrechtes führen. In gut zwei Monaten, am 25. Mai 2018, wird die Datenschutz-Grundverordnung direkt geltendes Recht in allen Mitgliedsstaaten sein. Sie verbessert die Rechte der Einzelnen beim Umgang mit personenbezogenen Daten und stärkt die Zustimmungspflicht. Außerdem regelt sie, wann Verbraucher sich auf das „Recht auf Vergessen werden“ berufen können und wie Unternehmen dem nachkommen müssen. Aber erst, wenn wir von diesen Rechten Gebrauch machen, wird sich zeigen, wie sich die Verordnung in der Praxis bewährt.

Die Themenbereiche unserer Konferenz, in denen die Verunsicherung und Veränderung durch den digitalen Wandel wohl am deutlichsten spürbar ist, sind Ausbildung und Arbeit: „Schichtwechsel – übernehmen die Roboter?“ fragte im vergangenen Jahr eine Dokumentation des WDR. Darin wurden Prognosen zitiert, dass bis zu 19 Millionen Arbeitsplätze in Deutschland im Zuge der Robotisierung wegfallen könnten. Der Ersatz von menschlicher Arbeit durch Maschinen setzt konsequent den Prozess der zweiten Industriellen Revolution fort. In Bildung, Betreuung, Pflege und im persönlichen Kontakt ist der Mensch dennoch unverzichtbar. Zumindest dachte man das lange Zeit. Pflegeroboter, die Gefühle interpretieren können, waren auf Fachmessen zuletzt sehr gefragt.

Unser Bildungssystem kann mit dieser Entwicklung nur schwer Schritt halten. Seit den 1970er Jahren verdoppelt sich das Wissen auf der Erde alle vier Jahre. Den gesamten Wissensbestand zu verinnerlichen ist unmöglich. Entscheidend ist die Frage, wie wir mit diesem Wissen umgehen. Doch in den Schulen geht es weiterhin um das Sammeln guter Noten. Stoff wird für Prüfungen im Kurzzeitgedächtnis gespeichert, um anschließend für den Stoff der nächsten Prüfung gelöscht zu werden. Am Ende des Bildungsweges haben die Schülerinnen und Schüler gelernt wie dieses System funktioniert, aber keine Bildung erhalten, um damit den Alltag oder spezielle Aufgaben zu lösen.

Das Problem ist mittlerweile erkannt worden und hier und da sind Veränderungen angelaufen. Die Digitalisierung beschleunigt unterdessen weiter alle Prozesse. Die Arbeitswelt ist bereits umfassend durch Big Data eingenommen, was unter dem Begriff „Industrie 4.0“ zusammengefasst wird. Das Tempo der Entwicklung wirft schon bei der Ausbildung elementare Fragen auf, wie zum Beispiel: Existiert der Beruf am Ende der Ausbildung überhaupt noch? Als politische Bildner stellen wir uns vor allem die Frage: Welche Chancen zur Gestaltung der digitalen Gesellschaft haben die Arbeitnehmerinnen und Arbeitnehmer? In einem World-Café haben Sie morgen die Gelegenheit, Fragen wie diese in kleinen Gruppen zu diskutieren.

Meine Damen und Herren,

heute und morgen wollen wir unsere Gedanken mit anderen teilen. Deshalb streamen wir die Bonner Gespräche live im Internet. Wir befinden uns hier auf einer öffentlichen Veranstaltung. Wir tun das bewusst und mit voller Absicht. Entsprechend hoffe ich, dass Bild- und Ton-Qualität in Ordnung sind! Aber wer von Ihnen hat zuhause auch eines oder mehrere Geräte, die alles einfangen und live übertragen?

Gemeint sind die dienstbaren Geister mit Namen wie „Alexa“, „Siri“ oder „Cortana“. Immer eingeschaltet, aber scheinbar auf Durchzug. Erst auf ein Stichwort schaltet sich das Gerät aktiv ein und zeichnet Sprachbefehle auf, um Informationen zu übertragen und Fragen zu beantworten. „Alexa, ruf Opa an. Alexa, wie wird das Wetter?“ So stellt es die Werbung dar, so praktisch scheint die Nutzung. Längst ist bekannt, dass die CIA mit einem Hackertool Smart TVs von Samsung angezapft hat und in einen Fake-off-Modus schaltete. Die Nutzer dachten, das Gerät sei ausgeschaltet, doch in Wirklichkeit sendete es die über das Mikrofon und die Kamera empfangenen Daten an einen CIA-Server.

Und es sind nicht nur Geheimdienste, nein, auch die Konzerne, die hinter den „sprachgesteuerten, internetbasierten, persönlichen Assistenten stehen, haben so die Möglichkeit, Protokoll über unsere Aktivitäten zu führen. „Wir haben sehr wohl etwas zu verbergen“, schrieb Adrian Lobe bereits 2016 in der ZEIT: „Unsere Identität, Neigungen, Gefühle, Meinungen, politische Positionen, aus denen heraus erst die Inanspruchnahme von Freiheitsrechten möglich ist.“ Deshalb, so Lobe weiter, würden ihn sogenannte „Smart Homes“ immer mehr an Strafvollzug erinnern.

Er setzt damit einen Gedanken Michel Foucaults fort, der bereits vor fast 50 Jahren in seiner Studie "Überwachen und Strafen“ zeigte, wie Macht-Technologien das Individuum unterwerfen. Das Gefängnis wird zum zentralen Ort des Strafvollzugs. Die Strafe „beruht […] auf einer überlegenen Manipulation des Individuums." Die digitalen Assistenten sind Kontrolle in bester Foucault’scher Manier: Der Nutzer überwacht sich selbst.

Sind wir tatsächlich schon Insassen eines „Datengefängnisses“? Man merkt es ja nicht, wenn Facebook unsere persönlichen Daten an Unternehmen weiterverkauft, Geheimdienste unsere Mails lesen oder Google Home unsere Gespräche mithört. Aber, stellt Lobe fest: „Ein Staat, der die Gedanken seiner Bürger kennt, ist ein totalitärer“. Die ausbleibenden Proteste deuten darauf hin, dass wir einen Nachholbedarf an Bildung für die digitale Gesellschaft haben. Einen Teil dazu wollen wir mit den Bonner Gesprächen 2018 beitragen. Wir versuchen Orientierung für den digitalisierten Alltag zu geben, indem wir über digitale Medien informieren und wissenschaftliche Forschungsergebnisse diskutieren.

Zusammenfassend kann man sagen: Wir wollen Bildung für die digitale Gesellschaft fördern. Dafür erarbeiten wir seit den ersten Bonner Gesprächen Materialien und Methoden für alle Bildungsformen und Altersklassen. In sechs Räumen präsentieren wir heute und morgen den Erlebnis- und Lern-Parcours „Digitale Welt“ parallel zu allen Veranstaltungen. Das Angebot steht allen Besuchern offen. Morgen können Kinder und Erwachsene den Parcours frei nutzen – ohne vorherige Anmeldung.

Außerdem stehen alle Materialien zum Thema „Big Data“ kostenlos auf der Website der bpb zur Verfügung. Sie sind aufgebaut nach Altersklassen. Gemeinsam mit Kindern und Jugendlichen haben wir die Materialien erarbeitet und getestet. Neben dieser strengen Qualitätskontrolle durch die „digital natives“ bereichern Vorschläge zur Konzeption und zum Einsatz in der Bildungsarbeit die Materialsammlung. Wir wollen Kompetenzen vermitteln und Mut machen. Denn digitale Teilhabe ist heute Voraussetzung für soziale Teilhabe. Oder anders formuliert: Ohne Medienkompetenz gibt es keine Demokratiekompetenz.

Der Autor Yuval Noah Hararis spürt mit dem „Dataismus“, der „Datenreligion“, unserer gegenwärtigen Konditionierung nach, um uns in die Lage zu versetzen, fantasievoller als bisher über unsere Zukunft nachzudenken. In seinem meisterhaften Buch „Homo Deus“, das übrigens auch in der Schriftenreihe der bpb erschienen ist, stellt Hararis die uns auch hier und heute bewegende Schlüsselfrage: „Was wird aus unserer Gesellschaft, unserer Politik und unserem Alltagsleben, wenn nichtbewusste, aber hochintelligente Algorithmen uns besser kennen als wir uns selbst?“ In ihrer kritischen Würdigung des Werks antwortet Frau Hofstetter darauf: „Nicht nachlassen, den Wert der Würde ins Bewusstsein zu heben.“

Was haben die von mir heute zitierten Hofstetter, Lobe und Harari gemeinsam? Sie alle sind 2017 für ihre Arbeiten ausgezeichnet worden. Yvonne Hofstetter ist die Gewinnerin des 17. Internationalen getAbstract Wirtschaftsbuchpreises. „Das Ende der Demokratie“ wurde zum besten deutschsprachigen Businessbuch gekürt. Adrian Lobe erhielt für seine besonders ausgewogene Darstellung von Chancen und Risiken im Umgang mit Daten in einer digitalisierten Welt den ersten Journalistenpreis der Stiftung Datenschutz. Yuval Noah Hararis Buch „Homo Deus – Eine Geschichte von Morgen“ wurde zum Wirtschaftsbuch des Jahres gewählt.

Diese Auszeichnungen sind auch politische Botschaften an die digitale Gesellschaft. „Wer eine Vision hat, der soll zum Arzt gehen“, hat Helmut Schmidt einmal gesagt. Bezogen auf heute und morgen möchte ich dem verstorbenen Altkanzler widersprechen: Um das Neue zu formen, braucht man eine Vision. Wir wollen Versuche unterstützen, die digitale Gesellschaft und die Zukunft selbstbestimmt zu gestalten.

Und deshalb, meine Damen und Herren: Kopf hoch, nicht die Hände!

Fussnoten