Menschen und Maschinen. Wenn Unterschiede unsichtbar werden - Essay | Digitale Demokratie | bpb.de

Einleitung

Seit sechs Jahren veröffentlicht das IT-Unternehmen IBM zum Jahresende eine Vorhersage über die fünf wesentlichen Technologietrends. In der jüngsten Vorhersage vom Dezember 2011 lautet Trend Nr. 3: "Gedankenlesen ist nicht länger Science Fiction." In einem kurzen Video wird erläutert, wie das Unternehmen daran forscht, das menschliche Gehirn mit technischen Geräten wie dem Computer oder dem Smartphone zu verbinden, so dass der Mensch keine Tasten mehr drücken muss, um einen Befehl in den Computer einzugeben oder einen anderen Menschen zu kontaktieren. "Du musst nur daran denken, jemanden anzurufen, und schon passiert es."

Wenn diese Prognose zutrifft, dann werden Maschinen künftig durch Gedanken gesteuert, und es entfallen immer mehr Schnittstellen zwischen Mensch und Computer. Ebenso denkbar ist die Möglichkeit, miniaturisierte Maschinen direkt in den menschlichen Körper zu implantieren. Das amerikanische Unternehmen Applied Digital Solutions hat längst einen implantierbaren "Verichip" auf Basis der auf Radiofrequenztechnik aufsetzenden RFID-Technologie (Radio Frequency Identification Technology) entwickelt. Der Chip kann zum Beispiel in Herzschrittmachern eingebaut werden, um per Ferndiagnose zu überwachen, ob der Träger des Schrittmachers in Ohnmacht gefallen ist. Leicht lässt sich ein solcher Chip auch mit GPS-Technologie erweitern, also mit der Möglichkeit versehen, jederzeit den Aufenthaltsort und den Bewegungsradius eines Menschen oder eines Tieres nachzuvollziehen. Wir können also zukünftig nicht nur unsere Brille kontaktieren, um zu fragen "Wo steckst du bloß wieder?, und die Brille antwortet unmittelbar mit den detailgenauen Angaben ihres aktuellen Aufenthaltsorts. Wir könnten auch Haustiere, Kinder oder Partner mit Hilfe dieser Chiptechnologie in die ferngesteuerte Sicherungsverwahrung nehmen - eine Vision, die unter dem Begriff barcoding humans (Menschen mit einem Barcode versehen) bereits harsche Kritik hervorgerufen hat.

Seit Jahren forschen Wissenschaftler auch an der erweiterten Nutzung von Computer-Hirn-Schnittstellen, über die beispielsweise gelähmte Menschen dem Computer Befehle geben können. Die Verbindung von Mensch und Maschine erfolgt dabei über am Kopf angebrachte oder ins Gehirn implantierte Elektroden, die spezifische, einzelnen Körperbewegungen zugeordnete Signalmuster entschlüsseln und in Computersprache umsetzen. So lassen sich Computer oder auch künstliche Gliedmaßen allein per Gedanken steuern. Bislang konzentrierte sich diese Forschung auf die medizinischen Anwendungen, aber auch die Spieleindustrie arbeitet längst an gedankengesteuerten Computerspielen. Die Möglichkeit, unsere Gedanken durch Computer auslesen zu lassen oder, umgekehrt, die Maschine durch Gedanken zu steuern, ist nun der weitreichendste Entwurf einer umfassenden Vernetzung und Verbindung des menschlichen Lebensalltags mit dem Internet. Der Mensch wird vollständig analysierbar und berechenbar, also vorhersagbar. Das kann das Leben in vielen alltäglichen Routinen erleichtern. Aber: Wer hat zukünftig die Kontrolle über diese Berechnungen und Steuerungen? Sind es noch die Individuen, denen die ausgelesenen und zur Steuerung weiterer Prozesse genutzten Gedanken in ihrer Entstehung zugeordnet werden können, oder haben auch andere Menschen oder Organisationen Zugriff darauf, die unsere Daten zu eigenen Zwecken nutzen? Durch den Prozess des Zusammenwachsens von Mensch und Maschine verändern sich wesentliche Parameter menschlichen Lebens und menschlicher Existenz. Er ermöglicht (1) die umfassende Personalisierung der Information, (2) die grenzenlose Veröffentlichung individueller menschlicher Existenz sowie (3) den Entwurf des Menschen als Hybridwesen aus Technik und Geist, Maschine und Körper, der bekannte, unser Leben prägende Unterscheidungen infrage stellt.

Algorithmisch personalisiertes Internet: Ich bin mein Profil

Zunächst hatte niemand so recht bemerkt, was es bedeutete, als Google Ende 2009 seinen Suchalgorithmus änderte und von der generalisierten auf die personalisierte Suche umstellte. Wer immer nun etwas im Internet sucht, bekommt individualisierte Ergebnisse. Dabei werden vorherige Suchanfragen mit den Daten, die ansonsten im Internet über die Nutzerinnen und Nutzer kursieren, kombiniert, ausgewertet, gewichtet und weiterverarbeitet. Jeder bekommt die Suchergebnisse aufgelistet, die am besten zu seinen bisherigen Präferenzen passen. So entsteht ein individuelles Profil eines jeden Menschen, das zum Ansprechpartner der Maschine wird.

Auf diesem Wege verschwindet sukzessive die unerwartete Entdeckung, die durch einen glücklichen Zufall möglich wird. Er wird schlicht aus der Netznutzung herausgerechnet. In der englischen Sprache werden diese menschlichen Zufallsentdeckungen serendipity genannt.

Serendipity tritt in unser Leben, wenn wir in einem Buchladen plötzlich ein Buch in der Hand haben, das durch seinen Umschlag unsere Aufmerksamkeit geweckt hat, wenn wir eine Zeitungsreportage anlesen und plötzlich gefesselt sind, in der Begegnung mit einem Menschen, in den wir uns verlieben, obwohl er nicht unseren Idealvorstellungen entspricht. Und serendipity liegt auch darin, dass wir unbekannten Themen begegnen, die uns zum Beispiel politisch aktiv werden lassen, weil es uns wichtig erscheint.

Das personalisierte Internet kann zwar - noch - keine Gedanken lesen, aber es führt zu einem Ergebnis, das dem nahekommt. Wenn die den Netznutzerinnen und -nutzern präsentierten Informationen und Empfehlungen weitgehend auf einem individualisierten Profil beruhen, dann kommt es zu immer weniger Zufallsbegegnungen, dann wird die Welt zu einem Hohlspiegel unserer individuellen Vorstellungen, Wünsche und Präferenzen, und wir leiden irgendwann unter "Weltkurzsichtigkeit". Und wenn das Netz immer umfassender - und noch dazu über augmented reality (Erweiterung der menschlichen Sinne durch Computertechnologie) und Implantate - mit uns verbunden wird, dann betrifft dieser Wandel nicht allein unser Informations- und Kommunikationsverhalten, sondern bald unser ganzes Leben. Wir leben in einer "Filterblase", die aus den für uns vorgefilterten Informationen, Angeboten und Möglichkeiten entsteht, und was immer wir sagen oder tun, es wird uns den eigenen Interessen und Vorstellungen entsprechend wie aus einer "Echo-Kammer" widergespiegelt.

Diese Personalisierung in der Vernetzung hat Vorteile. Sie macht das Leben einfacher, erleichtert den Menschen die Nutzung ihrer bevorzugten Angebote - die Vollendung der Individualisierung mit digitalen Mitteln. Wenn es dabei um die richtige Joghurt- oder Brillenmarke geht, mag es zu verschmerzen sein, dass die zufällige Auswahl eines anderen Produktes im Zuge der Personalisierung immer unwahrscheinlicher wird. Wenn es dagegen um politische Informationen geht, ist Skepsis angebracht. Klickt man bei Facebook beispielsweise über einen gewissen Zeitraum nur Status-Updates von Politikern einer bestimmten Partei an, so rechnet der Algorithmus dieses Verhalten in Präferenz um und zeigt die entsprechenden Meldungen auch immer häufiger, während die von Vertretern anderer politischer Richtungen seltener bis gar nicht mehr berücksichtigt werden. Wer über die dahinter liegenden Mechanismen Bescheid weiß, kann aktiv nach alternativen Informationen suchen. Wer sie nicht kennt, kann dem Glauben verfallen, es gäbe in seiner Lebenswelt nur noch eine politische Farbe. So kann eine "Schweigespirale 2.0" entstehen, in der Netznutzerinnen und -nutzer dem Eindruck faktisch nicht vorhandener Mehrheitsmeinungen unterliegen, die letztlich nicht mehr sind als ein Rechenergebnis algorithmischer Personalisierung. Der ehemalige Google-Chef Eric Schmidt hat die Folgen des personalisierten Internets in einem Interview auf den Punkt gebracht: "Wir wissen immer, wo du bist. Wir wissen, wo du warst. Wir wissen mehr oder weniger, was du denkst."

Grenzenlose Veröffentlichung des Lebens: Du siehst mein Profil

Im Internet werden nicht nur unsere Profile, unsere persönlichen Daten und technischen Lebensverhältnisse vernetzt, sie werden auch sichtbar gemacht. Das Prinzip hat sich nicht verändert, seit 1991 mit der "Trojan Coffee Cam" die erste Webcam an der Universität Cambridge online ging. Sie zeigte den Füllstand der einzigen Kaffeemaschine im Bereich des Computerlabors und ersparte Wissenschaftlern in weit entfernten Winkeln des Labors vergebliche Wege zum Kaffeenachschub. Heute werden nicht nur Füllstände von Kaffeekannen ins weltweite Netz übertragen, sondern millionenfach die Wetterverhältnisse in allen Winkeln der Welt, die Geschehnisse in Fitnessstudios, auf Bowlingbahnen und in privaten Wohn- und Schlafzimmern.

Bei Facebook kann man sein Leben von der Geburt bis zum Tod neuerdings in der timeline dokumentieren. Wenn diese sich so entwickelt, wie das Unternehmen es plant, dokumentiert sie künftig schlicht alles, was alle tun. Dazu müssen die Nutzerinnen und Nutzer gar nicht mehr durchgängig selbst aktiv werden. Unsere Aufenthaltsorte und Tätigkeiten werden nicht mehr nur durch unsere eigenhändig eingestellten Informationen und Fotos nachgeführt, sondern auch halbautomatisch mithilfe von Apps, die mitzeichnen, welche Musik wir hören, welche Filme wir schauen, was wir gerade lesen, um unsere "Freunde" daran teilhaben zu lassen. Die timeline setzt damit um, was der Informatiker und Künstler David Gelernter als unsere digitale Zukunft entwirft: den lifestream, in dem alle je verfügbaren Informationen gesammelt und zu einem stetigen Strom der Daten, Bilder, Videos zusammengefasst werden.

Für das menschliche Leben gilt der alte Satz über das Ganze, das mehr ist als die Summe seiner Teile. Ich bin nicht nur das digitale Abbild meiner selbst, und sei das noch so sekundengenau dokumentiert. Deshalb ist schon die Annahme des Facebook-Gründers Mark Zuckerberg problematisch, wir könnten künftig unser ganzes Leben auf einer Seite dokumentieren. Das würde bedeuten, unsere digitalen Abbilder als unser Selbst zu begreifen. Die unbekannte Seite eines Menschen? Die gibt es nicht mehr, wenn sie nicht im lifestream aufscheint. Ich bin mein digitales Profil.

Die Phasen unseres Lebens, die wir nicht gerne dokumentiert hätten, werden ganz sicher in der timeline verzeichnet sein. Selbst wenn wir sorgsam darauf geachtet haben, keine Informationen über unsere Ausschweifungen bei Facebook zu posten, andere werden schon dafür Sorge tragen, dass es geschieht. Soziale Netzwerke sind transitiv. Wenn A mit B und B mit C verbunden sind, dann ist in der Regel auch A mit C verbunden. Informationen, die ich für meinen Facebook-Freundeskreis zur Verfügung stelle, bleiben also mitnichten sicher in diesem Kreis. Sie ziehen weiter durchs Netzwerk. Das Netz wird sich allumfassend und unbeschränkt an mich erinnern, ob ich will oder nicht. Während wir seit Jahren darüber rätseln, wie wir das digitale Vergessen möglich machen können, um einen Rest an Privatheit zu sichern, geht es bei der timeline um lebenslanges Erinnern. Während Internetexperten gar über die digitale "Reputationsinsolvenz" nachdenken, um Nachsicht und die Chance auf den Neustart auch ins digitale Leben hinüberzuretten, schaltet Facebook auf totale Transparenz. Lebe so, dass jeder Schritt deines Lebens, alles, was du konsumierst, jeder Gedanke, den du hast, jederzeit für alle sichtbar sein kann - so lautet das Motto. Die schöne neue Welt eines Lebens mit der digitalen Schere im Kopf.

Schließlich hat das Folgen für den menschlichen Selbstentwurf, für unsere Identität. Mark Zuckerberg hat in einem Interview einen gleichsam programmatischen wie verräterischen Satz gesagt: "Du hast eine Identität", betonte er, "zwei Identitäten zu haben, zeugt von einem Mangel an Integrität". Die sozialen Netzwerke spiegeln künftig nicht nur eine Facette unserer Identität, sie werden zu unserer Identität. Abweichungen von unserer digitalen Lebenslinie sind dann nicht mehr vorgesehen. Was nicht online ist, gibt es nicht. Was aber online ist, ist für viele für immer sichtbar.

Der Philosoph Jeremy Bentham hat die Idee einer weitreichenden, selbstorganisierten Überwachung durch Öffentlichkeit in seinem Konstrukt des "Panopticons" bereits im 18. Jahrhundert entwickelt. Was Bentham sich damals noch als Gebäude vorstellte, als Radialsystem, in dem der Wächter jeden im Gebäude befindlichen Menschen von einem Überwachungsturm in der Mitte aus sehen konnte, kann für die heutige, virtualisierte Form Modell stehen. Das digitale Panopticon entsteht aus der gegenseitigen Beobachtung der Menschen im Netz. Es bedarf keiner Mitte mehr und keines zentralen Wächters. Und doch kann die selbstorganisierte Beobachtung zum Identitätsmainstreaming à la Zuckerberg führen und womöglich gar zu einer digitalen Disziplinargesellschaft, wie sie Michel Foucault in analoger Form vorschwebte.

Es geht also um weit mehr als um neue pragmatische Herausforderungen im Umgang mit Persönlichem. Eine Ahnung davon vermittelt IBM in seiner Technologievorausschau mit der zweiten Innovation: "Du wirst nie wieder ein Passwort brauchen." Biometrische Daten, wie das Scannen der Iris im menschlichen Auge werden mit Hilfe von Software dazu genutzt werden, ein DNA-spezifisches Online-Passwort zu erstellen, mit dem jede Nutzerin und jeder Nutzer sich künftig überall anmelden kann - vom Login im Netz über die Nutzung des geschützten Smartphones bis hin zum Geldautomaten oder der Aktivierung häuslicher Sicherheitssysteme. Das klingt sehr bequem und praktisch (und enthebt die Menschen von der oft unsicheren Verwaltung und Aufbewahrung zahlreicher Passwörter). Aber was geschieht, wenn das eine, DNA-spezifische Passwort gehackt wird oder in die falschen Hände gerät? Die Entschlüsselung des fehlerhaften "Staatstrojaners" durch den Chaos Computer Club im Herbst 2011 gibt das Signal: Vorsicht ist angebracht, denn es geschieht schon jetzt viel mehr, als die Normalnutzer des Netzes und seiner umlagernden Technologien wissen und verstehen können, und vieles davon geschieht unsichtbar, allein durch den digitalen Code, der Fakten schafft, ohne dass die Kontrollen adäquat angepasst werden.

Mensch als Hybrid: Technik und Geist, Maschine und Körper

Es ist der ewige Wunsch, menschlichen Geist in die Maschine zu transferieren, der in Zeiten der digitalen Vernetzung und künstlichen Intelligenz neue Nahrung bekommt. Wenn Gedankenlesen durch die Maschine keine Science Fiction mehr ist, hat der menschliche Geist sich dann nicht längst auf den Weg in die Maschine gemacht, auch wenn er zunächst noch aus dem menschlichen Gehirn ausgelesen werden muss? Und was ist dann der Mensch, der mit technischer Erweiterung Schritt für Schritt auch selbst ans globale Netz angeschlossen wird - ein technisierter Mensch oder eine humanisierte Maschine?

Aus zahlreichen Romanen und Filmen kennen wir die Entwürfe der Menschmaschinen oder Maschinenmenschen, die als "Cyborgs" und "Replikanten" die Welt bevölkern. Zumeist haben die Menschen dabei die Maschinen anthropomorphisiert, also in ihrer Gestalt nach dem eigenen Vorbild erschaffen. Heute wissen wir, nicht nur durch die Weiterentwicklung in der Erforschung der künstlichen Intelligenz, dass es auf die äußeren Erscheinungsformen nicht unbedingt ankommt, sondern vielmehr die Unterscheidbarkeit von Mensch und Maschine zur neuen Herausforderung geworden ist.

In seiner Abhandlung zum "Chinesischen Zimmer" hat der Philosoph John R. Searle das Problem zu lösen versucht. Er hat anhand eines Beispiels zum Umgang mit einer fremden Sprache (in diesem Fall Chinesisch) argumentiert, ein Mensch könne sinnvolle Sätze allein nach einem vorgegebenen Handbuch und entsprechenden Regeln der Syntax herstellen, ohne dass er selbst die Sprache verstehe oder das, was er in den jeweiligen Sätzen formuliert habe. Damit täte dieser beschriebene Mensch nach Searle genau das, was ein Computer tut: Er hantiert nur nach festen Regeln mit Symbolen und hat damit keine Fähigkeit zur Einsicht, zur Wahrnehmung oder zum Verstehen. Solange dies so ist, kann dem Computer nach Searle keine Intelligenz oder keine Form von menschlichem oder menschenähnlichem Geist zugestanden werden.

Searle hat mit seiner Argumentation für den zugrunde liegenden Versuchsansatz Recht. Aber er verkennt, dass wir längst mit einem anderen Problem konfrontiert sind - dem der schwindenden Unterscheidbarkeit von menschlicher und maschineller Intelligenz. Schon der Schachmeister Gary Kasparov verlor 1997 gegen den IBM-Schachcomputer "Deep Blue" und gab während des Spiels mehrfach an, Zeichen von menschlicher Intelligenz im Computer wiederzuerkennen, "signs of mind in the machine". Der Nachfolger von "Deep Blue", ein Computer namens "Watson", der ebenfalls von IBM entwickelt wurde, trat 2011 beim US-amerikanischen Fernsehquiz "Jeopardy" gegen die beiden besten menschlichen Spieler an - und gewann. Nicht weil er so intelligent war, sondern weil er mit 2800 parallel arbeitenden Rechnern über so unglaublich große Kapazitäten verfügte, dass er vieles schneller auswerten und berechnen konnte als die menschlichen Spieler mit ihrer Intelligenz.

Unbeobachtbarkeit des Unterscheidbaren

Die wachsende Ununterscheidbarkeit von Mensch und Maschine in ihrer Intelligenz- und Kommunikationsleistung hat schon den Computerpionier Joseph Weizenbaum nachhaltig beeindruckt - und so geschockt, dass er sich schließlich aus der Forschung zurückzog. Weizenbaum hatte eine Software namens "Eliza" entwickelt, die zu therapeutischen Gesprächen eingesetzt werden konnte und so "authentisch" kommunizierte, dass die Patientinnen im Versuch sich weigerten, die Maschine hinter "Eliza" zu erkennen und zu akzeptieren.

Wenn Technologie für den Menschen nicht bloß "Instrumentarium der Daseinssicherung und elementaren Bedürfnisbefriedigung" ist, sondern vielmehr "Thema und Signatur seiner Selbstdeutung und Selbstverwirklichung", dann bedeutet das, dass sich der Mensch als Gattung unter diesen Bedingungen verändern wird. Dann werden wir zu etwas anderem, von dem wir jetzt noch nicht genau wissen, wie wir es beschreiben können. Es gibt keine Zauberformel, die wie in Goethes Ballade vom "Zauberlehrling" Mensch zu Mensch und Maschine zu Maschine zurückverwandeln könnte. Und es wird auch kein Meister kommen. Denn es gibt keinen. Wenn wir keine Beweise und keine Unterscheidungsmöglichkeiten mehr haben, ergeht es uns in der Unbeobachtbarkeit unserer Menschlichkeit schlimmer als dem Zauberlehrling: "Heute wissen wir Zauberlehrlinge nicht nur nicht, daß wir die Entzauberungsformel nicht wissen, oder daß es keine gibt; sondern noch nicht einmal, daß wir Zauberlehrlinge sind."

Solche Erfahrungen machen ansatzweise schon heute Menschen, bei denen über einen "Hirnschrittmacher" die Linderung der Symptome einer Parkinsonerkrankung ermöglicht werden kann. Sie erleben sich sozusagen zwischen zwei Bewusstseinszuständen, zwischen denen sie hin- und herschalten können. Ist der Schrittmacher eingeschaltet, geht das Zittern zurück, aber der Patient leidet unter Sprachstörungen und einer veränderten Stimmlage. Ist er ausgeschaltet, zittert der Patient, aber hört sich vollkommen normal sprechen. Während der Zeit, "in denen wir das Gerät abgeschaltet hatten, war mir, als ob in meinem Kopf ein PC eingeschaltet wurde, dessen Brummen und Klicken mir verhießen, daß mein Gehirn arbeitete".

In der zunehmenden Hybridisierung des Menschen durch die Verbindung von Maschine und Körper, Technik und Geist liegt also ein Prozess versteckt, den wir als den Verlust der Unterscheidbarkeit beschreiben können. Wo Computer immer schneller und leistungsfähiger werden, ist es nicht mehr länger die tatsächliche Nachbildung menschlicher Intelligenz in der Maschine, die entscheidend ist. Vielmehr wird der Unterschied zwischen menschlicher und Maschinenintelligenz für den Menschen unbeobachtbar. Und damit ist er faktisch nicht mehr existent. Der Computer muss also nicht menschengleich werden. Es reicht, wenn er uns so erscheint.