3D-Illustration von Gehirnzellen
1|2|3|4|5 Auf einer Seite lesen

2.2.2018 | Von:
Thomas Ramge

Mensch fragt, Maschine antwortet. Wie Künstliche Intelligenz Wirtschaft, Arbeit und unser Leben verändert

"Alexa, erzähle mir einen Zungenbrecher". Alexa muss nicht lange überlegen und sagt: "Brautkleid bleibt Brautkleid und Blaukraut bleibt Blaukraut." Die leicht blecherne Frauenstimme in Amazons zylindrischem Lautsprecher verspricht sich natürlich nicht dabei. Alexa – genauer das datenreiche System in der Amazon-Cloud hinter der Produktfamilie Echo – kann sehr viele sehr flache Witze erzählen. "Sagt ein Ballon zum anderen: Ich habe Platzangst." Der interaktive Lautsprecher singt auf Befehl eines Menschen auch gerne Weihnachtslieder. Über die Gag-Funktionen von Amazon Echo wurde seit Einführung des Produkts 2015 viel gelacht und viel gespottet, je nach persönlicher Humorpräferenz. Über die weltverbessernde Relevanz von Flachwitzen abrufbar durch Sprachbefehle lässt sich in der Tat streiten. Doch vor lauter Debatte über die spielerischen Funktionen des Systems, wurde oft übersehen: Amazon Echo ist kein Spielzeug, sondern ein technischer Durchbruch auf dem Weg zu einem intelligenten Alltagsassistenten.

Mit Amazon Echo können Nutzer auf der Couch liegend per Sprachbefehl die Heizung höher stellen, das Licht dimmen und Alexa bitten, nach einer Netflix-Serie zu suchen, die ähnlich wie Narcos ist, aber nicht so brutal. Vor dem Kleiderschrank können sie das System rasch fragen, wie das Wetter wird, und in der Küche, mit beiden Händen im Kuchenteig, die Anweisung geben, frische Eier auf die Einkaufsliste zu setzen. Alexa liest die Nachrichten vor oder informiert, wenn die Lieblingsmannschaft ein Tor geschossen hat. US-amerikanische Kunden können sich auch den Kontostand zurufen lassen oder eine Pizza bei Domino’s bestellen. Das Sortiment des Amazon-Shops ist weltweit zugänglich, mit den bekannten Empfehlungsroutinen, aber es greift zu kurz, in Alexa eine reine Abverkaufsmaschine zu sehen. Auch lexikalisches oder zeitgenössisches Wissen lässt sich dialogisch abrufen. Das System führt dabei Informationen aus verschiedenen Online-Quellen wie Wikipedia oder News-Webseiten zusammen und versucht diese, in den gewünschten Sinnzusammenhang zu rücken.

Virtuelle Assistenten

Der Fachbegriff für Systeme wie Alexa ist virtual assistant. Oft werden sie auch nur kurz bots genannt. Die digitalen Technologie-Riesen in den USA und Asien liefern sich seit einigen Jahren einen harten Kampf um die Vorherrschaft bei sprachgesteuerten virtuellen Assistenten. Sie bauen riesige Teams aus Datenwissenschaftlern und Experten für Maschinelles Lernen[1] auf, übernehmen KI-Startups, wie jüngst Samsung den kalifornischen Shootingstar unter den virtuellen Assistenten Viv, oder schmieden überraschende Allianzen wie Microsoft und Amazon, die ihre digitalen Helfer künftig zusammen im Dienste des Nutzers arbeiten lassen. Diesen Aufwand betreiben diese Unternehmen nicht aus purer Freude am technischen Fortschritt, sondern auch aus Angst um die unternehmerische Existenz. Den Strategen bei Apple (mit Siri), Google (mit Google Assistant), Microsoft (mit Cortana), Facebook (mit M) und Samsung (mit Bixby) ist heute klar, dass in Zukunft der Zugang zu vielen, vermutlich den meisten digitalen Diensten erfolgen wird wie im Raumschiff Enterprise: Mensch fragt, Maschine antwortet. Wenn die Maschine das Frage-Antwort-Spiel nicht beherrscht, sucht sich der Mensch einen anderen Anbieter.

Nutzer erwarten dabei zum einen immer präzisere Antworten auf immer komplexere Problemstellungen. "Ok, Google. Ich will im März für drei Tage in die Schweiz zum Skilaufen fliegen. Welche Gebiete sind dann noch schneesicher, wo gibt es noch günstige Hotels, wann noch günstige Flüge, und brauche ich einen Mietwagen, um vom Flughafen Zürich ins Skigebiet zu kommen?" Dazu muss ein virtueller Assistent keinen Turing-Test[2] bestehen, sondern sauber Informationen recherchieren, aggregieren und gemäß der Vorgaben als Entscheidungsgrundlage aufbereiten. Zudem besteht berechtigte Hoffnung, dass wir eine Reihe nicht ganz so komplizierter, aber lästiger Alltagsentscheidungen nicht mehr selbst treffen müssen, sondern dass wir diese an intelligente Maschinen delegieren können. Virtual assistants werden rechtzeitig Druckerpatronen nachbestellen, keine Zahlungsfrist einer Rechnung übersehen, aber auch deutlich öfter merken als der Mensch, wenn die Rechnung zu hoch ist, und die Zahlung verweigern.

Einen Vorgeschmack darauf, wie intelligente Agenten künftig nervige Alltagsaufgaben übernehmen, geben Terminkoordinierungsassistenten wie Amy oder Julie. Zielgruppe sind Menschen, die keinen menschlichen persönlichen Assistenten haben. Die Nutzer geben diesen KI-unterstützten Diensten Zugriff auf den Kalender und das E-Mail-Programm. Terminvereinbarung läuft dann wie folgt: Eine Anfrage für ein Treffen kommt per E-Mail. Der Nutzer stimmt grundsätzlich per E-Mail zu und setzt dabei Amy oder Julie in "cc". Von nun an übernimmt der künstlich intelligente Assistent das übliche E-Mail-Ping-Pong, bis Ort und Zeit mit Geschäftspartnern ausgemacht sind, oder klar ist, wer wen wann unter welcher Nummer anruft. Erweiterte Systeme versprechen zudem, die gesamte Tagesplanung zu übernehmen, Termine zu priorisieren und unter Umständen automatisiert zu verschieben, dem Nutzer in Meetings relevante Informationen vorzulegen und auf Versäumnisse hinzuweisen. Zumindest Terminkoordinierung funktioniert bereits heute recht gut. Nahezu perfekt klappt es, wenn zwei virtuelle Assistenten im Auftrag ihrer menschlichen Chefs miteinander kooperieren. Computer können nach wie vor am besten mit Computern. Gleichzeitig gilt: Immer mehr Menschen hören auf die Ratschläge von Computern, und dass nicht mehr nur bei eher trivialen Fragen, etwa ob es besser ist, auf der Autobahn den Stau durchzustehen oder die deutlich längere Ausweichstrecke über die Bundesstraße zu nehmen – eine Prognoseanwendung, die besonders Google dank seiner Fülle an Echtzeitdaten aus den Smartphones mit Android-Betriebssystem relativ leicht und weitgehend genau errechnen kann.

Die Verkaufsmaschine

Es ist freilich kein Zufall, dass Amazon hunderte Millionen Dollar in die Entwicklung von Echo gesteckt hat. Allerdings ist es auch kein Zufall, dass just dieses System so viel Erfolg hat. Seit seiner Gründung 1996 hat es Amazon wie kein zweites Unternehmen verstanden, aus Daten die Bedürfnisse seiner Kunden zu verstehen. Seit Einführung seines personalisierten Empfehlungssystems 1998 leitet das Unternehmen aus diesem Wissen über Kunden immer passendere Schlüsse ab, welches Produkt es einem bestimmten Nutzer zu welchem Zeitpunkt zu welchem Preis anbieten muss, um die Wahrscheinlichkeit zu erhöhen, dass dieser auf den Kaufknopf klickt. Genaue Zahlen, wie gut diese virtuelle Empfehlungsmaschine beim größten Online-Händler der westlichen Welt funktioniert, gibt Amazon nicht bekannt. Experten gehen davon aus, dass rund ein Drittel aller Verkäufe durch Kaufempfehlungen des Systems angestoßen wird. Ein so hoher Wert ist nur möglich, wenn Kunden die Empfehlungen tatsächlich als sinnvollen Ratschlag empfinden, und eben nicht als nervige Online-Werbung, die uns auf unseren Streifzügen im Netz verfolgt und uns Produkte anbietet, die uns kein bisschen interessieren oder die wir sogar bereits gekauft haben. Digitales Marketing mit seiner dümmlichen Penetranz hat in den vergangenen Jahren auf der einen Seite viel verbrannte Erde bei Kunden hinterlassen. Auf der anderen Seite spornt der schlechte Ruf der Online-Werbung innovative Unternehmen an, tatsächlich Intelligenz in die virtuelle Kaufberatung zu bringen.

Zu den Vorreitern gehört hier Stitch Fix. Das kalifornische Startup bietet seinen Kunden Mode in einem Abo-Modell, im Fachjargon curated shopping genannt. Es verschickt regelmäßig Kisten mit fünf Kleidungsstücken, von denen die Kunden so viele behalten können, wie sie wollen. Das Unternehmen lebt also davon, dass die Klamotten im Paket möglichst genau den Geschmack des Kunden treffen. Jede Rücksendung hingegen verursacht Kosten. Um die Trefferquote zu erhöhen, beschäftigt Stitch Fix über 70 hochbezahlte Datenwissenschaftler, die mit extrem komplexen Algorithmen und neuesten Methoden des Maschinellen Lernens die Prognose zu der Frage verbessern: Behält dieser Kunde dieses Kleidungsstück? Neben naheliegenden Datenquellen wie Fragebögen und der Kaufhistorie – also Feedback-Daten, welche Kleidungsstücke der Kunde in der Vergangenheit behalten oder zurückgeschickt hat – errechnet das System seine Vorschläge aus Instagram-Bildern, die der Kunde geliked hat. Die KI erkennt so mitunter Muster in den Bildern, die er Vorlieben zuordnen kann, die dem Kunden selbst nicht bewusst sind.

US-Warenhäuser wie Macy’s und große Supermarktketten wie Tesco in Großbritannien oder Carrefour in Frankreich versuchen hingegen, mit Shopping-Assistenz-Apps die im Online-Handel erprobten Empfehlungsmechanismen in die Welt der physischen Geschäfte zu übertragen. Diese Apps lassen Kunden den schnellsten Weg zum Shampoo-Regal finden, falls Shampoo auf der gespeicherten Einkaufsliste steht oder der Kunde in der Gemüseabteilung per Sprachbefehl danach fragt. Manche Apps weisen ungefragt vor dem Rotwein-Regal darauf hin, dass heute kräftiger Roquefort im Angebot ist. Das Problem all dieser virtuellen Kaufberater ist freilich: Sie werden von Verkäufern zur Verfügung gestellt und stehen grundsätzlich im Verdacht, die Interessen des Verkäufers höher zu gewichten als die des Käufers. Die intelligenten unter den künstlich intelligenten Shopping-Helfern sind deshalb so programmiert, wie ein seriöser Kaufmann, der an einer langfristigen Kundenbeziehung interessiert ist. Sie werden nicht versuchen, Kunden zu Kaufentscheidungen zu verleiten, über die sie sich im Nachhinein mit hoher Wahrscheinlichkeit ärgern.

Wünschenswert wären derweil mehr virtuelle Shopping-Assistenten, die händlerunabhängig beraten. Die Apps von Preissuchmaschinen, die Verbraucher automatisch auf Sonderangebote von Produkten hinweisen, die sie vor einiger Zeit gesucht, aber dann nicht gekauft haben, verfolgen diesen Ansatz. Es gibt noch keinen Bot, der das Konsumverhalten eines Verbrauchers systematisch über alle Produktgruppen beobachtet, aus Kaufentscheidungen Präferenzen und Preisbereitschaft immer besser kennenlernt, der weiß, dass das Klopapier in einer Woche aufgebraucht sein wird und auch noch versteht, welche Routinekäufe er selbsttätig online in Auftrag geben soll, und bei welchen Einkäufen gut aufbereitete Entscheidungsvorlagen für den Menschen gefragt sind – und der im Idealfall sogar noch mit dem Verkäufer über den Preis verhandeln kann. Für Datenschützer wäre ein solcher virtueller Agent der letzte Schritt zum gläsernen Verbraucher, der anfällig für viele Formen der Manipulation ist. Für alle, die ungern Zeit mit Shopping verschwenden, wäre er ein großer Gewinn an Komfort. Wäre ein solcher KI-Berater tatsächlich ein Agent des Käufers und neutral gegenüber Verkäufern, fiele er auch nicht so oft auf dumme Marketingtricks rein – wie wir Menschen.

Der Robo-Anwalt

Auf dem Feld der künstlich intelligenten Rechtsberatung wächst das Angebot zurzeit rasch, vor allem in englischer Sprache. Der wohl erfolgreichste virtuelle Rechtsassistent der Welt hat den profanen, aber bezeichnenden Namen "DoNotPay". Der Legal-Bot wurde von dem 19-jährigen Stanford-Studenten Joshua Browder programmiert und unterstützte seine US-amerikanischen und britischen Nutzer zunächst bei Einspruchsverfahren gegen Parkknöllchen, die nach Einschätzung der Parkenden zu Unrecht verhängt wurden. Im Dialog fragt der Chatbot alle relevanten Informationen ab und spuckt nach wenigen Minuten einen individuell begründeten, örtlich angepassten und juristisch wasserdichten Einspruchsbrief aus. Diesen muss der Nutzer dann nur ausdrucken, unterzeichnen und abschicken. Binnen zwei Jahren wehrte der Roboter-Anwalt auf diese Weise rund 375.000 Bußgeldbescheide ab. Derweil erweiterte Browder die Kompetenz des Legal-Bots vom Verkehrsrecht auf viele andere Rechtsfelder wie Ansprüche gegen Fluglinien, Anträge auf Mutterschutz, Mietsachen und Einspruchshilfe für abgelehnte Asylbewerber in den USA und Kanada. Beim eigenen Honorar wird der Legal-Bot seinem Namen ebenfalls gerecht. Der Service ist kostenlos – unter anderem weil IBM den Stanford-Studenten seine KI-Plattform Watson kostenlos nutzen lässt.

DoNotPay ist nur ein Beispiel von Tausenden Bots und Programmen, die juristische Arbeit verrichten. Der Boom bei sogenannter Legal Tech hat zwei einfache Gründe. Juristische Expertise ist erstens teuer, es lässt sich also viel Geld damit verdienen. Zweitens eignet sich die Juristerei besonders gut für Automatisierung mithilfe Künstlicher Intelligenz, denn sie baut auf präzise formulierten Regeln (den Gesetzen und Verordnungen) in einer stark formalisierten Sprache, und es gibt viele schriftlich dokumentierte Fälle, Kommentare und Verträge, die Maschinen mit Fähigkeit zu Musterkennung zum Vergleich heranziehen können. Zurzeit wird der größte Teil intelligenter Legal Tech von Profis genutzt, also von Anwälten und Unternehmensjuristen, die mit ihnen Verträge nach Fallstricken überprüfen, Berge von Dokumenten für die Unternehmensprüfung durchforsten oder auch Wahrscheinlichkeiten berechnen lassen, bei welchem Gericht sie eine Klage einreichen sollten, um die Aussicht auf Erfolg zu erhöhen.

Je umfassender die Kompetenzen der Legal-Bots werden, und je einfacher ihre Benutzeroberflächen sind, desto mehr werden Laien sie direkt nutzen. DoNotPay-Gründer Joshua Browder hat im Sommer 2017 seine KI-getriebene Chatbot-Technologie geöffnet. Jeder Jura-Kundige kann nun ohne technische Kenntnisse selbst Anwendungen bauen. Ziel ist es, dass DoNotPay bald in mehr als 1.000 Rechtsfeldern vom Scheidungsrecht bis zur Privatinsolvenz schnell und unkompliziert helfen kann. Das soll ja nicht die Stärke jedes menschlichen Anwalts sein. Ein kostenloser Legal-Bot hat zudem kein Interesse daran, einen Vertrag möglichst kompliziert zu gestalten, um damit sein Honorar zu erhöhen. Zudem gilt: Es wird vielleicht noch lange dauern, bis Künstliche Intelligenz so schlau ist wie der beste und teuerste Jurist in einem bestimmten Fachgebiet. Aber bei Standardfällen schlägt KI bereits heute das menschliche Mittelmaß mehr als nur gelegentlich. Ist dies der Fall, greifen die Mechanismen der digitalen Skalierung. Sind KI-Programme erst einmal entwickelt und lernen dann durch Feedback-Effekte laufend dazu, können sie kostengünstig vielen Menschen zugänglich gemacht werden – zumindest wenn die Betreiber das wollen. Fachwissen wird demokratisiert, ermächtigt Verbraucher und erhöht auch die Kompetenz der mittelmäßigen Fachleute. Das ist auch ein realistisches Szenario für die Entwicklung der Künstlichen Intelligenz in dem Feld, in dem Maschinelles Lernen in den vergangenen Jahren wohl die größte Hoffnung auf Fortschritt geweckt hat: die Medizin.

Was fehlt mir, Dr. Watson?

Können Maschinen Krankheiten von Menschen besser diagnostizieren als Menschen? Viele Experimente und Studien besonders aus der Onkologie, Kardiologie und bei genetischen Krankheiten deuten darauf hin. Dank Deep-Learning-Verfahren mit Computertomografie-Bildern lässt sich zum Beispiel das Tumorwachstum bei bestimmten Brustkrebsarten sehr viel genauer vorhersagen und damit deutlich bessere Entscheidungen für Therapien treffen. Doch das ist nur der erste Schritt auf dem Weg des medizinischen Fortschritts durch KI. Algorithmen haben bereits durch Mustererkennung in Zellproben Merkmale zur Unterscheidung von gutartigen und bösartigen Tumoren identifiziert, die der medizinischen Literatur bislang vollkommen unbekannt waren. Künstliche Neuronale Netze diagnostizieren also nicht nur, sie betreiben Spitzenforschung.

Große Hoffnung ruht auch auf der massenhaften Verbreitung von günstigen Sensoren, eingebaut in Standardprodukte, die massenhaft Daten liefern und damit die Grundlage für KI-Gesundheitsinnovationen schaffen. Smarte Uhren können den Herzschlag eines Menschen rund um die Uhr analysieren und Alarm schlagen, wenn abweichende Muster einen Herzinfarkt speziell für eine Risikogruppe ankündigen. Die Zuordnung zur Risikogruppe ist wiederum nur dank Maschinellen Lernens innerhalb eines genanalytischen Verfahrens möglich, bei dem unvorstellbar viele genetische Daten in ein Künstliches Neuronales Netz eingefüttert werden.

Künstliche Intelligenz kann auf MRT-Aufnahmen der Gehirne von sechs Monate alten Babys voraussagen, ob es als Kind oder Jugendlicher Autismus entwickelt, was ein erheblicher Gewinn ist, denn je früher die Therapien beginnen, desto stärker können die Effekte eingedämmt werden. Perspektivisch könnte KI helfen, nicht nur die zurzeit beste verfügbare Therapie für das Baby herauszusuchen, sondern ein auf Basis des individuellen Genoms maßgeschneidertes Medikament mit optimaler Wirkung zu entwickeln. Forscher und Startups arbeiten zudem mit Hochdruck an Big-Data- und Machine-Learning-Ansätzen, die den Ausbruch und Verlauf von Epidemien vorhersagen wie Dengue-Fieber, sodass Gesundheitsbehörden rechtzeitig Gegenmaßnahmen einleiten und die Epidemie im besten Fall direkt am Ausbruchsherd eindämmen können.

Zusammengefasst lautet die Hoffnung: KI-Agenten werden sich durch Gen-Datenbanken, Patientenakten, wissenschaftliche Studien und epidemische Statistiken fräsen, um Vorsorge, Forschung, Diagnose und Therapie auf eine neue Stufe zu heben. Das wäre freilich schön, wenn dies für möglichst viele Krankheitsbilder sobald wie möglich gelingt. Allerdings ist auch hier, wie bei allen Meldungen zu medizinischen Durchbrüchen, Vorsicht geboten. Forscher und Gründer neigen auch hier zu Übertreibung, oft aus Gründen der Selbstvermarktung. Aber der noch wichtigere Grund dürfte sein: Kaum ein anderer Bereich ist so stark reguliert wie Medizin und Gesundheit – von der Qualifikation des medizinischen Personals und seinen Befugnissen über Zulassungsverfahren für Medikamente und Gerätschaften bis zu besonders hohem Datenschutz der Patienten. Dafür gibt es gute Gründe. Der Preis hierfür ist, dass der Weg für Neuerungen aus den Forschungslaboren in die Umsetzung in Krankenhäusern und Praxen weit und steinig ist.

In den USA nutzen 40 Prozent der niedergelassenen Ärzte und ein Viertel aller Krankenhäuser nach wie vor keine elektronischen Krankenakten. In Deutschland verhindert eine Allianz aus Datenschützern und Ärztelobby seit mehr als zehn Jahren die Einführung einer elektronischen Gesundheitskarte. Der wichtigste Rohstoff für KI-Innovationen im Gesundheitsbereich, die Daten von Patienten, sind in vielen rechtlich verschlossenen Datensilos in vielen unterschiedlichen Formaten gespeichert. Damit diese überhaupt für künstlich intelligente Anwendungen rechtskonform und technisch nutzbar werden, müssen sie in der Regel anonymisiert und dann aufwändig gesäubert und homogenisiert werden. Der komplizierte Zugang zu Daten in einem eigentlich datenreichen Forschungsfeld verzögert den medizinischen Fortschritt also zusätzlich zu den langwierigen Zulassungsverfahren.

VerTrauen wir den Maschinen?

Wenn es die Innovationen in die Praxis geschafft haben, stellt sich allerdings noch eine grundsätzlicher Frage: Vertrauen wir dem datenbasierten Urteil eines Künstlichen Neuronalen Netzes mehr als dem eines erfahrenen Arztes, der uns vielleicht schon als Kind behandelt hat? Der Informatikstudent mag dies uneingeschränkt mit Ja beantworten. Er glaubt an Statistik. Viele Patienten werden sich mit der schrittweisen Übergabe der Entscheidungskompetenz vom Menschen auf die Maschine schwer tun. Diagnoseärzte und Anwälte stehen immer sehr weit oben auf den Listen von qualifizierten Wissensarbeitern, deren Jobs durch KI-Automatisierung bedroht sind. Gleiches gilt für Wirtschaftsprüfer, Controller, Anlageberater, Versicherungsmakler, öffentliche Verwaltungsbeamte, Sachbearbeiter, Verkäufer und – eine weitere Pointe der Technikgeschichte – auch für jenen Berufsstand, der KI-Systeme schafft, die Programmierer.

Die eine oder andere Studie von Arbeitswissenschaftlern bewegt sich mit ihren Automatisierungsprognosen und den sich daraus ergebenden negativen Beschäftigungseffekten auf sehr dünner Datenbasis. Nüchtern betrachtet müssen KI-Systeme hohe Hürden überwinden, bevor Menschen ihren Urteilen und Entscheidungen trauen. In vielen Fällen wird es auch den meisten Laien kaum möglich sein, künstlich intelligenten Ratschlag ohne Hilfe von Experten überhaupt einzuholen oder diesen sinnvoll einzuordnen. Wenn es um unser höchstes Gut geht, unsere Gesundheit, werden wir auf diese Einordnung kaum verzichten wollen. Aber wir werden von Ärzten verlangen, dass sie die besten KI-Systeme zu nutzen wissen, um ihre Therapien evidenzbasiert zu verordnen, und nicht auf Grundlage ihres Bauchgefühls, wie allzu oft in der Vergangenheit.

Bei Stitch Fix treffen nach wie vor Menschen die endgültige Entscheidung über die Zusammensetzung der Kleidungsstücke in der Box. Tausende (menschliche) Stylisten legen jedem Paket eine persönliche Karte bei und stehen für Rückfragen zur Verfügung. Auch bei diesem Vorreiter von algorithmisierter Verkaufsberatung ist man davon überzeugt: Menschen verkaufen am Ende doch besser als Maschinen, weil sie eine menschliche (Kunden-)Beziehung aufbauen.

Vielleicht wird die Welt mit weniger Juristen nicht zwingend ein schlechterer Ort. Wo liegt der volkswirtschaftliche und gesellschaftliche Mehrwert von immer komplizierteren Regeln, die von immer mehr Menschen interpretiert werden? "Die Rechtsindustrie macht mehr als 200 Milliarden Dollar Umsatz in den USA. Ich freue mich, das wir das Recht kostenlos anbieten", sagt DoNotPay-Gründer Joshua Browder und schiebt hinterher: "Die großen Kanzleien können darüber nicht glücklich sein." Als Mandanten werden wir von Anwälten künftig fordern, dass sie ihre Dienste günstiger und in besserer Qualität anbieten, indem sie KI-Werkzeuge wie den Legal-Bot Ross einsetzen, der Anwälte bei der Großkanzlei BakerHostetler unterstützt.

In fast allen Wissensberufen, bei denen Entscheidungen automatisiert werden, lässt sich die Frage nach Massenarbeitslosigkeit von Wissensarbeitern auch umformulieren: Wie stellen Verkäufer, Anwälte und Ärzte sicher, dass sie mithilfe von KI mehr Menschen günstiger mit besserer Beratungsleistung helfen können? Der Leitgedanke hier ist: augmented decision making anstatt reine Automation. Ginni Rometty, die Vorstandsvorsitzende von IBM, sieht die Dinge so: "Was einige Leute Künstliche Intelligenz nennen, ist in Wirklichkeit eine Technologie, die unsere Fähigkeiten stärkt. Eigentlich geht es nicht um Künstliche Intelligenz, sondern um die Erhöhung unserer Intelligenz." Für Wissensarbeiter hieße das im Umkehrschluss, dass nicht Künstliche Intelligenz sie in den kommenden Jahren ersetzen wird. Tech-affine Verkäufer, Anwälte und Ärzte werden jene Kollegen ersetzen, die KI nicht als Entscheidungsassistenten intelligent zu nutzen wissen.

Denken müssen wir noch selbst

Für jeden Einzelnen stellt Künstliche Intelligenz also eine neue, sehr grundlegende Frage: Welche Entscheidungen wollen wir nicht an Maschinen delegieren? Denn natürlich irren auch die intelligentesten Maschinen und natürlich können aus Daten lernende Systeme von Menschen eingesetzt werden, um andere Menschen zu manipulieren oder unfair zu behandeln. Je intelligenter Maschinen werden, desto kritischer müssen wir sie hinterfragen. Mit der Hinwendung zur Vernunft und Wissenschaft hat die Aufklärung die Grundlagen gelegt, die Mitte des 18. Jahrhunderts Charles Babbage den ersten Computer erdenken und Konrad Zuse gut hundert Jahre später den ersten programmierbaren Rechner bauen ließ. Die Verknüpfung der Computer in einem weltweiten Netz durch Tim Berners-Lee vor rund 25 Jahren machte die digitale Riesenmaschine zum mächtigsten Werkzeug, das der Mensch je geschaffen hat. Jetzt lernen Maschinen das Lernen – und wir brauchen mehr Abstand zu ihnen.

Wir müssen verstehen, wann maschinelle Assistenz uns nützt – und in welchen Kontexten sie uns in unserem Denken behindert. Die Automatisierung von Entscheidungen bietet große Chancen für den Einzelnen, Organisationen und für die Gemeinschaften, die wir Gesellschaften nennen. Doch auch im Zeitalter der rationalen Automatisierung von Entscheidungen durch KI gilt: Menschen müssen mit ihren Entscheidungen glücklich werden, Computer nicht. Maschinen werden nie fühlen, was Glück ist. Die Irrationalität gehört zum Wesen menschlicher Entscheidungen. Im Zeitalter der Berechenbarkeit durch aus Daten lernende Maschinen könnte unsere Unberechenbarkeit unsere größte Stärke werden.

In den vergangenen Jahren wurde viel über eine neue Maschinenethik diskutiert und über die Frage, ob man (und wenn ja, wie) Maschinen ethisch korrektes Verhalten einprogrammieren könne.[3] Aufgehängt waren diese Debatten oft an konstruierten Dilemmata nach dem Prinzip: Ein autonomes Fahrzeug steuert auf eine Mutter mit Baby im Kinderwagen und eine Gruppe mit fünf Senioren zu. Es muss entscheiden, wen es überfährt. Mutter und Baby, die zusammen voraussichtlich noch 150 Jahre leben, oder die fünf Senioren mit einer kollektiven Lebenserwartung von 50 Jahren. Solche Gedankenspiele sind notwendig. Die Würde des Menschen ist unantastbar. Im Krieg darf ein General die Abwägung treffen, fünf Soldaten zu opfern, wenn er zehn dafür retten kann. Im zivilen Leben darf dies in der Theorie niemand. In der Praxis macht es ein Autofahrer, der bei überhöhter Geschwindigkeit und ohne Möglichkeit zu bremsen sein Fahrzeug lieber in eine Menschengruppe steuert als gegen einen Betonpfosten.

Die Automatisierung von Entscheidungen ist in vielen Kontexten eine ethische Herausforderung, aber zugleich ein moralischer Imperativ. Wenn wir mit autonomen Fahrzeugen die Zahl der Verkehrstoten halbieren können, müssen wir das tun. Wenn wir dank maschineller Mustererkennung von Zellen vielen Krebspatienten das Leben retten können, dürfen wir diesen Fortschritt nicht von einer Ärztelobby verzögern lassen, die Angst um ihre Honorare hat. Und wenn KI-Systeme in Südamerika Kindern aus armen Verhältnissen das Rechnen lehren, dürfen wir nicht darüber lamentieren, dass es doch schöner wäre, wenn es dort mehr menschliche Mathematiklehrer gäbe.

Im Verhältnis von Mensch und Maschine ändert sich durch Künstliche Intelligenz im Grundsatz weniger, als es uns der ein oder andere KI-Entwickler weismachen möchte. Joseph Weizenbaum, der deutsch-amerikanische Erfinder des Chatprogramms ELIZA, schrieb 1976 den Weltbestseller "Die Macht der Computer und die Ohnmacht der Vernunft". Das Buch war ein Appell wider den mechanistischen Maschinenglauben seiner Epoche. In einer Zeit, in der die Vorstellung einer technischen Vorherbestimmung der Menschheit im Silicon Valley wieder in Mode kommt, verdient dieses Buch eine Neuauflage.

Wir können Entscheidungen an Maschinen in vielen einzelnen Bereichen delegieren. KI-Systeme, gut programmiert und mit den richtigen Daten gefüttert, sind nützliche Fachidioten. Ihnen fehlt aber die Fähigkeit, das große Ganze zu sehen. Die wichtigen Entscheidungen, darunter jene über das Ausmaß der maschinellen Assistenz, bleiben menschliche. Oder allgemeiner formuliert: Künstliche Intelligenz kann uns das Denken nicht abnehmen.

Die Geschichte der Menschheit ist die Summe menschlicher Entscheidungen. Wir entscheiden normativ, was wir wollen. Das wird so bleiben. Das positive Weltbild für die nächste Entwicklungsstufe des maschinenunterstützten Informationszeitalters müssen wir dabei nicht einmal neu erfinden. "Es ist ganz schlicht die Rückbesinnung auf die humanistischen Werte", sagt der New Yorker Risikokapitalist, Buchautor und TED-Speaker Albert Wenger. Diese lassen sich seiner Ansicht nach auf folgende Formel bringen: "Die Fähigkeit, Wissen zu schaffen, macht uns Menschen einzigartig. Wissen entsteht in einem kritischen Prozess. Alle Menschen können und sollen an diesem Prozess teilhaben." Die digitale Revolution ermöglicht uns zum ersten Mal in der Menschheitsgeschichte, dieses humanistische Ideal in die Praxis umzusetzen. Indem wir Künstliche Intelligenz intelligent und zum Wohle des Menschen einsetzen.

Der Text ist ein leicht abgeänderter Auszug aus dem Buch: "Mensch und Maschine. Wie Künstliche Intelligenz und Roboter unser Leben verändern".
Es erscheint am 16. März im Reclam Verlag.
1|2|3|4|5 Auf einer Seite lesen

Fußnoten

1.
Bei Maschinellem Lernen erkennen Computersysteme Muster in Beispielen und können ihre "Erkenntnisse" auf andere Beispiele übertragen. So lernen sie, aus Daten immer genauere Schlüsse zu ziehen und Entscheidungen abzuleiten.
2.
Beim Turing-Test, entwickelt von dem Informatiker Alan Turing, stellt ein Mensch einem anderen Menschen und einem Computer Fragen. Mensch und Rechner antworten im Chat (ohne Sicht- und Hörkontakt). Der Turing-Test ist bestanden, wenn der Fragesteller nicht sagen kann, welcher seiner "Gesprächspartner" eine Maschine ist.
3.
Siehe dazu auch die Beiträge von Catrin Misselhorn und Oliver Bendel in dieser Ausgabe (Anm. d. Red.).
Creative Commons License

Dieser Text ist unter der Creative Commons Lizenz "CC BY-NC-ND 3.0 DE - Namensnennung - Nicht-kommerziell - Keine Bearbeitung 3.0 Deutschland" veröffentlicht. Autor/-in: Thomas Ramge für Aus Politik und Zeitgeschichte/bpb.de

Sie dürfen den Text unter Nennung der Lizenz CC BY-NC-ND 3.0 DE und des/der Autors/-in teilen.
Urheberrechtliche Angaben zu Bildern / Grafiken / Videos finden sich direkt bei den Abbildungen.