Meine Merkliste

Identity and Integrity: The Ethical Relevance of Super-Scores

Identity and Integrity: The Ethical Relevance of Super-Scores Super-Scoring? Data-driven societal technologies in China and Western-style democracies as a new challenge for education

von: Christiane Woopen (CERES; University of Cologne)

Digital decision making relies on data and predefined criteria, but lacks when being implemented non-technical parameters like a social environment or basic human values. Christine Woopen, however, disagrees and explains in her talk why these values are fundamental to any (automated) social scoring system.

Inhalt

Mensch-Maschine-Schnittstelle: Wer trifft die Entscheidungen? Kann man noch von einer "Black Box" sprechen? Woopen stellt die These auf, dass Bürger*innen sich verunsichert fühlen, wenn die Entscheidungen in einer "Black Box" gefällt werden, es also keine konkreten menschlichen Ansprechpartner für Bedenken und Probleme und keine verantwortliche, adressierbare Stelle für das Scoring gibt. Ein rein binär anhand vorgegebener Kriterien entscheidender Prozess, der nicht informiert ist durch menschliche Werte und Sensibilitäten, wird als problematisch gesehen. Konsensuale kollektive Werte (Menschenwürde, Freiheit, Gleichbehandlung, Gerechtigkeit/Solidarität, Sicherheit/Stabilität, Daten-/Privatsphärenschutz, Nachhaltigkeit …) müssen grundlegend für alle Systeme sein.

Der Begriff der Black Box wurde jedoch in Frage gestellt: Das Treffen von Entscheidungen setzt Werte voraus, die dem System von Menschen vorgegeben werden, was die Entscheidungen prädeterminiert – und die Auswirkungen der Entscheidungen (zum Beispiel über Mittelvergaben im Sozialwesen) sind dieselben, ob nun ein Mensch oder ein Algorithmus sie trifft.

Unter welchen Bedingungen kann Scoring erlaubt werden? Gibt es eine goldene Regel, ein Prinzip, einen Standard? Ein rein binär anhand vorgegebener Kriterien entscheidender Prozess, der nicht informiert ist durch menschliche Werte und Sensibilitäten, wird als problematisch gesehen. Konsensuale kollektive Werte (Menschenwürde, Freiheit, Gleichbehandlung, Gerechtigkeit/Solidarität, Sicherheit/Stabilität, Daten-/Privatsphärenschutz, Nachhaltigkeit …) müssen grundlegend für alle Systeme sein. Entscheidungen sollten flexibel sein, ohne dabei die Regeln zu umgehen, Ausnahmen sollten möglich sein (Vergleich Klosterleben). Scoring sollte immer nur einen einzelnen Bereich des Lebens betreffen. Es muss einen konkreten, nachvollziehbaren Grund geben, aus dem Scoring in diesem bestimmten Bereich relevant ist. Zudem muss der Zweck ethisch vertretbar sein.

Mehr Informationen

  • Produktion: 11.10.2019

  • Spieldauer: 20 Min.

  • hrsg. von: Bundeszentrale für politische Bildung/bpb

Lizenzhinweise

Dieser Text und Medieninhalt sind unter der Creative Commons Lizenz "CC BY-NC-ND 4.0 - Namensnennung - Nicht kommerziell - Keine Bearbeitungen 4.0 International" veröffentlicht. Autor/-in: Christiane Woopen (CERES; University of Cologne) für bpb.de

Sie dürfen den Text unter Nennung der Lizenz CC BY-NC-ND 4.0 und des/der Autors/-in teilen.