Meine Merkliste

On the function and legitimation of scoring

On the function and legitimation of scoring Super-Scoring? Data-driven societal technologies in China and Western-style democracies as a new challenge for education

von: Lorena Jaume-Palasí (The Ethical Tech Society)

Scoring relies on data or methods of classification. With this in mind, does scoring lead to automation of discrimination? Are its creators still capable of keeping track with their decision making processes? Lorena Jaume-Palasí presents her approach on the function and legitimation of scoring.

Inhalt

Je komplexer das Scoring-System ist, desto schwerer ist es zu verstehen. Können die Initiatoren ihre Vorgehensweisen und Entscheidungen selbst noch überblicken? Es ist nicht notwendig, die einzelnen Algorithmen verstehen und nachvollziehen zu können; eine Bewertung eines Systems ist auch anhand seiner Funktion und Ergebnisse möglich. Diese müssen kontinuierlich überprüft und transparent gemacht werden (ggf. gesetzlich geregelt). Provokativ wurde angemerkt, dass die Undurchsichtigkeit des Systems durchaus von interessierten Kreisen erwünscht und herbeigeführt sein könne. Diskriminierung einzelner Bevölkerungsgruppen im Rahmen des SCS ist eine Gefahr, die sich aus den durch das System gemachten Vorgaben ergibt: Nutzt man diskriminierende Kategorisierungen, erhält man diskriminierende Ergebnisse. Auch die Verwendung alter Daten kann zu Diskriminierung führen. Problematisch ist auch eine politische Haltung, die die technologische Analyse von potentiellen Risiken und das Profiling über eine fundierte Ursachen- und Motivforschung zur Kriminalprävention stellt.

Mehr Informationen

  • Produktion: 11.10.2019

  • Spieldauer: 11 Min.

  • hrsg. von: Bundeszentrale für politische Bildung/bpb

Lizenzhinweise

Dieser Text und Medieninhalt sind unter der Creative Commons Lizenz "CC BY-NC-ND 4.0 - Namensnennung - Nicht kommerziell - Keine Bearbeitungen 4.0 International" veröffentlicht. Autor/-in: Lorena Jaume-Palasí (The Ethical Tech Society) für bpb.de

Sie dürfen den Text unter Nennung der Lizenz CC BY-NC-ND 4.0 und des/der Autors/-in teilen.