Wie man Licht in die Black Box wirft
- -Aktualisiert am
Übereinandergelegte Ausschnitte eines Computerpogramms Bild: Picture-Alliance
Algorithmen greifen immer tiefer ins Leben ein. Deshalb müssen sie transparent gemacht werden. Wie soll das gehen? Ein Gastbeitrag.
Im Koalitionsvertrag der Bundesregierung steht, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen. Das ist leider alles andere als einfach, aber, wie wir zeigen, machbar. Beispielsweise teilt uns die Schufa mit Hilfe eines Algorithmus danach ein, wie kreditwürdig wir mutmaßlich sind, ausgedrückt in Form einer Bonitätsnote („Score“), die theoretisch von null Prozent (keine Kreditwürdigkeit) bis hundert Prozent (maximale Kreditwürdigkeit) reicht. Die Schufa hat Daten über rund 67 Millionen Bürger.
Wer aufgrund einer zu niedrigen Note einen günstigen Kredit oder die erwünschte Wohnung nicht erhält, kann jedoch nicht nachvollziehen, wie dieser Score zustande gekommen ist. Der Schufa-Algorithmus ist Geschäftsgeheimnis. In den Vereinigten Staaten gibt es Scoring-Verfahren, die noch gravierendere Auswirkungen haben können. Compas ist beispielsweise ein Algorithmus, der eine Wahrscheinlichkeit vorhersagt, mit der ein Angeklagter in den nächsten zwei Jahren eine Straftat begehen wird. Bisher wurden damit mehr als eine Million Angeklagte bewertet, und Richter konnten diese Wahrscheinlichkeit bei ihrer Urteilsfindung verwenden. Weder der Richter noch der Angeklagte und sein juristischer Beistand versteht jedoch, wie diese Wahrscheinlichkeit zustande gekommen ist. Compas ist ein Geschäftsgeheimnis. Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen. Transparenz ist trotz des Geschäftsgeheimnisses dringend notwendig. Wir legen dazu einen Vorschlag vor.
Behalten Sie das Geschehen umfassend im Blick.
Zugang zu allen F+Artikeln
- Alle wichtigen Hintergründe zu den aktuellen Entwicklungen
- Exklusive Berichte zur Corona-Pandemie und anderen Themen
- Über 500 F+Artikel pro Monat
- Jederzeit kündbar
im F.A.Z. Digitalpaket
: Aktion
Mit Abstand unser bestes Angebot.
5,80 € /WOCHE
- Die digitale F.A.Z. (Mo-Sa) und sonntags die digitale F.A.S.
- Bereits am Vorabend verfügbar
- Zugang zu allen F+Artikeln
- 6 Monate 50% sparen
Login für Digital-Abonnenten
Sie haben Zugriff mit Ihrem F+ oder F.A.Z. Digital-Abo
