Wie man Licht in die Black Box wirft
- -Aktualisiert am
Übereinandergelegte Ausschnitte eines Computerpogramms Bild: Picture-Alliance
Algorithmen greifen immer tiefer ins Leben ein. Deshalb müssen sie transparent gemacht werden. Wie soll das gehen? Ein Gastbeitrag.
Im Koalitionsvertrag der Bundesregierung steht, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen. Das ist leider alles andere als einfach, aber, wie wir zeigen, machbar. Beispielsweise teilt uns die Schufa mit Hilfe eines Algorithmus danach ein, wie kreditwürdig wir mutmaßlich sind, ausgedrückt in Form einer Bonitätsnote („Score“), die theoretisch von null Prozent (keine Kreditwürdigkeit) bis hundert Prozent (maximale Kreditwürdigkeit) reicht. Die Schufa hat Daten über rund 67 Millionen Bürger.
Wer aufgrund einer zu niedrigen Note einen günstigen Kredit oder die erwünschte Wohnung nicht erhält, kann jedoch nicht nachvollziehen, wie dieser Score zustande gekommen ist. Der Schufa-Algorithmus ist Geschäftsgeheimnis. In den Vereinigten Staaten gibt es Scoring-Verfahren, die noch gravierendere Auswirkungen haben können. Compas ist beispielsweise ein Algorithmus, der eine Wahrscheinlichkeit vorhersagt, mit der ein Angeklagter in den nächsten zwei Jahren eine Straftat begehen wird. Bisher wurden damit mehr als eine Million Angeklagte bewertet, und Richter konnten diese Wahrscheinlichkeit bei ihrer Urteilsfindung verwenden. Weder der Richter noch der Angeklagte und sein juristischer Beistand versteht jedoch, wie diese Wahrscheinlichkeit zustande gekommen ist. Compas ist ein Geschäftsgeheimnis. Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen. Transparenz ist trotz des Geschäftsgeheimnisses dringend notwendig. Wir legen dazu einen Vorschlag vor.
Zugang zu allen exklusiven F+Artikeln
2,95 € / Woche
- Alle wichtigen Hintergründe zu den aktuellen Entwicklungen
- Mehr als 1.000 F+Artikel mtl.
- Mit einem Klick online kündbar
Login für Digital-Abonnenten
Sie haben Zugriff mit Ihrem F+ oder F.A.Z. Digital-Abo