https://www.faz.net/-gqz-9bhd7

Transparenz von Algorithmen : Wie man Licht in die Black Box wirft

  • -Aktualisiert am

Übereinandergelegte Ausschnitte eines Computerpogramms Bild: Picture-Alliance

Algorithmen greifen immer tiefer ins Leben ein. Deshalb müssen sie transparent gemacht werden. Wie soll das gehen? Ein Gastbeitrag.

          5 Min.

          Im Koalitionsvertrag der Bundesregierung steht, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen. Das ist leider alles andere als einfach, aber, wie wir zeigen, machbar. Beispielsweise teilt uns die Schufa mit Hilfe eines Algorithmus danach ein, wie kreditwürdig wir mutmaßlich sind, ausgedrückt in Form einer Bonitätsnote („Score“), die theoretisch von null Prozent (keine Kreditwürdigkeit) bis hundert Prozent (maximale Kreditwürdigkeit) reicht. Die Schufa hat Daten über rund 67 Millionen Bürger.

          Wer aufgrund einer zu niedrigen Note einen günstigen Kredit oder die erwünschte Wohnung nicht erhält, kann jedoch nicht nachvollziehen, wie dieser Score zustande gekommen ist. Der Schufa-Algorithmus ist Geschäftsgeheimnis. In den Vereinigten Staaten gibt es Scoring-Verfahren, die noch gravierendere Auswirkungen haben können. Compas ist beispielsweise ein Algorithmus, der eine Wahrscheinlichkeit vorhersagt, mit der ein Angeklagter in den nächsten zwei Jahren eine Straftat begehen wird. Bisher wurden damit mehr als eine Million Angeklagte bewertet, und Richter konnten diese Wahrscheinlichkeit bei ihrer Urteilsfindung verwenden. Weder der Richter noch der Angeklagte und sein juristischer Beistand versteht jedoch, wie diese Wahrscheinlichkeit zustande gekommen ist. Compas ist ein Geschäftsgeheimnis. Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen. Transparenz ist trotz des Geschäftsgeheimnisses dringend notwendig. Wir legen dazu einen Vorschlag vor.

          Testen Sie unsere Angebote.
          Jetzt weiterlesen

          Testen Sie unsere Angebote.
          F.A.Z. PLUS:

            FAZ.NET komplett

          F.A.Z. PLUS:

            im F.A.Z. Digitalpaket

          : Aktion

          Diese und viele weitere Artikel lesen Sie mit F+

          Machtwechsel in Amerika : Trumps kalkuliertes Ende

          Der scheidende Präsident kapituliert scheibchenweise. Es geht ihm um seinen künftigen Einfluss – und um viel Geld. Scheitert sein diabolischer Plan nun an der dilettantischen Ausführung?

          Abgelehnte Asylbewerber : Letzte Hoffnung Frankreich

          Viele in Deutschland und anderen EU-Staaten abgelehnte Asylbewerber fliehen nach Frankreich. Hier werden die Anträge weniger streng geprüft. Die französische Migrationsbehörde sieht sich als Opfer der europäischen Asylpolitik.