https://www.faz.net/-gqz-8zm9i

Aus dem Maschinenraum : Diskriminierung ist Menschenwerk

  • -Aktualisiert am

Um beim Beispiel zu bleiben: Die Biometriesoftware kann nicht nur als eine einfache Mustererkennung von Gesichtern, sondern auch mit maschinellem Lernen trainiert worden sein. Wenn ein neuronales Netzwerk diskriminierende Ergebnisse liefert, kann das zwei Ursachen haben: Die Trainingsdaten und Optimierungskriterien wurden entweder absichtlich mit diesem Ziel gewählt oder unabsichtlich nicht sorgfältig genug auf implizite Tendenzen geprüft. Ethisch ist ersteres zweifelsohne verwerflicher, beides ist jedoch inakzeptabel.

Nicht als bloße Datenverhandlungsmasse abqualifiziert werden

Mangelnde Sorgfalt und Fehler lassen sich ausmerzen, wenn der Wille da ist. Doch was der Minister – ein Sozialdemokrat – in seiner Rede gegen die Diskriminierung durch Software nicht ausreichend problematisiert, sind genau die Absichten, die dahinterstecken können. Wenn Diskriminierung schlicht erwünscht ist, weil es das eigene Geschäftsmodell unterstützt, hat das nichts mit Vorurteilen oder Unbedachtheiten der Programmierer zu tun, sondern mit der ethikbefreiten Profitgier oder mit zur Diskriminierung neigenden Überzeugungen in den Firmen, für die sie arbeiten.

Unser Angebot für Erstwähler
Unser Angebot für Erstwähler

Lesen Sie 6 Monate die digitalen Ausgaben von F.A.Z. PLUS und F.A.Z. Woche für nur 5 Euro im Monat

Zum Angebot

In Wahrheit gilt es hier anzusetzen, nicht so sehr bei der Technik. Eine effektive Vermeidung automatisierter Diskriminierung in ihren verschiedenen Formen erfordert ein Eingreifen an der Wurzel. Es kann den Menschen schlicht egal sein, mit welcher Technologie sie diskriminiert werden. Sie wollen und sollten einfach nicht ohne guten Grund schlechter gestellt werden als ihre Mitmenschen. Und ihr alltägliches Handeln und Kommunizieren, aus dem immer genauere Profile erwachsen, sollten nicht als bloße Datenverhandlungsmasse abqualifiziert werden dürfen.

Schwelgen vom kommenden „Datenreichtum“

Darüber ließe sich doch gut eine gesellschaftliche Debatte führen, zumindest wenn man einen Funken Sozialdemokratie in sich hat: die Menschenprofilierung, die Geschäftsmodelle und ihre Auswirkungen. Die Software dazwischen ist eher zweitrangig. Sich an der Technologie abzuarbeiten, aber die dahinterliegenden Probleme nicht anrühren zu wollen, lässt den Maasschen Regulierungseifer hohl und inkonsequent erscheinen.

Der Blick auf die Politik der vergangenen Legislaturperiode in Datenfragen erklärt vielleicht die Einäugigkeit des Ministers: Die Riege der Digitalminister und die Kanzlerin selbst schwelgten vom kommenden „Datenreichtum“ und von „Datensouveränität“, die uns offenbar bald bevorstehen. Konsequent normalisierte die Bundesregierung auch die anlasslose Überwachung und Datensammelei in großem Stil, indem sie ein Gesetz dem nächsten folgen ließ.

Da käme es aufmerksamen Wahlbürgern sicher seltsam vor, wenn sich zum Ende der Regierungszeit ein Justizminister wirklich mal mit Fragen der Datenmachtverhältnisse und mit der Profilierung von Menschen beschäftigen würde. Denn um nichts anderes geht es eigentlich, wenn man darüber sprechen wollte, wer in Zukunft von Software diskriminiert wird – zu seinem Nachteil oder zu eines anderen Vorteil.

Weitere Themen

Niemals geht man so ganz Video-Seite öffnen

Filmkritik „Avengers: Endgame“ : Niemals geht man so ganz

Nach 11 Jahren und 22 Filmen findet das Marvel Cinematic Universe vorerst sein Ende. In „Avengers: Endgame“ gibt sich die Superhelden-Riege ein letztes Mal die Klinke in die Hand. Dietmar Dath hat den Film bereits gesehen.

Die Chimäre

Diskussion um Uploadfilter : Die Chimäre

Der anhaltende Streit um den Aufregerbegriff „Uploadfilter“ zeigt vor allem eins: Wie sehr sich netzpolitische Diskussionen auch 2019 von der Realität abkoppeln können. Ein Gastbeitrag.

Topmeldungen

Newsletter

Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.