https://www.faz.net/-gqe-9ra3r

Antidiskriminierungsrecht : Vom Computer abgelehnt

  • -Aktualisiert am

Wenn Algorithmen Lebensläufe bewerten, kann es zu einer Diskriminierung von Bewerbern kommen (Symbolbild). Bild: Picture-Alliance

Algorithmen treffen in Bewerbungsverfahren, bei der Vergabe von Krediten und in der Medizin Entscheidungen, die Menschen diskriminieren können. Hier hilft das Allgemeine Gleichbehandlungsgesetz.

          2 Min.

          Der Internetgigant Amazon brach im Jahr 2017 den Test einer Software ab, die Lebensläufe Bewerbender scannen und sie bewerten sollte. Der selbstlernende Algorithmus suchte nach Wortmustern, die auf gute Leistungen im Job schließen ließen. Doch nach und nach ging dem Entwicklungsteam auf, dass sein Algorithmus Frauen schlechter bewertete.

          Der Grund: Als Trainingsdaten waren Lebensläufe früherer Bewerbungen verwendet worden – und die kamen hauptsächlich von Männern. Stationen im Lebenslauf, die für Frauen typischer waren – etwa der Besuch reiner Frauen-Colleges – bewertete die Software negativ. Die systematische Diskriminierung, erkannte Amazon, ließ sich dem Algorithmus nicht abtrainieren.

          Testen Sie unsere Angebote.
          Jetzt weiterlesen

          Testen Sie unsere Angebote.
          F.A.Z. PLUS:

          FAZ.NET komplett

          : Neu

          F.A.Z. Woche digital

          F.A.Z. Digital – Jubiläumsangebot!

          Diese und viele weitere Artikel lesen Sie mit F+

          Emmerich Schneck und seine Frau Angelika in ihrer Metzgerei in Rüdesheim

          Keinen Nachfolger gefunden : Ein Metzger macht Schluss

          Emmerich Schneck wurde das Metzgerhandwerk in die Wiege gelegt. 60 Jahre ist er alt, genauso alt wie sein Laden. Nun muss er das Geschäft schließen – er kann nicht mehr.