https://www.faz.net/-gqe-9ra3r

Antidiskriminierungsrecht : Vom Computer abgelehnt

  • -Aktualisiert am

Wenn Algorithmen Lebensläufe bewerten, kann es zu einer Diskriminierung von Bewerbern kommen (Symbolbild). Bild: Picture-Alliance

Algorithmen treffen in Bewerbungsverfahren, bei der Vergabe von Krediten und in der Medizin Entscheidungen, die Menschen diskriminieren können. Hier hilft das Allgemeine Gleichbehandlungsgesetz.

          2 Min.

          Der Internetgigant Amazon brach im Jahr 2017 den Test einer Software ab, die Lebensläufe Bewerbender scannen und sie bewerten sollte. Der selbstlernende Algorithmus suchte nach Wortmustern, die auf gute Leistungen im Job schließen ließen. Doch nach und nach ging dem Entwicklungsteam auf, dass sein Algorithmus Frauen schlechter bewertete.

          Der Grund: Als Trainingsdaten waren Lebensläufe früherer Bewerbungen verwendet worden – und die kamen hauptsächlich von Männern. Stationen im Lebenslauf, die für Frauen typischer waren – etwa der Besuch reiner Frauen-Colleges – bewertete die Software negativ. Die systematische Diskriminierung, erkannte Amazon, ließ sich dem Algorithmus nicht abtrainieren.

          Testen Sie unsere Angebote.
          Jetzt weiterlesen

          Testen Sie unsere Angebote.
          F.A.Z. PLUS:

          FAZ.NET komplett

          : Neu

          F.A.Z. Woche digital

          F.A.Z. + F.A.S. – Adventsangebot

          Diese und viele weitere Artikel lesen Sie mit F+

          Elektrische Kleinstwagen : Attacke mit Gleichstrom

          VW, Seat und Škoda machen aus ihren Kleinstwagen ein elektrisches Trio mit nahezu identischem Inhalt. Neuankömmlinge wie der E-Go dürften dabei unter die Räder kommen.
          Frankfurt am Main, Standort der in den Fokus der Ermittler geratenen Wirtschaftskanzlei Freshfields

          Freshfields und Cum-ex : Anwälte im Steuerskandal

          Freshfields gilt als „Edelmarke“, zu den Mandanten gehören Dax-Konzerne und die Bundesregierung. Nun steckt die Wirtschaftskanzlei in der größten Krise ihrer Geschichte.