https://www.faz.net/-gqe-9ra3r

Antidiskriminierungsrecht : Vom Computer abgelehnt

  • -Aktualisiert am

Wenn Algorithmen Lebensläufe bewerten, kann es zu einer Diskriminierung von Bewerbern kommen (Symbolbild). Bild: Picture-Alliance

Algorithmen treffen in Bewerbungsverfahren, bei der Vergabe von Krediten und in der Medizin Entscheidungen, die Menschen diskriminieren können. Hier hilft das Allgemeine Gleichbehandlungsgesetz.

          2 Min.

          Der Internetgigant Amazon brach im Jahr 2017 den Test einer Software ab, die Lebensläufe Bewerbender scannen und sie bewerten sollte. Der selbstlernende Algorithmus suchte nach Wortmustern, die auf gute Leistungen im Job schließen ließen. Doch nach und nach ging dem Entwicklungsteam auf, dass sein Algorithmus Frauen schlechter bewertete.

          Der Grund: Als Trainingsdaten waren Lebensläufe früherer Bewerbungen verwendet worden – und die kamen hauptsächlich von Männern. Stationen im Lebenslauf, die für Frauen typischer waren – etwa der Besuch reiner Frauen-Colleges – bewertete die Software negativ. Die systematische Diskriminierung, erkannte Amazon, ließ sich dem Algorithmus nicht abtrainieren.

          Testen Sie unsere Angebote.
          Jetzt weiterlesen

          Testen Sie unsere Angebote.
          F.A.Z. PLUS:

            FAZ.NET komplett

          F.A.Z. PLUS:

            im F.A.Z. Digitalpaket

          : Aktion

          Diese und viele weitere Artikel lesen Sie mit F+

          Machtwechsel in Amerika : Trumps kalkuliertes Ende

          Der scheidende Präsident kapituliert scheibchenweise. Es geht ihm um seinen künftigen Einfluss – und um viel Geld. Scheitert sein diabolischer Plan nun an der dilettantischen Ausführung?

          Abgelehnte Asylbewerber : Letzte Hoffnung Frankreich

          Viele in Deutschland und anderen EU-Staaten abgelehnte Asylbewerber fliehen nach Frankreich. Hier werden die Anträge weniger streng geprüft. Die französische Migrationsbehörde sieht sich als Opfer der europäischen Asylpolitik.