Aus dem Maschinenraum : Diskriminierung ist Menschenwerk
- -Aktualisiert am
Heiko Maas Bild: EPA
Das neue Gesetzesvorhaben von Heiko Maas überschätzt die Macht der Algorithmen. Dabei sind die nicht des Pudels Kern, sondern der Wille aus der Profilierung von Menschen ein Geschäft zu machen.
Justizminister Heiko Maas musste sich in den letzten Wochen einiges gefallen lassen, seit er die Idee in ein Gesetz goss, Hassreden im Netz durch neue Verpflichtungen an kommerzielle Plattformen einzudämmen. Er setzte sich in Szene als einer, der den Datenkonzernen die Stirn bot. Es hagelte zwar Kritik von allen Seiten – doch er brachte sein Netzwerkdurchsetzungsgesetz durch. Was es bringen kann oder welche Schäden es anrichtet, werden wir noch sehen.
Offenkundig ist die digitale Kampfeslust des Ministers aber noch nicht versiegt, denn kaum war diese Schlacht geschlagen, suchte sich Maas ein neues Feld: Nun strebt er ein „digitales Antidiskriminierungsgesetz“ an, das „gegen digitale Diskriminierung und für vorurteilsfreies Programmieren wirken soll“. Wegen der Sommerpause und den Wahlen zum Bundestag wird seine Gesetzesidee zwar zunächst nur eine Idee bleiben, dennoch lohnt sich ein Blick. Denn seine Nachfolger könnten darauf zurückkommen.
Bizarre Fokussierung auf „die Algorithmen“
Der Minister stellte sein Ansinnen letzte Woche in einer Rede vor. Ihm geht es im Kern um die Überprüfbarkeit von „Algorithmen“, damit die Grundlagen der von ihnen getroffenen Entscheidungen als „richtig, rechtmäßig und auch verhältnismäßig“ eingeschätzt werden können. Bei der Lektüre von Maas’ Manuskript scheint allerdings durch, dass das Vorhaben nicht nur von einer rationalen Überlegung über die Zukunft der Digitalsphäre getrieben ist, sondern auch von Angst.
Wie schon beim Netzwerkdurchsetzungsgesetz droht hier aus einer richtigen Intuition – der Sorge um automatisierte Diskriminierung im Alltag – Fragwürdiges zu erwachsen. Das verbindende Element ist dabei die Betroffenheit der politischen Sphäre selbst. Denn eine offene oder gar verdeckte Manipulation durch Software, die aufgrund genauer Profilierung von Menschen Entscheidungen trifft, muss der Politik Sorgen bereiten.
Der Vorschlag von Maas, selbst in seiner derzeitigen Unschärfe, zeigt indes Missverständnisse in der technischen Bewertung, jedoch den davon ungebremsten Willen, etwas tun zu wollen gegen die dräuende Unbill aus dem digitalen Raum. Was dabei schon länger zu beobachten ist: eine geradezu bizarre Fokussierung auf „die Algorithmen“.
Bestimmte Ethnien automatisiert diskriminiert
Doch Software ist, egal ob konventionell programmiert oder als trainiertes Machine-Learning-System, vor allem eines: der Code gewordene Ausdruck des Willens von Menschen. Im Wesentlichen programmieren Software-Entwickler das, was sie als Aufgabe vorgelegt bekommen. Es gibt zwar immer Unschärfen, Fehler und Abweichungen von der Spezifikation. Aber nicht das „vorurteilsfreie Programmieren“ ist des Pudels Kern. Denn im Grundsatz liegt das Problem nicht bei den Programmierern, die „Vorurteile“ in ihre Software gießen, sondern bei den Geschäftsmodellen und den Menschen, die sie erdacht haben und ihre Umsetzung bezahlen und überwachen.
Dabei ist die Frage, ob Software Menschen diskriminieren kann, nahezu trivial. Sie kann. Wenn programmiert wurde, dass bestimmte Menschen aufgrund von bestimmten Eigenschaften einen Service nicht nutzen können, wäre das ein einfacher Fall. Der Minister selbst verweist in seiner Rede auf viele Beispiele, etwa Software für biometrische Gesichtserkennung, die bestimmte Ethnien automatisiert diskriminiert.
