„KI ist nicht per se eine Mitstreiterin für Diversität“, stellt Prof. Dr. Swetlana Franken, Professorin für BWL und Management an der Deutschen Hochschule für angewandte Wissenschaften, zu Beginn des Panels „AI und Diversity – Diskriminierung vermeiden, Potentiale entfalten“ klar. Sie verweist auf die Herausforderungen durch algorithmische Verzerrungen (Bias), die Diskriminierung verstärken können. Doch sie macht auch deutlich: Künstliche Intelligenz birgt Chancen für mehr Inklusion – wenn sie gezielt entwickelt wird. Was braucht es also, damit KI zur Mitstreiterin wird? „Training und Weiterentwicklung“, so Prof. Dr. Franken und nennt drei entscheidende Faktoren: KI kann nur so gut sein wie die Daten, mit denen sie trainiert wird. Verzerrungen in den Daten führen zwangsläufig zu fehlerhaften Ergebnissen. Um unbewusste Bias aufzudecken, braucht es vielfältige Perspektiven in der Entwicklung. Insbesondere Frauen sind hier aktuell unterrepräsentiert. Ebenso wichtig ist eine heterogene Nutzergruppe, denn KI lernt durch Feedback. Doch verwenden Frauen und ältere Menschen KI-Anwendungen seltener, was die Weiterentwicklung beeinflusst.

Wie KI trotz des Risikos von Bias auch heute schon genutzt werden kann, um Diskriminierung entgegenzuwirken, zeigen zwei Beispiele, die im Panel mit ­Moderator Piotr Heller, Redakteur im ­Ressort „Wissenschaft“ der F.A.Z., vorgestellt wurden.

Jetzt schon die Chancen nutzen

Ein Beispiel für den gezielten Einsatz von KI gegen Diskriminierung liefert die INES Analytics GmbH. Geschäftsführerin Dr. Tanja Schmidt hat eine Software entwickelt, die strukturelle Benachteiligungen in Unternehmen aufdeckt und mittels Simulationen Veränderungshebel und -auswirkungen sichtbar macht. Den Input liefern objektive HR-Daten. Die KI berücksichtigt die vier Dimensionen Geschlecht, Behinderung, Alter und Herkunft und verknüpft diese intersektional. Die Software gibt nicht nur Aufschluss darüber, wo Diskriminierung besteht, sondern kann auch mithilfe von Simulationen zeigen, an welchen Hebeln wie Veränderungen vorgenommen werden können, um die Situation zu verbessern. Warum die KI nicht Gefahr läuft, selbst Diskriminierung zu verstärken? „Unsere KI ist kein selbstlernendes System, sondern basiert auf erprobten Forschungsmodellen. So wissen wir genau, was in der Blackbox passiert“, erklärt die Wissenschaftlerin.

Der Ansatz von SUMM AI zielt darauf ab, Texte in eine leicht verständliche Sprache zu übersetzen, um Inklusion zu fördern. Vanessa Theel, CRO und Co-Foun­der des Unternehmens, erklärt: „Was wir tun, ist, bestehende große Sprachmodelle (LLMs) zu nutzen und weiterzutrainieren, um Texte nach genauen Regeln und Normen zu vereinfachen.“ Das Tool hilft so nicht nur dabei, Inklusion durch verständliche Sprache zu schaffen, sondern kann indirekt auch unbewusste Bias in den ­Originaltexten aufdecken. „Wenn ein Ausgangstext Vorurteile enthält, bleiben diese auch in der vereinfachten Version erhalten. Doch erst durch die Vereinfachung und Plakativität wird oft sichtbar, dass Bias vorhanden sind“, so Theel. Die Gründerin stellt bei Unternehmen oft Unsicherheit in der Nutzung von KI für Inklusion fest: „Aus Angst, etwas falsch zu machen, wird lieber gar nichts gemacht. Das würde die Zielgruppe nie sagen. Lieber ein Text, der zu 90 Prozent verständlich ist, als null.“

Die Möglichkeiten von KI sind vielfältig – und die Fortschritte im Bereich Bias-Reduktion sind bereits sichtbar. Prof. Dr. Swetlana Franken plädiert abschließend für noch mehr diverse Nutzerinnen und Nutzer: „KI-Kompetenz ist Zukunftskompetenz. Wir müssen uns mit ihr auseinandersetzen – unabhängig von Geschlecht, Herkunft oder Alter. KI ist eine Technologie, die wir leben und offen nutzen müssen. Wenn wir das tun, schaffen wir es.“