Der Entwurf der EU-Verordnung zur Regulierung Künstlicher Intelligenz (Artificial Intelligence Act – AIA) formuliert klar und deutlich das Ziel, dass KI, die für Menschen kritisch sein kann (etwa Kreditscoring), staatlich kontrolliert und ggf. sogar verboten werden soll. Nun fragen sich viele: ist das nicht aussichtslos angesichts der Tatsache, dass KI „selbstlernend“ sei und sich über kurz oder lang menschlicher Kontrolle entziehen wird? Die Antwort ist: nein. KI ist keineswegs selbstlernend, sondern sie wird von Menschen trainiert. Und dieses Training und seine Ergebnisse kann man durchaus kontrollieren. Dass dies auch geschieht, ist aber nicht selbstverständlich, da die Entwickler und Anwender von KI sich gerne hinter dem Geschäftsgeheimnisschutz verstecken. Und zu den konkreten Möglichkeiten der Kontrolle sagt der EU-Entwurf wenig. Wir argumentieren, dass für die entsprechende Forschung, ohne die Kontrolle nicht möglich ist, die Daten, die kritische KI-Systeme verarbeiten, per Gesetz ebenso zugänglich gemacht werden müssen wie die Entscheidungen, die die KI-Systeme daraus ableiten (z. B. über die Vergabe eines Kredits oder das Sperren von Inhalten im Netz). Dabei kann für den zugrundeliegenden Code der Geschäftsgeheimnisschutz gewahrt werden: man  muss den Programm-Code einer Software, nicht kennen, sondern  kann die relevanten Erkenntnisse anhand der verarbeiteten Daten und der daraus abgeleiteten Entscheidungen erkennen. Auch der Datenschutz muss und kann dabei selbstverständlich gewahrt werden.

Im Einzelnen. In Fachkreisen ist unstrittig, dass KI kontrollierbar ist – und sei sie noch so raffiniert programmiert. KI macht ja nichts anderes als Daten, die man ihr vorsetzt, mit Hilfe statistischer Algorithmen zu klassifizieren und so etwa die Zuordnung eines Gesichts auf einem Foto zu einer konkreten Person, deren Namen und Adresse in einer Datenbank abgelegt ist, vorzunehmen. Diese Klassifizierung wird umso effektiver, je mehr Fotos für immer mehr Personen verarbeitet werden. Wie bei jeder Statistik ist das Ergebnis umso sicherer je mehr Daten ihr zugrunde liegen – in der Welt der KI wird die Verarbeitung immer größerer Datenmengen „Training“ genannt und erweckt so den Eindruck des Selbstlernens. Die Software verfügt aber über keinerlei Intelligenz und Kreativität – allein die Programmierer sind intelligent und kreativ. In ihrem Programmcode steckt jede Menge Arbeit und die Entwickler haben ein berechtigtes Interesse, dass ihre Arbeit nicht einfach sozialisiert wird, indem jeder den Code kostenlos nutzen kann.