https://www.faz.net/-gwz-9wbgo

EU-Weißbuch zur KI : Künstliche Intelligenz in Ketten

  • -Aktualisiert am

Woher all die KI-Experten nehmen?

Jan Peters, der an der TU Darmstadt maschinelles Lernen erforscht, sieht in Europa aber noch ein Problem: „Man hat hier nicht verstanden, dass es bei KI um Köpfe geht“, sagt er. Amerikanische Unternehmen hätten früh darauf gesetzt, die besten Leute einzukaufen, denn die KI-Entwicklung sei arbeitsaufwendig und bedürfe viel höherer Qualifikation als in Europa angenommen. „Man braucht eine riesige Zahl von promovierten Experten, die ständig brandheißes Wissen haben und auf dem neuesten Stand bleiben“, sagt Peters. Das liegt daran, dass sich das Feld sehr rasch entwickelt. Die Anzahl der pro Jahr veröffentlichten Studien hat sich in den letzten zwei Jahrzehnten verzehnfacht, die Zahl der Besucher großer KI-Konferenzen ebenso. Grob geschätzt verdoppelt sich die Leistung von KI-Systemen alle 3,4 Monate. „Heute kann ich nicht mehr verfolgen, was in den über 20.000 Veröffentlichungen zu KI pro Jahr weltweit passiert, und das geht nicht nur mir so“, sagt Peters.

Wie soll man die Technologie angesichts dieser Entwicklung überhaupt regulieren? „Wir können uns die schlimmsten Auswüchse gar nicht vorstellen“, sagt der Historiker Gugerli. Es könnte also sein, dass man mit Regulierung gegen eine Schreckensvision ankämpft, um später zu merken, dass man ein anderes, viel wichtigeres Problem gar nicht hatte kommen sehen. „Oder umgekehrt: Man würgt etwas ab, das eigentlich gut gewesen wäre“, erklärt Gugerli. In dem europäischen Vorstoß sieht er zumindest den Vorteil, dass die Politik dadurch einen Fuß in der Tür hätte, um überhaupt Einfluss auf die KI-Entwicklung nehmen zu können. „Es entstehen Aushandlungszonen, die dann mit der Zeit konkretisiert werden.“

Die Gefahr fehlgeleiteter Regulierung

Für Jan Peters steht in Europa aber die Gefahr einer falschen Regulierung im Vordergrund. „Wir haben viele kleine Firmen, die Nischenprodukte herstellen.“ Anders als große Konzerne täten sie sich schwerer damit, komplexen Regeln zu entsprechen. Überbordende Regulierung würde die europäischen Werte laut Peters nicht schützen, sondern sogar bedrohen. Nämlich dann, wenn sie die Entwicklung von KI hier hemmen und Europa auf lange Sicht dazu zwingen, KI-Systeme in den Vereinigten Staaten oder China einzukaufen. Dann würde man sich die Regeln irgendwann von den dortigen Unternehmen diktieren lassen. Vor allem stört Peters sich an dem Vorstoß zur Regulierung von Designprinzipien, wie sie in dem Entwurf des Weißbuchs erwähnt wird. „Man kann diese Prinzipien nur für die vorhandenen Systeme vorschreiben“, sagt er. Doch jegliche statische Regel dieser Art wäre angesichts der technischen Entwicklung binnen Monaten überholt.

Stattdessen müsse man so wie bei der Entwicklung von KI auch bei ihrer Regulierung auf kluge Köpfe setzen. Peters schlägt dafür staatliche Zertifizierungen vor. Für die Anwender würde das bedeuten, dass sie lernen, welche Schwächen die Systeme haben und wie man damit umgeht. Mediziner etwa müssten erfahren, dass die Zuverlässigkeit einer automatischen Hautkrebsanalyse stark von den Trainingsdaten der Algorithmen abhängt. „Als Konsequenz wäre der Arzt verpflichtet, zunächst seine eigene Diagnose einzugeben, dürfte das Gerät erst danach zur Prüfung der Diagnose verwenden“, schwebt Peters vor. Stimmten Mensch und Maschine nicht überein, müsste eine dritte Meinung her. Erst mit der Zeit würde ein solches Assistenzsystem zu einer Diagnosemaschine reifen, die vielleicht ohne den Menschen funktionieren könnte. Auch die Zulassung von KI-Systemen würde Peters in die Hand staatlich zertifizierter Experten geben, die immer auf dem neuesten Wissensstand sein müssten und die Risiken der Technik einschätzen könnten. Solch eine Lösung würde zwar das Problem statischer Regeln umgehen. Allerdings setzt sie voraus, dass es dafür genug KI-Experten gibt – und die sind heute noch rar.

Wie die KI-Mächte die Technologie regulieren wollen

Die Vereinigten Staaten vertrauen auf die Industrie

Im Februar 2019 unterzeichnete Donald Trump ein Dekret, das Amerikas Führungsanspruch in Sachen Künstliche Intelligenz zu festigen versprach. Darin forderte er auch, die Technologie solle bürgerliche Freiheiten, die Privatsphäre und amerikanische Werte schützen. Anfang dieses Jahres veröffentlichte die Regierung dann Anweisungen zur Umsetzung. Regulierungen sollen demnach Wachstum und Innovation von KI so wenig wie möglich belasten. Von technischen Vorgaben sei abzusehen, und freiwillige Industriestandards seien zu bevorzugen. Gleichzeitig schickte Washington eine Mahnung an Europa: Es solle Abstand von schwerwiegenden, innovationsfeindlichen Regulierungen nehmen.

Die Europäische Union will Werte mit Hilfe von Regeln verteidigen

Die EU Kommission präsentierte 2018 ihre KI-Ethik-Leitlinien. Diese fordern etwa, dass KI stets unter menschlicher Aufsicht läuft, die Privatsphäre schützt, transparent ist und nicht diskriminiert. Einen Vorschlag zur Umsetzung gibt ein Weißbuch, das die Europäische Kommission am 19. Februar 2020 präsentierte. Darin stehen Designparameter zur Diskussion, um die Risiken von KI zu senken, Regeln für Daten, aus denen Systeme lernen können, und eine Informationspflicht beim Einsatz von KI.

China hat den großen Plan

Als Googles Programm AlphaGo 2016 einen der weltbesten Go-Spieler schlug, erlebte China seinen Sputnik-Schock. Ein Jahr später präsentierte die Regierung einen Plan: Bis 2030 soll das Land in KI weltweit führend werden. Regulierungen sollen in Etappen erfolgen. 2020 werden erste ethische Normen entstehen, die 2025 in Gesetze gegossen werden könnten. Die will man laut Plan dann bis 2030 an neue Herausforderungen anpassen. Beobachter vermuten, dass es bei staatlich gewünschten Projekten Ausnahmen geben wird.

Weitere Themen

Topmeldungen

Frisch geschlachtete Schweine in einem Kühlhaus des Fleischunternehmens Tönnies

1900 Fälle in Fleischindustrie : Schlimmste Befürchtungen werden bestätigt

Ein Bericht für den Landtag in NRW zeigt schockierende Details, wie schlecht Arbeiter in der Fleischindustrie untergebracht sind: Es geht um Schimmel, Ungeziefer und undichte Dächer. Erstaunlich gut sei dagegen die Lage der Erntehelfer.

Krise der AfD : „Im Grunde haben wir keine Führung“

Die AfD ist im Tief. Es ist unklar, für was sie thematisch überhaupt noch stehen will. Viele Abgeordnete im Bundestag machen die Fraktionsvorsitzenden Alice Weidel und Alexander Gauland dafür verantwortlich.

Newsletter

Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.