https://www.faz.net/-gqz-9j8q3

Europäische Kommission zu KI : Ohne Ethik kann es kein Vertrauen geben

  • -Aktualisiert am

Für Europa sollte es daher nicht allein darum gehen, wettbewerbsfähig zu sein. Vielmehr sollte unser Ziel sein, durch den verantwortungsvollen Umgang mit KI Vertrauen zu schaffen, sagt Ala-Pietilä. Bild: Picture-Alliance

In Sachen Künstliche Intelligenz müssen Wettbewerbsfähigkeit und ethische Überlegungen Hand in Hand gehen. Europa braucht jetzt Vertrauen im Umgang mit der neuen Technologie. Eine Antwort auf Ranga Yogeshwar.

          Am 18. Dezember 2018 haben wir einen ersten Entwurf ethischer Leitlinien für die Entwicklung, den Einsatz und die Nutzung von Künstlicher Intelligenz veröffentlicht. Dies war ein wichtiger Schritt auf dem Weg zu einer innovativen und vertrauenswürdigen KI, die in Europa hergestellt wird. Künstliche Intelligenz (KI) ist eine der transformativsten Kräfte unserer Zeit. In den vergangenen zehn Jahren wurden dank großer Datenmengen, leistungsfähiger Rechnerarchitekturen und des Fortschritts bei Techniken wie maschinellem Lernen große Fortschritte im Bereich der KI erzielt. Entwicklungen von KI in immer mehr Bereichen – von der Gesundheitsfürsorge über die Mobilität bis zur Cybersicherheit – verbessern unser aller Lebensqualität.

          Die Entwicklung der KI ist kein Selbstzweck, sondern muss dem Menschen dienen. Daher benötigen wir einen ganzheitlichen Ansatz, der sicherstellt, dass wir die Vorteile der KI für alle maximieren und gleichzeitig ihre Risiken minimieren. Wie alle Technologien kann auch KI eine Reihe von Problemen aufwerfen, die wir angehen müssen, wenn wir unerwünschte Folgen vermeiden wollen. Auch dann, wenn KI verwendet wird, um ein faireres oder objektiveres Ergebnis zu erzielen, und das ist häufig ihr Ziel, kann mangelndes Bewusstsein für ethische Fragen zum Gegenteil dessen führen, was bezweckt ist. Darum bedarf es eines verantwortungsvollen Umgangs mit KI sowohl bei ihrer Entwicklung als auch bei ihrem Einsatz.

          Eine aktive Rolle

          Dieses Ziel vor Augen, hat die Europäische Kommission im Juni 2018 eine Expertengruppe für KI eingesetzt, deren Vorsitzender ich bin, und uns mit der Ausarbeitung von zwei Dokumenten beauftragt. Das erste ist der „Entwurf von Ethik-Leitlinien für KI“. Es zielt darauf ab, einen ethischen Rahmen zu schaffen, in dem KI verantwortungsvoll entwickelt wird. Dieses Dokument haben wir am 18. Dezember der europäischen Öffentlichkeit zur Konsultation vorgelegt. Das zweite Dokument ist an die Kommission gerichtet. In ihm werden wir Empfehlungen für Politik- und Regulierungsmaßnahmen aussprechen, mit denen Innovation und die Akzeptanz von KI gesteigert und die Risiken der Technologie minimiert werden können.

          Damit wir das Potential der KI nutzen und ihre Entwicklung mitgestalten, müssen wir in Europa in allen Bereichen der KI-Anwendung eine aktive Rolle spielen. Nur so können wir in einem sich schnell verändernden Umfeld eine Vorreiterrolle einnehmen. Gegenwärtig können wir jedoch nicht behaupten, so viel in die KI zu investieren, wie andere Regionen der Welt.

          Grundsätzlich lassen sich drei Märkte unterscheiden: der Endverbrauchermarkt, der Geschäftskundenmarkt und Dienste der öffentlichen Verwaltung. Während die Vereinigten Staaten und China den ersten Markt dominieren, kann Europa vor allem auf dem zweiten und dritten Markt etwas bewirken. Jeder dieser Märkte ist anders beschaffen, sowohl was die Offenheit gegenüber KI als auch den Schutz vor ethischen Risiken betrifft. Während einige Leitlinien alle Märkte betreffend formuliert werden können, ist für andere Aspekte ein differenzierter Ansatz erforderlich. Ethik und Wettbewerbsfähigkeit gehen Hand in Hand. Ohne Vertrauen kann man kein Unternehmen nachhaltig führen, und ohne Ethik kann es kein Vertrauen geben. Und wenn es kein Vertrauen gibt, wird eine neue Technologie nicht akzeptiert. Für Europa sollte es daher nicht allein darum gehen, wettbewerbsfähig zu sein. Vielmehr sollte unser Ziel sein, durch den verantwortungsvollen Umgang mit KI Vertrauen zu schaffen.

          52 Experten aus 28 Staaten

          Die von der EU-Kommission eingesetzte Beratungsgruppe versammelt 52 Experten aus den 28 Mitgliedstaaten der Europäischen Union, aus Wissenschaft, Industrie und Zivilgesellschaft, darunter 44 Prozent Frauen. Unter den 23 Vertretern der Industrie sind auch Vertreter zweier amerikanischer und eines kanadischen Unternehmens. Sie gewähren uns Einblick in die Entwicklung in anderen Teilen der Welt, was uns hilft, unsere eigene Position klarer zu definieren und die globale Situation im Blick zu behalten.

          Dass die Mitglieder so unterschiedliche Erfahrungen mitbringen, führt zu intensiven Auseinandersetzungen. Gleichzeitig erlaubt es uns, die ganze Bandbreite relevanter Fragen zu erfassen. Dabei hat sich unsere Diskussion nicht auf die Expertengruppe beschränkt. Gemeinsam mit ihr hat die Kommission die European Artificial Intelligence Alliance lanciert, eine Online-Plattform, auf der sich alle an KI Interessierten austauschen können. Heute zählt die Allianz fast 2500 Mitglieder, die wir in unsere Arbeit einbinden. Die Allianz beeinflusst aber nicht nur uns, sondern formt die KI-Politik in ganz Europa mit.

          Der erste Entwurf der Leitlinien, den wir am 18. Dezember 2018 vorgelegt haben, basiert auf dem Konzept der vertrauenswürdigen KI und soll Orientierung für diejenigen bieten, die KI entwickeln oder einsetzen. Vertrauenswürdige KI setzt sich aus zwei Komponenten zusammen: Erstens sollte sie die Grundrechte, die geltenden Vorschriften sowie Prinzipien und Werte achten und einen ethischen Zweck gewährleisten. Zweitens sollte ihre Umsetzung technisch robust und zuverlässig sein, da jede Technologie unbeabsichtigt Schaden verursachen kann, wenn sie falsch eingesetzt wird.

          Wer ist verantwortlich, wenn ein Fehler passiert?

          Das erste Kapitel des Entwurfs beschreibt die Grundrechte, Prinzipien und Werte, die KI respektieren sollte. Entwickler und Benutzer werden aufgefordert, vor allem auf Situationen zu achten, in denen besonders gefährdete Gruppen wie Kinder, Menschen mit Behinderungen oder Minderheiten betroffen oder Macht- oder Informationsasymmetrien gegeben sind. Das zweite Kapitel listet die Anforderungen an eine vertrauenswürdige KI auf und bietet einen Überblick über technische und nichttechnische Methoden, die für die praktische Umsetzung verwendet werden können, etwa die Berücksichtigung ethischer Prinzipien bei der Programmierung („ethics-by-design“), die Regulierung oder die Standardisierung.

          Im dritten Kapitel werden diese Anforderungen anschließend praktisch umsetzbar gemacht, indem konkrete, aber nicht erschöpfende Prüfungskriterien für vertrauenswürdige KI vorgeschlagen werden. Hierzu werden mehr als 60 Fragen gestellt, zum Beispiel: Ist eine Prüfung des KI-Systems vorgesehen? Wer ist verantwortlich, wenn ein Fehler passiert? Können Dritte und Mitarbeiter potentielle Schwachstellen, Risiken oder Voreingenommenheit des Systems melden? Lässt sich messen, wie inklusiv Daten sind? Diese Punkte unterstreichen, wie wichtig es ist, Ethik praktisch durch Technologie umzusetzen, statt lediglich die Absicht zu erklären, sich an abstrakte Prinzipien zu halten.

          Unser Ziel ist, die Leitlinien jedem zur Verfügung zu stellen, der sich freiwillig zu einer vertrauenswürdigen KI bekennt. Sie ersetzen keine Regulierung. Dies ist ein wichtiger Punkt, da viele Elemente schon durch bestehende Regelungen erfasst werden, wie etwa die Datenschutz-Grundverordnung, die jeder unabhängig von den Leitlinien einhalten muss. Darüber hinaus sollen die Leitlinien keine neuen Regelungen vorwegnehmen.

          Nicht das Ende des Prozesses

          Wir arbeiten unter Zeitdruck, denn wir wollen die Leitlinien in Kürze fertigstellen, damit sie für die Europäische Kommission und die Mitgliedstaaten von Nutzen sind und als Grundlage für internationale Diskussionen dienen können. Wie im Falle der technologischen Entwicklung ist Geschwindigkeit auch hier von entscheidender Bedeutung. Gegenwärtig gibt es zahlreiche Prozesse auf nationaler und auf internationaler Ebene, die nach einem gemeinsamen europäischen Ansatz rufen. Darüber hinaus beauftragen viele Unternehmen, die KI entwickeln, externe Berater, um sicherzustellen, dass ihre KI ethisch, robust und damit vertrauenswürdig ist. Daraus resultiert die Notwendigkeit, die Geschwindigkeit, mit der wir vorgehen, und das Ziel einer umfassenden Beteiligung auszugleichen.

          Die Frist, innerhalb derer Stellungnahmen zum Entwurf der Richtlinien eingehen können, ist bis zum 1. Februar verlängert worden. Beiträge sind in allen EU-Sprachen möglich. Auch nach Ablauf der Frist werden wir uns bemühen, Beiträge, die über das Portal der European Artificial Intelligence Alliance  eingereicht werden, für die Endfassung der Leitlinien zu berücksichtigen. Im März werden wir die Endfassung der Kommission überreichen und sie Anfang April auf einer öffentlichen Veranstaltung vorstellen.

          Dies ist nicht das Ende des Prozesses. Die Leitlinien sollten als lebendes Dokument verstanden werden, das sich parallel zur Technologie und unserem Wissen weiterentwickelt. Wir sollten ständig überwachen, dass das geltende Recht, vor allem unsere Grundrechte sowie unsere Prinzipien und Werte respektiert werden und die eingesetzte Technologie robust und zuverlässig ist. Und wir sollten fortlaufend debattieren, uns austauschen, die Technologie in Frage stellen – und uns selbst. Denn das ist unerlässlich, um unser Ziel zu erreichen: eine Kultur innovativer und vertrauenswürdiger KI zu schaffen, die auf dem neusten Stand ist und in Europa gemacht wurde.

          Die EU und die Künstliche Intelligenz

          Die EU-Kommission hat eine Expertengruppe zum Umgang mit KI eingerichtet. Deren Arbeit hat an dieser Stelle der Autor Ranga Yogeshwar kritisiert, unter anderem mit dem Argument, dass die Experten dem wirtschaftlichen Wettbewerb huldigten, von ethischen Leitlinien könne keine Rede sein. Der Vorsitzende des Beratungsgremiums antwortet.

          Pekka Ala-Pietilä ist Vorsitzender der von der Europäischen Kommission eingesetzten Expertengruppe für Künstliche Intelligenz.

          Richtlinienentwurf zur Ethik: https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai; Konsultation: https://ec.europa.eu/futurium/en/ai-alliance-stakeholders-consultation/stakeholders-consultation-draft-ai-ethics-guidelines; europäische KI Allianz: https://ec.europa.eu/digital-single-market/en/european-ai-alliance

          Weitere Themen

          Topmeldungen

          Boris Johnson und die EU : Trotz allem – Partner

          In Brüssel hat man Boris Johnson in unangenehmer Erinnerung behalten. Dennoch sollten die „Europäer“ ihm, wo immer möglich, die Hand reichen – nur zu einem nicht.
          Laut Sebastian Kurz habe es sich bei der Datenvernichtung um einen „normalen Vorgang“ gehandelt.

          Datenträger geschreddert : Kurz und der Reißwolf

          Der damalige österreichische Bundeskanzler Sebastian Kurz ließ nach dem Platzen der Koalition mit der rechten FPÖ durch einen Mitarbeiter inkognito Daten vernichten. Warum?
          Greta Thunberg fordert mehr als nur schöne Worte von Frankreichs Präsidenten Emmanuel Macron.

          Greta Thunberg in Paris : Macrons Worte sind ihr zu wenig

          Für ihre kurze Rede erhält die Klimaaktivistin in der französischen Nationalversammlung viel Applaus, besonders aus Macrons Partei – obwohl Thunberg den Präsidenten zuvor kritisiert hat.
          Aufhören, wenn’s am schönsten ist Nach dem Pokalsieg 2018 verließ Boateng die Eintracht.

          Eintracht Frankfurt : Chance und Risiko der Boateng-Rückkehr

          Nach den Abgängen von Luka Jovic und Sébastien Haller sucht Frankfurt einen neuen Stürmer. Kommt Kevin-Prince Boateng tatsächlich zurück zur Eintracht? Eine Neuauflage der alten Liebe wäre ein Wagnis.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.