https://www.faz.net/aktuell/wirtschaft/eu-will-klagen-von-ki-opfern-erleichtern-18335724.html

F.A.Z. exklusiv : EU will Klagen von KI-Opfern erleichtern

Das Netz regiert. Der Onlinestudie von ARD und ZDF zufolge ist nur noch eine verschwindende Zahl der Menschen in Deutschland dauerhaft offline. Bild: dpa

Für Opfer von Künstlicher Intelligenz ist es enorm schwierig nachzuweisen, dass KI an dem entstandenen Schaden „Schuld“ ist. Die EU-Kommission will nach Informationen der F.A.Z. deshalb den Betroffenen nun umfassenden Zugang zu Daten und Protokollen der KI verschaffen.

          2 Min.

          Die zunehmende Nutzung von Künstlicher Intelligenz im Alltag wirft neue Fragen auf. Eine zentrale ist: Wer haftet, falls etwas schiefgeht? Wenn jemand heute vom Auto angefahren wird, ist die Sache meist klar. Solange der Wagen fehlerfrei ausgeliefert wurde, haften Halter oder Fahrer für den Schaden. Nur wie sieht das bei selbstfahrenden Autos aus, die eine KI steuert? Wer haftet für Fehldiagnosen, wenn eine KI von Ärzten herangezogen wird? Oder für die fehlerhafte Auswertung von Dokumenten durch eine KI?

          Hendrik Kafsack
          Wirtschaftskorrespondent in Brüssel.

          In der Theorie ist die Antwort dieselbe wie bei allen Produkten. Ist ein Produkt fehlerhaft, muss der Hersteller dem Geschädigten den Schaden ersetzen. Nur muss das „Opfer“ dafür nachweisen, dass der Schaden durch das Produkt verursacht wurde. Genau da liegt das Problem: Warum und wie eine KI „entscheidet“, ist für die Nutzer oft nicht nachvollziehbar. Fachleute sprechen von einem „Blackbox-Problem“.

          Im Europaparlament gibt es deshalb Stimmen, die Beweislast einfach generell umzukehren. Dann müssten die Anbieter im Schadensfall nachweisen, dass ihre KI fehlerfrei gearbeitet hat, um sich von der Haftung zu befreien. Das geht der Europäischen Kommission zu weit. Sie will Mitte kommender Woche aber immerhin einen Vorschlag präsentieren, mit dem sie die Beweislast im Einzelfall umkehrt. Zudem will sie die Anbieter verpflichten, offenzulegen, wie ihre KI genau funktioniert. Ein Entwurf des Vorschlag liegt der F.A.Z. vor.

          EU-Parlament und Ministerrat müssen noch zustimmen

          Konkret sollen die Geschädigten von den Anbietern etwa die Schulungs- oder Testdatensätze, Daten aus der technischen Dokumentation und Protokollen oder Informationen über Qualitätsmanagementsysteme anfordern können. Im Zweifel können sie das einklagen. Das Gericht muss dabei allerdings sicherstellen, dass nur unbedingt benötigte Daten offengelegt werden, um Geschäftsgeheimnisse zu schützen. Leistet der Anbieter dem nicht Folge, wird die Beweislast umgekehrt. Dann muss er beweisen, dass seine KI nicht „schuld“ war.

          Das gilt auch, wenn ein Anbieter gegen die in dem KI-Gesetz der EU verankerten Sorgfaltspflichten verstoßen hat. Bei Systemen mit hohem Risiko für Menschen ist das etwa der Fall, wenn der Anbieter kein ausreichendes Risikomanagement hat oder die Trainingsdaten für die KI nicht gut genug waren. Zudem muss es stets eine angemessene menschliche Aufsicht geben. Für Nutzer einer hochriskanten KI, die einen Dritten geschädigt hat, wiederum gilt die Beweislastumkehr, wenn sie die Gebrauchsanweisung nicht befolgen oder die KI mit Daten füttern, die für die Anwendung nicht relevant sind.

          Unabhängig davon greift die Kommission nicht weiter in das nationale Haftungsrecht ein. Ausgenommen von dem Vorschlag sind außerdem strafrechtliche Fragen und der Verkehrssektor. Das EU-Parlament und der Ministerrat müssen dem Vorschlag noch zustimmen, damit er in Kraft treten kann. Das Parlament dürfte auf eine Ausweitung der Beweislastumkehr dringen. „Die Hürde der Beweislast liegt weiter sehr hoch“, kritisiert die Abgeordnete der Grünen, Anna Cavazzini. „Eine Umkehr der Beweislast zugunsten der Betroffenen in klar definierten Fällen könnte den Rechtsweg und die Rechtsdurchsetzung wesentlich erleichtern.“

          Weitere Themen

          Topmeldungen

          Ein Kampfpanzer des Typs Leopard 2 im Oktober 2019 auf einer Teststrecke in Thun

          Ukrainekrieg : Schweizer Panzer als Lückenstopfer

          Die Schweiz hat 96 Leopard-2-Panzer eingemottet. Ein Teil davon könnte nun an Länder gehen, die ihrerseits der Ukraine geholfen haben.
          Vor allem die Gaspreise hatten die Inflationsrate zuletzt stark beeinflusst.

          Verbraucherpreise : Das Geheimnis der deutschen Inflation

          Normalerweise wird pünktlich zum Ende jeden Monats in Deutschland die Inflationsrate veröffentlicht. Das ist diesmal anders, ausgerechnet in so bewegten Zeiten. Was steckt dahinter?

          Oatly und Beyond Meat : War’s das mit dem Veggie-Boom?

          Es hieß, Milch- und Fleischersatz würden unser Leben umkrempeln. Jetzt stagnieren die Verkaufszahlen, und an der Börse fallen die Kurse. Was ist da los?

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Die wichtigsten Nachrichten direkt in Ihre Mailbox. Sie können bis zu 5 Newsletter gleichzeitig auswählen Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.