https://www.faz.net/aktuell/wirtschaft/eu-will-klagen-von-ki-opfern-erleichtern-18335724.html

F.A.Z. exklusiv : EU will Klagen von KI-Opfern erleichtern

Das Netz regiert. Der Onlinestudie von ARD und ZDF zufolge ist nur noch eine verschwindende Zahl der Menschen in Deutschland dauerhaft offline. Bild: dpa

Für Opfer von Künstlicher Intelligenz ist es enorm schwierig nachzuweisen, dass KI an dem entstandenen Schaden „Schuld“ ist. Die EU-Kommission will nach Informationen der F.A.Z. deshalb den Betroffenen nun umfassenden Zugang zu Daten und Protokollen der KI verschaffen.

          2 Min.

          Die zunehmende Nutzung von Künstlicher Intelligenz im Alltag wirft neue Fragen auf. Eine zentrale ist: Wer haftet, falls etwas schiefgeht? Wenn jemand heute vom Auto angefahren wird, ist die Sache meist klar. Solange der Wagen fehlerfrei ausgeliefert wurde, haften Halter oder Fahrer für den Schaden. Nur wie sieht das bei selbstfahrenden Autos aus, die eine KI steuert? Wer haftet für Fehldiagnosen, wenn eine KI von Ärzten herangezogen wird? Oder für die fehlerhafte Auswertung von Dokumenten durch eine KI?

          Hendrik Kafsack
          Wirtschaftskorrespondent in Brüssel.

          In der Theorie ist die Antwort dieselbe wie bei allen Produkten. Ist ein Produkt fehlerhaft, muss der Hersteller dem Geschädigten den Schaden ersetzen. Nur muss das „Opfer“ dafür nachweisen, dass der Schaden durch das Produkt verursacht wurde. Genau da liegt das Problem: Warum und wie eine KI „entscheidet“, ist für die Nutzer oft nicht nachvollziehbar. Fachleute sprechen von einem „Blackbox-Problem“.

          Im Europaparlament gibt es deshalb Stimmen, die Beweislast einfach generell umzukehren. Dann müssten die Anbieter im Schadensfall nachweisen, dass ihre KI fehlerfrei gearbeitet hat, um sich von der Haftung zu befreien. Das geht der Europäischen Kommission zu weit. Sie will Mitte kommender Woche aber immerhin einen Vorschlag präsentieren, mit dem sie die Beweislast im Einzelfall umkehrt. Zudem will sie die Anbieter verpflichten, offenzulegen, wie ihre KI genau funktioniert. Ein Entwurf des Vorschlag liegt der F.A.Z. vor.

          EU-Parlament und Ministerrat müssen noch zustimmen

          Konkret sollen die Geschädigten von den Anbietern etwa die Schulungs- oder Testdatensätze, Daten aus der technischen Dokumentation und Protokollen oder Informationen über Qualitätsmanagementsysteme anfordern können. Im Zweifel können sie das einklagen. Das Gericht muss dabei allerdings sicherstellen, dass nur unbedingt benötigte Daten offengelegt werden, um Geschäftsgeheimnisse zu schützen. Leistet der Anbieter dem nicht Folge, wird die Beweislast umgekehrt. Dann muss er beweisen, dass seine KI nicht „schuld“ war.

          Das gilt auch, wenn ein Anbieter gegen die in dem KI-Gesetz der EU verankerten Sorgfaltspflichten verstoßen hat. Bei Systemen mit hohem Risiko für Menschen ist das etwa der Fall, wenn der Anbieter kein ausreichendes Risikomanagement hat oder die Trainingsdaten für die KI nicht gut genug waren. Zudem muss es stets eine angemessene menschliche Aufsicht geben. Für Nutzer einer hochriskanten KI, die einen Dritten geschädigt hat, wiederum gilt die Beweislastumkehr, wenn sie die Gebrauchsanweisung nicht befolgen oder die KI mit Daten füttern, die für die Anwendung nicht relevant sind.

          Unabhängig davon greift die Kommission nicht weiter in das nationale Haftungsrecht ein. Ausgenommen von dem Vorschlag sind außerdem strafrechtliche Fragen und der Verkehrssektor. Das EU-Parlament und der Ministerrat müssen dem Vorschlag noch zustimmen, damit er in Kraft treten kann. Das Parlament dürfte auf eine Ausweitung der Beweislastumkehr dringen. „Die Hürde der Beweislast liegt weiter sehr hoch“, kritisiert die Abgeordnete der Grünen, Anna Cavazzini. „Eine Umkehr der Beweislast zugunsten der Betroffenen in klar definierten Fällen könnte den Rechtsweg und die Rechtsdurchsetzung wesentlich erleichtern.“

          Weitere Themen

          Topmeldungen

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Die wichtigsten Nachrichten direkt in Ihre Mailbox. Sie können bis zu 5 Newsletter gleichzeitig auswählen Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.