https://www.faz.net/-gqe-8wamv

Mensch oder Maschine : Zur Ethik des autonomen Fahrens

  • -Aktualisiert am

Gehört dieses Bild bald zum Alltag? Und was bedeutet das autonome Fahren für den Verkehr? Bild: dpa

Wie entscheidet ein Mensch, kurz bevor einen Unfall baut? Und wie soll ein autonomes Auto entscheiden? Allgemeingültige Regelungen sind nur schwer zu finden. Ein Standpunkt.

          4 Min.

          Das Thema autonomes Fahren besitzt für Deutschland höchste Bedeutung. Denn deutsche Unternehmen, nicht Google oder Tesla, sind hier führend. Von den 2828 Patenten zu autonomem Fahren, die seit 2010 weltweit registriert wurden, stammen 1646 (58 Prozent) aus Deutschland. Insofern passt es, dass wir als eines der ersten Länder eine Kommission haben, die sich unter der Leitung des ehemaligen Richters am Bundesverfassungsgericht, Udo Di Fabio, mit der Ethik des autonomen Fahrens beschäftigt. In dieser Kommission arbeiten hochkompetente Fachleute mit, wie der ehemalige SAP-Vorstandsvorsitzende und heutige Präsident der Akademie der Technikwissenschaften Henning Kagermann.

          Ich bin weder Autofachmann noch IT-Experte und auch kein Jurist, aber das Thema beschäftigt mich wie viele andere auch. Bemerkenswert fand ich eine Empfehlung des Schweizer Informatikers und Philosophen Oliver Bendel, „das Auto relativ dumm zu lassen und autonomes Fahren nur in abgetrennten Bereichen wie der Autobahn zu erlauben“. Vielleicht handelt es sich hier um ein „echtes“ Problem im Sinne von Murphy. Echte Murphy-Probleme sind solche, für die es keine Lösung gibt. Meine Erfahrung aus Dutzenden Projekten ist, dass Techniker nicht immer erkennen, wo der Hase wirklich im Pfeffer liegt.

          Die Suche nach allgemeingültigen Prinzipien ist schwer

          In der Ethikkommission, so Kagermann, sei „relativ unumstritten“, dass Sachschäden immer Personenschäden vorgezogen werden müssten. Dieses Prinzip dürfte in der Gesellschaft kaum auf Widerspruch treffen. Doch bei der Umsetzung können gravierende Probleme auftreten. Die weit überwiegende Mehrzahl der Unfallsituationen dürfte eine klare Trennung von Sach- und Personenschaden nicht zulassen. Allein schon diese vergleichsweise harmlose Grauzone deutet auf ein Grundproblem hin, nämlich dass es äußerst schwer werden dürfte, allgemeingültige Prinzipien aufzustellen.

          Das zeigt sich drastisch beim zweiten Prinzip, das in der Kommission diskutiert wird. Kagermann beschreibt es wie folgt: „Das Auto muss im Zweifel den Fußgänger schützen und nicht den Insassen des Fahrzeugs.“ Für meine folgende Argumentation unterstelle ich den optimistischen Fall, dass das Auto tatsächlich alle Informationen besitzt, also genau erkennen kann, wer gefährdet ist und welches die Konsequenzen einer bestimmten Aktion sind. Vermutlich ist das eine auf lange Sicht zu positive Annahme, wie der Tesla-Unfall zeigt, bei dem ein heller Lastwagen nicht vom hellen Himmel unterschieden wurde. Aber sei es drum, die Technik wird perfekter. Ich glaube nicht, dass autonomes Fahren an der Technik scheitern wird.

          Was ist das „normale“ menschliche Verhalten?

          Zurück zum zweiten Prinzip: Nehmen wir als Gedankenmodell an, dass der Fußgänger ein Neunzigjähriger mit schlechter Gesundheit ist (das Auto wisse das!) und die Insassen des Autos drei Kinder im Alter von zehn Jahren sind. Das Auto fahre mit hoher Geschwindigkeit, und es gäbe nur die Alternative, den neunzigjährigen Fußgänger zu überfahren oder die drei Kinder durch den Aufprall gegen den Baum zu Tode zu bringen. Dem Prinzip zufolge müsste das Programm das Auto gegen den Baum steuern. Dieses Gedankenbeispiel zeigt, dass das zweite Prinzip zu absurden Konsequenzen führt.

          Eine tiefergehende Frage ist folgende: Wie entscheidet ein menschlicher Fahrer in einer solchen Situation? Die Antwort: niemand weiß das, selbst der Fahrer weiß es nicht. Er hat nämlich keine Zeit, langwierige, bewusste Abwägungen zu treffen, er wird instinktiv entscheiden. Zu vermuten ist, dass er typischerweise sein eigenes Leben und das seiner mitfahrenden Angehörigen schützen wird. Im Nachhinein muss dann ein Gericht über Schuld oder Unschuld urteilen. Widerspricht das obige zweite Prinzip somit nicht dem „normalen“ menschlichen Verhalten, und was bedeutet das?

          Auto muss auf jede Situation reagieren können

          Nach dem, was bisher berichtet wurde, lehnt es die Kommission ab, Menschenleben gegeneinander aufzurechnen, in den Worten Kagermanns: „Eine Quantifizierung von Menschenleben ist unzulässig.“ Er erläutert auch, dass ein Auto nicht automatisch das Szenario wählen sollte, bei dem nur ein Einzelner statt einer Gruppe getötet wird. Diese Frage bezeichnet er zu meiner Verwunderung als „sehr theoretisch“. Was ist daran theoretisch? Bei sehr vielen Verkehrsunfällen, bei denen Menschen zu Tode kommen, geht es um diese Frage, zum Beispiel um mehrere Insassen eines Fahrzeuges.

          Eine Teststrecke in Merzig im Saarland. Sollte autonomes Fahren generell nur auf Sonderstrecken erlaubt sein?
          Eine Teststrecke in Merzig im Saarland. Sollte autonomes Fahren generell nur auf Sonderstrecken erlaubt sein? : Bild: Maximilian von Lachner

          Beim autonomen Fahren muss das Programm jede denkbare Situation antizipieren. Der reale Mensch tut das nicht, sondern entscheidet bewusst oder unbewusst in der akuten Situation. Wie kann ein Programm funktionieren, wenn ich Menschenleben nicht quantifiziere? Wie entscheidet das Programm, ob es das zehnjährige Kind (oder zwei zehnjährige Kinder) oder den Neunzigjährigen tötet?

          Autonomes Fahren soll die Straßen sicherer machen

          Es wird angedeutet, dass das Auto in solchen Lagen „auf seinem eingeschlagenen Kurs bleibt“. Doch auch das ist eine Entscheidung, die eine implizite Quantifizierung beinhaltet. Oder man lässt die Entscheidung durch einen Zufallsgenerator fällen, zum Beispiel in 50 Prozent der Fälle das Kind, in den anderen 50 Prozent den Neunzigjährigen zu überfahren. Kann das sinnvoll sein? Wählt man unterschiedliche Wahrscheinlichkeiten, etwa 80 Prozent für den Neunzigjährigen, so ist das zwangsläufig eine Quantifizierung menschlichen Lebens.

          Man hört ständig, dass das autonome Fahren sicherer sei oder jedenfalls werde als das menschliche Fahren. Ich glaube an dieses Argument. Aber was ist mit folgender Analogie aus der Medizin: Ein neues Medikament rette nachweislich eine Million Leben, aber genauso werde eindeutig nachgewiesen, dass es tausend Menschen tötet. Mit dieser Sterberate hat das neue Arzneimittel keine Chance auf eine Zulassung. Kann dieses Schicksal auch dem autonomen Fahren widerfahren? Es erhöht objektiv die Verkehrssicherheit, und dennoch wird es gesellschaftlich nicht akzeptiert. Man braucht sich nur folgende Schlagzeile vorzustellen: „Autonomes Auto tötet drei Kinder.“

          Erklärvideo : Wie funktionieren selbstfahrende Autos?

          Letzte Entscheidung dem Mensch überlassen?

          Bei den Entscheidungen, die das autonome Fahrsystem treffen muss, kann es um Leben oder Tod gehen. Auch bei Operationen kann diese Situation entstehen. Würde man einem Operationsroboter eine derart schwerwiegende Entscheidung überlassen? Oder müsste doch der Operateur entscheiden? Wie wäre es, um eine noch entferntere Analogie zu bemühen, bei der Entscheidung über ein Todesurteil?

          Mein Fazit: Ich sage nicht, dass das autonome Fahren scheitern wird. Technisch glaube ich daran. Auch die objektiven Daten werden für diese Systeme sprechen. Doch das reicht eventuell ähnlich wie in der Medizin nicht aus. Der Engpass für die gesellschaftliche Akzeptanz dieser neuen Technologie liegt in der Ethik. Der menschliche Fahrer entscheidet anders, als es ein System mit den heute bekannten Technologien kann. Der Vorschlag von Brendel, das System relativ dumm zu lassen, läuft darauf hinaus, dass es kein wirklich autonomes Fahren geben wird.

          Wenn meine Überlegungen richtig sind, würde daraus folgen, dass sich die Bemühungen eher auf die Interaktion von Mensch und Maschine als auf das total autonome Fahren richten sollten. Sicherlich sind alle Arten von Assistenzsystemen, die die Fahrsicherheit erhöhen, äußerst sinnvoll, aber vielleicht muss man die letzte Entscheidung, wie in einer lebensgefährdenden Situation reagiert wird, dem Menschen überlassen.

          Hermann Simon ist Aufsichtsratsvorsitzender der von ihm mitgegründeten Beratungsgesellschaft Simon Kucher & Partners.

          Weitere Themen

          Topmeldungen

          Bundeskanzlerin Angela Merkel und Generalsekretär Paul Ziemiak beim digitalen Parteitag der CDU am Freitagabend.

          CDU-Parteitag : Die Kanzlerin spart sich das Lob

          Zu Beginn des CDU-Parteitags gibt es viel Schulterklopfen für die scheidende Vorsitzende Kramp-Karrenbauer – nur Angela Merkel spricht lieber über ihre eigenen Leistungen. Und Markus Söder vom spannenden Aufstieg.
          Trauer allerorten: In Brasielien nehmen die Totenzahlen zu.

          Chaos in Manaus : Brasilien von tödlicher Corona-Welle getroffen

          Den Krankenhäusern in Brasiliens Amazonas-Metropole Manaus geht der Sauerstoff aus. Schwerkranke Patienten werden nun per Charter-Maschine ausgeflogen. Und auch landesweit schnellen die Todeszahlen in die Höhe.
          Freundinnen: Luisa und Sophie wohnen zusammen in Frankfurt. Beide verdienen Geld mit Pornovideos, die sie selbst aufnehmen.

          Studentin in Geldnot : Pornos drehen für den Master

          Luisa besucht eine Hochschule im Rhein-Main-Gebiet und verkauft Sexvideos, um ihr Studium zu finanzieren. Sie sagt, das fühle sich dreckig an. Doch der Geldmangel habe sie dazu getrieben, und andere Nebenjobs sind ihr zu zeitaufwendig.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.