http://www.faz.net/-gqe-93gfr

Selbstfahrende Fahrzeuge : „Das autonome Auto wird eine Supermacht“

Das selbstfahrende Auto trifft auf ein Dilemma: Entweder verletzt es die Familie oder seine Insassan. Wie wird es entscheiden? Bild: Science / Iyad Rahwan

Was soll ein Auto im Fall eines unvermeidbaren Unfalls tun – den Fahrer oder spielende Kinder auf der Straße verletzen? Ethik-Professor Iyad Rahwan über die Moral von Maschinen und Entscheidungen zwischen Leben und Tod.

          Herr Rahwan, haben Sie schon einmal in einem autonom fahrenden Auto gesessen?

          Corinna Budras

          Redakteurin in der Wirtschaft.

          Oh ja. Das ist schon ziemlich lange her, bestimmt sieben Jahre. Bevor ich zum Massachusetts Institute of Technology nach Boston kam, habe ich im Masdar Institute in Abu Dhabi gearbeitet. Dieses Institut ist Teil einer nachhaltigen Stadt, die in der Wüste liegt und über Solarenergie versorgt wird. Ziel ist es dort, komplett CO2-neutral zu sein, deshalb musste ich jeden Morgen auf dem Weg zur Arbeit mein normales Auto vor der Stadt abstellen und in ein kleines, selbstfahrendes Auto für vier Leute umsteigen, um zu meinem Institut zu kommen. Am Nachmittag fuhr das Fahrzeug wieder zurück zum Parkhaus, wo mein Auto parkte. Das waren natürlich wesentlich einfachere Konstruktionen als die, die wir heute im Google Car oder bei Tesla sehen. Sie fuhren nicht im normalen Straßenverkehr, sondern auf eigens dafür eingerichteten Straßen. Das war das erste Mal, dass ich damit in Berührung kam.

          Rührt daher Ihr Interesse an selbstfahrenden Autos?

          Ursprünglich hatte ich gar nicht vor, in diesem Bereich zu forschen, ich habe diese Technologie zunächst nur als normaler Nutzer wahrgenommen. Es war schon wirklich ein merkwürdiges Gefühl, weil es völlig unmöglich ist, das Verhalten dieses Fahrzeugs vorherzusagen. Ich habe dann angefangen, einen mentalen Monolog darüber zu führen, unter welchen Voraussetzungen es wohl anhalten oder beschleunigen würde. Es hat ein Weilchen gedauert, bis ich mich daran gewöhnt habe. Später war es sehr interessant, Freunde oder Kollegen mitzunehmen und zu sehen, wie diese Fahrzeuge einerseits Faszination, andererseits aber auch Unbehagen auslösen.

          Inzwischen beschäftigen Sie sich auch als Forscher damit. Wie groß sind denn die Vorbehalte?

          Die Menschen müssen ganz erhebliche psychologische Hürden überwinden, ehe sie sich in ein wirklich autonom fahrendes Auto setzen. Das wird bisher immer unterschätzt. Die Autoindustrie hat anfangs diese Diskussion gemieden, weil sie auch schwierig ist. Deshalb haben sie sich auf die technischen Aspekte konzentriert. Das Vertrauen in die Technologie hängt aber nicht nur von den technischen Fähigkeiten, sondern auch von der psychologischen Wahrnehmung ab. Wenn die Menschen nicht bereit sind, ihr Leben in die Hände der Künstlichen Intelligenz zu legen, bringt uns der ganze technische Fortschritt nichts. Die Kunden werden das Produkt nicht kaufen, es wird sich nicht lohnen, darin zu investieren. Das war es dann.

          Was fürchten die Menschen denn konkret?

          Die Menschen sind im Moment noch nicht bereit dazu, selbstfahrenden Autos zu vertrauen. Einige Gründe dafür sind technischer Natur. Es bestehen ernsthafte Zweifel, ob ein Auto überhaupt in der Lage ist, all die Versprechen zu erfüllen, die die Autoindustrie macht. Ein anderes Problem ist die Vorhersehbarkeit, ohne die können Sie kein Vertrauen schaffen. Aber die ethischen Dilemmata sind ähnlich gravierend.

          Der Syrer Iyad Rahwan ist Professor am Massachusetts Institute of Technology in Boston und forscht an der Schnittstelle zwischen Computer- und Sozialwissenschaften.
          Der Syrer Iyad Rahwan ist Professor am Massachusetts Institute of Technology in Boston und forscht an der Schnittstelle zwischen Computer- und Sozialwissenschaften. : Bild: privat

          Was meinen Sie damit?

          Nehmen wir das Beispiel eines unvermeidbaren Unfalls. Das Auto hat in diesem Fall nur die Wahl zwischen zwei Handlungen: Die eine verletzt den Fahrer, die andere trifft spielende Kinder auf der Straße. Was soll das Auto tun, und wer sollte darüber entscheiden? Die Menschen fühlen sich schlicht unwohl bei dem Gedanken, dass eine Maschine eine Entscheidung von moralischer Tragweite treffen kann. Das hat es zuvor noch nie gegeben. Da können Sie den Menschen noch so oft sagen, dass diese Autos den Straßenverkehr sicherer machen, es wird nicht helfen. In der Vergangenheit waren Maschinen Hilfsmittel, jetzt treffen sie auf einmal ethische Entscheidungen. Daran müssen wir uns erst einmal gewöhnen.

          Aber es sind doch die Ingenieure, die die Vorgaben für diese Entscheidungen machen.

          Wir stehen noch ganz am Anfang einer Diskussion. Die Autoindustrie ist natürlich bereit, das zu tun, was sozial akzeptiert ist. Dabei wissen wir noch gar nicht, was das sein soll. Es gibt dazu kaum Umfragen. Hinzu kommt, dass die Autohersteller ihre eigenen Interessen verfolgen. Natürlich können sie sagen: Wir programmieren das Auto so, dass der Schaden generell so gering wie möglich ausfällt. Aber als Fahrer möchte ich natürlich zuallererst, dass mein Auto den Schaden für mich reduziert. Da ist schon der erste Konflikt zwischen dem, was persönlich gewünscht und sozial akzeptiert ist. Das müssen wir klären. Unsere Forschung hat gezeigt, dass die Autos schlicht nicht gekauft werden, wenn die Autoindustrie verpflichtet wird, den Schaden für alle Beteiligten so gering wie möglich zu halten, selbst wenn die Sicherheit des Fahrers gar nicht berührt ist. Allein die Vorstellung, das Auto könnte Entscheidungen treffen, die darauf hinauslaufen, dass der Fahrer geopfert wird, verängstigt die Menschen. Das führt zu einer Art psychologischer Überreaktion.

          Weitere Themen

          Bahn nimmt selbstfahrenden Bus in Betrieb Video-Seite öffnen

          Birnbach : Bahn nimmt selbstfahrenden Bus in Betrieb

          Die Deutsche Bahn hat erstmals einen selbstfahrenden Bus im öffentlichen Straßenverkehr in Betrieb genommen. Der kleine Elektrobus verbindet das Ortszentrum mit der Therme des Kurorts und rollt dabei auf einer Strecke von 700 Metern über öffentliche Straßen.

          Topmeldungen

          Kein Recht auf Neuwahlen : Letztlich entscheidet der Präsident

          Der Abbruch der Sondierungsgespräche hat verfassungsrechtlich erst einmal nichts geändert. Ein Recht auf Neuwahlen, gar nach Gutdünken, sieht das Grundgesetz nicht vor.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.