https://www.faz.net/-gqz-9akvo

Unfallbericht veröffentlicht : Ist Uber für den Tod einer Fußgängerin verantwortlich?

  • -Aktualisiert am

Technisches Versagen würfe kein gutes Licht auf die Firma: Logo von Uber Bild: Reuters

Ein Untersuchungsbericht kritisiert den Fahrdienstleister Uber: Die Notbremse am Roboterauto war gar nicht eingeschaltet. War die Ursache menschliches Versagen oder doch ein technischer Fehler?

          4 Min.

          Sechs Sekunden betrug die Zeitspanne, in der das Unfallfahrzeug des amerikanischen Fahrdienstleisters Uber das vor ihm befindliche Objekt protokollierte, bevor es eine Fußgängerin rammte und tötete. Das geht aus einem Bericht der amerikanischen Verkehrssicherheitsbehörde NTSB hervor, die den Vorfall vom März dieses Jahres untersucht hat. Bei einem normalen Tempo in der Stadt entsprechen sechs Sekunden einer Strecke von rund achtzig Metern.

          Sowohl die Radar- als auch die Lidar-Sensoren hatten die Frau in dieser Zeit vor dem tödlichen Zusammenstoß erfasst. Dass es sich um einen Menschen handelt, hatte die Software nicht sofort erkannt. Je nachdem, welches Objekt die Software zu erkennen glaubt, berechnet sie die zu erwartende Bewegung. Innerhalb der sechs Sekunden wurde diese Prognose mehrfach neu erstellt, hat die Untersuchung ergeben. Dann meldete die Software, dass ein unmittelbarer Zusammenprall bevorsteht und die Notbremsung einzuleiten sei. Das passierte eine Sekunde vor der Kollision.

          Allerdings leitete das selbstfahrende Uber-Auto die sofortige Bremsung nicht ein, sondern meldete den bevorstehenden Aufprall an die Fahrzeuglenkerin. Sie konnte nicht mehr reagieren. Die Meldung statt der Notbremsung war jedoch kein Fehler der Software, sondern ein durch Uber gewolltes Verhalten. Selbständig sollte das Fahrzeug nämlich keine Notbremsung einleiten.

          Ein Roboter darf keinen Menschen verletzen

          Nun mag jeder mit Verstand fragen: Wie bitte? Wenn ein Aufprall in einer Sekunde bevorsteht, wird erst dem Fahrer Bescheid gesagt, anstatt sofort zu bremsen? Man fragt sich, ob angesichts der totgefahrenen Frau nicht Verantwortliche verhaftet und angeklagt gehören. Schließlich ist Technologie und deren Programmierung nicht durch ein Wunder einfach entstanden, sondern konkrete Menschen haben sie entwickelt und Entscheidungen über die Software getroffen.

          Schon Isaac Asimov wusste in seiner berühmten Kurzgeschichte „Runaround“ aus dem Jahr 1942, dass die erste und wichtigste Regel für jeden Roboter sein sollte: Ein Roboter darf keinen Menschen verletzen, auch nicht durch Inaktivität. Das sollte auch für Roboterautos gelten, wenn wir nicht in die Robokalypse steuern wollen. Allerdings muss das Gefährt zur korrekten Umsetzung der Asimov-Regel erst einmal wissen, dass es auf einen Menschen zurollt.

          Die Realität bei selbstfahrenden Fahrzeugen sieht allerdings anders aus. Wer einmal in einem Forschungswagen mit Autopilot saß, der wird ahnen, warum sich Uber für eine derartige Variante entschieden haben könnte: Als Insasse ist es einigermaßen beunruhigend, wenn das Fahrzeug auf alles, was in den Weg kommt, mit einer starken Bremsung oder dramatischen Ausweichbewegungen reagiert.

          Welche Kompromisse sind akzeptabel ?

          Um das Fahrgefühl nicht zu unangenehm zu gestalten, wird stattdessen der Fahrer alarmiert, der besser einschätzen kann, ob ein Ball über die Straße rollt oder ein Hund des Weges kommt und Bremsen nötig ist oder aber nur Blätter eines Baums vorbeiwehen oder vielleicht ein großes Blatt Papier. Objekte werden so klassifiziert, und weil die Software lernfähig ist, tragen die Handlungen der Fahrzeuglenker dazu bei, in künftigen Verkehrslagen bessere Entscheidungen zu treffen.

          Selbstfahrende Autos sind keine Wundercomputer, die jede Verkehrslage perfekt einschätzen könnten. Unsere komplexe Umwelt, die Menschen recht mühelos meistern, muss in einer Software erst entsprechend abgebildet werden. Dazu werden Bilder tausender Verkehrszeichen eingespeichert, hinzu kommen Abbildungen beweglicher Elemente, die im Verkehr vorkommen: Tiere, Radfahrer, Kinderwagen oder gar Pferdekutschen.

          Die entscheidende Frage ist, welche Kompromisse akzeptabel sind. Der Fahrzeug-Computer mit seinen Sensoren, Kameras und seiner Software sollte nicht den Komfort seiner Insassen höher priorisieren als die Gesundheit oder das Leben anderer Verkehrsteilnehmer – zumal eindeutig schwächerer. Die Software muss so gestaltet sein, dass sie kein erfasstes Objekt ignoriert, das lebendig sein könnte oder in dem Menschen sitzen.

          Damit drängt sich die Frage nach der Verantwortung auf

          Interessanterweise hat das Basis-Fahrzeug, auf dem Uber eigene Komponenten für das automatische Fahren testet, eine bessere Konfiguration: Der aktuelle Volvo besitzt bereits serienmäßig Sensoren und Software, die Zusammenstöße durch Bremsmanöver verhindern können. Doch dieses zusätzliche Sicherheitsnetz war laut den Untersuchungen ausgeschaltet. Damit drängt sich die Frage nach der Verantwortung der Manager und Ingenieure auf, die diese Entscheidung getroffen haben. Geschah das absichtlich, gelangt man aus dem Bereich grober Fahrlässigkeit in Richtung Vorsatz.

          Uber hat nach dem tödlichen Unfall und der Untersuchung Schwierigkeiten, das Testprogramm für selbstfahrende Autos überhaupt wiederaufnehmen zu können. Die Bürgermeister großer amerikanischer Städte legen sich quer, der Gouverneur von Arizona nahm die landesweite Erlaubnis nach dem tödlichen Crash im März vorübergehend zurück. Nach nun zwei Monaten hat er noch keine neue Genehmigung erlassen, woraufhin Uber Arizona ganz verlässt. Auch in Kalifornien kann das Unternehmen mangels Erlaubnis keine selbstfahrenden Autos mehr testen. Am eigenen Hauptquartier in San Francisco fahren wieder menschliche Chauffeure.

          Die digitale F.A.Z. PLUS
          F.A.Z. Edition

          Die digitale Ausgabe der F.A.Z., für alle Endgeräte optimiert und um multimediale Inhalte angereichert

          Mehr erfahren

          Da sich Uber mit seinem brachialen Geschäftsgebaren und einer Historie von einigen nachweislich illegalen und oft fragwürdigen Verhaltensweisen schon reichlich Feinde gemacht hat, ist die Gegenwehr kein Wunder. Die Ideologie der „Disruption“, des Zerschlagens von Geschäftsmodellen und des Ignorierens und Umgehens bestehender Regulierungen, hat mit dem tödlichen Unfall eine grausige Fortsetzung gefunden. Die Frage, auf welchen Grundwerten des Unternehmens solche kritischen Systeme wie automatisierte Fahrzeuge entwickelt werden, spitzt sich im Falle von Uber zu.

          In sechs Sekunden hätte das Fahrzeug stehen können

          Denn in sechs Sekunden hätte das Fahrzeug locker stehen können. Sogar in der letzten Sekunde, in der die Warnung vor dem Zusammenstoß gegeben wurde, hätte die Chance bestanden, die Fußgängerin zu retten. Denn moderne Bremssysteme, die einen Wagen nicht durch den Menschen, sondern automatisch zum Stehen bringen, haben enorm kurze Bremswege. Die Ingenieure vollbringen dazu wahre Meisterleistungen. Doch dann kamen die Disruptoren von Uber und schalteten die vorhandenen Sicherheitseinrichtungen ab – für Tests, die so niemals auf öffentlichen Straßen hätten stattfinden dürfen.

          Weitere Themen

          Tödliches Autorennen

          Mordprozess : Tödliches Autorennen

          Vor dem Landgericht Kleve hat am Montag der Prozess gegen zwei junge Männer begonnen. Es geht um ein illegales Autorennen, bei dem eine Frau getötet wurde.

          Topmeldungen

          Ein türkischer Militärkonvoi inmitten von Fahrzeugen flüchtender Zivilisten im Norden der Provinz Idlib.

          Assads Vormarsch in Idlib : Geschichten der Ohnmacht

          Die syrischen Truppen rücken in Idlib ohne Rücksicht auf die Zivilbevölkerung vor. Die Türkei hält mit Unterstützung für die Rebellen dagegen – aber nur, solange das Moskau nicht zu sehr verärgert.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.