https://www.faz.net/-gqz-9akvo

Unfallbericht veröffentlicht : Ist Uber für den Tod einer Fußgängerin verantwortlich?

  • -Aktualisiert am

Technisches Versagen würfe kein gutes Licht auf die Firma: Logo von Uber Bild: Reuters

Ein Untersuchungsbericht kritisiert den Fahrdienstleister Uber: Die Notbremse am Roboterauto war gar nicht eingeschaltet. War die Ursache menschliches Versagen oder doch ein technischer Fehler?

          Sechs Sekunden betrug die Zeitspanne, in der das Unfallfahrzeug des amerikanischen Fahrdienstleisters Uber das vor ihm befindliche Objekt protokollierte, bevor es eine Fußgängerin rammte und tötete. Das geht aus einem Bericht der amerikanischen Verkehrssicherheitsbehörde NTSB hervor, die den Vorfall vom März dieses Jahres untersucht hat. Bei einem normalen Tempo in der Stadt entsprechen sechs Sekunden einer Strecke von rund achtzig Metern.

          Sowohl die Radar- als auch die Lidar-Sensoren hatten die Frau in dieser Zeit vor dem tödlichen Zusammenstoß erfasst. Dass es sich um einen Menschen handelt, hatte die Software nicht sofort erkannt. Je nachdem, welches Objekt die Software zu erkennen glaubt, berechnet sie die zu erwartende Bewegung. Innerhalb der sechs Sekunden wurde diese Prognose mehrfach neu erstellt, hat die Untersuchung ergeben. Dann meldete die Software, dass ein unmittelbarer Zusammenprall bevorsteht und die Notbremsung einzuleiten sei. Das passierte eine Sekunde vor der Kollision.

          Allerdings leitete das selbstfahrende Uber-Auto die sofortige Bremsung nicht ein, sondern meldete den bevorstehenden Aufprall an die Fahrzeuglenkerin. Sie konnte nicht mehr reagieren. Die Meldung statt der Notbremsung war jedoch kein Fehler der Software, sondern ein durch Uber gewolltes Verhalten. Selbständig sollte das Fahrzeug nämlich keine Notbremsung einleiten.

          Ein Roboter darf keinen Menschen verletzen

          Nun mag jeder mit Verstand fragen: Wie bitte? Wenn ein Aufprall in einer Sekunde bevorsteht, wird erst dem Fahrer Bescheid gesagt, anstatt sofort zu bremsen? Man fragt sich, ob angesichts der totgefahrenen Frau nicht Verantwortliche verhaftet und angeklagt gehören. Schließlich ist Technologie und deren Programmierung nicht durch ein Wunder einfach entstanden, sondern konkrete Menschen haben sie entwickelt und Entscheidungen über die Software getroffen.

          Schon Isaac Asimov wusste in seiner berühmten Kurzgeschichte „Runaround“ aus dem Jahr 1942, dass die erste und wichtigste Regel für jeden Roboter sein sollte: Ein Roboter darf keinen Menschen verletzen, auch nicht durch Inaktivität. Das sollte auch für Roboterautos gelten, wenn wir nicht in die Robokalypse steuern wollen. Allerdings muss das Gefährt zur korrekten Umsetzung der Asimov-Regel erst einmal wissen, dass es auf einen Menschen zurollt.

          Die Realität bei selbstfahrenden Fahrzeugen sieht allerdings anders aus. Wer einmal in einem Forschungswagen mit Autopilot saß, der wird ahnen, warum sich Uber für eine derartige Variante entschieden haben könnte: Als Insasse ist es einigermaßen beunruhigend, wenn das Fahrzeug auf alles, was in den Weg kommt, mit einer starken Bremsung oder dramatischen Ausweichbewegungen reagiert.

          Welche Kompromisse sind akzeptabel ?

          Um das Fahrgefühl nicht zu unangenehm zu gestalten, wird stattdessen der Fahrer alarmiert, der besser einschätzen kann, ob ein Ball über die Straße rollt oder ein Hund des Weges kommt und Bremsen nötig ist oder aber nur Blätter eines Baums vorbeiwehen oder vielleicht ein großes Blatt Papier. Objekte werden so klassifiziert, und weil die Software lernfähig ist, tragen die Handlungen der Fahrzeuglenker dazu bei, in künftigen Verkehrslagen bessere Entscheidungen zu treffen.

          Selbstfahrende Autos sind keine Wundercomputer, die jede Verkehrslage perfekt einschätzen könnten. Unsere komplexe Umwelt, die Menschen recht mühelos meistern, muss in einer Software erst entsprechend abgebildet werden. Dazu werden Bilder tausender Verkehrszeichen eingespeichert, hinzu kommen Abbildungen beweglicher Elemente, die im Verkehr vorkommen: Tiere, Radfahrer, Kinderwagen oder gar Pferdekutschen.

          Die entscheidende Frage ist, welche Kompromisse akzeptabel sind. Der Fahrzeug-Computer mit seinen Sensoren, Kameras und seiner Software sollte nicht den Komfort seiner Insassen höher priorisieren als die Gesundheit oder das Leben anderer Verkehrsteilnehmer – zumal eindeutig schwächerer. Die Software muss so gestaltet sein, dass sie kein erfasstes Objekt ignoriert, das lebendig sein könnte oder in dem Menschen sitzen.

          Damit drängt sich die Frage nach der Verantwortung auf

          Interessanterweise hat das Basis-Fahrzeug, auf dem Uber eigene Komponenten für das automatische Fahren testet, eine bessere Konfiguration: Der aktuelle Volvo besitzt bereits serienmäßig Sensoren und Software, die Zusammenstöße durch Bremsmanöver verhindern können. Doch dieses zusätzliche Sicherheitsnetz war laut den Untersuchungen ausgeschaltet. Damit drängt sich die Frage nach der Verantwortung der Manager und Ingenieure auf, die diese Entscheidung getroffen haben. Geschah das absichtlich, gelangt man aus dem Bereich grober Fahrlässigkeit in Richtung Vorsatz.

          Uber hat nach dem tödlichen Unfall und der Untersuchung Schwierigkeiten, das Testprogramm für selbstfahrende Autos überhaupt wiederaufnehmen zu können. Die Bürgermeister großer amerikanischer Städte legen sich quer, der Gouverneur von Arizona nahm die landesweite Erlaubnis nach dem tödlichen Crash im März vorübergehend zurück. Nach nun zwei Monaten hat er noch keine neue Genehmigung erlassen, woraufhin Uber Arizona ganz verlässt. Auch in Kalifornien kann das Unternehmen mangels Erlaubnis keine selbstfahrenden Autos mehr testen. Am eigenen Hauptquartier in San Francisco fahren wieder menschliche Chauffeure.

          Die digitale F.A.Z. PLUS
          F.A.Z. Edition

          Die digitale Ausgabe der F.A.Z., für alle Endgeräte optimiert und um multimediale Inhalte angereichert

          Mehr erfahren

          Da sich Uber mit seinem brachialen Geschäftsgebaren und einer Historie von einigen nachweislich illegalen und oft fragwürdigen Verhaltensweisen schon reichlich Feinde gemacht hat, ist die Gegenwehr kein Wunder. Die Ideologie der „Disruption“, des Zerschlagens von Geschäftsmodellen und des Ignorierens und Umgehens bestehender Regulierungen, hat mit dem tödlichen Unfall eine grausige Fortsetzung gefunden. Die Frage, auf welchen Grundwerten des Unternehmens solche kritischen Systeme wie automatisierte Fahrzeuge entwickelt werden, spitzt sich im Falle von Uber zu.

          In sechs Sekunden hätte das Fahrzeug stehen können

          Denn in sechs Sekunden hätte das Fahrzeug locker stehen können. Sogar in der letzten Sekunde, in der die Warnung vor dem Zusammenstoß gegeben wurde, hätte die Chance bestanden, die Fußgängerin zu retten. Denn moderne Bremssysteme, die einen Wagen nicht durch den Menschen, sondern automatisch zum Stehen bringen, haben enorm kurze Bremswege. Die Ingenieure vollbringen dazu wahre Meisterleistungen. Doch dann kamen die Disruptoren von Uber und schalteten die vorhandenen Sicherheitseinrichtungen ab – für Tests, die so niemals auf öffentlichen Straßen hätten stattfinden dürfen.

          Weitere Themen

          Spielzeug geht App

          Trend fürs Kinderzimmer : Spielzeug geht App

          Wird in Zukunft das Spielzeug nur noch per Smartphone und Tablet gesteuert? Und programmieren die Kleinen von nun an im Kinderzimmer? Auf der Spielwarenmesse sah es danach aus.

          Goldener Bär für „Synonymes“ Video-Seite öffnen

          Israelischer Film : Goldener Bär für „Synonymes“

          Der israelische Regisseur Nadav Lapid ist von der Berlinale-Jury für seinen Film „Synonymes“ mit dem Goldenen Bären ausgezeichnet worden. Deutschland wurden am Samstagabend in Berlin auch zwei deutsche Regisseurinnen ausgezeichnet.

          Topmeldungen

          Der Innenraum der Ditib-Merkez-Moschee in Duisburg

          Konflikt mit Verbänden : Islamunterricht am Limit

          Was darf im Religionsunterricht an Schulen über Schwule und Lesben gesagt werden? Und steht die Antwort darauf wirklich im Koran? Die Bundesländer stecken in der Klemme. Irgendwie müssen sie den Islam integrieren – das gestaltet sich allerdings zunehmend schwieriger.
          Wie geht es weiter im Verfahren gegen Matteo Salvini?

          Abstimmung beendet : Salvini behält seine Immunität

          Gegen Matteo Salvini, den Vorsitzenden der rechtsnationalistischen Lega, wird wegen des Verdachts der Freiheitsberaubung ermittelt. Doch die Fünf Sterne verhindern einen Prozess gegen den Lega-Chef.

          0:0 in Nürnberg : Für den BVB wird es ungemütlich

          Das Tabellenschlusslicht trotzt dem Tabellenführer ein torloses Unentschieden ab. Borussia Dortmund hat nach dem nächsten Rückschlag nur noch drei Punkte Vorsprung auf Bayern München. „Club“-Schlussmann Christian Mathenia hält überragend.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.