https://www.faz.net/-gsf-avd

Gespräch mit Daniel Suarez : Wir werden mit System erobert

  • Aktualisiert am

Ich glaube, die fundamentale Frage unserer Zeit lautet, ob die Technologie uns befreien oder versklaven wird. Wir müssen diese Frage rasch beantworten und dürfen das Ergebnis nicht dem Zufall überlassen. Das Schicksal zukünftiger Generationen hängt davon ab, dass wir an diesen Scheidewegen den richtigen Weg wählen. Wie bei allen komplexen Systemen erzeugen frühere Entscheidungen ein Trägheitsmoment, das spätere Revisionen erschwert. Wenn wir also weiterhin ein System konstruieren, das Macht und Entscheidungen zentralisiert, das immer stärker auf Massenproduktion und Gleichförmigkeit setzt, um die Erträge zu maximieren, schaffen wir etwas, das nicht mit Demokratie vereinbar ist und sich notwendigen Veränderungen widersetzt. Es ist von lebenswichtiger Bedeutung, dass wir Systeme konstruieren, die zu demokratischen Strukturen passen und sie stützen - dass wir unsere Werte fest in der DNA dieser neuen technologischen Welt verankern, damit schrittweiser Wandel, Vielfalt und dezentrale Entscheidungen weiterhin möglich sind.

Was nun die dystopischen Aspekte der fMRT-Brainscanner in meinen beiden Büchern angeht, so handelt es sich dabei nicht um Blaupausen für eine Gesellschaft. Meine Geschichten sollen warnen und dazu anregen, über die Folgen und die Möglichkeiten nachzudenken, die sich uns bieten. Die funktionelle Magnetresonanztomographie als Instrument zur Ermittlung menschlicher Intentionen wird kommen. Kein Wunschdenken vermag einer Technologie Einhalt zu gebieten, deren Zeit gekommen ist. Wir können nur Einfluss darauf nehmen, wie diese Technologie genutzt wird. Sollten wir eine Bill of Rights für das 21. Jahrhundert schaffen? Könnte solch ein Dokument das Recht sichern, dass kein menschliches Gehirn ohne gerichtlichen Beschluss durchsucht werden darf? Und sollten wir eine Klausel hinzufügen, die besagt, dass alle Lebewesen allein sich selbst gehören - sodass keine Patente auf Gene gewährt werden dürften und kein Biotech-Unternehmen die alleinige Kontrolle darüber erlangen darf?

Rieger: Heute werden selbst datengetriebene Algorithmen noch von Menschen kontrolliert. In manchen Fällen - wie bei automatisierten Börsenhandelssystemen - erstreckt sich diese Kontrolle vor allem auf die Frage, ob sie die Zielsetzungen ihrer Herren erfüllen. Sie ähneln autonomen zielsuchenden Waffensystemen, deren menschliche Herren aufgrund ihrer Komplexität nur über einen Selbstzerstörungsbefehl als letzte Kontrollmöglichkeit verfügen. Aber auch hier bilden menschliche Absichten und Programmierer noch den Kern dieser Algorithmen. Ist es nicht notwendig, sich auf genau diese Menschen zu konzentrieren, auf die implizite Macht, die sie ausüben, weil sie die Systeme programmieren oder, wichtiger noch, die Ziele der Programmierung vorgeben und die zugehörigen Geschäftssysteme und Regeln festlegen? Erlangen nicht gerade die ethischen und moralischen Grundsätze, an denen diese Menschen sich orientieren, größte Bedeutung, weil die AI-Techniken ihre Macht stark vergrößern?

Weitere Themen

Topmeldungen

„Super Saturday“ : Britische Regierung beantragt Brexit-Verschiebung

Das britische Parlament hat eine Entscheidung über den Brexit-Deal verschoben. Premierminister Boris Johnson kündigt an, er werde „weiterhin alles tun, damit wir am 31. Oktober die EU verlassen.“ Trotzdem muss er Brüssel um einen Aufschub bitten.

Newsletter

Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.