https://www.faz.net/-gqz-8drnb

Roboter : Wir laufen auf Autopilot

  • -Aktualisiert am

Wenn Menschen Maschinen werden, können sie aber immer noch gut aussehen wie hier in dem Film „Terminator 3- Rise of the Machines“. Bild: akg-images / Album

Der Turing-Test muss umgekehrt gedacht werden: Nicht Maschinen werden wie Menschen, sondern Menschen wie Maschinen. Unsere kognitive Prozesse werden immer mehr automatisiert.

          6 Min.

          Im Jahr 2014 berichtete der „New-York-Times“-Reporter David Segal, wie er am Flughafen in Rom einen American-Express-Schalter aufsuchte und sich in einem Online-Chat über die ungewöhnlich hohe Wechselgebühr beschwerte. Das Gespräch kam ihm irgendwie merkwürdig vor.

          Segal war überzeugt, es auf der anderen Seite der Chatleitung mit einem Roboter statt einem Menschen zu tun hatte. Die transkribierte Konversation erweckte den Eindruck, als würde ein Algorithmus Schlüsselwörter wie „Exchange Rate“ aufgreifen und standardisierte Antworten à la „Das können wir nicht kommentieren“ von sich geben.

          Verwunderlich wäre das nicht. Kreditkartenkonzerne setzen schon länger Chat-Bots zur Beantwortung von Kundenanfragen ein. American Express gelang zu diesem Zeitpunkt aber etwas Bemerkenswertes: Seine Software bestand den sogenannten Turing-Test. 1950 schlug der legendäre Mathematiker Alan Turing ein Testverfahren vor, um künstliche Intelligenz nachzuweisen.

          Ein menschlicher Fragesteller sollte sich per Chat, also nur per Tastatur und Bildschirm, mit einem Computerprogramm und einem Menschen unterhalten und herausfinden, welches die Maschine ist. Gelingt dies nicht, hat die Maschine den Turing-Test bestanden.

          Der Journalist Segal stellte den Test in einem Experiment auf die Probe: Er öffnete einen Online-Chat mit einem American Express-Sacharbeiter namens Bruce. „Hallo! Ich bin Bruce! Wie kann ich Ihnen behilflich sein.“ – „Hi! Sind Sie ein Mensch?“, fragte Segal. Der Gegenüber antwortete tiefsinnig: „Wie kann ich beweisen, dass ich ein Mensch bin?“

          Schau mal, wer da spricht

          Segal ging daraufhin eine Reihe von Fragen durch. Schuhgröße, Geburtsname, geografischer Standort. Das Gesprächsprotokoll liest sich einigermaßen absurd. Segal konnte sich des Eindrucks nicht erwehren, einer computerisierten Stimme gegenüber zu sitzen. Schließlich stellte sich jedoch heraus, dass es sich um eine reale Person handelte.

          Der Grund, weshalb Segal den Sachbearbeiter für einen Computer hielt, war, dass Englisch nicht dessen Muttersprache war. Womöglich war Bruce eine Person, die mechanisch von einem Skript ablas, sodass die Arbeit fast roboterartig daherkam. Anweisung: Fragt der Kunde das, antworteten Sie das. Allein, wenn ein Mensch eine Arbeit verrichtet, die von Maschinen diktiert wird, operiert er dann nicht auch wie eine Maschine?

          Das ist eine der Fragen, mit denen sich der Rechtswissenschaftler Brett Frischmann und der Philosoph Evan Selinger beschäftigen. In einem Beitrag für den „Guardian“ stellten sie die These auf, dass der Turing-Test heute anders gedacht werden müsse: Die Frage sei nicht, ob Maschinen irgendwann menschenähnlich werden, sondern ob der Mensch maschinenähnlich und programmierbar werden könne.

          Dieser arme Mann weiß noch gar nicht, dass er sich mit einer Maschinen-Blondine eingelassen hat - eine Szene mit Josephine Alhanko und Alxander Karim aus der Arte-Sendung „Real Humans - Echte Menschen“.

          Es gibt Indizien, die in diese Richtung weisen. Facebook hat in einem gigantischen sozialen Experiment die Gefühle von 700.000 Nutzern gesteuert. Sie sahen verzerrte Ergebnisse ihrer Freunde. Google, das belegen Studien des amerikanischen Verhaltensforschers Robert Epstein, kann mit ein paar Modifikationen seines PageRank-Algorithmus Wahlpräferenzen manipulieren.

          Und in Roboterautos bestimmen Algorithmen, ob das Fahrzeug bei einer drohenden Kollision nach links oder rechts ausweicht und einen Unbeteiligten rammt. Unser Schicksal ist determiniert, programmiert von ein paar Software-Entwicklern. Der Mensch ist ein Wesen, der in Codes geschrieben ist – ein Internetprotokoll in einer Datenbank, abrufbar und auswertbar 24/7.

          Millionen Menschen laufen heute mit Fitnessarmbändern und Smartwatches herum, die unablässig ihre Schritte, Herzfrequenz und Laufleistung erfassen. Das Start-up Bitwalking hat eine App lanciert, die mithilfe von GPS und Beschleunigungssensoren die Schritte der Nutzer zählt – haben sie 10 000 geschafft, wird ihnen ein digitales Kilometergeld in Höhe von einem „Bitwalking Dollar“ ausgezahlt.

          Der User als Laufbursche

          Der Nutzer der App verkommt zum Laufburschen einer datenhungrigen Industrie, die nichts anderes im Sinn hat, als detaillierte Nutzerprofile zu erstellen und Daten kommerziell auszuschlachten. Das Individuum wird auf seine bloße „Laufleistung“ reduziert.

          Als Laufleistung wird gemeinhin die Betriebsdauer technischer Geräte bezeichnet. Ein GPS-Wegmesser ist nichts anderes als ein Kilometerzähler für das Smartphone. Im Weltbild der Entwickler ist der Mensch eine Maschine, die „laufen“ muss.

          Der Versandriese Amazon überwacht seine Angestellten mit GPS, um jeden Schritt zu kontrollieren. Wie der Undercover-Journalist Adam Littler in einer Investigativ-Reportage berichtete, mussten die Amazon-Mitarbeiter im Fulfilment Center von Swansea in der Stunde mindestens 110 Produkte verpacken. Es ist Taylorismus in Reinkultur. Zwischen den orangefarbenen Robotern und den menschlichen Pickern besteht funktional kein Unterschied mehr.

          Die Amazon-Mitarbeiter werden denn auch „Amabots“ genannt (angelehnt an bot für Roboter). Nun kann man einwenden, dass der Mensch auch schon in der Frühphase der Industrialisierung im Akkord und wie eine Maschine arbeitete. Doch im Zeitalter der Digitalisierung, wo mit „soziometrischen Badges“ jede Eigenschaft bis hin zur Stimmung quantifiziert werden kann und anhand von Graphen in Echtzeit darstellbar ist, wird erstmals die Mechanik des Menschen sichtbar – eine „Software“, die man optimieren kann.

          Frischmann zeigt einen Punkt auf, an dem sich der maschinenähnliche Mensch und die menschenähnliche Maschine treffen (wenn man das als lineare Kreuzentwicklung modellierte, wäre das gewissermaßen die Vorstufe der technologischen Singularität, jenem Punkt der Entwicklung, an dem nach Ray Kurzweil die künstliche Intelligenz über den Menschen siegt).

          Die Charakteristika, die genuinen Fähigkeiten, die den Menschen von der Maschine unterscheiden, sind seine Empathiefähigkeit und sein Urteilvermögen – wobei die künstliche Intelligenz auch in diesen Feldern massiv aufholt. Doch darum geht es gar nicht. Frischmann stellt in seinen Ausführungen die recht ketzerische Frage, ob Menschen nicht- denken können; ob sie in der Lage sind, ihre genuine Fähigkeit zu entäußern.

          Wie viel Maschine ist im Menschen?

          Frischmann führte einen (imaginären) Turing-Test unter anderen Vorzeichen durch: Nicht der Computer sollte unter Beweis stellen, dass er wie ein Mensch zu denken vermag, sondern der Mensch sollte zeigen, dass er wie eine Maschine operieren kann. Bei der Lösung computerisierter mathematischer Gleichungen und Generierung zufälliger Zahlen würde der Mensch regelmäßig scheitern.

          Er würde irgendwann Ziffern häufen, sodass die Anordnung nicht mehr dem Faktor Zufall gehorcht. Anders sähe es jedoch bei dem Prüfkriterium „Common Sense“ aus, das im Deutschen „gesunder Menschenverstand“ meint. Frischmann stellt ein interessantes Gedankenexperiment an: Angenommen, eine Frau steigt in einer fremden Stadt in ein Taxi, nennt dem Fahrer die Adresse und schläft dann auf der Rückbank ein. Dreißig Minuten später weckt der Taxifahrer die Frau, nimmt das Geld und fährt davon.

          Nachdem die Frau wieder richtig zu sich gekommen ist, stellt sie fest, dass der Taxifahrer sie in die komplett falsche Richtung gefahren hat. Sie ist „lost“, wie man auf Neudeutsch sagt. Wie reagiert der gesunde Menschenverstand darauf? Die Frau könnte einen Stadtplan zu Rate ziehen, Verkehrszeichen studieren und Passanten nach dem Weg fragen. Sie könnte aber auch einfach ihr Smartphone herausholen, Googlemaps öffnen, GPS aktivieren und ein Uber-Taxi ordern.

          Die meisten würden wohl für letzteres optieren. Der Common Sense, der gesunde Menschenverstand, ist damit noch nicht abgeschafft. Eine Maschine würde jedoch in einer solchen Situation genauso operieren. Der Mensch verhält sich damit wie eine Maschine; das Denken wird an die Technologie outgesourct, die Entscheidungsfindung automatisiert.

          Automatische Entscheidungsfindung

          „Wir neigen dazu, auf Autopilot zu schalten, um schnell und vorhersagbar auf die Stimuli eines ,Ich stimme zu‘-Buttons zu reagieren“, meint Frischmann im Gespräch mit dieser Zeitung. Egal, ob auf Internetseiten, mobilen Apps oder dem smarten Fernseher im Wohnzimmer – man klickt sich einfach durch. Man wird von einer Seite zur nächsten geschubst (Stichwort Nudging), ohne zu merken, dass man fremdgesteuert ist.

          Es ist eine Automatisierung der Handlungen. Nun stelle man sich einmal vor, man lebte in einer Umwelt, in der Facebook oder ein anderes soziales Netzwerk erfolgreich die Emotionen eines Individuums programmiert hat. Vielleicht hat man diesem Setting zugestimmt, vielleicht aber hat Facebook einfach mal wieder manipulierte Feeds angezeigt.

          Wer löst dann die Emotionen aus? Facebooks Algorithmen? Oder man selbst? Oder spielt es gar keine Rolle mehr, wer die Gefühle induziert? Die Baseline zwischen Maschine und Menschen verschwimmt. Die irritierende Frage ist: Kann die Internet-Technologie Menschen in Maschinen verwandeln?

          Facebook schleift uns zu willfährigen Statisten, die wie ein Bingo auf den Gefällt-mir-Knopf drücken sollen. Frischmann spricht von einem technosozialen „Engineering“, eine Konstruktion unserer Gedankenwelt: Überzeugungen, Präferenzen und Emotionen.

          Die Tech-Giganten sind von der Idee beseelt, den Menschen formbar zu machen wie ein Bauwerk. Der Informationskapitalismus ist eine Welt des In-den-Kopf-Eindringens geworden.

          Den Menschen formen

          Es geht darum, unsere Präferenzen so zu steuern, dass sie für ökonomische Ziele dienstbar gemacht werden können. Im Internet der Dinge, wo vom Auto bis zur Zahnbürste alles miteinander vernetzt ist, wird auch der Mensch zu einer berechenbaren Größe – so kalkulierbar wie der Strombedarf. Und wo alles berechenbar ist, da ist auch alles vorhersehbar und steuerbar.

          Die Gefahr, die Frischmann beschwört, besteht gar nicht so sehr darin, dass uns die künstliche Intelligenz den Rang abläuft oder Roboter uns den Job wegnehmen. Er fürchtet vielmehr, dass sich Menschen in dieser Umwelt selbst wie Maschinen verhalten – als perfekt rationale, vorhersagbare und programmierbare Einheiten. Das amerikanische Militärforschungszentrum DARPA plant, Soldaten einen Computerchip ins Gehirn zu implantieren, der ihr Seh- und Denkvermögen optimiert.

          Es wäre der Beginn des Cyborgs-Kämpfers, eines ferngesteuerten Soldaten wie im Science-Fiktion-Film. „Die Quintessenz ist die, dass viele unserer Grundfreiheiten – der freie Wille, Redensfreiheit – Kontingent mit der technosozialen Umwelt sind, in der wir leben und unsere Fähigkeiten entwickeln“, resümiert Frischmann. Wenn wir nur noch auf Autopilot „laufen“, sprich nur noch nach einer von Technikkonzernen festgelegten Anleitung funktionieren, wird die Autonomie zur Illusion.

          Für Frischmann besteht der einzige Ausweg aus diesem digitalen Diktat in der Freiheit, „off zu sein“ – deren Konstitutionalisierung sei die wichtigste Aufgabe im 21. Jahrhundert. Womöglich ist der intellektuelle Clou dieser Entwicklung, dass der Kunde bei Hotlines in Zukunft nicht mehr weiß, ob er es mit einem computerisierten Sachbearbeiter oder einem roboterhaft operierenden Menschen zu tun hat.

          Weitere Themen

          Tiere, Teamgeist, Todesmut Video-Seite öffnen

          Dokus gegen den Lagerkoller : Tiere, Teamgeist, Todesmut

          Keine Lust mehr auf den nächsten öden Serienmarathon in der Quarantäne? Dokumentarfilme sorgen nicht nur für Abwechslung, sondern schaffen auch Erkenntnis. Unsere Redaktion stellt acht ihrer Lieblinge vor.

          Topmeldungen

          Das Coronavirus verunsichert frisch gebackene Hausbesitzer: War es das schon mit dem Traumhaus?

          Corona-Krise : Ist mein Traumhaus in Gefahr?

          Die Corona-Krise dürfte Eigenheimbesitzern schlaflose Nächte bereiten. Monat für Monat müssen sie eine fest vereinbarte Rate zahlen, um ihre Darlehen abzubezahlen. Doch häufig finden sich Lösungen.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.