http://www.faz.net/-gqe-9cv2k

Mensch und Maschine : Glauben Sie doch dem Algorithmus!

  • -Aktualisiert am

Früher war klar, wer den Befehl gibt: Der Mensch bediente die Maschine und schaltete sie ein – oder aus. Bild: Timothy Schaumburg

Effizient, aber unsichtbar: Schon heute treffen Maschinen eigene Entscheidungen, die selbst Fachleute nicht mehr verstehen. Ist das gefährlicher als die Illusion, der Mensch sei Herr über all seine Entscheidungen? Ein Gastbeitrag.

          Auf dem Höhepunkt der sogenannten „NSA-Affäre“, im Herbst 2013, hatten mich die Enthüllungen von Edward Snowden sehr grundsätzlich erschüttert. Sonst offenbar kaum jemanden. Kollektives Achselzucken schien die vorherrschende Reaktion zu sein. Natürlich, es gibt Zyniker; aber Zynismus konnte unmöglich derart weit verbreitet sein. Daher ging ich auf die Straße, um Passanten nach ihrer Haltung zu befragen. Eine Frau erklärte mir ihre Nicht-Aufregung. Sie hatte im Netz nach einem Geschenk gesucht, einer Kuckucksuhr. Danach geschah etwas, das sie gruselig fand: Die Kuckucksuhr verfolgte sie. Auf allen möglichen Seiten tauchte sie auf. Die Frau klickte auf eine nie zuvor besuchte Internetseite, die Kuckucksuhr war schon da. Die Frau zog daraus die Schlussfolgerung, dass sie im Netz ohnehin überall beobachtet würde. Jetzt sei eben noch eine Überwachungsinstanz hinzugekommen, die NSA. Immerhin arbeite die gegen den Terror und nicht nur für Profit.

          Die Frau hatte sich an die Überwachung gewöhnt. „Wer von Maschinen oder wie heute von ‚Computern‘ redet, redet immer auch von sozialer Physik“, schrieb Frank Schirrmacher 2012 in seinem Buch „Ego“. Das handelte davon, wie Kommunikation zwischen Maschinen auf die Gesellschaft und den einzelnen zurückwirkt. Soziale Physik ist dabei ein Begriff aus der Denkschule des Materialismus: dass sich Technologie und gesellschaftliche Handlungsmuster bis zur Ununterscheidbarkeit zur Deckung bringen ließen. Meine These zur nahen Zukunft ist Umkehrung und logische Fortsetzung von Schirrmachers These: Wer heute von sozialer Physik redet, redet (fast) immer auch von Maschinen. Zumindest sind wir, als westliche Gesellschaften, auf dem Weg in eine Welt, in der die Kommunikation unter Maschinen die gesellschaftlichen Strukturen entweder unmittelbar prägt oder mittelbar beeinflusst.

          Änderung der demokratischen Reflexe der Öffentlichkeit

          Das Beispiel der Kuckucksuhr zeugt davon, dass der Austausch von Datenströmen zwischen Maschinen die soziale Physik verändert hat und mit ihr die demokratischen Reflexe der Öffentlichkeit. In den 1980er Jahren rebellierte die Bevölkerung gegen die Erhebung des Datums, wie viele Personen im eigenen Haushalt leben. 2018 haben sich viele Millionen Bundesbürger eine Standwanze (die Alexa heißen kann, Google Home oder Echo) ins Wohnzimmer gestellt – und wer sich je gefragt hat, wie das kam, findet die Antwort in der Wirkung der Kommunikation unter Maschinen auf die soziale Physik. Schirrmachers digital-soziale Physik ist zu einer eigenen gesellschaftlichen Sphäre expandiert. Ich möchte sie die unsichtbare Welt nennen. Dort sprechen und verhandeln Maschinen mit Maschinen. Die meisten Menschen ahnen die Existenz der unsichtbaren Welt; aber sie funktioniert nach anderen Regeln als alle anderen Formen der Kommunikation.

          Die folgenreichsten Fehler der Digitalpolitik beruhen auf dem Missverständnis, die unsichtbare Welt verhielte sich nach Regeln, die man aus der traditionellen physischen Welt kenne. Man könne etwa mit Stoppschildern im Internet arbeiten oder Datenverkehr regulieren wie physischen Verkehr. Um aber sinnvoll über die Zukunft der Kommunikation unter Maschinen sprechen zu können, muss man diese Analogie verabschieden. Denn immer stärker überschneiden sich klassische Kommunikation und die unter Maschinen, weil PCs oder Smartphones immer kleinteiliger miteinander interagieren. Das Netz ist nur der bekannteste Teilaspekt der unsichtbaren Welt, aber bereits hier findet sich eines ihrer wichtigsten Grundmuster: Die unsichtbare Welt wirkt wie ein Spiegel. Wer hineinschaut und seine Funktion nicht begreift, wird sich immer nur selbst sehen. Deshalb fällt es ohne tiefere Sachkenntnis so schwer, die richtigen Schlüsse zu ziehen.

          Heute scheint der Mensch manchmal nicht mehr mitzukommen mit den Geräten.

          Das Beispiel der Frau, die sich angesichts der vermeintlichen Verfolgung durch eine Kuckucksuhr an Überwachung gewöhnte, zeigt die Auswirkungen auf den Alltag. Die Wirkmacht der unsichtbaren Welt lässt sich jeden Tag spüren, und sie wird immer stärker. Die Kommunikation von Maschinen mit Maschinen, die Manifestation der unsichtbaren Welt, umfasst immer weitere Bereiche. Technologien werden erfunden, eingeführt und schon wieder abgelöst, noch bevor wir sie verstanden haben. Das geht nicht nur Laien so, auch Experten haben meist nur Einblick in einzelne Aspekte; aber schon die Bezeichnung Netz verrät: Hier hängt fast alles miteinander zusammen.

          Im Fall der Kuckucksuhr entstand der Eindruck der Verfolgung durch das sogenannte Retargeting. Die Suche wurde von einem Werbedienstleister gespeichert. Gleichzeitig wurde zur Wiedererkennung ein Cookie im Browser der Frau hinterlegt, eine kleine Datei, die funktioniert wie eine Erkennungsmarke. Die Frau, präziser: ihr Browser wurden deshalb auf neuen Websites identifiziert als „an Kuckucksuhren interessiert“. Die Uhr hat also nicht die Frau verfolgt, vielmehr kam sie auf neue Websites mit einem nur in der unsichtbaren Welt lesbaren Hinweisschild: „Ich interessiere mich für Kuckucksuhren.“ Ihr Eindruck der Allüberwachung musste aber für sie notwendig entstehen, weil ihr Browser sowie ein paar Websites und Server miteinander kommunizierten, ohne dass sie davon gewusst hätte. Sie bekam nur das verstörende Ergebnis des Austauschs unter Maschinen zu sehen.

          Mit der Kraft der unsichtbaren Welt

          Das ist ein weiteres Prinzip der unsichtbaren Welt: Wir erkennen nur einen Teil ihrer Wirkung, aber verstehen selbst dann kaum, was geschehen ist. Das ist einer der Gründe, weshalb Verschwörungstheorien präsenter sind als je zuvor. Man spürt, dass schwer erkennbare – unsichtbare – Mechanismen Auswirkungen auf das Geschehen haben, kann es sich aber nicht erklären. Wie genau funktionierte der Einfluss von Facebook und Cambridge Analytica auf die Wahl von Trump? Nicht einmal ein Untersuchungsausschuss kann diese Frage so präzise klären, wie es notwendig wäre; der Einfluss sozialer Netzwerke auf das kollektive Denken und Fühlen ist bisher nur unzureichend erforscht. Warum haben sich Millionen Deutsche die sogenannten Smart Speaker gekauft, durch die jedes gesprochene Wort analysiert und potentiell sonst wohin übertragen wird?

          Amazon und Google haben mit der Kraft der unsichtbaren Welt sogar deutsche Datenschutzbedenken überwunden und den Inbegriff der Überwachung, die Wanze, zur gesellschaftlichen Normalität werden lassen. Maschinen kommunizieren mit Maschinen, erzeugen etwas und präsentieren ihr Ergebnis der Gesellschaft. Der Alltag wird angenehmer, schneller, auch interessanter, aber noch schwieriger begreifbar. Das ist die unsichtbare Welt. Wir stellen uns das Internet als großes Netzwerk mit Servern und Kabeln vor. Diese Vorstellung ist ähnlich unterkomplex, als würde man eine Mozartsonate als „Schallwellen“ beschreiben. Das mag technisch nicht ganz falsch sein, trifft aber einfach nicht den wesentlichen Kern.

          Sascha Lobo auf der Interkonferenz re:publica im Mai in Berlin.

          Was wir unter „Internet“ verstehen, ist nur eine der Oberflächen der unsichtbaren Welt, in der Abermilliarden Maschinen miteinander kommunizieren. Eine einzige Google-Abfrage beschäftigt mehrere tausend Server, die sich untereinander verständigen. Der Aufruf einer Nachrichtenwebsite kann leicht den Maschinenpark von mehr als hundert Unternehmen beschäftigen. Wer absichtlich auf ein Werbebanner klickt, ist das Zentrum einer Masse von Maschinen, die rund um diesen Klick miteinander kommuniziert und verhandelt haben. Die wichtigste Werbemaschine der Welt, Google, organisiert die meisten Transaktionen nach dem Prinzip der vollautomatisierten Versteigerung unter Maschinen. Im Jahr 2017 kam es zu einem Aufstand großer Werbekunden gegen die Google-Tochter Youtube. Denn zu oft waren teure Markenbotschaften neben menschenfeindlichen oder extremistischen Inhalten zu sehen gewesen.

          Man kann nicht sagen, dass Google das aktiv entschieden hätte. Es ist eher so, dass Google die Entscheidung über die Anzeige der Werbung den Maschinen überließ, und zwar nach zuvor sinnvoll erscheinenden Kriterien. Daraus ergibt sich die unterschätzte Wucht der unsichtbaren Welt: Sie füllt die Entscheidungsräume, die der Mensch absichtlich oder unabsichtlich freilässt. Die Frage, wer für die Fehlplatzierung verantwortlich ist, ist juristisch einfach zu beantworten. Google hat sich entschuldigt. Beim gesellschaftlichen Aspekt der Verantwortung sieht es anders aus. Werbekunden setzen seit Jahren auf „Programmatic Advertising“, bei dem Maschinen mit Maschinen in Echtzeit ausbaldowern, wer wo wann welche Werbung sieht.

          Die Dekontextualisierung von Inhalten war dabei allen handelnden Parteien klar, die Verschiebung der Entscheidung in die unsichtbare Welt war Absicht. Der Mensch mit seinen langsamen, emotionalen oder scheinrationalen, oft auf erratische Weise getroffenen Entscheidungen wird im Digitalkapitalismus als Schwachstelle des Systems betrachtet. Die unsichtbare Welt zieht Entscheidungen magnetisch an, denn sie verheißt Supereffektivität und Hypereffizienz. Manchmal geschieht die Übertragung der eigenen Entscheidungen an die unsichtbare Welt so subtil, dass es kaum erkennbar ist. Aber welches Buch man auf Amazon kauft, welchen Film man bei Netflix sieht, welche Route man auf seinem Weg zum Ziel wählt – das ergibt sich aus dem Informationsaustausch unter Maschinen. Wir wählen einen von fünf Filmen, die in der unsichtbaren Welt als für uns passend berechnet worden sind, und bilden uns ein, die freie Wahl gehabt zu haben.

          Die Frage ist, ob die tatsächlich freie Wahl wirklich sinnvoller gewesen wäre. Ob nicht schon die Zeit, die man zu einer tatsächlich freien Wahl aus ungezählten Filmen hätte aufwenden müssen, zu wertvoll ist. Auch hier hält uns der Fortschritt also enttäuschend banal einen Spiegel vor, aber mehr Erkenntnis ist vermutlich aus Netflix auch nicht herauszuwringen. Die Welt ist so komplex, dass man inzwischen Dutzende, Hunderte Mal am Tag entscheiden muss, ob man sich eigens entscheiden sollte – oder aus Gründen des Energieaufwands die Entscheidung die unsichtbare Welt treffen lässt. Spotify zum Beispiel oder Facebook oder Alexa.

          Vielleicht muss man bereits die Existenz der entscheidungsfreudigen unsichtbaren Welt als Symptom begreifen, als Antwort darauf, wie anstrengend und energiezehrend die bloße Bewältigung des Alltags im 21. Jahrhundert geworden ist. Vielleicht wirken die Verheißungen der unsichtbaren Welt – vor allem das Versprechen der Bequemlichkeit – deshalb so gut: Weil man sonst bereits mit der Aufrechterhaltung seiner schieren Existenz an den Rand seiner Leistungsfähigkeit gebracht würde. Auch abseits des Publikumsinternets ist die Kommunikation unter Maschinen mit der unsichtbaren Welt bestimmend geworden. Die Fabrik nicht der Zukunft, sondern bereits der Gegenwart, ist längst unter der Maßgabe der computergesteuerten Automatisierung aufgebaut worden. Automatisierung ist die Gravitation der unsichtbaren Welt, Automatisierung zieht Automatisierung nach sich.

          Würde man die Summe aller auf dem Planeten getroffenen Entscheidungen betrachten, der Anteil der maschinellen Entscheidungen darunter würde exponentiell wachsen, jener der menschlichen allenfalls linear. Der unsichtbaren Welt wächst in Zeiten der künstlichen Intelligenz eine neue, ungeheure Macht zu. Die dabei führende Firma ist Google. Bis April 2016 bezeichnete sich der Konzern als „Mobile First Company“, alles Schaffen des Unternehmens musste aufs Smartphone bezogen werden. Inzwischen möchte Google zur „AI First Company“ werden. AI, also Artificial Intelligence, soll in alle relevanten Produkte und Unternehmensbereiche Eingang finden.

          KI entfernt sich von menschlichen Entscheidungsgrundlagen

          Künstliche Intelligenz ist ein Sammelbegriff, der nicht so eng umrissen ist, wie das Publikum glauben möchte. Dahinter verbergen sich eine Reihe von Technologien, die aber eine Gemeinsamkeit haben: künstliche Intelligenz bedeutet, Maschinen so vorzubereiten, dass sie so viele und so zielführende Entscheidungen wie möglich treffen. Es ist aber auch der endgültige Abschied von der Nachvollziehbarkeit; denn die Software verändert sich selbst ständig, weil sie aus der Bewertung von Erfahrungen lernt: Machine Learning. Der Siegeszug der künstlichen Intelligenz weist auf den Abschied vom ohnehin schmalen, menschlichen Verständnis des Warum. Die Antwort, warum eine künstliche Intelligenz etwas getan hat, ist immer gleich: Weil sie berechnet hat, dass es so am besten sei. Ohne dass die Kriterien des „Besseren“ einhundertprozentig klar wären. Denn mit jedem Lernschritt entfernt sich künstliche Intelligenz per Definition von den menschlichen Entscheidungsgrundlagen.

          An dieser Stelle enden kritische Betrachtungen von künstlicher Intelligenz oft. Dabei drücken sich die meisten Mahner aus meiner Sicht davor, die Vorteile der unsichtbaren Welt einzugestehen. Aber die Gefahr der unsichtbaren Welt geht weniger von ihren Nachteilen aus als von ihren Vorteilen. Ihnen stellt sich kaum jemand ernsthaft entgegen. Das Horrorbild der fliegenden AI-Killerroboter ist nicht völlig unrealistisch, aber beweist zuallererst die Monstrosität des Menschen, der ausnahmslos jeden Fortschritt ins Böse zu wenden weiß. Die unsichtbare Welt wirkt nicht nur auf den Einzelnen, sondern auch auf ganze Gesellschaften als Spiegel. Ganz leicht lässt sich so der künstlich intelligente Microsoft-Bot verspotten, der 2016 auf Twitter kurz nach dem Start bereits rassistische Plattitüden von sich gab. Aber was hätte den Stand der Gesellschaft Monate vor der Wahl von Trump besser ausdrücken können?

          Braucht es den Menschen überhaupt noch, wenn Computer alles selber steuern?

          Künstliche Intelligenz bedeutet auch, dass die Fragwürdigkeit und Willkür bisheriger Entscheidungen offensichtlicher wird. Es ist gut nachvollziehbar, dass insbesondere mächtige Männer ein Unbehagen entwickeln, wenn ihnen diese Entscheidungssphäre entrissen wird. Die mediale Warnung vor dem undurchschaubaren Facebook-Algorithmus kommt in der Regel von Leuten mit größter Reichweite, die nie einen Finger gekrümmt haben, um selbst durchschaubarer, nachvollziehbarer, offener zu werden. Die meisten menschlichen Antworten auf die Frage „Warum?“ folgen Gefühlen, Gewohnheiten oder Gelegenheiten. Das menschliche „Warum?“ ist, im Detail betrachtet, einfach ein Haufen Empfindungsquark. Der Mensch ist außerordentlich gut darin, sich hinterher einzureden, er habe es vorher genau so gewollt. Die unsichtbare Welt ist vor allem deshalb in der Lage, Entscheidungen aufzusaugen, weil Menschen sich für großartige Entscheider halten, aber objektiv fürchterliche sind.

          Man muss es so hart sagen: Realität ist kontraintuitiv aufgebaut. In die unsichtbare Welt ist damit ein Selbstverstärker eingebaut. Es gibt bei immer mehr Prozessen – ökonomischen, kreativen – schlicht keinen Moment mehr, in dem menschlicher Eingriff noch einen Vorteil darstellen würde. Außer vielleicht, um dem Menschen vorzugaukeln, er sei Herr der Lage. Gefangenschaft fühlt sich an wie Freiheit, wenn die Mauern weit genug auseinanderstehen. Aber ist Freiheit, in der westlichen Hemisphäre im 20. Jahrhundert, mehr gewesen als ein Gefühl, ein Arrangement mit kapitalistischen Notwendigkeiten? Man muss sich vergegenwärtigen, dass wir am Anfang dieser Entwicklung stehen. Deshalb sind noch nicht alle Veränderungen eindeutig oder auch nur erkennbar. Noch erscheint jede Person wie ein Idiot, die ihr Leben dem Autopiloten eines Kraftfahrzeugs anvertrauen würde. Aber irgendwann kommt der Zeitpunkt, an dem sich die Verhältnisse umdrehen und derjenige als Idiot erscheint, der sein Leben einem ja doch sehr fehlbaren Menschen am Steuer anvertraut.

          Die Macht zur Entscheidungsübertragung

          Experten schätzen, dass sich die 3000 Toten jährlich auf deutschen Straßen mit selbststeuernden Autos und Lkw um mehr als 90 Prozent reduzieren ließen. Das geht aber nur, wenn fast alle möglichen Entscheidungen in die unsichtbare Welt verlagert werden. Angela Merkel erklärte im Sommer 2017 bei einem Besuch in Argentinien: „Wir werden in 20 Jahren nur noch mit Sondererlaubnis selbständig Auto fahren dürfen.“ Ihre Begründung ist die der rational denkenden Naturwissenschaftlerin – „Wir [die menschlichen Fahrer] sind das größte Risiko.“ Besser lässt sich die Bereitschaft der Macht zur Entscheidungsübertragung an Maschinen kaum beschreiben: der Mensch als Risiko überall dort, wo die unsichtbare Welt noch nicht herrscht.

          Eine legitime Sichtweise. Denn wie sollten sich dauerhaft allein mit dem Argument „Fahrspaß“ jährlich Tausende Tote und Zehntausende Verletzte rechtfertigen lassen? Und wer entscheidet, welche Freiheit, welche Fehlbarkeit angemessen ist und welche nicht? Und das ist das Ziel und die Zukunft der Kommunikation unter Maschinen: Die Automatisierung von allem, unter liebevoller Aussparung von wohligen Inseln der Selbsttäuschung des Menschen. Man mag das je nach persönlicher Sichtweise für eine Hölle halten. Aber es wird ein Himmel der Convenience.

          Die digitale F.A.Z. PLUS
          F.A.Z. Edition

          Die digitale Ausgabe der F.A.Z., für alle Endgeräte optimiert und um multimediale Inhalte angereichert

          Mehr erfahren

          Weitere Themen

          Topmeldungen

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.