Herrschaft der Algorithmen Die Welt bleibt unberechenbar

Algorithmen beherrschen die Welt, die Gesellschaft, unser Leben, online wie offline. HedgeFonds entscheiden über Wohl und Wehe von Märkten, Firmen und ganzen Volkswirtschaften anhand der Berechnungen, mit denen die Algorithmen der Finanzmathematik die Welt erklären. Die selbständigen Transaktionen der automatisierten Börsensoftware lösen Auf- und Abwärtsbewegungen der Aktienindizes, ja ihren plötzlichen Absturz aus. Staaten und Staatengemeinschaften beurteilen die Lage anhand von Simulationen, in denen Algorithmen aus der Vergangenheit die Zukunft vorauszusagen versuchen. Beratergremien nehmen Politikern mittels Modellen Entscheidungen ab, deren Algorithmen mit historischen Wetterdaten, aktuellen Messwerten, archäologischen Gesteinsanalysen und anderen Daten, die sich zu von Menschen nicht mehr erfassbaren Gebirgen auftürmen, Aussagen über das künftige Klima treffen. Ob Flugzeuge fliegen dürfen, legen Simulationen über die Verbreitung von Aschewolken nach Vulkanausbrüchen fest.

Scoring-Algorithmen bestimmen anhand persönlicher Zahlungsmoral, individuellen Umfelds, Wohn- und Arbeitssituation die Kreditwürdigkeit eines Bürgers. In per W-Lan vernetzten Kraftfahrzeugen entscheiden Algorithmen, welche Autobahn die Strecke mit den wenigsten Staus verspricht und wie schnell oder langsam der Wagen fahren muss, um effizient und schnell ans Ziel zu kommen. Smartphone-Apps zeigen anhand von Bevölkerungsdaten und Kriminalitätsstatistik, ob es eine gute Idee ist, die schicke Wohnung ausgerechnet in diesem oder jenem Wohnviertel zu beziehen. Empfehlungsalgorithmen sagen uns, welche Musik wir hören wollen, welches Buch wir lesen möchten, welche Menschen wir treffen sollen. Die Maschinen, die Algorithmen berechnen unser Leben und unsere Zukunft: So ist es, so wird es sein.

Entscheidungen vor Endlichkeitshintergrund

Aber treten wir einen Schritt zurück und halten zunächst einmal fest, was ein Algorithmus überhaupt ist: „eine systematische Prozedur, die in einer endlichen Anzahl Schritten eine Antwort auf eine Frage oder eine Lösung für ein Problem produziert“ - so lautet in gewohnter Prägnanz die Definition der Encyclopædia Britannica. Wikipedia ist in diesem Fall nur wenig ausführlicher: „Unter einem Algorithmus (auch Lösungsverfahren) versteht man eine genau definierte Handlungsvorschrift zur Lösung eines Problems oder einer bestimmten Art von Problemen in endlich vielen Schritten.“

Wir freuen uns über die Prägnanz der so produzierten Aussagen, eine Prägnanz, die wir selbst nicht erreichen können und die uns vom Entscheiden entlastet, ja oft vom Denken befreit. Aber weit gefehlt. So eindeutig ist das mit den Algorithmen ja gar nicht, das meint auch die Encyclopædia Britannica. Zumindest im Prinzip existiere für jede Frage und für jedes Problem, das nur eine endliche Anzahl von Argumenten oder Werten habe, immer ein Algorithmus. Aber welches Leben hat schon eine endliche Zahl von Werten, die es bestimmen? Das heißt: Manchmal könne ein Algorithmus eben nicht für eine unendliche Klasse von Problemen existieren.

Grenzen der Berechenbarkeit

„Du kannst dein eigenes Gehirn mit deinem eigenen Gehirn erforschen, aber nicht ganz“ - so übersetzte Hans Magnus Enzensberger den Gödelschen Unvollständigkeitssatz. Er lautet: „Jedes hinreichend mächtige formale System ist entweder widersprüchlich oder unvollständig.“ Jedes interessante System produziert entweder Widersprüche, oder es enthält Aussagen, die sich nicht beweisen lassen. Es muss unentscheidbare logische Aussagen geben, folgerte Alan Turing, der britische Mathematiker, dessen Konzepte von Algorithmus und Berechenbarkeit eine entscheidende Rolle bei der Entwicklung des Computers spielten. In bestimmten Fällen kann man nicht vorhersagen, ob ein Programm beendet wird oder in eine Endlosschleife gerät. Es gibt auch keinen allgemeinen Algorithmus, der dies berechnen könnte. Aber die Annahme des interessierten Publikums und der Entscheidungsträger lautet, dass Simulationen Algorithmen zur Basis haben, die berechenbare Probleme beschreiben und entscheidbar sind.

Computability (Berechenbarkeit) und decidability (Entscheidbarkeit) verbinden die meisten Menschen - ohne sich über die Implikationen klar zu sein - mit den Simulationen, mit denen Wissenschaftler in den modernen Gesellschaften den Entscheidungsträgern das Entscheiden abnehmen und damit die Unsicherheit verstärken, wo sie Sicherheit versprechen. Eine Unsicherheit aber, die nicht etwa die Freiheit von Determinismus meint, die Miriam Meckel mit ihrem Diktum „Freiheit braucht Unsicherheit“ beschrieb. Gemeint ist die Unsicherheit, ob denn da wirklich alles mit rechten Dingen zugeht, ob denn überhaupt noch irgendeiner der Wissenschaftler und der entscheidungsenthobenen Entscheidungsträger weiß, was er da tut. Gemeint ist auch die Unsicherheit darüber, was die Algorithmen wirklich berechnen können und wo die Grenzen ihrer Leistungsfähigkeit ignoriert oder verschleiert werden.

Zahlenmagie der Aufklärung

Der Mathematiker Claus Peter Ortlieb sagte in einem Interview unter der bezeichnenden Überschrift „Ökonomie ist keine Wissenschaft“ auf die Frage, warum es Eindruck von Kompetenz erwecke, wenn Politiker mit Zahlen um sich werfen, dass „bei Zahlen zumindest die Fiktion der Nachprüfbarkeit besteht“. Eine postulierte Verbindung der Welt der Zahlen mit der Welt der Zauberei erklärt sich ganz einfach: „Solchen Zahlenfetischismus könnte man vielleicht als die Magie der Aufklärung bezeichnen. Zahlen haben in der Moderne einen unglaublichen Bedeutungszuwachs erfahren, und gerade die Ökonomie versucht, den Naturwissenschaften nachzueifern, indem sie sich als Sozialphysik versteht. Das führt dann in der Tat zu magischem Denken. Denn es ist ja offensichtlich, dass sich die Gesellschaft als Ganzes nicht allein mit mathematischen Methoden erfassen lässt.“

Offensichtlich? Was der Mathematiker Ortlieb da so apodiktisch formuliert, verstehen die Simulacren-Betreiber der modernen Welt schlicht nicht. Ihnen liefern die Algorithmen der Weltbeschreibung eine Berechenbarkeit und Entscheidbarkeit, ein Versprechen, das diese Sozialphysik (eine deterministische Vorstellung von der Welt und den Menschen, die weit über die Ökonomie hinausgeht) nirgends einhalten kann. Algorithmen sind weder moralisch noch intelligent, noch sozial. Sie behaupten etwa für die Vorlieben eines Menschen einen Determinismus, den es im sozialen Leben nicht gibt. Die Empfehlungssysteme der Suchmaschinen, Shops und Social Networks des Internets wissen viel über uns, aber sie wissen über unsere Zukunft nur, was sie aus den Eingaben berechnen können, die der statistische Durchschnitt der Nutzer ihnen liefert. Für den Algorithmus, der die Zukunft und damit auch die Wünsche und Bedürfnisse des Individuums jenseits des gestrigen Tages bestimmt, gilt weder Berechenbarkeit noch Entscheidbarkeit.

Eliminierung des Zufalls

Der berühmte Marx-Satz „Das Sein bestimmt das Bewusstsein“, verstanden in einer ganz undialektischen Vulgarität, ist der Leitsatz aller Algorithmen zur Beurteilung und Prognose von Vorlieben oder Entwicklungsmöglichkeiten eines Individuums. Neues oder auch nur anderes Bewusstsein entsteht durch sie nicht. „Irgendwann treffe ich nur noch schwarzhaarige Singles mit Kind und Hund. Wollen wir uns von derartigen deterministischen Algorithmen bestimmen lassen, oder wollen wir nicht auch in unserem privaten Leben den Zufall behalten?“ So beschrieb Miriam Meckel den Effekt.

Jüngstes Beispiel: Neue Versuche von Microsoft in den Vereinigten Staaten, der Suchmaschine Bing beizubringen zu verstehen, was denn der Nutzer mit seiner Suchanfrage wirklich meinen könnte, führen zu Suchwortvorschlägen und vermeintlich interessenbasierten Suchergebnissen. Die aber ein Algorithmus lediglich auf Basis dessen berechnet, was andere Nutzer unter vergleichbaren Bedingungen (abhängig etwa von Tageszeit, Ort der Suchanfrage, Wetterbedingungen etc.) suchten oder als Suchergebnis akzeptierten. Wer sich von dieser persönlichen Spielart der Zukunftsalgorithmen seinen Musikkonsum, seine Lektüre oder auch nur den Inhalt der Urlaubskoffer bestimmen lässt, stirbt über kurz oder lang an Langeweile.

Andererseits, auf gesellschaftlicher Ebene: Die algorithmischen Entscheidungsträger lösen weder Belustigung noch Langeweile aus, sondern Erschrecken. „Was der Maschine vor allem fehlt, ist die Möglichkeit zur Tragödie. Maschinen können nur Katastrophen verursachen, keine Tragödien. Die moderne Form der Tragödie besteht darin, dass der Mensch inzwischen in vielerlei Hinsicht in der Lage wäre, seine Schwächen mit technischer Hilfe zu überwinden“, schreibt der Schriftsteller Peter Glaser über eine algorithmisierte Sportberichterstattung und die Vision des algorithmisierten Sports. Die oft empfundene Schwäche, nichts über die Zukunft zu wissen und Entscheidungen, die die Zukunft bestimmen, ohne dieses Wissen treffen zu müssen, wird heute mit technischer Hilfe überwunden. Kein Politiker mehr ohne Berater, der verspricht, berechnen zu können, was geschehen werde, wenn dies oder das unternommen werde. Die Berechenbarkeit des Menschen, der Gesellschaft, der Umwelt, der Staaten, der Ökonomie ist die Grundannahme der algorithmisierten Welt - sie konstituiert den Softwarestaat, von dem David Gelernter spricht (Die Aschewolke aus Antiwissen: Wie Simulationen uns in intellektuelle Passivität führen).

Maschinenangst im Spiegel des Films

Tief im Denken der Menschen verwurzelt ist eine Angst vor der Maschinenkontrolle, eine Mythologie der Herrschaft der Maschinen über die Menschen in der Wirklichkeit. Das Bild von der algorithmischen Herrschaft, der Mythos von den Maschinen, die alles berechnen können und deswegen die Menschheit in den Untergang führen, ist fest im Bewusstsein der Menschen verankert.

In der Filmgeschichte wurde dieser Mythos fast schon zum stilprägenden Element. Im Kinofilm „Colossus“ findet dies 1970 einen ersten - zumindest interpretatorischen, weniger filmkünstlerischen - Höhepunkt: Ein Supercomputer soll Amerikas Nuklearverteidigung automatisieren und entdeckt nach Inbetriebnahme, dass es ein sowjetisches Gegenstück gibt. Die beiden Rechner lassen sich zusammenschalten und bilden die maschinelle Intelligenz Colossus, die besser als die Menschen weiß, was für die Menschheit gut ist. Mehr als einen seltsamen Zufall stellt dar, dass der Computer im Film den gleichen Namen trug wie das System in Bletchley Park, das auf Basis von Alan Turings Ideen gebaut wurde und die Codes der Nazis knacken half.

In Fritz Langs „Metropolis“ ist die Maschine noch Werkzeug übler menschlicher Machenschaften. In der „Terminator“-Serie und der „Matrix“-Trilogie, vorerst an apokalyptischen Szenarien jeweils kaum zu übertreffen, ist die Maschinenherrschaft bereits Selbstzweck.

Den Algorithmus besiegen

Das filmische Gegenstück zu den individuellen Algorithmen findet sich im Disney-Film „Tron“. Der Kampf des Helden Tron gegen das Master-Control-Programm verlegte in den achtziger Jahren den Mythos der allwissenden und herrschenden Maschine in den Computer selbst; der Mensch wird zum Teil der Maschine und gewinnt seine Menschlichkeit erst wieder, wenn er den algorithmischen Herrscher besiegt. Die deutlichste Umsetzung des Versprechens aber, das die algorithmische Herrschaft abgibt, stellt der Film „Minority Report“ nach einer Kurzgeschichte von Philip K. Dick dar. Der Pessimismus Dicks und dessen Verfolgungswahn ließen Realitäten an wissenschaftlichen Ergebnissen zerplatzen: „Die Wirklichkeit ist das, was übrig bleibt, wenn man aufgehört hat, daran zu glauben.“

In „Minority Report“ soll die Polizeiabteilung „Precrime“ durch Präkognition noch nicht geschehene Morde verhindern. Mittel zum Zweck sind die Prognosen der Precogs, genetisch veränderter Wesen, die in einer Mischung aus Traum und Vision Morde vorhersagen. Philip K. Dick, der die Geschichte 1956 veröffentlichte, hätte heute wohl auf die Precogs verzichtet und sie durch algorithmische Maschinen ersetzt. Denn Algorithmen sind die Precogs der digitalen Gesellschaft: Sie meinen, die Zukunft eines Individuums voraussagen zu können, und produzieren doch nur Unschärfe; sie verbergen die Irregularität und die Widersprüche komplexer Systeme (Gesellschaften, Klima, Wetter, Menschen) hinter vermeintlichen Berechnungen.

Es geht nicht ums Verstehen

Der Softwarestaat aber kennt keine Minderheitenmeinung mehr - er kürzt sie aus den Berechnungen der Algorithmen heraus. Die rein logische und programmierte Intelligenz begreift der Mensch nicht. Sie aber begreift auch den Menschen nicht, da sie nichts begreift, sondern nur zu rechnen behauptet. Die Berechenbarkeit und die Entscheidbarkeit, die mit den Algorithmen für die Welt und den Menschen verbunden werden, ist schon der anfängliche Trugschluss. Er begründet die Mythologie der Maschinen- und Algorithmenherrschaft und lässt sie in einem diktatorisch fürsorglichen Wohlfahrtsstaat Realität werden. So sind die Mythen und die Algorithmen zwei Seiten derselben Medaille: Herrschaftswissen.

Alan Turing steht Pate für das Aufbrechen dieses Herrschaftswissens. Der Turing-Test, den er in seinem Aufsatz „Computing machinery and intelligence“ vorschlug, entscheidet nicht nur, ob das Gegenüber Mensch oder Computer ist, ob der Computer denken kann wie ein Mensch. Er - oder, anders ausgedrückt, der menschliche und soziale Filter für jede Art von Algorithmen - ist unser Detektor für die Maschinen-Precogs, die unsere Zukunft determinieren wollen, ohne uns den Spielraum der Unsicherheit zu lassen, den sie verneinen und hinter vermeintlicher Berechenbarkeit und Entscheidbarkeit verstecken. Der Turing-Test für die Simulacra der modernen Welt funktioniert jedoch nicht ohne das Wissen um die Algorithmen.

Digitale Aufklärung

Hier stellt sich abermals das Phänomen der „zwei Kulturen“ in den Weg, das C. P. Snow formuliert hat. Die Spaltung, ja der Abbruch jeder Kommunikation zwischen den Geistes- und den Naturwissenschaften, in der Konsequenz die Spaltung zwischen der Sphäre der Wissenschaft und der Sphäre der öffentlichen Angelegenheiten (vulgo: der Politik), verführt geradezu zur Akzeptanz der algorithmischen Herrschaft: Wer das technische Wissen den Technikern überlässt, wird blind für die möglichen Problemlösungen und die Gefahren des algorithmischen Versprechens.

Die tiefe Spaltung, die auch heute noch zwischen der Wissenschaft und den Entscheidungsträgern oder - in den Bahnen unserer algorithmischen Zukunft gedacht - zwischen den Informatikern und der Gesellschaft besteht, verhindert die menschlichen Filter für die Algorithmen, die die Gesellschaft beherrschen sollen. Soziale Filter über Freundschaftskreise und Internet-Beziehungen justieren die individuellen Algorithmen, machen die algorithmischen Filter in den sozialen Netzwerken den Usern dienstbar. Diese Ebene fehlt im Softwarestaat: Die zwei Kulturen lassen jede Skepsis gegenüber der algorithmischen Herrschaft als Fortschritts- oder Technikfeindlichkeit erscheinen.

Es genügt nicht, die Techniker im Bedarfsfall als Berater aus ihren Programmierstuben zu holen. Eine digitale Aufklärung, die ihrem Anspruch auf die Durchdringung der digitalen Welt gerecht werden soll, fordert den Techniker und die Gesellschaft. Der Techniker hat die gesellschaftliche Aufgabe, die Fähigkeiten und Unzulänglichkeiten der algorithmischen Entscheidungsberatung transparent zu machen; die Gesellschaft hat die technische Aufgabe, die Algorithmen nicht nur mit Skepsis zu betrachten, sondern ihre Fähigkeiten und Unzulänglichkeiten zu verstehen - sie also von ihrem Anspruch des berechenbaren Zukunftswissens auf den eigentlichen Zweck der partiellen Hilfestellung zurechtzustutzen. Allein blanke Skepsis aber ist kein Filter, sondern eine Verschwörungstheorie.