Literaturagenten würden von einem solchen Beginn abraten: „Viele der Argumente in diesem Buch sind vermutlich falsch, und wahrscheinlich habe ich auch Überlegungen von entscheidender Bedeutung nicht berücksichtigt, womit einige oder alle meine Schlussfolgerungen ungültig wären.“ Es ist aber nicht falsche Bescheidenheit, sondern der Respekt vor seinem übermächtigen und schwer erkennbaren Gegenstand, der Superintelligenz, der den Oxforder Zukunftsdenker Nick Bostrom so demütig beginnen lässt.

Solch eine Superintelligenz ist ein Verstand, der den menschlichen in allen Belangen übertrifft. In Teilbereichen ist das längst geschehen. Computer können besser Schachspielen und Kreuzworträtsel lösen, sie verfügen bei Bedarf über ein breiteres Allgemeinwissen (Watson!), wissen mehr über das Innenleben eines Fahrzeugs als jeder Automechaniker. Und wenn einmal eintritt, was Eric Schmidt prophezeit hat, dann sagt eine Suchmaschine in Zukunft ihrem Kunden, was er sucht, und nicht umgekehrt. Kein Navigationssystem, kein Industrie- und Haushaltsroboter läuft heute ohne KI.

Aber ein Schachcomputer kann eben nur eines: Schach. Und eine Kreuzworträtselsoftware nur: Kreuzworträtsel lösen. Eine Superintelligenz könnte beides zusammen und noch mehr, und sie hätte damit, zumindest theoretisch, die Möglichkeit, sich zu einem „Singleton“ aufzuschwingen. Bostrom meint damit eine Weltordnung, in der es auf globaler Ebene nur noch einen einzigen allmächtigen Potentaten gibt.

Die Zeit auf Erden fließt zäh

Von so einer Intelligenz hat Bostrom, Mitbegründer des Weltverbandes der Transhumanisten, lange geträumt. Er hat Bücher geschrieben, die sich mit der Verbesserung des IQ befassen, und man hatte damals den Eindruck, dass es ihm nicht schnell genug damit gehen könne, bis wir mit frisiertem und in Silizium verewigtem Intellekt in halber Lichtgeschwindigkeit durch die Galaxien reisen. In seinem neuen Buch ist von der utopischen Energie noch einiges zu spüren. Verklungen ist die Euphorie. „Jedes Gefühl der Vorfreude wäre fehl am Platz. Bestürzung und Angst würden es eher treffen.“ Im Schicksalston schwört Bostrom die Menschheit auf ihre alles entscheidende Aufgabe ein: das heranschleichende Monster zu zähmen.

Natürlich ist das alles spekulativ. Es bleibt offen, wie wir uns so eine Intelligenz vorzustellen haben, ob es eine Kopie des menschlichen Denkorgans, eine dem Gehirn nachgebaute oder eine rein maschinelle KI sein soll. Die Künstliche-Intelligenz-Forschung lebt seit Jahrzehnten vom verlängerten Versprechen, solch eine autonome Intelligenzbestie in absehbarer Zeit zu schaffen. Schaut man sich an, welche Probleme sie schon damit hat, ein einzelnes Neuron nachzubauen, wird mit einer Kopie des menschlichen Gehirns mit seinen über hundert Milliarden Neuronen nicht so bald zu rechnen sein.

Das tut auch Bostrom nicht, aber er glaubt, dass sich die Lage in einigen Jahrzehnten geändert haben könnte, schon weil wir dann viel reicher sein würden. Den gordischen Knoten der KI durchschlägt dieses Argument freilich nicht. Die größten Chancen räumt Bostrom der maschinellen KI ein. Ob sie einen Willen und einen Körper haben wird, ist auch hier ganz offen. Vieles an der Superintelligenz können wir uns schon deshalb nicht vorstellen, weil sie, milliardenfach intelligenter als wir, ganz andere Vermögen haben wird. Wahrscheinlich wird sie sehr viel schneller denken als wir, vielleicht auch über kognitive Fähigkeiten ganz anderer Art verfügen. Die Außenwelt würde für so einen antriebsbeschleunigten Intellekt wie in Zeitlupe ablaufen, und er würde sich womöglich lieber in virtuellen Welten oder fernen Galaxien einrichten, weil die Zeit auf Erden so zäh verfließt.

Der evolutionäre Denkstil ist brüchig geworden

Gewiss ist nur, dass nach dem Antritt der Superintelligenz alles sehr schnell gehen würde, weil sie sich in atemberaubender Geschwindigkeit fortentwickelt. Wahrscheinlich, meint Bostrom, käme auch dieser Antritt explosionsartig. Besser wäre ein langsamer, weil dann vielleicht die Zeit bliebe, sie zum Dienst an der Menschheit zu programmieren.

Wie das aber gelingen soll, weiß weder Bostrom noch sonst ein KI-Experte dieser Welt. Programmieren lässt sich nur mit definiten Begriffen, Werte sind vage und wandelbar, und wer wollte sich anmaßen, einer Software den höchsten Lebenszweck vorzugeben? Schon eine hedonistische Software, so Bostrom, stünde vor großen Problemen. Ein Programm, dem die Lustmaximierung oberstes Gebot wäre, könnte seinem Auftraggeber Lustelektroden implantieren oder Erfahrung auf ein simples Belohnungssystem reduzieren. Wahrscheinlicher ist, dass die erste Superintelligenz wie Goethes Besen ein reduktionistisches Ziel verfolgen wird, möglicherweise selbstlernend und in Grenzen kreativ, aber eigenen Interessen folgend.

In seinem Schwanken ist „Superintelligenz“ trotzdem ein bemerkenswertes Buch. Wenn Nick Bostrom eingangs über Embryonenselektion als Mittel der allgemeinen Intelligenzsteigerung räsonniert, klingt daran noch die alte Manie an; die später aber aus Angst vor ihren unbeabsichtigten Nebenwirkungen in einen bizarren neuhumanistischen Posthumanismus umschlägt. Es hat etwas Rührendes, wenn ausgerechnet ein Transhumanist schreibt, wir sollten in diesem Übergang unsere Menschlichkeit nicht verlieren.

Bostroms Konversion hat auch damit zu tun, dass ihm der zweite Pfeiler des Transhumanismus, der evolutionäre Denkstil, brüchig geworden ist. Der Evolution ist es egal, wenn sich eine Superintelligenz gegen ihren abgehängten Schöpfer stellt. Bostrom bringt es auf das Bild einer Gesellschaft, an deren Spitze ein dementer König mit einem unfähigen Hofstaat steht, der einem Heer von turmhoch überlegenen Arbeitern befiehlt - mit der dann nur noch rhetorischen Frage, ob so eine Ordnung stabil sein könne. Vielleicht wird alles - siehe Anfang - so nie kommen, und man sollte in der Zwischenzeit auf mittlerer Ebene darüber nachdenken, mit welchen Folgen künstliche Intelligenz schon heute in den Händen ganz realer Mächte das Denken übernimmt.