https://www.faz.net/-gqz-84jn5

Die Zukunft der Menschheit : Was hilft der kluge Kopf in der viel klügeren Welt?

  • -Aktualisiert am

Das FHI ist seit seiner Gründung vor zehn Jahren auf ein Dutzend Mitarbeiter gewachsen, finanziert sich weitgehend eigenständig durch private Spenden und Drittmittel und hat zahlreiche Aufsätze publiziert. Der spekulativen Elemente in ihren Überlegungen sind sich die Wissenschaftler bewusst, sie üben sich in Bescheidenheit. „Wahrscheinlich habe ich Überlegungen von entscheidender Bedeutung nicht berücksichtigt“, schreibt Nick Bostrom, Gründer und Direktor des Instituts im Vorwort seines jüngsten Bestsellers „Superintelligenz“, „womit einige oder alle meine Schlussfolgerungen ungültig wären.“

Stephen Hawking riet zur Flucht ins All

Bostrom sitzt unruhig wippend im vordersten Winkel seines Arbeitszimmers. Künstliches, weißes Licht flutet den Raum. Draußen ist es längst dunkel. Bostrom kommt meistens erst nachmittags ins Büro und arbeitet dann bis in die Morgenstunden. „Richtig“, wirft er ein, oft bevor man ausgesprochen hat, „ja, ja, ja“. Während seines Studiums wurde Bostrom einmal exmatrikuliert, weil er in vier Fächern gleichzeitig Prüfungen ablegen wollte. Das sei nicht menschenmöglich, begründete sein Dozent den Schritt. Als Professor möchte Bostrom die Frage nach dem Menschenmöglichen nun selbst beantworten.

In „Superintelligenz“ entwirft er eine Übersicht verschiedener Szenarien, die zur Entwicklung eines artifiziellen, übermenschlichen Verstandes führen könnten, und begründet, warum Menschen eine solche Intelligenz kaum kontrollieren könnten. Diese Sorge teilt der Physiker Stephen Hawking. Er warnte kürzlich, intelligente Maschinen könnten „das Ende der Menschheit“ bedeuten und riet zur Flucht ins All.

Bostroms Intelligenzbegriff ist eng umgrenzt und technisch. Ein Akteur ist intelligent, wenn er in der Lage ist, ein ihm gestecktes Ziel zu erreichen. Nach dieser Definition sind Maschinen in einigen Bereichen bereits intelligenter als Menschen. Der Computer Deep Blue setzte 1996 den amtierenden Schach-Weltmeister Garri Kasparow matt. Fünfzehn Jahre später stach Supercomputer Watson die besten menschlichen Kandidaten in der Quizshow „Jeopardy!“ aus. Eine verlorene Schachpartie, eine Niederlage in einem Ratespiel, das klingt nicht nach Weltuntergang. Nur wäre eine Superintelligenz dem Menschen nicht allein in Teilgebieten, sondern in jeder Hinsicht überlegen. Dass solch eine Superintelligenz kein Bewusstsein hätte, macht sie für Bostrom nicht weniger gefährlich. Angenommen, man stellte ihr die Aufgabe, das Wohlbefinden der Menschen zu maximieren, räsonniert er in seinem Buch. Vielleicht würde sie errechnen, dass sie dieses Ziel am besten erreicht, indem sie uns Elektroden ins Gehirn pflanzt und ein Feuerwerk an Endorphinen zündet.

Warum sollte es Maschinen nicht gelingen, eigenständig Ziele zu verfolgen?

Vor vierzig Jahren entstanden die ersten Computerspiele, grobkörnige, mit polyphonen Tönen unterlegte Pixelwelten. Breakout heißt ein Klassiker, bei dem es darum geht, mit einem beweglichen Schläger einen Ball so hochzuhalten, dass er farbige Mauersteine trifft. Auf der „First Day of Tomorrow“-Konferenz in Paris präsentierte der Informatiker Demis Hassabis im April 2014 ein Video, das zeigt, wie sich ein Computerprogramm das Spiel ganz ohne Hilfe beibringt. Bildpixel und Scores sind die einzige Information, die der Computer erhält. Davon ausgehend sucht er nach Regelmäßigkeiten, experimentiert und optimiert sein Spielverhalten. Am Anfang wirkt das recht hilflos, doch nach zwei Stunden schlägt er sich bereits wie ein guter Amateur. Nach vier Stunden hat der Computer übermenschliches Niveau erreicht und das Spiel überlistet. Er katapultiert den Ball so in die Höhe, dass dieser sich in der Mauer verfängt und, ohne wieder nach unten zu fallen, die Steine abräumt.

Weitere Themen

Feuerberge unter Druck

Explosiver Vulkanismus : Feuerberge unter Druck

Schichtvulkane wie der Merapi auf Java sind wegen ihrer explosiven Ausbrüche gefürchtet. Ein Grund für die heftigen Eruptionen sind Gase, die poröses Gestein versiegeln und deshalb nicht mehr entweichen können.

Topmeldungen

Weltweiter Aufruhr: Illustration für die F.A.S. von Kat Menschik

Die Aufstände und der Westen : Was geht uns das an?

Libanon, Hongkong, Bolivien, Kolumbien, Chile, Irak, Iran: Überall begehren Menschen auf. Wir haben Autoren, die mittendrin sind oder waren, gefragt: Worum geht es euch? Und was hat das mit uns im Westen zu tun?
Der Umgang mit Algorithmen und Künstlicher Intelligenz steht zur Debatte: Welcher Regelungen bedarf es?

Regulierungsbedarf? : Die Bändigung der Algorithmen

Computer fällen zunehmend Entscheidungen, die tief in das Leben eingreifen und willkürlich anmuten. Dafür gibt es erstaunliche Beispiele aus dem Lebensalltag. Zeit für eine breite Debatte.

Ärger beim FC Bayern : „Ich könnte durchdrehen“

Joshua Kimmich kocht nach dem 1:2 der Bayern in Gladbach vor Wut, Thomas Müller faucht, Hasan Salihamidzic ist ratlos. Und Trainer Hansi Flick wirkt angeschlagen. Die Münchner haben ein großes Problem.

Newsletter

Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.