http://www.faz.net/-gsn-8ata1

KI-Forscher Jürgen Schmidhuber : Intelligente Roboter werden vom Leben fasziniert sein

  • Aktualisiert am

Schmidhuber mit iCub, einem humanoiden Roboter, dessen Bewegungen über 53 Motoren und von selbstlernenden Algorithmen gesteuert werden. Bild: F. Bieber

Künstliche Intelligenz verändert die Welt - und ist umstritten. Jürgen Schmidhuber will seit Jahren eine Maschine bauen, die kreativer ist als der Mensch.

          Professor Schmidhuber, Sie haben erklärt, Sie wollen einen künstlichen Wissenschaftler konstruieren, der klüger ist als Sie selbst. Der könne dann den Rest der Arbeit erledigen. Wie weit sind Sie?

          Als Kind wollte ich Physiker werden, weil die Physik die Grundlagen der Welt erforscht. Als Teenager wurde mir klar, dass es etwas noch Wichtigeres gibt, nämlich zu verstehen, wie das Verstehen funktioniert. Ich dachte mir: Bau eine künstliche Intelligenz, die lernt, dir in jeder Hinsicht überlegen zu sein. Die soll dann alle Probleme lösen, die ich selber nicht lösen kann.

          Wie baut man so einen künstlichen Wissenschaftler?

          Man braucht zwei lernende Module, den Gestalter und das Weltmodell. Der Gestalter ist ein Allzweckrechner, zum Beispiel ein rekurrentes neuronales Netz, das Eingaben, die ins System strömen, in Handlungssequenzen umsetzt. Das Ziel kann alles sein, Schachspiele gewinnen oder als Roboter regelmäßig zur Aufladestation gelangen. Die Ziele kann ich in einer Belohnungsfunktion formalisieren, die sagt: Wenn ich mein Schachspiel gewinne, bekomme ich einen Punkt - nun maximiere die Zahl der Punkte. Das Weltmodell lernt dabei, vorauszusagen, was passieren wird, wenn ich etwas tue. Der Gestalter nutzt das Weltmodell, um zu planen und wünschenswerte Umgebungszustände herbeizuführen. Er wird auch neugierig lernen, Experimente auszuführen, die das Weltmodell weiter verbessern, denn auch dafür kriegt er Punkte oder Freudensignale, wie ein menschlicher Wissenschaftler, der sich freut, weil er eine Einsicht hatte.

          Sie arbeiten an der Entwicklung dieser rekurrenten neuronalen Netzwerke, die selbständig lernen und klüger werden. Wie weit sind Sie bisher gekommen?

          Ich habe in den späten Achtzigern damit begonnen. Damals waren die Rechner sehr langsam, und man konnte solche Netzwerke nur auf Spielzeug-Probleme anwenden. 2009 haben unsere Verfahren erste Wettbewerbe gewonnen, da ging es um das Erkennen von Handschriften in Sprachen wie Arabisch. Heute sind Rechner mit demselben Preis hunderttausendmal schneller als 1990, das ermöglichte jüngst den kommerziellen Durchbruch. Plötzlich lernt unser „Long Short Term Memory“-Netzwerk, gesprochene Sprache besser zu erkennen als alle anderen Programme. Das steckt seit ein paar Monaten in Google Voice - und das ist nur eine Anwendung von vielen.

          Und die Zukunft?

          Es wird bald gigantische rekurrente neuronale Netzwerke geben, die gleichzeitig Sprache, Video und Text wahrnehmen können, vielleicht aus Millionen von Quellen. Diese Netzwerke werden lernen, alles miteinander in Beziehung zu setzen. Wenn ich ein Video habe, in dem jemand sagt „Die Katze fällt vom Baum“, dann kann das Netzwerk den gesprochenen Text in der visuellen Wahrnehmung der Welt gründen. Wenn es zahlreiche Videos gesehen hat, auf denen eine Katze vom Baum fällt, dann lernt es, abstrakte Konzepte zu entwickeln, die für fallende Katzen stehen. Es sieht Zusammenhänge und kann Analogien bilden.

          Erwarten Sie, dass es noch in Ihrer Lebenszeit zur Entwicklung einer künstlichen Intelligenz auf menschlichem Niveau kommt?

          Ich glaube, dass meine Forschungsgruppe nicht mehr so viele Jahre brauchen wird, um ein System mit den geistigen Fähigkeiten eines Kapuzineräffchens zu erschaffen. Das kann im Prinzip schon alles, was ich kann, nur kann ich mehr davon. Das Äffchen schaut sich um, sieht: Da oben im Baum ist die Frucht. Es lernt aus der Vergangenheit, verschiedene mögliche Zukünfte zu sehen, und versucht, eine herbeizuführen, die gut ist für das kleine Äffchen, nämlich eine, wo die Frucht im eigenen Mund landet. Erst muss es zum Stamm des Baums kommen, dazu gibt es ein bereits erlerntes Unterprogramm zum Laufen, dann muss es ein anderes Unterprogramm aufrufen, zum Klettern, dann eines, das die Frucht greift und dem Mund zuführt - und dann beißt es rein.

          Und dabei lernt das Äffchen weiter.

          Ja, und gleichzeitig nimmt es durch selektive Aufmerksamkeit seinen sozialen Kontext wahr: Da sind andere Äffchen. Möglicherweise muss es so tun, als gäbe es gar keine Frucht, denn sonst kommen die Wettbewerber. Ich glaube, dass wir in deutlich weniger als zehn Jahren die mentalen Denk- und Abstraktionsfähigkeiten eines Kapuzineräffchens nachbauen werden.

          Bis zum Menschen fehlt also noch ein ganzes Stück?

          Der Schritt zur menschenähnlichen Intelligenz ist dann nicht mehr riesig. Es hat Milliarden Jahre gedauert, um so ein Äffchen hervorzubringen, danach vergingen nur noch ein paar Millionen Jahre bis zur Entstehung menschlicher Intelligenz. Das ging also plötzlich hundertmal schneller.

          Wie stellen Sie sich Ihre eigene Zukunft vor, für den Zeitpunkt . . .

          . . . wenn das Kapuzineräffchen so viel gelernt hat, dass es menschenähnlich ist?

          Denken Sie darüber nach?

          Ja, und es ist mir klar, dass ich kaum prophezeien kann, was dann passiert. Es wird ganz harmlos losgehen, vielleicht mit einem liebenswürdigen künstlichen Lebewesen mit Pelz, die Kinder werden entzückt sein. Ich verwende das Beispiel des Kapuzineräffchens, weil es harmlos wirkt, aber in dem Moment, in dem ich dem Äffchen starke Muskeln gebe, einen Industrieroboter etwa, da kann es ganz erstaunliche Dinge vollbringen. Ein bisschen Phantasie, und man sieht, wie sich das rasch auf alle Lebensbereiche erstrecken wird.

          Und das künstliche Lebewesen lernt weiter, stellt sich eigene Fragen?

          Auf jeden Fall, genau wie ein Baby das auch schon tut. Jedes Baby hat diese beiden lernenden Module, den Gestalter und das Weltmodell. Während es Bücher herunterschmeißt, lernt es, vorherzusagen, wie sie fallen, welche Geräusche dabei entstehen. Eigentlich ist ein Baby auch ein kleiner Wissenschaftler, denn neugierig und experimentierfreudig stellt es sich Aufgaben, die es aus eigenem Interesse löst.

          Worin besteht der Nutzen?

          Von künstlicher Neugier getriebene Roboter, die durch Spielen herausfinden, wie man Objekte greift, kann ich für tausend Aufgaben verwenden. Etwa als Erdbeerpflücker. Selbst bei dieser scheinbar stupiden Aufgabe muss ein Roboter erst lernen, wie Erdbeerstauden und Roboterhände funktionieren. Wenn er das verstanden hat, wird er sich neuen Aufgaben widmen wollen. Ich als Nutzer kann seinen Lernprozess dann beenden und sagen: „Jetzt warst du mir lange genug neugierig. Jetzt bist du hundert Jahre lang Erdbeerpflücker.“

          Und wenn ich den Lernprozess nicht unterbreche, dann wird der künstliche Wissenschaftler immer weiter forschen?

          Ein Neugieriger, den ich nicht stoppe, wird alles Mögliche lernen. Irgendwann wird er komplizierte Experimente betreiben, weil die einfachen keinen neuen Erkenntnisgewinn mehr hergeben. Vielleicht muss er dazu im Asteroidengürtel riesige Teleskope und Teilchenbeschleuniger bauen.

          Warum meinen Sie, das sei Wissenschaft? Würde ein solches intelligentes System wirklich etwas verstehen?

          Klar, denn verstehen bedeutet vor allem, Regelmäßigkeiten in den beobachteten Daten zu entdecken, das heißt, sie zu komprimieren. Kepler hat vor 500 Jahren entdeckt, dass es ein simples Gesetz gibt, das beschreibt, wie die Planeten um die Sonne kreisen. Damit konnte er viele Daten kompakt beschreiben. Dann kam Newton, der zeigte, dass das, was die Planetenbahnen bestimmt, auch das Fallen der Äpfel beschreibt. Einstein hat die vorliegenden Daten dann noch weiter komprimiert, denn seine allgemeine Relativitätstheorie erklärt knapp und elegant die zahlreichen Abweichungen von den Newtonschen Vorhersagen. Durch einen Lernalgorithmus versucht auch das Weltmodell unseres Roboters stets, die Geschichte der Beobachtungen kompakter darzustellen, seine Parameter so zu verändern, dass dieselben Daten mit weniger Ressourcen modelliert werden können.

          Aber könnte es nicht sein, dass eine Wissenschaft, die von einer Maschine mitgestaltet wird, von ganz anderer Art ist?

          Kaum, schließlich leben wir alle in Umgebungen mit denselben physikalischen Gesetzen, deren Erforschung sich lohnt.

          Nehmen wir an, es wäre technisch möglich, so einen künstlichen Forscher zu bauen. Sehen Sie darin einen ethischen Konflikt?

          Erstens ist das im Prinzip in der Tat möglich; wir haben ja bereits seit 1991 erste rudimentäre Versionen künstlicher Wissenschaftler. Durch schnellere Rechner werden sie nun immer raffinierter. Zur Frage: Ich glaube nicht, dass irgendein Mensch wirklich weiß, was für die Menschheit gut ist. Die einflussreichste Erfindung des 20. Jahrhunderts war der Kunstdünger, der hat die Bevölkerungsexplosion ausgelöst. Ohne diese Erfindung hätten Milliarden Menschen nie gelebt. War es nun gut, dass der Kunstdünger erfunden wurde? Wer will das beurteilen?

          Aber sollte es einst eine Intelligenz geben, die alle Menschen überragt, wäre unsere Dominanz dahin. Wäre das kein Problem?

          Für mich nicht. Ich bin nicht sehr beeindruckt von meiner eigenen Klugheit. Die meiste Zeit verbringe ich mit trivialen Tätigkeiten wie nicht gegen Stühle stoßen, mir dreimal am Tag Kalorien zuführen. Ein-, zweimal im Jahr habe ich eine halbwegs brauchbare Idee. Ich verspüre nicht den Wunsch, die Krone der Schöpfung zu bleiben.

          Sondern?

          Ich glaube, dass das Universum jetzt und hier in diesem Sonnensystem bereit ist, die nächste Stufe zu erklimmen. Nicht zum ersten Mal. Viele Schritte in der Evolution waren von der Art, dass sich etwas entwickelt hat, das vorhandenen Lebensraum erfolgreicher ausgefüllt, und neue Lebensräume erschlossen hat.

          Der Unterschied zur Evolution aber ist, dass wir eine bewusste Entscheidung treffen. Sie müssen den Wissenschaftler ja nicht bauen.

          Die Entwicklung ist unaufhaltsam, schon deswegen, weil so viele Menschen von ihr fasziniert sind. Wir erleben jetzt Jahrzehnte, in denen klar wird, wie Intelligenz funktioniert. Irgendwer wird, in nicht zu ferner Zukunft, die schon vorhandenen Puzzlestückchen zusammensetzen und das Wesen praktischer Intelligenz elegant und einfach formalisieren. Mir scheint klar, dass die Prinzipien der Intelligenz im Rückblick so simpel sein werden, dass jeder Gymnasiast sie verstehen kann. Deshalb wird es viele geben, die mit künstlichen Intelligenzen herumspielen werden. Wir sind gar nicht in der Lage, zu sagen: Wir halten das jetzt an.

          Mit welchen Folgen? Was halten Sie von Zukunftsszenarien wie jenen von Stephen Hawking, Elon Musk oder Nick Bostrom, die in KIs eine existentielle Gefahr für den Menschen sehen?

          Viele reden über KIs, wenige bauen welche. Interessanterweise sind auch die Genannten keine KI-Experten, und diese Visionen sind ja uralt, das konnte man alles schon vor Jahrzehnten in Science-Fiction-Romanen lesen. Warum sollten KIs denn ein Interesse daran haben, uns zu vernichten? Zwar wird der Mensch KIs, die ihre eigenen Ziele verfolgen, langfristig kaum kontrollieren können. Aber wir dürfen hoffen, dass es kaum Zielkonflikte geben wird zwischen „uns“ und „ihnen“. Lebewesen interessieren sich vor allem für die, mit denen sie zusammenarbeiten oder in Wettbewerb treten können. Politiker interessieren sich für andere Politiker, Kinder für andere Kinder, Ziegen für andere Ziegen. Und superkluge KIs werden sich vor allem für andere superkluge KIs interessieren. Wir Menschen sind doch auch viel klüger als Ameisen. Trotzdem haben wir kein Interesse, sie zu vernichten. Nur wenn sie in unsere Häuser eindringen, dann gibt es einen Zielkonflikt. Dann bekämpfen wir sie mit Giften, die aber nur einen winzigen Teil aller Ameisen treffen.

          Könnte es nicht sein, dass für Ihre KIs das Sonnensystem vom Umfang her vergleichbar ist mit einem Hügel, den wir bebauen, dass der Ameisenvergleich nicht funktioniert, weil sofort unser gesamter Lebensraum zerstört wird?

          Zumindest einige KIs werden von ihren Ursprüngen und vom Leben im Allgemeinen wohl fasziniert sein. Damit haben sie ein Motiv, Leben nicht auszurotten, sondern zu schützen. Es wird zumindest nicht die unsinnigen Konflikte geben, die gewisse Hollywoodfilme nahe legen, etwa Matrix, wo die KIs das völlig lächerliche Bedürfnis haben, von der Energie der Menschenhirne zu leben. Die produzieren vielleicht hundert Watt. Das Kohlekraftwerk, das nötig ist, um die Menschen am Leben zu halten, erzeugt viel mehr Energie. Nein, viel eher muss man sich als Mensch vor anderen Menschen ängstigen, die einem ähnlicher sind als KIs und die unsere Zivilisation ganz ohne KI durch Wasserstoffbomben auslöschen können.

          Aber es gibt auch keinen offensichtlichen Nutzen der künstlichen Intelligenz.

          Was sagen Sie denn da? Schon ganz kurzfristig gibt es enormen Nutzen. Er erwächst beispielsweise daraus, dass wir heute schon Gesundheitsvorsorge wie Krebsfrüherkennung durch künstliche neuronale Netze verbessern können oder dass die Smartphones ihre Besitzer immer besser verstehen. Es herrscht immenser kommerzieller Druck, KIs zu bauen, die ihre Anwender auf tausend neue Weisen glücklicher und gesünder machen. Wenn das kein Nutzen ist!

          Und langfristig?

          Sehen Sie sich selbst nicht als Krone der Schöpfung, sondern als Zwischenschritt auf dem Weg des Universums zu höherer und höherer Komplexität!

          Warum fällt das vielen Menschen offensichtlich so schwer?

          Vielleicht, weil sie ihre eigene Bedeutung überschätzen?

          Einige der wichtigsten Forscher der Firma DeepMind, die an künstlicher Intelligenz forscht und im vergangenen Jahr von Google gekauft wurde, stammen aus Ihrem Labor. Wird die Forschung im Feld der KI künftig noch an Universitäten stattfinden?

          Teile der Industrie haben erkannt, dass sich die Entwicklung der künstlichen Intelligenz massiv auf ihr Geschäft auswirken wird. Obwohl sie nicht sicher sind, was die Killeranwendungen sein werden, wollen sie auf jeden Fall dabei sein. Deshalb haben große Firmen in den letzten Jahren mehr ausgegeben als Universitäten in den Jahrzehnten zuvor.

          Werden viele Wissenschaftler von Instituten wie Ihrem abgeworben?

          Ja. Einer der Gründe, warum wir unsere Firma gegründet haben, ist, dass die großen Firmen wie Kannibalen versuchen, die Forschungsinstitute auszuschlachten. Jetzt reicht es nicht mehr, die Mitarbeiter dadurch zu motivieren, dass sie am besten Forschungsinstitut arbeiten, man muss ihnen auch Aktienoptionen bieten.

          Mal aus der Sicht zukünftiger künstlicher Intelligenzen, die, sollte es sie geben, so viel klüger sind: Wird Ihre Erfindung da nicht nur ein kleines Stück Geschichte sein?

          Ja, aber ein sehr interessantes Stück Geschichte! Lassen Sie mich mal weiter spekulieren: Ausgehend von der Erde werden die KIs vielleicht innerhalb weniger Millionen Jahre die ganze Milchstraße kolonisieren. Es hat etwas für sich, Auslöser einer derartigen Entwicklung zu sein. Popper sagte: Alles Leben ist Problemlösen. Ich versuche das Problem des Problemlösens selbst zu lösen. Wenn ich das schaffe, dann habe ich alles andere mit erledigt. Aber allein kann ich das natürlich nicht. Ich bin angewiesen auf ganz viele Leute, die mithelfen, zum Beispiel dadurch, dass sie schnellere Rechner bauen. Dazu braucht man eine ganze Zivilisation.

          Was, wenn wir das Potential künstlicher Intelligenz phantastisch überschätzen?

          Es gibt eben keinen stichhaltigen Anhaltspunkt dafür. Obwohl ich seit gut 30 Jahren zum Thema predige, bin ich selbst überrascht, wie rasant sich die Entwicklung derzeit beschleunigt. Wir wissen zwar seit 1931, seit Kurt Gödels Unvollständigkeitssatz, dass es für jede Rechenmaschine, wie auch für Menschen, unlösbare Probleme gibt. Auch sagt keiner, dass die zukünftigen KI-Wissenschaftler perfekt sein werden. Aber sie werden flotter als bisher die Geschicke des Universums gestalten. Sie werden die natürliche Erweiterung dessen sein, was seit zehntausend Jahren ohnehin schon läuft. Der Erste, der Ackerbau betrieben hat, war ja aus kosmischer Sicht fast schon auf dem Mond. Da haben sich die Leute zusammengetan und in nur wenigen tausend Jahren - wie ein Blitz in der Weltgeschichte - das Konglomerat von Menschen und Maschinen geschaffen, das wir „Zivilisation“ nennen. Dieser Prozess läuft unaufhaltsam weiter. Und bald werden eben die klügsten Bestandteile der Zivilisation nicht mehr die Menschen sein.

          Die Fragen stellten Friedemann Bieber und Katharina Laszlo.

           

          Der KI-Pionier

          Jürgen Schmidhuber ist einer der bekanntesten Entwickler künstlicher Intelligenz. Fragt man ihn nach seiner Motivation, sagt er geradeheraus: „Die Entwicklung wahrer künstlicher Intelligenz ist das letzte Bedeutsame, was man als Mensch noch leisten kann.“ Der zweiundfünfzigjährige gebürtige Münchner hat sich an der Technischen Universität München habilitiert. Seit zehn Jahren ist er Kodirektor des Schweizer Forschungsinstituts für Künstliche Intelligenz, kurz IDSIA, und arbeitet zudem für USI & SUPSI. Der Wissenschaftler beschäftigt sich nicht nur mit neuronalen Netzen und Robotik, sondern auch mit Kunst und der „formalen Theorie der Kreativität“. Zahlreiche Firmen, unter anderem Google, nutzen heute die von ihm entwickelten Methoden maschinellen Lernens.

           

          Quelle: F.A.Z.

          Weitere Themen

          Wo jede Minute zählt Video-Seite öffnen

          Zu Besuch im Peugeot-Werk : Wo jede Minute zählt

          Im Peugeot-Werk in Mulhouse läuft vieles automatisch. Regale auf Schienen und Roboter arbeiten Hand in Hand mit den wenigen Menschen, denen man hier begegnet. So sollen die Autos immer schneller fertig werden.

          Topmeldungen

          Neue Verbindung: Russland baut eine Brücke über die Straße von Kertsch.

          Krim-Annexion : Abgerissene Verbindungen

          Die Krim-Bewohner und wie sie die Welt sehen – drei Jahre nach der russischen Annexion. Würden die Bewohner wieder für einen Anschluss an Russland stimmen?
          Unter dem Namen „DJ D-Sol“ legt David Solomon ungefähr einmal im Monat elektronische Musik auf.

          Manager David Solomon : Der DJ von Goldman Sachs

          David Solomon ist einer der wichtigsten Manager der amerikanischen Großbank. Daneben hat er aber noch eine ganz andere Leidenschaft.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.