http://www.faz.net/-gqz-865n5

Künstliche Intelligenz : Die Waffen nieder!

Eine amerikanische Drohne vom Typ MQ-9 Reaper beim Landeanflug nach einer Flugtrainingsmission in Nevada. Könnten Drohnen bald selbst entscheiden, wann sie ihre Waffen abfeuern? Bild: dpa

Waffensysteme, die autonom über einen Angriff entscheiden? Der technische Fortschritt macht es möglich. Wissenschaftler warnen vor den Folgen – und starten eine Friedensbewegung für die Künstliche Intelligenz.

          Verbot! Plötzlich wird das Undenkbare nun also doch denkbar für die Masters of Superintelligence, die Herren und Freigeister der Maschinenintelligenz, die Stars und Nerds aus Silicon Valley und den Robotiklaboren diesseits und jenseits des Atlantiks. „Ein militärisches Wettrüsten künstlich-intelligenter Waffensysteme wäre eine schlechte Idee und sollte durch ein Verbot für autonome Waffen verhindert werden, die sich einer effektiven menschlichen Kontrolle zu entziehen vermögen.“

          Joachim  Müller-Jung

          Redakteur im Feuilleton, zuständig für das Ressort „Natur und Wissenschaft“.

          So schließt ein offener Brief, der Anfang der Woche auf einer internationalen Konferenz zur Künstlichen Intelligenz in Buenos Aires von Elon Musk, dem Gründer von Space-X, Paypal und Tesla, ins Netz gestellt wurde. Ein, gemessen an früheren Warnungen aus dem inneren Zirkel der Programmiergenies, von Bill Joy bis Jaron Lanier, bemerkenswert nüchtern formuliertes Papier. Ein politisches Neutrum, frei von jeder Weltanschauung, nicht der kleinste Anstrich von Kulturpessimismus.

          Eine neue digitale Friedensbewegung

          Die technologische Apokalypse allerdings, die da mit einfachen Sätzen umrissen wird, hat innerhalb weniger Stunden die Netze weit über die KI-Szene hinaus beschäftigt – und Tausende dazu bewegt, sich einzureihen in das Tableau der prominenten Erstunterzeichner: Neben Stephen Hawking sind das der Apple-Mitgründer Steve Wozniak, der KI-Pionier Stuart Russell, der Skype-Gründer Jaan Tallinn, der Google-Pionier Peter Norvig, Eric Horvitz von Microsoft und eine lange Liste namhafter Wissenschaftler, Publizisten und Schriftsteller, angeführt von Daniel Dennett, Noam Chomsky, George Dyson und dem Nobelpreisträger Frank Wilczek.

          Ein ehemaliger Phantom-Pilot steuert per Tastatur eine Drohne vom Typ Heron. Könnten diese Menschen bald durch künstliche Intelligenz ersetzt werden?
          Ein ehemaliger Phantom-Pilot steuert per Tastatur eine Drohne vom Typ Heron. Könnten diese Menschen bald durch künstliche Intelligenz ersetzt werden? : Bild: dpa

          Der Aufruf entwickelte sich quasi in Lichtgeschwindigkeit zum weltumspannenden Sammelbecken für eine neue digitale Friedensbewegung der KI. Ein konkretes programmatisches Feindbild gibt es nicht, sieht man von dem unscharfen Szenario „bewaffneter autonomer Drohnen“ ab. Die gegenwärtige Hochrüstung der Künstlichen Intelligenz, angefangen von selbstfahrenden denkenden Autos bis zu autarken Börsenrechnern und gespenstischen Mensch-Maschinen-Konstruktionen, bietet für die meisten jenseits der KI-Forschung genug Stoff für apokalyptische Szenarien, die es zu bremsen gilt. Was die Absender des Verbotsaufrufs angeht, bleibt freilich vieles offen. In Formulierungen wie „autonome Waffen könnten die Kalaschnikows von morgen sein“ blitzt allenfalls auf, was das eigentliche Problem ist: dass analoge menschliche Dummheit und digitale Superintelligenz sich endgültig gegen den Menschen verbünden.

          Das war bloß der Anfang

          Eine Analogie drängt sich auf. Offensichtlich lernt die Branche, nach der fortschrittsarmen „KI-Wüste“ der achtziger und neunziger Jahre, die Lektionen einer anderen Hightechsparte mit exponentiellem Wachstum, der Biotechbranche. Hätten nicht Mikrobiologen und Biowissenschaftler vor Jahrzehnten vor den Folgen und Missbrauchsmöglichkeiten ihres Fachgebiets und der Möglichkeit der Biowaffenentwicklung durch Gen- und Zelltechnik gewarnt, die Zweischneidigkeit des Fortschritts hätte die politischen Köpfe seinerzeit kaum erreicht. So aber gibt es nun seit Anfang der siebziger Jahre die Konvention über das Verbot zur Entwicklung, Herstellung und Lagerung biologischer Waffen und Toxine.

          Das war bloß der Anfang. Das „Dual-Use-Problem“, die Janusköpfigkeit moderner Technik, gerät längst durch den rapiden Ausbau von Computer-, Nano- und Gentechnik und vor allem die Weiterentwicklung hocheffizienter Rechenprogramme – Algorithmen und digitaler Agentensysteme – immer öfter auf die politische Tagesordnung. Nun also auch die KI.

          Es gehe „um Jahre, nicht mehr um Jahrzehnte“, warnen die Initiatoren des neuen Aufrufs. Spätestens da wird deutlich: Unkontrollierbare Tötungsmaschinen zu verhindern, wie Human Rights Watch das als nahezu einzige Bürgerbewegung seit Jahren fordert, hatte in der von unkontrollierter Profitlust geprägten Computerbranche keine allzu hohe Priorität. Gefragt, wieso die KI-Szene nun plötzlich über verbindliche Regeln für autonome Robotersysteme nachdenkt, bemühte der KI-Pionier Stuart Russell jüngst im „Science-Magazin“ die Parallele zur Kernspaltung: „Es gibt diese Analogie zwischen der Mobilisierung unbegrenzter Energiemengen und unbegrenzter Intelligenz. Beides scheint auf den ersten Moment so wunderbar nützlich zu sein, bis man über die möglichen Risiken nachdenkt.“ Was in den dreißiger und vierziger Jahren niemand ahnte: dass Mathematik eines Tages der Stoff für eine digitale Kettenreaktionen werden könnte, die die Atomtechnik in den Schatten stellen könnte. Denn die wird noch heute von Menschenhand bedient. Die neuen autonomen Waffensysteme scheinen aber ihren Schöpfern intellektuell aus den Händen zu gleiten.

          Quelle: F.A.Z.

          Weitere Themen

          Topmeldungen

          Berthold Albrechts Witwe Babette kämpft im Rechtsstreit bei Aldi Nord um ihren Einfluss (Bild aus dem Jahr 2015)

          Gerichtsverfahren : Machtkampf bei Aldi Nord geht weiter

          Vor Gericht streiten die Firmenerben von Aldi Nord weiter um ihren Einfluss auf die Führung des Discounters. Wie steht es um die Entscheidung im Machtkampf der Nachfahren von Theo Albrecht?

          Schwierige Regierungsbildung : Die Verantwortung der SPD

          Die Sozialdemokraten stehen vor einem entscheidenden Wendepunkt. Solange Jamaika möglich war, sprach nichts gegen konsequente Opposition. Doch jetzt sieht die Lage anders aus. Ein Kommentar.

          Kampf um CSU-Spitze : Seehofer und der verdrehte Kalender

          Einigen in der CSU reißt langsam der Geduldsfaden. Doch Vorsitzender und Ministerpräsident Horst Seehofer bestimmt immer noch selbst, wann was entschieden wird. Ein Beraterkreis soll helfen.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.