http://www.faz.net/-gqe-90yn0

Künstliche Intelligenz : Elon Musk und Co. warnen vor Killer-Robotern

Soweit sind wir (zum Glück) noch nicht: Szene aus dem Film „Terminator: Die Erlösung“ Bild: Picture-Alliance

Wie gefährlich ist der Fortschritt der Künstlichen Intelligenz? In einer Frage sind sich offenbar die Unternehmer einig. Und haben nun eine eindringliche Warnung an die Vereinten Nationen geschrieben.

          Wie gefährlich ist der Fortschritt in der Künstlichen Intelligenz (KI)? Ist er das überhaupt? Längst ist eine Debatte darüber entbrannt, die nun eine neue Wendung genommen hat: Mehr als einhundert Technologie-Unternehmer, die Geld in KI und Robotik stecken, haben nun vor einem möglichen Missbrauch dieser Technologie gewarnt.

          Alexander Armbruster

          Redakteur in der Wirtschaft.

          In einem im Internet veröffentlichten Brief an die Vereinten Nationen warnen sie die Weltgemeinschaft eindringlich, „tödliche autonome Waffen“ – umgangssprachlich sind damit Killer-Roboter gemeint – zu entwickeln. Diese könnten eine „dritte Revolution der Kriegsführung“ herbeiführen. „Einmal erfunden, könnten sie bewaffnete Konflikte erlauben in einem nie dagewesenen Ausmaß, und schneller, als Menschen sie begreifen können“, schreiben die Fachleute.

          „Waffen des Terrors“

          Unter den Unterzeichnern sind Unternehmer wie Mustafa Suleyman, der das mittlerweile zum amerikanischen Technologieunternehmen Alphabet (Google) gehörende KI-Unternehmen Deepmind mitgründete und leitet, und Elon Musk, der durch seinen Elektroautohersteller Tesla und sein Weltraum-Unternehmen SpaceX bekannt ist. Darunter sind auch führende KI-Forscher wie Yoshua Bengio, der an der Universität Montreal lehrt und zu den Pionieren der gerade angesagten KI-Methoden (neuronale Netze, Deep Learning) gehört, der in Kalifornien unterrichtende Informatik-Professor Stuart Russell und der deutsche KI-Experte Jürgen Schmidhuber.

          Alle drei sind bislang nicht dadurch aufgefallen, besonders alarmistisch zu sein, deswegen erscheinen die Warnungen umso eindringlicher. „Wenn die Menschen nicht neue Massenvernichtungswaffen sehen wollen - in der Form großer Schwärme tödlicher Mikrodronen - (...) ist es unabdingbar (...) einen Vertrag gegen tödliche autonomen Waffen auf den Weg zu bringen“, sagte Russell. Und die Unternehmensgründer kommen darüber hinaus aus der ganzen Welt, auch aus China und Indien. Aus Deutschland hat außerdem Marcus Frei unterschrieben, der das Unternehmen Next Robotics gegründet hat.

          In ihrem Brief an die Vereinten Nationen nennen die Unternehmer auch Beispiele für den möglichen Einsatz solcher Waffen. „Das können Waffen des Terrors sein, Waffen, die Despoten und Terroristen gegen unschuldige Bevölkerung einsetzen, und Waffen, die gehackt werden könnten, um sich in einer unerwünschten Art und Weise zu verhalten.“ Die Weltgemeinschaft hat ihrer Ansicht nach nicht viel Zeit, um nun zu handeln. „Wenn diese Büchse der Pandora geöffnet ist, wird es sehr schwer werden, sie wieder zu schließen.“

          Die Vereinten Nationen wiederum beschäftigen sich schon seit einigen Jahren mit autonomen Waffen und Waffensystemen. Für diesen Montag hatten sie ursprünglich das Treffen einer UN-Gruppe von Fachleuten angesetzt, diesen Termin dann aber auf November verschoben. Die Tech-Unternehmer bedauern dies in ihrem Mahnschreiben ausdrücklich.

          „Reguliert Waffen, nicht KI“

          Die Diskussion darüber, welche auch negative Auswirkungen auf den weiteren Fortschritt in der Künstlichen Intelligenz haben könnte, läuft auch in der Branche und unter Fachleuten schon lange. Jüngst hat sie besonders der schillernde Unternehmer Elon Musk gleich mehrfach befeuert. Etwa dadurch, dass er die Risiken dieser Technologie als größer einschätzte als das Risiko, das derzeit von Nordkorea ausgeht. Reza Zadeh, Gründer des KI-Unternehmens Matroid und Professor in Stanford, entgegnete Musk daraufhin über den Kurznachrichtendienst Twitter: „Furcht vor KI ist vernünftig. Aber Regulierung zum jetzigen Zeitpunkt könnte das KI-Potential dämpfen, Krankheiten und Armut auszumerzen, was noch zu unserer Lebzeit in Reichweite ist.“

          KI zu regulieren sei, als würde man Mathematik oder Chemie regulieren, fügte er hinzu, und warb dafür, die Grundlagen von ihren Anwendungen zu unterscheiden. Dafür brachte er ein Beispiel: „KI, für sich genommen, wird keine Gefahr für Menschen darstellen in der absehbaren Zukunft. KI, kombiniert mit Waffen, vielleicht. Deswegen reguliert Waffen und nicht KI.“

          Die digitale F.A.Z. PLUS
          F.A.Z. Edition

          Die digitale Ausgabe der F.A.Z., für alle Endgeräte optimiert und um multimediale Inhalte angereichert

          Mehr erfahren

          Es war eine der tausenden Antworten, die Musk auf seine Aussage bekam – und eine der wenigen, auf die er direkt reagierte. „Das größte Hindernis, die Gefahren von KI zu erkennen, sind diejenigen, die von ihrer eigenen Intelligenz so überzeugt sind, dass sie sich nicht vorstellen können, dass irgendjemand Dinge tun kann, die sie nicht können.“

          Zuvor hatte Musk die neue Gefahrendiskussion losgetreten mit einem Auftritt vor amerikanischen Gouverneuren, bei dem er KI als die "größte Bedrohung, der wir als Zivilisation gegenüberstehen", darstellte. Daraufhin meldete sich sogar Facebook-Gründer Mark Zuckerberg zu Wort, der klar gegen Musk Stellung bezog. „Wer gegen künstliche Intelligenz argumentiert, argumentiert gegen sicherere Autos und gegen bessere Diagnosen für Kranke“, sagte Zuckerberg und fügte hinzu: „Ich sehe einfach nicht, wie jemand guten Gewissens das tun kann.“ Musk, der auch ein eigenes KI-Unternehmen namens Open AI besitzt, attestierte Zuckerberg daraufhin, über ein „begrenztes Verständnis“ dieser Thematik zu verfügen.

          Während er die neuen Geschäftszahlen des Elektroauto-Herstellers Tesla vor zehn Tagen vorstellte, räumte Musk schließlich jedoch selbst ein, dass er nicht die Erfindungen und Entwicklungen in diesem Bereich bremsen wolle. „Ich denke, es gibt einen großen Nutzen durch KI. Wir müssen einfach sicherstellen, dass es sich wirklich um höheren Nutzen handelt und wir nicht etwas wirklich Dummes machen.“ Autonome Waffen zählen aus seiner Sicht und der Meinung vieler anderer Unternehmer offenkundig genau dazu.

          Es ist übrigens auch nicht der erste Brief dieser Art: Vor zwei Jahren haben 1000 Forscher, darunter der Physiker Stephen Hawking und Apple-Mitgründer Steve Wozniak, ebenfalls dieses Anliegen vorgetragen.

          Weitere Themen

          Der Tesla-Herausforderer

          E-Autos : Der Tesla-Herausforderer

          Henrik Fisker hat sich von der Insolvenz seines ersten Elektroautoherstellers nicht unterkriegen lassen. Er wagt jetzt einen neuen Anlauf – und gibt kühne Ziele aus.

          Warnungen vor Überschuldung Italiens Video-Seite öffnen

          EU- Gipfel in Brüssel : Warnungen vor Überschuldung Italiens

          Bei den Beratungen über die Weiterentwicklung der Wirtschafts- und Währungsunion am Donnerstag steht Italiens Etat zwar offiziell nicht auf der Agenda. Es wird aber erwartet, dass die Regierung ihre Haushaltspläne erläutert.

          Topmeldungen

          Fall Khashoggi : Eine Schmierenkampagne für den Präsidenten

          Der Ton von Donald Trump gegenüber Riad wird rauher. Aber verprellen will er den strategischen Partner nicht. Rechtskonservative Anhänger versuchen ihm aus dem Dilemma zu helfen – indem sie das mutmaßliche Mordopfer schlecht machen.
          Moderator Stefan Raab ist zurück – hier ein Bild aus dem September 2017.

          „Stefan Raab live“ : Es gibt ihn wirklich noch!

          Stefan Raab ist zurück – allerdings nur auf der Bühne. Was macht er da? Und können seine Fans auf ein Comeback im Fernsehen hoffen? Zu Besuch bei „Stefan Raab Live“ in Köln.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.