Wie gefährlich ist der Fortschritt in der Künstlichen Intelligenz (KI)? Ist er das überhaupt? Längst ist eine Debatte darüber entbrannt, die nun eine neue Wendung genommen hat: Mehr als einhundert Technologie-Unternehmer, die Geld in KI und Robotik stecken, haben nun vor einem möglichen Missbrauch dieser Technologie gewarnt.

In einem im Internet veröffentlichten Brief an die Vereinten Nationen warnen sie die Weltgemeinschaft eindringlich, „tödliche autonome Waffen“ – umgangssprachlich sind damit Killer-Roboter gemeint – zu entwickeln. Diese könnten eine „dritte Revolution der Kriegsführung“ herbeiführen. „Einmal erfunden, könnten sie bewaffnete Konflikte erlauben in einem nie dagewesenen Ausmaß, und schneller, als Menschen sie begreifen können“, schreiben die Fachleute.

„Waffen des Terrors“

Unter den Unterzeichnern sind Unternehmer wie Mustafa Suleyman, der das mittlerweile zum amerikanischen Technologieunternehmen Alphabet (Google) gehörende KI-Unternehmen Deepmind mitgründete und leitet, und Elon Musk, der durch seinen Elektroautohersteller Tesla und sein Weltraum-Unternehmen SpaceX bekannt ist. Darunter sind auch führende KI-Forscher wie Yoshua Bengio, der an der Universität Montreal lehrt und zu den Pionieren der gerade angesagten KI-Methoden (neuronale Netze, Deep Learning) gehört, der in Kalifornien unterrichtende Informatik-Professor Stuart Russell und der deutsche KI-Experte Jürgen Schmidhuber.

Alle drei sind bislang nicht dadurch aufgefallen, besonders alarmistisch zu sein, deswegen erscheinen die Warnungen umso eindringlicher. „Wenn die Menschen nicht neue Massenvernichtungswaffen sehen wollen - in der Form großer Schwärme tödlicher Mikrodronen - (...) ist es unabdingbar (...) einen Vertrag gegen tödliche autonomen Waffen auf den Weg zu bringen“, sagte Russell. Und die Unternehmensgründer kommen darüber hinaus aus der ganzen Welt, auch aus China und Indien. Aus Deutschland hat außerdem Marcus Frei unterschrieben, der das Unternehmen Next Robotics gegründet hat.

In ihrem Brief an die Vereinten Nationen nennen die Unternehmer auch Beispiele für den möglichen Einsatz solcher Waffen. „Das können Waffen des Terrors sein, Waffen, die Despoten und Terroristen gegen unschuldige Bevölkerung einsetzen, und Waffen, die gehackt werden könnten, um sich in einer unerwünschten Art und Weise zu verhalten.“ Die Weltgemeinschaft hat ihrer Ansicht nach nicht viel Zeit, um nun zu handeln. „Wenn diese Büchse der Pandora geöffnet ist, wird es sehr schwer werden, sie wieder zu schließen.“

Die Vereinten Nationen wiederum beschäftigen sich schon seit einigen Jahren mit autonomen Waffen und Waffensystemen. Für diesen Montag hatten sie ursprünglich das Treffen einer UN-Gruppe von Fachleuten angesetzt, diesen Termin dann aber auf November verschoben. Die Tech-Unternehmer bedauern dies in ihrem Mahnschreiben ausdrücklich.

„Reguliert Waffen, nicht KI“

Die Diskussion darüber, welche auch negative Auswirkungen auf den weiteren Fortschritt in der Künstlichen Intelligenz haben könnte, läuft auch in der Branche und unter Fachleuten schon lange. Jüngst hat sie besonders der schillernde Unternehmer Elon Musk gleich mehrfach befeuert. Etwa dadurch, dass er die Risiken dieser Technologie als größer einschätzte als das Risiko, das derzeit von Nordkorea ausgeht. Reza Zadeh, Gründer des KI-Unternehmens Matroid und Professor in Stanford, entgegnete Musk daraufhin über den Kurznachrichtendienst Twitter: „Furcht vor KI ist vernünftig. Aber Regulierung zum jetzigen Zeitpunkt könnte das KI-Potential dämpfen, Krankheiten und Armut auszumerzen, was noch zu unserer Lebzeit in Reichweite ist.“

KI zu regulieren sei, als würde man Mathematik oder Chemie regulieren, fügte er hinzu, und warb dafür, die Grundlagen von ihren Anwendungen zu unterscheiden. Dafür brachte er ein Beispiel: „KI, für sich genommen, wird keine Gefahr für Menschen darstellen in der absehbaren Zukunft. KI, kombiniert mit Waffen, vielleicht. Deswegen reguliert Waffen und nicht KI.“

Es war eine der tausenden Antworten, die Musk auf seine Aussage bekam – und eine der wenigen, auf die er direkt reagierte. „Das größte Hindernis, die Gefahren von KI zu erkennen, sind diejenigen, die von ihrer eigenen Intelligenz so überzeugt sind, dass sie sich nicht vorstellen können, dass irgendjemand Dinge tun kann, die sie nicht können.“

Zuvor hatte Musk die neue Gefahrendiskussion losgetreten mit einem Auftritt vor amerikanischen Gouverneuren, bei dem er KI als die "größte Bedrohung, der wir als Zivilisation gegenüberstehen", darstellte. Daraufhin meldete sich sogar Facebook-Gründer Mark Zuckerberg zu Wort, der klar gegen Musk Stellung bezog. „Wer gegen künstliche Intelligenz argumentiert, argumentiert gegen sicherere Autos und gegen bessere Diagnosen für Kranke“, sagte Zuckerberg und fügte hinzu: „Ich sehe einfach nicht, wie jemand guten Gewissens das tun kann.“ Musk, der auch ein eigenes KI-Unternehmen namens Open AI besitzt, attestierte Zuckerberg daraufhin, über ein „begrenztes Verständnis“ dieser Thematik zu verfügen.

Während er die neuen Geschäftszahlen des Elektroauto-Herstellers Tesla vor zehn Tagen vorstellte, räumte Musk schließlich jedoch selbst ein, dass er nicht die Erfindungen und Entwicklungen in diesem Bereich bremsen wolle. „Ich denke, es gibt einen großen Nutzen durch KI. Wir müssen einfach sicherstellen, dass es sich wirklich um höheren Nutzen handelt und wir nicht etwas wirklich Dummes machen.“ Autonome Waffen zählen aus seiner Sicht und der Meinung vieler anderer Unternehmer offenkundig genau dazu.

Es ist übrigens auch nicht der erste Brief dieser Art: Vor zwei Jahren haben 1000 Forscher, darunter der Physiker Stephen Hawking und Apple-Mitgründer Steve Wozniak, ebenfalls dieses Anliegen vorgetragen.