https://www.faz.net/-gqe-98t0z

Künstliche Intelligenz : Google-Mitarbeiter wehren sich gegen Militärprojekt

Es geht nicht nur um Terminator, wenn von autonomen Waffen die Rede ist, im Gegenteil. Bild: Picture-Alliance

Mehr als 3000 Angestellte des Tech-Konzerns schreiben einen Mahnbrief an Vorstandschef Sundar Pichai. Sie sind nicht die einzigen, die davor warnen, autonome Waffensysteme zu entwickeln.

          3 Min.

          Im vergangenen Sommer schrieben mehr als einhundert Technologie-Unternehmer, die Geld in Künstliche Intelligenz und Robotik stecken, eine dramatische Warnung an die Vereinten Nationen. Sie raten in dem im Internet veröffentlichten Schreiben eindringlich davon ab, „tödliche autonome Waffen“ – umgangssprachlich sind damit Killer-Roboter gemeint – zu entwickeln. Diese könnten eine „dritte Revolution der Kriegsführung“ herbeiführen. „Einmal erfunden, könnten sie bewaffnete Konflikte erlauben in einem nie dagewesenen Ausmaß, und schneller, als Menschen sie begreifen können“. Den Unterzeichnern mangelt es nicht an Prominenz und Renommee: Elon Musk (Tesla, SpaceX) unterschrieb, Mustafa Suleyman, der das zu Alphabet (Google) gehörende KI-Unternehmen Deepmind mitgründete und die Informatik-Professoren Yoshua Bengio, Stuart Russell und Jürgen Schmidhuber – allesamt auf der ganzen Welt anerkannte Kapazitäten in der KI.

          Alexander Armbruster

          Verantwortlicher Redakteur für Wirtschaft Online.

          In der kommenden Woche nun treffen sich in Genf Vertreter der Vereinten Nationen, und autonome Waffen stehen auf der Tagesordnung. Im Vorfeld zeigt sich abermals, dass viele Fachleute, die an öffentlichen Universitäten oder für private Unternehmen Künstliche Intelligenz erforschen und darauf basierende Anwendungen entwickeln, keine Waffen bauen wollen. Und auch nicht daran mitwirken wollen, wenn andere das tun.

          „Das schadet unserer Marke“

          In einem Brief haben sich nun ungefähr 3100 Google-Mitarbeiter an den Vorstandsvorsitzenden Sundar Pichai gewandt und dagegen ausgesprochenen, dass das Technologie-Unternehmen dem amerikanischen Verteidigungsministerium hilft, Videos besser auszuwerten und Drohnen zielgenauer angreifen lassen zu können. „Wir glauben, dass sich Google nicht am Geschäfts des Krieges beteiligen sollte“, heißt es in dem Schreiben, das die Zeitung „New York Times“ auf ihrer Internetseite veröffentlicht hat (hier, auf Englisch). Die Mitarbeit an „Maven“, wie das Pentagon dieses Programm bezeichnet, beschädige die Marke Google und die Fähigkeit des Unternehmens, Talente anzuwerben, heißt es in dem Brief weiter.

          Die Unterzeichner führen zudem aus, dass ihnen eine Stellungnahme der für das Cloud-Geschäft des Konzerns verantwortlichen Managerin Diane Greene nicht ausreiche, derzufolge die von Google bereitgestellte Technologie nicht verwendet werde, um Drohnen zu steuern oder Waffen abzufeuern. „Die Technologie wird für das Militär konstruiert und wenn sie einmal ausgeliefert ist, könnte sie einfach verwendet werden, um in diesen Funktionen zu assistieren“, schreiben sie.

          Boykott südkoreanischer Forscher

          Bereits vor einigen Wochen wurde bekannt, dass das Pentagon Googles Expertise einkauft, um seine Fähigkeiten in der Bilderkennung zu verbessern. Infolge der ersten Berichte darüber wurde auch die Kritik von Teilen der Belegschaft bekannt – insgesamt beschäftigt Google ungefähr 70.000 Mitarbeiter derzeit. Neu ist nun der bekanntgewordene Brief an den Vorstandschef.

          In einer Stellungnahme an den Internetdienst „Business Insider“ teilte Google dazu bereits mit, das es „ein wichtiger Teil unserer Kultur ist, Mitarbeiter zu haben, die sich aktiv in die Arbeit einbringen, die wir machen. Wir wissen, dass es viele offene Fragen gibt, wenn es um die Verwendung neuer Technologien geht, deshalb sind diese Konversationen – mit Mitarbeiter wie mit externen Experten – sehr wichtig und nutzbringend.“

          Zugleich bestehen Kontakte zwischen dem Pentagon und Google schon länger. Der früherer langjährige Vorstandschef Eric Schmidt ist beispielsweise einer der führenden wissenschaftlichen Berater des Verteidigungsministeriums in Washington. Die Forschungsförderung des Pentagon (Darpa) wiederum unterstützt die Entwicklung und Erforschung Künstlicher Intelligenz seit Jahrzehnten; sie stellte in den sechziger Jahren bereits Mittel bereit, um KI-Labore in den Vereinigten Staaten zu gründen, die auch heute noch zu den führenden Fakultäten des Landes gehören.

          Die Mitarbeit Googles an Maven ist indes nicht das einzige militärische KI-Projekt, gegen das sich nun Widerstand regt. In einem weiteren Schreiben (hier, auf Englisch) rufen KI-Forscher die südkoreanische Universität KAIST auf, nicht mit dem südkoreanischen Waffenhersteller Hanwha Systems zusammenzuarbeiten. Die unterzeichnenden Wissenschaftler, darunter Fachleute aus Frankreich, Deutschland, China, Australien und Kanada, kündigen an, nicht (weiter) mit Mitarbeitern der KAIST forschen zu wollen – aus der Sorge heraus, den Wettlauf zur Herstellung autonomer Waffen zu beschleunigen.

          Die möglichen Anwendungen für autonome Waffen hatten ihrerseits bereits die KI-Unternehmer deutlich gemacht, die im vergangenen Jahr an die Vereinten Nationen geschrieben hatten. „Das können Waffen des Terrors sein, Waffen, die Despoten und Terroristen gegen unschuldige Bevölkerung einsetzen, und Waffen, die gehackt werden könnten, um sich in einer unerwünschten Art und Weise zu verhalten.“ Die Weltgemeinschaft hat ihrer Ansicht nach nicht viel Zeit, um nun zu handeln. „Wenn diese Büchse der Pandora geöffnet ist, wird es sehr schwer werden, sie wieder zu schließen.“ Auch das war übrigens nicht der erste Brief dieser Art: Vor drei Jahren hatten 1000 Forscher, darunter der verstorbene Physiker Stephen Hawking und Apple-Mitgründer Steve Wozniak, ebenfalls dieses Anliegen vorgetragen.

          Weitere Themen

          Topmeldungen

          Abwärtstrend der Union : Die verlorene Heimat

          Für viele in der Union war Schwarz-Grün mal eine moderne Idee. Jetzt wächst die Angst, dass die Grünen übermächtig werden – und sie selbst als Juniorpartner enden.
          Ein gepanzerter Polizeiwagen versucht in der Nacht eine Barrikade zu durchbrechen und wird von den Protestlern an der Polytechnischen Universität in Brand gesteckt.

          Krise in Hongkong : Unter Belagerung

          Hunderte Hongkonger Aktivisten harren auf dem Campus der Polytechnischen Universität aus. Die Polizei hat das Gelände umstellt – und droht mit dem Einsatz scharfer Munition.

          DFB-Team vor EM 2020 : Der Zauber lässt sich nicht zurückholen

          Vor der EM 2020 sollen bei der DFB-Elf die Kräfte von 2010 reanimiert werden. Die Analogie liegt auf der Hand. Wie damals wurde die Auswahl verjüngt, Hierarchien wurden aufgebrochen. Doch so leicht ist das nicht.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.