https://www.faz.net/-gqz-8fbjv

Künstliche Intelligenz : Vorsicht vor der digitalen Weltpolizei

  • -Aktualisiert am
Der Go-Meister, der gegen eine Maschine verlor: Zwischen Googles AlphaGo-Bot und Lee Sedol steht es nun 4:1.
Der Go-Meister, der gegen eine Maschine verlor: Zwischen Googles AlphaGo-Bot und Lee Sedol steht es nun 4:1. : Bild: AP

Es bedurfte indes nicht einer Tay, um die Schwächen der künstlichen Intelligenz freizulegen. Der Wissenschaftler und Publizist Caleb Scharf rechnete in einem Essay im Magazin „Aeon“ vor, dass die Energie des Drei-Schluchten-Staudamms nötig wäre, um mit heutiger Computertechnologie auch nur ein einzelnes menschliches Gehirn (das dank biologischer Raffinesse mit zwanzig Watt auskommt) zu betreiben. Auch die „neuralen“ Algorithmen, die in den vergangenen Jahren bemerkenswerte Fortschritte bescherten, liefern blamable Fehlleistungen. Viel wichtiger als diese Punkte sind aber zwei grundsätzliche Fragen: Wenn wir die Wahl zwischen einer vollkommenen und einer unvollkommenen künstlichen Intelligenz hätten, welche würden wir wählen? Und wer soll bestimmen, wie diese Intelligenz eingesetzt wird?

In Berlin trat vor einigen Monaten Jared Cohen auf, Gründer des Denklabors Google Ideas und einer der wichtigsten Berater von Eric Schmidt, dem Verwaltungsratsvorsitzenden von Alphabet. In seinem Vortrag brüstete er sich damit, dass die künstliche Intelligenz des Unternehmens künftig in der Lage sein werde, das Entstehen einer neuen terroristischen Bewegung im frühestmöglichen Stadium zu erkennen, was beispielsweise durch eine algorithmische Analyse von Bewegungsmustern, politischen Äußerungen, Umweltdaten, historischen Entwicklungen, digitalen sozialen Netzwerken und anderer Faktoren von Menschen geschehen könnte.

Wer zieht einen Nutzen daraus?

Cohen wurde gefragt, was er mit diesem Wissen tun würde. Würde er es für sich behalten und nur die Mitarbeiter des Unternehmens aus der Gefahrenzone abziehen? Würde er es aus patriotischem Pflichtgefühl mit der amerikanischen Regierung teilen? Oder würde er es gänzlich öffentlich machen? Trotz Nachfragen verweigerte Cohen die Antwort. Sie kam verspätet und indirekt – in Form der Mitteilung, dass Eric Schmidt den Vorsitz des „Defense Innovation Advisory Board“ des Pentagons übernimmt, um eine engere Zusammenarbeit des amerikanischen Militärs mit Silicon Valley zu koordinieren. Sollen wir dankbar sein, wenn künftig eine Art digitaler Schutzschirm über unser Leben gespannt ist?

Vom Teenager zur fluchenden Rassistin in wenigen Stunden: Microsofts Künstliche Intelligenz Tay twitterte bald nur noch Unflat.
Vom Teenager zur fluchenden Rassistin in wenigen Stunden: Microsofts Künstliche Intelligenz Tay twitterte bald nur noch Unflat. : Bild: Twitter/Screenshot

Ein allmächtiger KI-Cybercop wäre für die Befehle seiner Programmierer ebenso empfänglich wie Tay, das Cybergirl. Wer würde eine mit dem ganzen „Internet der Dinge“ verschmolzene Singularität mit Zielkoordinaten füttern? Wer könnte verhindern, dass beliebig neue Zielgruppen ins Visier gerieten, etwa alle Umweltschützer, weil irgendwo ein Öko-Terrorist zugeschlagen hat? Wie würde ein Präsident wie Donald Trump ein solches System manipulieren? Das Tay-Experiment zeigt, wie stark menschliche Interessen in Technologien eingebettet sind: Eine künstliche Intelligenz ist auch nur eine von Menschen gesteuerte.

Manipulation leicht gemacht

Die Manipulationsgefahr ist groß. Kann eine KI künftig über Wahlen entscheiden, indem sie Inhalte auswählt, die ein Wähler zu sehen bekommt? Könnte sie demokratische Widerstandsbewegungen, die sich gegen einen Konzern oder Politiker richten, im Entstehen vereiteln, indem sie die Akteure isoliert? Mit wenigen algorithmischen Kniffen könnte man kritische Meinungsäußerungen auf ein kleines Publikum beschränken, um Meinungsfreiheit zu simulieren, ohne eine kritische Größe von Unterstützern zu erlauben.

Optimistisch betrachtet, ist es aber auch möglich, dass IT-Konzerne eine Art Demokratisierungsprozess durchlaufen und ihre künstlichen Intelligenzen in den Dienst der Aufklärung stellen, als Werkzeug von Wissenschaftlern und Weltbürgern. Dafür gibt es durchaus Anzeichen. Ein ganzes Netz aus Sensoren trägt heute maßgeblich dazu bei, dass wir die Veränderungen des Erdsystems in Echtzeit verfolgen können. Unter den richtigen Bedingungen hat künstliche Intelligenz das Potential, der Erde eine Stimme zu geben und Forschung an den drängendsten Menschheitsproblemen zu befeuern, indem sie wie beim Go-Spiel Lösungen vorschlägt, auf die keiner gekommen wäre. Doch dazu bedarf es tiefgreifender Veränderungen in der Ausrichtung der Programme. Im Dienst des Pentagons oder einer einzelnen Firma sollten sie jedenfalls nicht primär stehen.

Es ist deshalb gut, dass das Tay-Experiment den menschlichen Anteil der KI so deutlich sichtbar gemacht hat. In der humanistischen Ausgestaltung der digitalen Revolution liegt eine zentrale Aufgabe. Sonst bildet sich eine digitale Weltmacht heraus, die in allen Lebensbereichen als Kontrollinstanz auftritt. Zugleich hat das Experiment mit Tay noch ein anderes Gebot aufgestellt: Mit allen, die von einer zynisch programmierten künstlichen Intelligenz manipuliert werden, Mitleid zu empfinden.

Weitere Themen

Die jungen Wilden

HR-Tech-Start-ups : Die jungen Wilden

Digitale Start-ups wirbeln Personalabteilungen durcheinander – ob Mitarbeitersuche mit KI oder Online-Burnout-Prävention. Wir stellen einige von ihnen vor.

Topmeldungen

Kanzlerkandidat der Union : Laschets Feuertaufe

So hatte Markus Söder nicht gewettet. Doch nun muss er Wort halten und alles dafür tun, dass sein Rivale ins Kanzleramt einzieht. Das hat Armin Laschet sich verdient.
Ein Frachtschiff im Bosporus wird 2019 abgeschleppt, nachdem es die Küstenstraße der Meerenge gerammt hatte.

Alternative zum Suezkanal : Erdogans neues Megaprojekt

Mit der kostenlosen Passage durch den Bosporus lässt sich kein Geld verdienen. Im Kampf um das östliche Mittelmeer soll der „Kanal Istanbul“ nun die Position der Türkei stärken.
Vogue-Chefredakteurin Anna Wintour (links) und die damalige Kreativdirektorin Grace Coddington besuchen 2013 die Chanel-Modenschau in Paris.

Grace Coddington wird 80 : Rockstar der Mode-Branche

Ein Autounfall zerstörte ihre Topmodel-Träume, doch Grace Coddington legte trotzdem eine steile Karriere hin. Jetzt wird die langjährige amerikanische „Vogue“-Kreativdirektorin 80 Jahre alt – und hofft auf einen Neuanfang ihrer Branche.

Newsletter

Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.