https://www.faz.net/-gwz-9thhi

Cybersicherheit : Warum wir KI nicht vertrauen sollten

Künstliche Intelligenz bietet vielversprechende Lösungen für Cybersicherheit. Ihr Einsatz birgt aber auch Gefahren. Bild: dpa

Künstliche Intelligenz liefert vielversprechende Ansätze für Cybersicherheit. Wissenschaftler warnen, dass diese Strategie nicht ganz ungefährlich ist.

          1 Min.

          Vertrauen ist ein leidiges Thema. Sobald wir mit anderen Menschen zu tun haben, können wir nicht ohne: Wenn man andere um Rat fragt oder sobald man auf fremde Hilfe angewiesen ist, muss man vertrauen können. Ganz zu schweigen von der umfassenden Arbeitsteilung, die unserer Gesellschaft zugrunde liegt. Aber, und das ist eine Binsenweisheit, Vertrauen bedeutet immer auch Gefahr. In Bezug auf Menschen lernen wir das schnell.

          Im Umgang mit Maschinen sind wir dagegen in der Regel etwas gutgläubiger. Ganz besonders gilt das gegenüber jenen, die vorgeben, intelligent zu sein. Und damit ist gar nicht einmal gemeint, dass wir vertraulich mit Alexa plaudern und uns auf den Rat von Algorithmen verlassen, als folgten sie ausnahmslos und zuverlässig begrüßenswerten Motiven.

          Wirklich bedenklich wird der Maschinenglaube, wenn wir der Künstlichen Intelligenz (KI) die Aufsicht über unsere kritische Infrastruktur, über Transportsysteme, Krankenhäuser, Energie- und Wasserversorgung übertragen. Das ist im Dienste der Internetsicherheit immer stärker der Fall – und grundsätzlich aus guten Gründen: Wenn Infrastruktur Cyberangriffen ausgesetzt ist, dann kann KI Selbsttests und Selbstreparatur der Software veranlassen, sie kann Reaktionen auf Angriffe dynamisch beantworten und das attackierte System widerstandsfähiger machen.

          Dass wir trotz des Nutzens nicht zu viel Vertrauen in die KI setzen sollten, mahnen nun britische Wissenschaftler in „Nature Maschine Intelligence“. Der Grund: KI muss lernen, und wer lernen muss, kann durch manipulierte Beispiele in die Irre geführt werden. Das nutzen Hacker, indem durch das Einspeisen geringer Mengen fehlerhafter Trainingsdaten das Verhalten der KI manipuliert wird. Das Prinzip wird an einem im vergangenen Jahr veröffentlichten Beispiel deutlich: Eine Bilderkennungs-KI wurde da durch das Anbringen eines unscheinbaren Aufklebers dazu gebracht, Stoppschilder als Geschwindigkeitsbegrenzungsschilder zu interpretieren.

          Problematisch ist solches möglicherweise fremd verursachte Fehlverhalten insbesondere, weil es schwer aufzudecken ist, der Intransparenz der KI sei Dank. Die britischen Wissenschaftler rufen daher zur Vorsicht auf. KI-Modelle sollten möglichst betriebsintern entwickelt werden, auf Angriffe hin trainiert und durch Klon-Systeme kontrolliert werden. Denn das, was daraus für uns folgen muss, kennen wir ja schon lange von unseren manipulierbaren und intransparenten Mitmenschen: Vertrauen ist gut, Kontrolle ist besser.

          Weitere Themen

          Die angeknackste Psyche der Jugend

          Wie viele Kinder leiden? : Die angeknackste Psyche der Jugend

          Warum sind in Deutschland doppelt so viele junge Menschen depressiv wie im Rest Europas? Eine große Studie legt das nahe. Doch die Statistik ist trügerisch, was nicht zuletzt auch an den Ärzten liegt.

          Klimawandel vom All aus sichtbar Video-Seite öffnen

          Astronaut bestätigt : Klimawandel vom All aus sichtbar

          Esa-Astronaut Luca Parmitano bestätigt, dass der Klimawandel für ihn sichtbar sei. Da passt es gut, dass die Klimakämpferin Greta Thunberg vom Time Magazin zur Person des Jahres gekürt wurde.

          Topmeldungen

          Die draußen gegen die drinnen: Aktivisten demonstrieren am Mittwoch vor den Türen der Messehalle in Madrid.

          Klimagipfel in Madrid : Aufbruch im Mäuseschritt

          Beim Klimagipfel in Madrid trifft Protest auf Politik, ehrgeizig wollen alle sein. Doch im Inneren der Messehalle sind selbst kleine Kompromisse mühsam – vielversprechend klingt nur der „Green Deal.“
          Christine Lagarde auf der Pressekonferenz in Frankfurt

          EZB-Präsidentin Lagarde : Zinsentscheid mit einem Lächeln

          Die neue Präsidentin der Europäischen Zentralbank, Christine Lagarde, stellt sich erstmals nach einer Ratssitzung der Presse. Den Zinssatz lässt sie unverändert, doch ihr Stil unterscheidet sich deutlich von dem ihres Vorgängers Draghi.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.