https://www.faz.net/-gqz-9105r

Künstliche Intelligenz : Denn wir wissen nicht, wie sie’s tun

Eine ähnliche Studie wurde im vergangenen Jahr von Forschern des Fraunhofer Instituts, der TU Berlin und der Universität Seoul um Leila Arras durchgeführt. Diesmal wurden Algorithmen untersucht, die Texte in Hinsicht auf deren Inhalt, Stil oder zugrunde liegender Meinung einordnen sollten. Auch in diesem Fall erzielten beide Algorithmen eine ähnliche Testgenauigkeit, obwohl die von ihnen entwickelten Beurteilungsmechanismen sehr verschieden waren: Der Netzwerkalgorithmus basierte seine Einordnungen auf wenige besondere Signalwörter, während der alternative Algorithmus basierend auf Regularitäten bei der Anzahl verwendeter Wörter urteilte.

Die KI im Auge behalten

Die Untersuchungen zeigen, wie gefährlich es gegebenenfalls sein kann, wenn man sich auf die Lernerfolge von Algorithmen verlässt, die man gleichzeitig als Black Box behandelt. Ein Aspekt des Problems beruht darauf, dass durch die Analyse von Daten Korrelationen zutage gefördert werden können, die nicht auf Notwendigkeiten verweisen müssen. Im Beispiel der Pferdebilder waren im Testsample Pferde und Copyright zwar korreliert und traten immer zusammen auf, die Verbindung beider war aber zufällig. Thomas Wiegand vom Fraunhofer Heinrich Hertz Institut präsentierte in diesem Sommer bei einer Big-Data-Tagung in Berlin ein besonders illustratives Beispiel eines solchen Versagens. Ein selbstlernendes System sollte vorhersagen, ob eine erkrankte Person als Risikopatient bei einer Lungenentzündung sofort behandelt werden muss. Nach der Trainingsphase, die auf der Grundlage von über 14.000 echten Patientendatensätzen erfolgte, kam das System zu dem Ergebnis, dass Personen mit Asthma, Brustschmerzen und Herzproblemen nicht als Risikopatienten einzuordnen sind – ein Resultat, das offenbar jeder Intuition zuwiderläuft.

Sprinter – der politische Newsletter der F.A.Z.
Sprinter – der Newsletter der F.A.Z. am Morgen

Starten Sie den Tag mit diesem Überblick über die wichtigsten Themen. Eingeordnet und kommentiert von unseren Autoren.

Mehr erfahren

Der Grund für die Fehleinschätzung war, dass diese Menschen mit Vorerkrankung von vornherein regelmäßig zum Arzt gehen und daher im Vergleich zu einem gesunden Menschen einem geringeren Risiko unterliegen, an einer Lungenentzündung zu sterben. Sofern diese Tatsache aber dazu führen würde, dass die entsprechenden Patienten im Krankenhaus bevorzugt abgewiesen würden, wäre dies offenbar fatal. Bei allen beeindruckenden Erfolgen lernender Algorithmen, die wir bereits vorzuweisen haben und noch erwarten dürfen, scheint also zu gelten: Blindes Vertrauen kann gefährlich sein, auch intelligente Algorithmen sollten wir kritisch im Auge behalten – zumal, wenn sie mehr und mehr unseren Alltag bestimmen. Zumindest in diesem Sinne ist Elon Musk in seinem Ruf nach einer Kontrolle Künstlicher Intelligenz eindeutig zuzustimmen.

Weitere Themen

Digitales Tulpenfieber

Kunst und Codes : Digitales Tulpenfieber

In Hannover und Basel zeigen junge Künstler, was sie mit Künstlicher Intelligenz schaffen können. Ihre Software lässt abertausend Blumen blühen – und züchtet Wesen für die Postapokalypse heran.

„Little Joe“ Video-Seite öffnen

Filmclip : „Little Joe“

Auch in Konkurrenz um die Goldene Palme: Das Science-Fiction-Drama „Little Joe“ von Jessica Hausner, der am 17. Mai 2019 im Rahmen der 72. Internationalen Filmfestspiele von Cannes seine Premiere feierte.

„A Hidden Life“ Video-Seite öffnen

Filmclip : „A Hidden Life“

Das biografisch gefärbte Filmdrama „A Hidden Life“ von Terrence Malick feierte auf den Internationalen Filmfestspielen in Cannes 2019 seine Premiere und konkurriert dort um die Goldene Palme.

Topmeldungen

Niki Lauda ist im Alter von 70 Jahren gestorben.

Formel-1-Legende : Niki Lauda ist tot

Formel-1-Legende Niki Lauda ist gestorben: Der dreifache Formel-1-Weltmeister wurde 70 Jahre alt. Nicht nur als Sportler feierte der Österreicher Erfolge.

Österreichs Regierung am Boden : Von der Musterehe zum Rosenkrieg

Aus den Rissen in der türkis-blauen Koalition wurden durch die Ibiza-Affäre in beeindruckender Geschwindigkeit Gräben. Die Neuwahl ist für Sebastian Kurz eine Chance, mehr Stimmen für die ÖVP zu gewinnen – aber sie birgt auch ein großes Risiko.
Unser Sprinter-Autor: Thomas Holl

FAZ.NET-Sprinter : Der Kommissar geht um

Von den Vengaboys bis zum verstorbenen Wiener Popkönig Falco: Das Ibiza-Video der gefallenen FPÖ-Größen Strache und Gudenus liefert Österreich derzeit gleich mehrere Soundtracks. Was sonst noch wichtig ist, steht im FAZ.NET-Sprinter.

Newsletter

Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.