https://www.faz.net/-gqz-9105r

Künstliche Intelligenz : Denn wir wissen nicht, wie sie’s tun

Eine ähnliche Studie wurde im vergangenen Jahr von Forschern des Fraunhofer Instituts, der TU Berlin und der Universität Seoul um Leila Arras durchgeführt. Diesmal wurden Algorithmen untersucht, die Texte in Hinsicht auf deren Inhalt, Stil oder zugrunde liegender Meinung einordnen sollten. Auch in diesem Fall erzielten beide Algorithmen eine ähnliche Testgenauigkeit, obwohl die von ihnen entwickelten Beurteilungsmechanismen sehr verschieden waren: Der Netzwerkalgorithmus basierte seine Einordnungen auf wenige besondere Signalwörter, während der alternative Algorithmus basierend auf Regularitäten bei der Anzahl verwendeter Wörter urteilte.

Die KI im Auge behalten

Die Untersuchungen zeigen, wie gefährlich es gegebenenfalls sein kann, wenn man sich auf die Lernerfolge von Algorithmen verlässt, die man gleichzeitig als Black Box behandelt. Ein Aspekt des Problems beruht darauf, dass durch die Analyse von Daten Korrelationen zutage gefördert werden können, die nicht auf Notwendigkeiten verweisen müssen. Im Beispiel der Pferdebilder waren im Testsample Pferde und Copyright zwar korreliert und traten immer zusammen auf, die Verbindung beider war aber zufällig. Thomas Wiegand vom Fraunhofer Heinrich Hertz Institut präsentierte in diesem Sommer bei einer Big-Data-Tagung in Berlin ein besonders illustratives Beispiel eines solchen Versagens. Ein selbstlernendes System sollte vorhersagen, ob eine erkrankte Person als Risikopatient bei einer Lungenentzündung sofort behandelt werden muss. Nach der Trainingsphase, die auf der Grundlage von über 14.000 echten Patientendatensätzen erfolgte, kam das System zu dem Ergebnis, dass Personen mit Asthma, Brustschmerzen und Herzproblemen nicht als Risikopatienten einzuordnen sind – ein Resultat, das offenbar jeder Intuition zuwiderläuft.

Sprinter – der politische Newsletter der F.A.Z.
Sprinter – der Newsletter der F.A.Z. am Morgen

Starten Sie den Tag mit diesem Überblick über die wichtigsten Themen. Eingeordnet und kommentiert von unseren Autoren.

Mehr erfahren

Der Grund für die Fehleinschätzung war, dass diese Menschen mit Vorerkrankung von vornherein regelmäßig zum Arzt gehen und daher im Vergleich zu einem gesunden Menschen einem geringeren Risiko unterliegen, an einer Lungenentzündung zu sterben. Sofern diese Tatsache aber dazu führen würde, dass die entsprechenden Patienten im Krankenhaus bevorzugt abgewiesen würden, wäre dies offenbar fatal. Bei allen beeindruckenden Erfolgen lernender Algorithmen, die wir bereits vorzuweisen haben und noch erwarten dürfen, scheint also zu gelten: Blindes Vertrauen kann gefährlich sein, auch intelligente Algorithmen sollten wir kritisch im Auge behalten – zumal, wenn sie mehr und mehr unseren Alltag bestimmen. Zumindest in diesem Sinne ist Elon Musk in seinem Ruf nach einer Kontrolle Künstlicher Intelligenz eindeutig zuzustimmen.

Weitere Themen

„Harri Pinter Drecksau“ Video-Seite öffnen

Trailer : „Harri Pinter Drecksau“

Jürgen Maurer spielt Harri Pinter, einen Mitvierziger, der von sich und seinem Auftritt mehr als überzeugt ist. Als seine Freundin ihn jedoch betrügt, gerät sein Selbstbild ins Wanken. Der österreichische Film läuft am 19.07.2019 um 20.15 Uhr auf arte.

Topmeldungen

Von der Leyen und die EU : Die Hoffnungsträgerin

An Enthusiasmus fehlt es der neuen EU-Kommissionspräsidentin nicht. Die Chancen stehen nicht schlecht, dass Ursula von der Leyen es schafft, ein breites Bündnis im Europaparlament für sich zu gewinnen.

737 Max : Flugverbot kostet Boeing Milliarden

Der amerikanische Konzern stellt sich nach den Abstürzen der 737-Max-Maschinen auf hohe Entschädigungen ein. Es könnte sogar noch schlimmer kommen. Doch die Investoren goutieren die Klarheit.
Unsere Sprinter-Autorin: Rebecca Boucsein

FAZ-Sprinter : Wiedersehen mit Greta und Abschied von unserem Wald

Das Klimakabinett streitet über höhere Preise fürs Fliegen, Greta Thunberg reist mit dem Zug nach Berlin und Forstwirte bangen um einen tief in der deutschen Geschichte verwurzelten Baum. Was sonst noch wichtig wird, steht im FAZ-Sprinter.

Newsletter

Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.