https://www.faz.net/-gqz-9105r

Künstliche Intelligenz : Denn wir wissen nicht, wie sie’s tun

Eine ähnliche Studie wurde im vergangenen Jahr von Forschern des Fraunhofer Instituts, der TU Berlin und der Universität Seoul um Leila Arras durchgeführt. Diesmal wurden Algorithmen untersucht, die Texte in Hinsicht auf deren Inhalt, Stil oder zugrunde liegender Meinung einordnen sollten. Auch in diesem Fall erzielten beide Algorithmen eine ähnliche Testgenauigkeit, obwohl die von ihnen entwickelten Beurteilungsmechanismen sehr verschieden waren: Der Netzwerkalgorithmus basierte seine Einordnungen auf wenige besondere Signalwörter, während der alternative Algorithmus basierend auf Regularitäten bei der Anzahl verwendeter Wörter urteilte.

Die KI im Auge behalten

Die Untersuchungen zeigen, wie gefährlich es gegebenenfalls sein kann, wenn man sich auf die Lernerfolge von Algorithmen verlässt, die man gleichzeitig als Black Box behandelt. Ein Aspekt des Problems beruht darauf, dass durch die Analyse von Daten Korrelationen zutage gefördert werden können, die nicht auf Notwendigkeiten verweisen müssen. Im Beispiel der Pferdebilder waren im Testsample Pferde und Copyright zwar korreliert und traten immer zusammen auf, die Verbindung beider war aber zufällig. Thomas Wiegand vom Fraunhofer Heinrich Hertz Institut präsentierte in diesem Sommer bei einer Big-Data-Tagung in Berlin ein besonders illustratives Beispiel eines solchen Versagens. Ein selbstlernendes System sollte vorhersagen, ob eine erkrankte Person als Risikopatient bei einer Lungenentzündung sofort behandelt werden muss. Nach der Trainingsphase, die auf der Grundlage von über 14.000 echten Patientendatensätzen erfolgte, kam das System zu dem Ergebnis, dass Personen mit Asthma, Brustschmerzen und Herzproblemen nicht als Risikopatienten einzuordnen sind – ein Resultat, das offenbar jeder Intuition zuwiderläuft.

Der Grund für die Fehleinschätzung war, dass diese Menschen mit Vorerkrankung von vornherein regelmäßig zum Arzt gehen und daher im Vergleich zu einem gesunden Menschen einem geringeren Risiko unterliegen, an einer Lungenentzündung zu sterben. Sofern diese Tatsache aber dazu führen würde, dass die entsprechenden Patienten im Krankenhaus bevorzugt abgewiesen würden, wäre dies offenbar fatal. Bei allen beeindruckenden Erfolgen lernender Algorithmen, die wir bereits vorzuweisen haben und noch erwarten dürfen, scheint also zu gelten: Blindes Vertrauen kann gefährlich sein, auch intelligente Algorithmen sollten wir kritisch im Auge behalten – zumal, wenn sie mehr und mehr unseren Alltag bestimmen. Zumindest in diesem Sinne ist Elon Musk in seinem Ruf nach einer Kontrolle Künstlicher Intelligenz eindeutig zuzustimmen.

Weitere Themen

Kunst am Fuße der Pyramiden Video-Seite öffnen

Ägypten : Kunst am Fuße der Pyramiden

Das ägyptische Unternehmen „Art D’Egypte“ eröffnet seine Ausstellung mit dem Titel „Forever Is Now“. Es ist die erste internationale Kunstausstellung, die an den Pyramiden von Gizeh und auf dem umliegenden Gizeh-Plateau stattfindet.

Topmeldungen

Facebook Gründer Mark Zuckerberg stellt den neuen Namen des Konzerns bei dem digitalen Event vor.

Zuckerberg gibt bekannt : Aus Facebook wird „Meta“

Inmitten der Whistleblower-Affäre benennt Mark Zuckerberg sein Unternehmen um. Der bisherige Name sei zwar eine „Ikone“, aber nicht mehr zeitgemäß. Und der neue Name? Steht für eine ambitionierte Vision.
Militärparade zum siebzigsten Geburtstag der Volksrepublik China im Oktober 2019 in Peking

Pentagon bestätigt Waffentest : „Sehr nah an einem Sputnik-Moment“

Das amerikanische Verteidigungsministerium hat erstmals den Test eines neuen chinesischen Hyperschallwaffensystems bestätigt. Eine solche Waffe könnte das amerikanische Abwehrsystem umgehen. Peking spricht von einem Routine-Test.

0:5-Debakel im DFB-Pokal : Ist bei den Bayern etwa mehr kaputt?

Die Schmach von Gladbach ist für die Mia-san-mia-Münchner nur ein Ausrutscher. Oder doch nicht? Die Bayern rätseln über die Ursachen und befürchten nachhaltigen Schaden.

Newsletter

Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.