https://www.faz.net/-gwz-9n6gv

Klug verdrahtet : Endlich Licht in der Black Box

Künstliche Intelligenz und Robotik im Heinz Nixdorf MuseumsForum. Bild: dpa

Künstliche Intelligenz lenkt und entscheidet schon, aber sie lässt im Dunkeln, wie genau sie dabei vorgeht. Zwei Algorithmen aus der Medizinforschung führen vor, was wir gewinnen, wenn Rechner Auskunft geben (müssen).

          Wenn lernende Maschinen anfangen, uns nicht nur damit zu imponieren, was sie nach dem Training aus einem riesigen Datenpool gelernt haben, sondern auch erklären, wie sie zu ihren Entscheidungen kommen, sind wir ein großes Stück weiter mit der Künstlichen Intelligenz. Solche „erklärenden KI-Systeme“ sind derzeit extrem gesucht. Ende der Black Box, der Mensch will sich auf die Algorithmen verlassen können. Und das kann er vielfach im Alltag nur, wenn er auch wissen kann, auf welcher Grundlage die Algorithmen ihre Entscheidung treffen. Begründungen sind also gefragt.

          Joachim Müller-Jung

          Redakteur im Feuilleton, zuständig für das Ressort „Natur und Wissenschaft“.

          Können praxistaugliche KI-Systeme so konstruiert werden? Durchaus, wie zwei aktuelle Veröffentlichungen in „Nature Machine Intelligence“ zeigen. Roland Eils vom Berlin Institute of Health (BIH) und Dominik Niopek vom Heidelberger Institut für Pharmazie und Molekulare Biotechnologie waren zusammen mit Studenten erfolgreich darin, einen erklärenden Algorithmus zu entwickeln.

          Masterstudent Julius Upmeier zu Belzen, Erstautor der Studie, hat ein künstliches neuronales Netzwerk – „DeeProtein“ – dazu gebracht, seine Vorhersagen über die dreidimensionale Struktur von Proteinen offenzulegen. Aus der Abfolge von oft Hunderten Proteinbausteinen, den Aminosäuren, können lernende Maschinen heute zwar passabel vorhersagen, wie das Protein am Ende aussehen könnte. Worauf die Vorhersage gründet, bleibt aber meist im Dunkeln. „DeeProtein“ schaut dem Algorithmus nun quasi über die Schultern, während der Rechner anhand der chemischen und physikalischen Veränderungen seinen nächsten Schritt beim Zusammenbau des Proteins vollzieht.

          Der „Arztbrief“ vom KI-Rechner

          Ähnlich auskunftsfreudig ist ein Algorithmus der Universität von Florida, den Pathologen genutzt haben, um anhand der Bilder die Stadien und die Aggressivität von Blasentumoren einzuordnen. Indem sie unterschiedliche neuronale Netzwerke miteinander verbunden haben – „Convolutional Neural Networks“ zur Mustererkennung und ein „Recurrent Neural Network“ zur Texterzeugung –, haben sie nicht nur Diagnosen erhalten, die im Test etwas genauer waren als das Durchschnittsergebnis von siebzehn Pathologen, die KI hat ihnen quasi auch den Arztbrief mitgeliefert. Das System erklärt verständlich, wie es zu der Einstufung des Tumors gekommen ist. Geklärt werden muss freilich noch, wie überzeugend die Ärzte die Begründung finden, auf der sie ihre Therapieentscheidung gründen sollen.

          Weitere Themen

          Under Pressure

          Netzrätsel : Under Pressure

          Es gibt so gut wie nichts, was es nicht gibt im Netz der Netze: Geniales, Interessantes, Nützliches und herrlich Überflüssiges. Diesmal: Kopfrechnen unter erschwerten Bedingungen.

          Programmierte Ungleichheit

          Soziale Systeme : Programmierte Ungleichheit

          Die „gender pay gap“ bezeichnet die ungleiche Bezahlung von Männern und Frauen im gleichen Beruf. Während alte Rollenbilder zumindest teilweise verschwinden, könnte die Digitalisierung die Schere stärker auseinandertreiben.

          Topmeldungen

          Massentourismus vom Wasser kommend: Zwei Kreuzfahrtschiffen liegen im Geirangerfjord.

          Umstrittene Kreuzfahrtschiffe : Norwegen macht die Fjorde langsam dicht

          Es ist ein Geldsegen und ein Öko-Fluch: Seit kurzem gelten in fünf norwegischen Fjorden für Kreuzfahrtschiffe strenge Umweltauflagen, die die Luftverschmutzung begrenzen sollen. Glücklich sind die Menschen in der Urlauberhochburg Geiranger damit nicht.
          Kanzlerin Angela Merkel stellt mit ihrem Klimakabinett die Ergebnisse eines Kompromisses zum Klimapaket vor.

          Klimakabinett : Das deutsche Klima-Experiment

          Deutschland allein kann das Klima nicht retten. Aber andere Länder schauen genau darauf, wie Kanzlerin Merkel versucht, die Emissionen zu senken. Kann Deutschland Vorbild sein oder muss es über den Ärmelkanal schauen?

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.