https://www.faz.net/-gwz-9n6gv

Klug verdrahtet : Endlich Licht in der Black Box

Künstliche Intelligenz und Robotik im Heinz Nixdorf MuseumsForum. Bild: dpa

Künstliche Intelligenz lenkt und entscheidet schon, aber sie lässt im Dunkeln, wie genau sie dabei vorgeht. Zwei Algorithmen aus der Medizinforschung führen vor, was wir gewinnen, wenn Rechner Auskunft geben (müssen).

          1 Min.

          Wenn lernende Maschinen anfangen, uns nicht nur damit zu imponieren, was sie nach dem Training aus einem riesigen Datenpool gelernt haben, sondern auch erklären, wie sie zu ihren Entscheidungen kommen, sind wir ein großes Stück weiter mit der Künstlichen Intelligenz. Solche „erklärenden KI-Systeme“ sind derzeit extrem gesucht. Ende der Black Box, der Mensch will sich auf die Algorithmen verlassen können. Und das kann er vielfach im Alltag nur, wenn er auch wissen kann, auf welcher Grundlage die Algorithmen ihre Entscheidung treffen. Begründungen sind also gefragt.

          Joachim Müller-Jung

          Redakteur im Feuilleton, zuständig für das Ressort „Natur und Wissenschaft“.

          Können praxistaugliche KI-Systeme so konstruiert werden? Durchaus, wie zwei aktuelle Veröffentlichungen in „Nature Machine Intelligence“ zeigen. Roland Eils vom Berlin Institute of Health (BIH) und Dominik Niopek vom Heidelberger Institut für Pharmazie und Molekulare Biotechnologie waren zusammen mit Studenten erfolgreich darin, einen erklärenden Algorithmus zu entwickeln.

          Masterstudent Julius Upmeier zu Belzen, Erstautor der Studie, hat ein künstliches neuronales Netzwerk – „DeeProtein“ – dazu gebracht, seine Vorhersagen über die dreidimensionale Struktur von Proteinen offenzulegen. Aus der Abfolge von oft Hunderten Proteinbausteinen, den Aminosäuren, können lernende Maschinen heute zwar passabel vorhersagen, wie das Protein am Ende aussehen könnte. Worauf die Vorhersage gründet, bleibt aber meist im Dunkeln. „DeeProtein“ schaut dem Algorithmus nun quasi über die Schultern, während der Rechner anhand der chemischen und physikalischen Veränderungen seinen nächsten Schritt beim Zusammenbau des Proteins vollzieht.

          Der „Arztbrief“ vom KI-Rechner

          Ähnlich auskunftsfreudig ist ein Algorithmus der Universität von Florida, den Pathologen genutzt haben, um anhand der Bilder die Stadien und die Aggressivität von Blasentumoren einzuordnen. Indem sie unterschiedliche neuronale Netzwerke miteinander verbunden haben – „Convolutional Neural Networks“ zur Mustererkennung und ein „Recurrent Neural Network“ zur Texterzeugung –, haben sie nicht nur Diagnosen erhalten, die im Test etwas genauer waren als das Durchschnittsergebnis von siebzehn Pathologen, die KI hat ihnen quasi auch den Arztbrief mitgeliefert. Das System erklärt verständlich, wie es zu der Einstufung des Tumors gekommen ist. Geklärt werden muss freilich noch, wie überzeugend die Ärzte die Begründung finden, auf der sie ihre Therapieentscheidung gründen sollen.

          Weitere Themen

          Hinterm Baggersee geht’s weiter

          FAZ Plus Artikel: Naturschutz : Hinterm Baggersee geht’s weiter

          Wer in Deutschland Natur in Bauland umwandelt, muss zum Ausgleich Flächen bepflanzen. Doch was eigentlich dem Naturschutz dienen soll, fördert oft die Bauindustrie. Geltendes Recht wird gebeugt – oder gleich ganz ignoriert.

          Topmeldungen

          Blick von einer Fähre des Fährunternehmens Scandlines auf eine Fähre im Fehmarnbelt

          Streit um die Ostseequerung : Der Bau im Belt

          Unter der Ostsee soll ein langer Tunnel Deutschland und Dänemark verbinden. Der Widerstand ist heftig – aber nur in Deutschland. Ein Ortsbesuch.
          Autor Heribert Schwan

          Kohl-Biograph : Eine Frage der Tonbänder

          Heribert Schwan, einst Ghostwriter von Helmut Kohl, rückt die Tonbänder mit den Gesprächen der beiden nicht heraus. Vor dem Bundesverfassungsgericht will er sich auf die Pressefreiheit berufen.

          Zurück zur Pandemie : So will Biden gegen Trump punkten

          Ginsburgs Tod gibt Trump Auftrieb. Denn in Amerika reimt sich Supreme Court auf Kulturkampf, und den facht der Präsident gern an. Der Demokrat Biden aber glaubt zu wissen, wie er wieder in die Offensive kommt.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.