https://www.faz.net/-gwz-9n6gv

Klug verdrahtet : Endlich Licht in der Black Box

Künstliche Intelligenz und Robotik im Heinz Nixdorf MuseumsForum. Bild: dpa

Künstliche Intelligenz lenkt und entscheidet schon, aber sie lässt im Dunkeln, wie genau sie dabei vorgeht. Zwei Algorithmen aus der Medizinforschung führen vor, was wir gewinnen, wenn Rechner Auskunft geben (müssen).

          1 Min.

          Wenn lernende Maschinen anfangen, uns nicht nur damit zu imponieren, was sie nach dem Training aus einem riesigen Datenpool gelernt haben, sondern auch erklären, wie sie zu ihren Entscheidungen kommen, sind wir ein großes Stück weiter mit der Künstlichen Intelligenz. Solche „erklärenden KI-Systeme“ sind derzeit extrem gesucht. Ende der Black Box, der Mensch will sich auf die Algorithmen verlassen können. Und das kann er vielfach im Alltag nur, wenn er auch wissen kann, auf welcher Grundlage die Algorithmen ihre Entscheidung treffen. Begründungen sind also gefragt.

          Joachim Müller-Jung
          Redakteur im Feuilleton, zuständig für das Ressort „Natur und Wissenschaft“.

          Können praxistaugliche KI-Systeme so konstruiert werden? Durchaus, wie zwei aktuelle Veröffentlichungen in „Nature Machine Intelligence“ zeigen. Roland Eils vom Berlin Institute of Health (BIH) und Dominik Niopek vom Heidelberger Institut für Pharmazie und Molekulare Biotechnologie waren zusammen mit Studenten erfolgreich darin, einen erklärenden Algorithmus zu entwickeln.

          Masterstudent Julius Upmeier zu Belzen, Erstautor der Studie, hat ein künstliches neuronales Netzwerk – „DeeProtein“ – dazu gebracht, seine Vorhersagen über die dreidimensionale Struktur von Proteinen offenzulegen. Aus der Abfolge von oft Hunderten Proteinbausteinen, den Aminosäuren, können lernende Maschinen heute zwar passabel vorhersagen, wie das Protein am Ende aussehen könnte. Worauf die Vorhersage gründet, bleibt aber meist im Dunkeln. „DeeProtein“ schaut dem Algorithmus nun quasi über die Schultern, während der Rechner anhand der chemischen und physikalischen Veränderungen seinen nächsten Schritt beim Zusammenbau des Proteins vollzieht.

          Der „Arztbrief“ vom KI-Rechner

          Ähnlich auskunftsfreudig ist ein Algorithmus der Universität von Florida, den Pathologen genutzt haben, um anhand der Bilder die Stadien und die Aggressivität von Blasentumoren einzuordnen. Indem sie unterschiedliche neuronale Netzwerke miteinander verbunden haben – „Convolutional Neural Networks“ zur Mustererkennung und ein „Recurrent Neural Network“ zur Texterzeugung –, haben sie nicht nur Diagnosen erhalten, die im Test etwas genauer waren als das Durchschnittsergebnis von siebzehn Pathologen, die KI hat ihnen quasi auch den Arztbrief mitgeliefert. Das System erklärt verständlich, wie es zu der Einstufung des Tumors gekommen ist. Geklärt werden muss freilich noch, wie überzeugend die Ärzte die Begründung finden, auf der sie ihre Therapieentscheidung gründen sollen.

          Weitere Themen

          Topmeldungen

          Ein Mitarbeiter einer Corona-Teststation auf dem Marktplatz vor dem Rathaus in Tübingen hat Teströhrchen in der Hand.

          Corona-Pandemie : Sieben-Tage-Inzidenz fällt auf 432,2

          Die Gesundheitsämter melden dem Robert-Koch-Institut 36.059 Corona-Neuinfektionen, die Sieben-Tage-Inzidenz sinkt leicht. Bei der Einordnung der Zahlen weist das RKI auch auf eine mögliche Untererfassung hin.
          Im Namen Taiwans: Das Repräsentationsbüro in Vilnius

          Ärger wegen Taiwan-Büro : Wenn China Fliegen fängt

          Peking straft das kleine Litauen für die Eröffnung eines Taiwan-Büros ab. Den chinesischen Zorn haben auch schon Kanada und Australien in anderen Fällen zu spüren bekommen. Welche Erfahrung hat man dort gemacht?