https://www.faz.net/-gwz-9n6gv

Klug verdrahtet : Endlich Licht in der Black Box

Künstliche Intelligenz und Robotik im Heinz Nixdorf MuseumsForum. Bild: dpa

Künstliche Intelligenz lenkt und entscheidet schon, aber sie lässt im Dunkeln, wie genau sie dabei vorgeht. Zwei Algorithmen aus der Medizinforschung führen vor, was wir gewinnen, wenn Rechner Auskunft geben (müssen).

          Wenn lernende Maschinen anfangen, uns nicht nur damit zu imponieren, was sie nach dem Training aus einem riesigen Datenpool gelernt haben, sondern auch erklären, wie sie zu ihren Entscheidungen kommen, sind wir ein großes Stück weiter mit der Künstlichen Intelligenz. Solche „erklärenden KI-Systeme“ sind derzeit extrem gesucht. Ende der Black Box, der Mensch will sich auf die Algorithmen verlassen können. Und das kann er vielfach im Alltag nur, wenn er auch wissen kann, auf welcher Grundlage die Algorithmen ihre Entscheidung treffen. Begründungen sind also gefragt.

          Joachim Müller-Jung

          Redakteur im Feuilleton, zuständig für das Ressort „Natur und Wissenschaft“.

          Können praxistaugliche KI-Systeme so konstruiert werden? Durchaus, wie zwei aktuelle Veröffentlichungen in „Nature Machine Intelligence“ zeigen. Roland Eils vom Berlin Institute of Health (BIH) und Dominik Niopek vom Heidelberger Institut für Pharmazie und Molekulare Biotechnologie waren zusammen mit Studenten erfolgreich darin, einen erklärenden Algorithmus zu entwickeln.

          Masterstudent Julius Upmeier zu Belzen, Erstautor der Studie, hat ein künstliches neuronales Netzwerk – „DeeProtein“ – dazu gebracht, seine Vorhersagen über die dreidimensionale Struktur von Proteinen offenzulegen. Aus der Abfolge von oft Hunderten Proteinbausteinen, den Aminosäuren, können lernende Maschinen heute zwar passabel vorhersagen, wie das Protein am Ende aussehen könnte. Worauf die Vorhersage gründet, bleibt aber meist im Dunkeln. „DeeProtein“ schaut dem Algorithmus nun quasi über die Schultern, während der Rechner anhand der chemischen und physikalischen Veränderungen seinen nächsten Schritt beim Zusammenbau des Proteins vollzieht.

          Der „Arztbrief“ vom KI-Rechner

          Ähnlich auskunftsfreudig ist ein Algorithmus der Universität von Florida, den Pathologen genutzt haben, um anhand der Bilder die Stadien und die Aggressivität von Blasentumoren einzuordnen. Indem sie unterschiedliche neuronale Netzwerke miteinander verbunden haben – „Convolutional Neural Networks“ zur Mustererkennung und ein „Recurrent Neural Network“ zur Texterzeugung –, haben sie nicht nur Diagnosen erhalten, die im Test etwas genauer waren als das Durchschnittsergebnis von siebzehn Pathologen, die KI hat ihnen quasi auch den Arztbrief mitgeliefert. Das System erklärt verständlich, wie es zu der Einstufung des Tumors gekommen ist. Geklärt werden muss freilich noch, wie überzeugend die Ärzte die Begründung finden, auf der sie ihre Therapieentscheidung gründen sollen.

          Weitere Themen

          In der Menge liegt die Wahrheit Video-Seite öffnen

          Vererbungslehre : In der Menge liegt die Wahrheit

          Wie Vererbung geht, lernt man bereits in der Schule. Aber so einfach wie bei Erbsen ist das nur in Ausnahmefällen. Die quantitative Genetik hat in jüngster Zeit Erkenntnisse gewonnen, die alles auf den Kopf stellen. Das wird schon bald praktische Konsequenzen haben.

          Topmeldungen

          Ehemaliger Lebensmittelladen in Loitz: Der Solidaritätszuschlag dient in erster Linie zur Finanzierung der Kosten, die die deutsche Wiedervereinigung verursacht hat. (Archiv)

          Wortbruch der Union : Soli-Schmerzen

          Dass ein Teil des Soli bleibt, dürfte für die Betroffenen finanziell zu verschmerzen sein. Nicht aber der Wortbruch der Union – und das bittere Gefühl, dass ihr Sondereinsatz für das Land nicht einmal wertgeschätzt wird.
          Trotz Sanktionen: Schweißer arbeiten Anfang April im Karosseriebau des Mercedes-Benz Werks im Industriepark Jessipowo bei Moskau

          Russland-Sanktionen : Der Preis des Zurückweichens

          Die Russland-Sanktionen waren ein Signal. Deren Aufhebung wäre es erst recht – die EU würde damit demonstrativ vor Moskaus Politik der Gewalt und Drohung zurückweichen.

          FAZ Plus Artikel: Youtube : Die neue Mündlichkeit

          Rezos Video rechnet mit Lesern, die lesen können, aber meistens nicht gelesen haben, was er für sie gelesen hat. Wie Youtube das Verhältnis von gesprochenem Wort, Schrift und Wissen verändert.
          Der frühere Chefvolkswirt des Internationalen Währungsfonds, Olivier Blanchard. (Archiv)

          EZB-Konferenz in Sintra : „Es gibt keine Schuldenkrise“

          Die Eurozone braucht eine expansive Finanzpolitik und weniger strenge Schuldenregeln, sagt der Ökonom Olivier Blanchard bei der EZB-Konferenz in Sintra. Strukturreformen alleine genügten nicht, um das Wirtschaftswachstum zu beleben.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.