http://www.faz.net/-gqz-9bdd9

KI-Forschung : Wissen sie überhaupt, was sie tun?

KI für den Einsatz im Weltraum: der Assistenzroboter Cimon Bild: dpa

Was tun gegen undurchsichtige Algorithmen, die unser Leben bestimmen? Die Künstliche-Intelligenz-Forschung wäre gefragt, befindet sich aber immer noch zwischen moderner Handwerkskunst und Alchemie.

          Die Künstliche-Intelligenz-Forschung kann sich über einen Mangel an Aufmerksamkeit und Fördergeldern nicht beschweren. Paradoxerweise legt man dabei die Zukunft in die Hand einer Technik, die – so warnen selbst Experten – ihren Erfinder entbehrlich machen könnte. Da trägt es nicht zur Beruhigung bei, dass sich die KI-Forschung selbst ein Rätsel ist. Googles KI-Forscher Ali Rahimi provozierte im vergangenen Dezember mit der These, KI sei nichts anders als moderne Alchemie (Science Magazin, 5/2018). Man drehe so lange an den Parametern, bis der Algorithmus das gewünschte Ergebnis hervorbringe. Kürzlich legte Rahimi auf einer Konferenz in Vancouver noch einmal nach und bezeichnete die ganze KI-Forschung als Alien-Technologie. Die Branche wisse nicht, warum sie den einen Algorithmus dem anderen vorziehe. Sie tue es einfach und schaue, wie weit sie damit komme.

          Thomas Thiel

          Redakteur im Feuilleton.

          Das ist nicht einmal eine provokante Behauptung. Tatsächlich können Algorithmen mit ganz unterschiedlichen Methoden zum gleichen Ergebnis kommen. Meistens zeigt erst das Resultat, welches der bessere Lösungsweg ist. Wissenschaftlich ist das natürlich unbefriedigend. Inzwischen gibt es Prüfmethoden, die selbstlernende Software daraufhin untersuchen, wie sie zu ihren Resultaten gelangt, das heißt konkret: welchen Einfluss eine bestimmte Variable auf sie nimmt. Das Verfahren, das 2015 an der TU Berlin und dem Fraunhofer Heinrich-Hertz-Institut entwickelt wurde, ist aber noch wenig bekannt und kommt in der Praxis bisher nicht zur Anwendung, sagt Wojciech Samek, Forschungsgruppenleiter am Fraunhofer Institut. Und auch diese Methode muss bis auf weiteres ohne eine Metatheorie auskommen.

          Ein Stück weit hat Rahimi mit seinem Alchemie-Vorwurf also recht. Man muss jedoch einschränkend sagen, dass er nur auf den derzeit angesagtesten Bereich des maschinellen Lernens zutrifft. In weiten Teilen der KI-Forschung – wie der Wissensrepräsentation oder der Aktionsplanung – gehören selbsterklärende Algorithmen zum Standard. Die großen Erklärungslücken im maschinellen Lernen hält Wolfgang Wahlster vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Saarbrücken auch nur für die Geburtswehen einer jungen Disziplin, die sie in zwei, drei Jahren überwunden haben werde. Wahlster begründet seinen Optimismus mit einem neuen, am DFKI entwickelten Übersetzungsprogramm, mit dem der Durchbruch zu einem selbsterklärenden Deep-Learning-System gelungen sei.

          Black Box mit Abstrichen

          Alles halb so schlimm? Von Facebooks KI-Chef Yann LeCun wurde Rahimi darüber belehrt, dass es sich bei KI naturgemäß um Ingenieurarbeit handele, die sich nun einmal robuster Methoden bediene. Wenn die Maschine auf konkrete, leicht überprüfbare Ziele programmiert sei, beispielsweise darauf, Tierbilder von Menschenbildern zu unterscheiden, reiche das Lernen auf der Basis von Versuch und Irrtum völlig aus. Im Ganzen war Rahimis Attacke also überspitzt. Verständlich ist aber seine Forderung, dass es für die Wissenschaft weiter ein Anspruch sein sollte, das Innenleben eines Programms zu erklären. Auch aus einem ganz praktischen Grund: Da Algorithmen heute tief in das gesellschaftliche Leben eingreifen, sollte man auch erklären können, nach welchen Kriterien sie ihre Entscheidungen treffen. Demokratie beruht sich auf Transparenz und Nachvollziehbarkeit.

          Weitere Themen

          Mister Supercomputer

          Technik der Zukunft : Mister Supercomputer

          Eng Lim Goh baute den Rechner, der besser blufft als jeder menschliche Pokerspieler. Und er hat genaue Vorstellungen, was aus der Künstlichen Intelligenz wird.

          Topmeldungen

          Trump und Putin : Zwei gegen den Rest der Welt

          Trump und Putin geben sich freundschaftlich – die Schuld für die angespannten Beziehungen beider Länder liege bei anderen. Eine russische Einmischung in den amerikanischen Wahlkampf streiten beide ab.

          Kommt die E-Krone? : Schweden erfindet das Geld neu

          Die Schwedische Notenbank ist die älteste der Welt. Einst hat sie das Papiergeld erfunden. Jetzt ist sie die erste Zentralbank, die eine eigene Digitalwährung einführen will.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.