https://www.faz.net/-gqe-a4avg

IBM-Managerin im Gespräch : „Eigene Gesetze für Künstliche Intelligenz sind unnötig“

Andrea Martin Bild: IBM / Bearbeitung F.A.Z.

Andrea Martin leitet das IBM Watson Center in München. Sie erklärt, was Computer können, wieso Gesichtserkennung gefährlich ist – und warum die Digitalisierung des Alltags weitergeht.

          7 Min.

          Braucht Künstliche Intelligenz ein eigenes Gesetz?

          Stephan Finsterbusch

          Redakteur in der Wirtschaft.

          Wir diskutieren genau diese Frage in der Enquetekommission KI des Deutschen Bundestags. Und auch auf EU-Ebene hat sich da in der sogenannten High-Level-Expert-Group für KI eine sehr intensive Debatte entwickelt.

          Und wie ist die Antwort?

          Wir stehen auf dem Standpunkt, dass man für eine bestimmte Technologie keine eigenen Gesetze braucht. Sonst müssten wir auch ein Gesetz etwa zur Elektrizität haben.

          Warum?

          Wenn man etwas Einhalt gebieten will, dann muss man konkret werden. Dann muss man sich Anwendungsfälle anschauen und nicht pauschal eine Technologie regulieren.

          Wieso?

          Weil man jede Technologie positiv oder missbräuchlich einsetzen kann.

          Wenn man sich anschaut, wo man einen Computer früher einsetzte und wo man ihn heute einsetzt, und wenn man sich dann vorstellt, wo KI künftig drin sein wird, sollte man da nicht mit Gesetzen und Regularien versuchen, Entwicklungen eine bestimmte Richtung zu geben?

          Technologie generell ist ja nicht gut oder böse, sondern neutral. Konkret betrachtet kommt es auf den Anwendungsfall an. Etwa beim Internet der Dinge, bei der sogenannten Industrie 4.0. Schaut man sich an, welche Art Daten da gesammelt werden, stellt man fest, dass es hier nicht um persönliche Daten geht, sondern überwiegend um Daten, die Maschinen betreffen. Bei dieser Anwendung geht es dann zum Beispiel darum, einen Betrieb zu optimieren.

          Es geht aber nicht nur um Daten von Maschinen, sondern auch um Daten von Menschen.

          Genau. Schauen wir uns das Sammeln von persönlichen Daten an: Hier sehen wir, dass wir wirklich gute Datenschutzgesetze haben.

          Werden die wirklich eingehalten?

          Das ist eine valide und sehr relevante Frage. Aber die Gesetze gibt es, persönliche Daten zu schützen und nicht missbräuchlich einzusetzen. Es geht dabei immer um den Einsatz von Daten, nicht um den Einsatz von Computern. Ich bin keine Juristin, aber ich kenne kein Gesetz, das diesbezüglich verabschiedet wurde.

          Gleichwohl ist IBM aus einer Technologie ausgestiegen wie der Gesichtserkennung mit der Begründung: Das geht uns zu weit.

          Das stimmt. Wir haben gerade angekündigt, aus der Weiterentwicklung der Gesichtserkennung vorerst auszusteigen, weil diese Technologie zu so etwas wie Racial Profiling eingesetzt wird. Und damit wird die Technologie zu ganz bestimmten Zwecken missbraucht. Das wollen wir nicht unterstützen.

          Damit verlassen Sie ein großes Feld.

          Sicher, aber hier geht es um einen Anwendungsfall. Gesichtserkennung wird auch eingesetzt in der automatisierten Passkontrolle am Flughafen. Das ist meiner Meinung nach ein unproblematisches Einsatzgebiet. Wird die gleiche Technologie zum Racial Profiling eingesetzt, wird sie zum Problem. Solange der Missbrauch nicht vom Tisch ist, so lange machen wir nicht mit und streben stattdessen einen Dialog zu den Einsatzgebieten an.

          Dann ist für Sie das also kein Geschäft.

          Genau. Wir sagen: Diese Art von Umsatz möchten wir nicht.

          Dass das andere machen, ist deren Entscheidung?

          Das können wir nicht beeinflussen. Wir können nur appellieren, etwa an die Politik, einen offenen Dialog zu führen, wo und wie man bestimmte Technologien einsetzt.

          Wie ist da das Meinungsspektrum in der Enquetekommission?

          Schon recht groß. Aber wir haben mittlerweile einen Konsens erreicht, dass es auf die Anwendungsfälle ankommt.

          Ist das so?

          Ja. Wir haben uns schon relativ früh darauf geeinigt, uns themenbezogen mit KI zu beschäftigen. Im September 2018 sind wir gestartet und haben dann Anfang 2019 die Projektarbeit aufgenommen.

          Wie sieht diese Arbeit heute aus?

          Das sieht so aus, dass wir KI im Zusammenhang mit verschiedenen Themengebieten diskutieren wie etwa KI und Gesundheitswesen, KI und Staat, KI in der Wirtschaft, in der Mobilität, in Medien, in der Arbeit und in der Bildung.

          Also kein Gesetz für Roboter, sondern Regularien für deren Einsatz?

          Genau.

          Da waren die Entwürfe aus der Literatur mit den Robotergesetzen eines Isaac Asimov aus den vierziger Jahren wohl etwas übertrieben?

          Ja. Mit seinen Robotergesetzen machte er die Roboter ja fast schon zu Menschen. Das geht zu weit. So etwas wie „Die Würde der KI ist unantastbar“, das ist für mich undenkbar. KI ist ein Werkzeug – nicht mehr und nicht weniger.

          KI wird heute vor allem zur Mustererkennung eingesetzt. Wie intelligent ist denn die Künstliche Intelligenz wirklich?

          Ich würde sagen, wird reden derzeit eher von einer schwachen KI. Sie ist bestenfalls am Übergang zu einer starken KI.

          Was ist eine schwache KI?

          Erstens: Sie beherrscht eine klar abgegrenzte Aufgabe gut. Zweitens: Sie ist sehr genau. Und drittens: Sie ist gut, eine Arbeit zu wiederholen.

          Haben Sie ein Beispiel?

          Um in der Muster- und Objekterkennung zu bleiben: Sie kann bestimmte Muster oder Objekte erkennen. Etwa in der Bildanalyse.

          Diese Systeme müssen aber trainiert werden. Sie gehen faktisch erst mal in die Schule, bevor sie mit ihrer Arbeit loslegen.

          Ja. Aber es gibt Systeme, die kommen schon mit sehr wenigen Trainingsdaten aus. Diese Systeme lernen selbständig und liefern dann gute Ergebnisse ab.

          Also diese Systeme können oft nur eine Aufgabe gut und eine andere gar nicht.

          Genau. Sie können ein Bild erkennen, aber sie können zum Bespiel nicht kommunizieren. Sie können Muster wahrnehmen und sind darin richtig gut, oft besser als ein Mensch. Am besten aber sind sie im Zusammenspiel mit dem Menschen.

          Zum Beispiel?

          Bei der Erkennung von Hautkrebs ist die Maschine besser als ein Arzt. Zusammen sind sie am besten.

          Tatsächlich?

          Ich denke schon. Die Maschine ist bei einer spezifischen Aufgabe sehr gut. Der Mensch ist ein komplexes Wesen: Er hat Kreativität, Empathie, kann sich Aufgaben stellen und Ziele setzen, sich hinterfragen, neue Möglichkeiten entwerfen und sie ausprobieren. Das kann die Maschine so nicht. Nun werden Sie sagen: Noch nicht. Aber das wird noch eine ganze Weile so bleiben.

          Was macht Sie da so sicher?

          Eine Maschine kann etwa Gefühle erkennen und imitieren, aber sie kann nicht fühlen oder empathisch sein.

          Wir sprechen noch immer von schwacher KI. Was aber ist, wenn sie in eine starke KI umschlägt?

          Hier spielen ein paar Aspekte eine Rolle. Je stärker eine KI wird, desto weniger Daten braucht sie beispielsweise, um trainiert zu werden. Auch muss eine starke KI die Daten nicht immer zentral vorliegen haben. Sie kann an verschiedenen Stellen lernen lassen, dann die Ergebnisse zusammenführen, und schließlich beherrscht sie das, was an den verschiedenen Orten gelernt wurde.

          Sie teilt also ihre Arbeit auf?

          In gewisser Weise ja.

          Haben Sie auch hier ein Beispiel?

          Das ist wirklich sehr spannend. Denn wenn man bestimmte Lerneffekte auf einem Themengebiet hat, kann man diesen Erkenntnisgewinn auch auf ganz anderen Gebieten anwenden. Eine KI, die einmal gelernt hat, Katzen auf Bildern zu erkennen, kann dann gegebenenfalls auch leichter Hunde oder Kühe erkennen. Die Grunderkenntnis ist da, an den Feinheiten arbeitet man.

          Wie macht die starke KI das?

          Nehmen wir Windräder. Die sind in der Regel in der Landschaft verteilt und generieren während der Arbeit permanent neue Daten. Nun ist es nicht sehr effizient, diese Daten immer wieder hin und her zu schicken, etwa in eine Cloud oder in ein Rechenzentrum, sondern sie am jeweiligen Windrad selbst zu bearbeiten. Jedes Windrad agiert faktisch autonom, ist gleichzeitig aber auch Teil eines Gesamtsystems. Dieses System kann nun jedes einzelne Ergebnis auswerten und direkt Aktionen ausführen, aber auch die Ergebnisse an ein zentrales System zurückschicken, wo sie zusammengeführt und dann wieder an alle Windräder verteilt werden. Dort können die Ergebnisse danach auf die anderen Windräder angewendet werden. So werden Erfahrungen eines Objektes auf ein anderes übertragbar.

          Wer heute von digitaler Datenverarbeitung spricht, redet vom binären Code: eins oder null, ja oder nein. Intelligenz aber ist die Kunst, zu differenzieren.

          Richtig.

          Heutige Computer können das nicht. Künftig sollen Quantencomputer dazu in der Lage sein. Werden wir eine richtige Intelligenz aus der Maschine nicht erst haben, wenn wir mit Computern arbeiten, die nicht mit Entweder-oder, sondern Sowohl-als-auch arbeiten, also eher wie ein Gehirn.

          Ich bin kein Spezialist für Quantencomputer. Nur so viel: KI und Quantenrechner muss man nach wie vor unabhängig voneinander betrachten. Diese Art von Rechner sind für bestimmte Klassen von Problemen sehr gut geeignet. Ich rechne damit nicht 5 mal 5 ist gleich 25. Quantenrechner sind für sehr komplexe Optimierungen und Simulationen da.

          Und diese Anwendungen gibt es?

          Sicher. Im vergangenen Jahr haben wir in Zusammenarbeit mit Fraunhofer angekündigt, den ersten kommerziellen Quantencomputer außerhalb Amerikas nach Deutschland zu bringen. Dieses Vorhaben ist inzwischen in Arbeit. Das Ziel ist, mit Fraunhofer und unseren Kunden an Anwendungsfällen zu forschen.

          Auf welchen Feldern?

          In der Klasse komplexer Simulierungen und Optimierungsprozesse. Heute schon arbeiten wir mit den Kunden an einem Quantencomputer, der in der Cloud und über das Internet verfügbar ist. Bald steht ein solcher Computer in einem deutschen IBM-Rechenzentrum.

          Wie könnte das die KI verändern?

          Es gibt drei große Gebiete, in denen KI gut eingesetzt werden kann: In der Erkenntnisgewinnung. In der Entscheidungsfindung. Und in der Interaktion mit Menschen, wie etwa virtuelle Assistenten. Im Maschinellen Lernen könnten Quantencomputer die Entwicklung beschleunigen.

          Und an was arbeitet die Forschung hier gerade?

          An der Automation von Computersystemen in der Industrie etwa. Welches KI-System kann besonders hilfreich sein? Eine automatisierte Auswahl von Machine-Learning-Modellen ist schon möglich. Denn das System evaluiert faktisch das System. Oder das Forschungsfeld des Textverständnisses. Das scheint mir derzeit in den Mittelpunkt der Forschung zur rücken. Etwa das Verständnis von Ironie oder Dialekt, oder die Synthese verschiedener Texte. Also ein Computer, der eine richtige Debatte führen kann.

          Mit allem Für und Wider?

          Ja. Da gibt es etwa das Forschungsprojekt Project Debater. Ein Computersystem ist faktisch im Rededuell mit allen Pros und Cons. Ein weiteres Forschungsgebiet ist die vertrauenswürdige KI.

          Also die Frage nach der KI und den Gesetzen.

          Man beschäftigt sich mit der Frage der Ethik, mit Methoden, vertrauenswürdige KI zu entwickeln und einzusetzen. Lassen Sie mich nur zwei Stichworte einwerfen: Fairness und Erklärbarkeit.

          Computer spielen in der Pandemie eine wichtige Rolle. In der täglichen Kommunikation wie in der Forschung. Welche Folgen wird Corona für die Computertechnik haben?

          Ich würde es mal so formulieren: Durch die Pandemie und die Anforderungen, die sich daraus ergeben, haben sich die Türen für weitere KI-Anwendungsfälle geöffnet.

          Zum Beispiel?

          Etwa die Analyse von Statistiken rund um Erkrankungen. Oder um die Frage der Ausbreitung des Virus. Oder: Wie ist die Auslastung der medizinischen Kapazitäten? Wenn Sie heute etwa Informationen zum Thema Corona haben wollen und die Hotline anrufen, dann hängen Sie entweder in der Warteschleife, oder Ihre Fragen werden durch einen virtuellen Chatbot beantwortet.

          Im Grunde geht es um die weitere Digitalisierung des Alltags.

          KI braucht Daten, und Daten brauchen Organisation, und Organisation braucht eine bestimmte Informationsarchitektur. Da gibt es im Englischen den schönen Satz: No AI without IA. Also: Keine Artifizielle Intelligenz ohne Informationsarchitektur – und diese wird vom Menschen bestimmt, nicht von der Maschine.

          Die Technikerin

          Testen Sie die F.A.Z. Digitec App unter www.fazdigitec.de Unser Podcast zu Digital- und Technikthemen www.faz.net/digitec-podcast Technikerin Andrea Martin ist Leiterin des IBM Watson IoT Center in München, eines der großen privaten KI-Forschungszentren Europas. Darüber hinaus ist sie Sachverständige in der KI-Enquetekommission des Deutschen Bundestages. Sie war Chief Technology Officer (CTO) für IBM in Deutschland, Österreich und der Schweiz sowie Präsidentin der IBM Academy of Technology. Im Jahr 1992 hatte sie ihre Karriere bei IBM begonnen. Zuvor studierte sie Wirtschaftsmathematik an der Universität in Karlsruhe. F.A.Z.
          Frankfurter Allgemeine Zeitung

          Die digitale F.A.Z.

          Zur kompletten Ausgabe

          Jetzt mit F+ lesen

          Friedrich Merz am Dienstag in Eltville am Rhein

          Friedrich Merz’ Wutausbruch : Authentisch oder nur gespielt authentisch?

          Hat Friedrich Merz mit seinem Wutausbruch gegen das CDU-„Establishment“ die Dinge einfach nur beim Namen genannt, wie es sich in Demokratien gehört? Über einen eventuell doch sehr taktischen Gebrauch von Empörung in der Politik.
          Familienministerin Giffey im Oktober beim Familiengipfel im Kanzleramt

          Plagiatsfall Giffey : Versagen auf der ganzen Linie

          „Kein mittelschweres Plagiat, kein Bagatellfall“: Bevor Giffey zur Berliner SPD-Vorsitzenden gewählt werden soll, zeigt ein Gutachten eine Reihe von Rechtsverstößen. Hat die Rechtsaufsicht des Landes versagt?

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.
          Dieser Artikel wurde Ihnen von einem Abonnenten geschenkt und kann daher kostenfrei von Ihnen gelesen werden.
          Zugang zu allen F+Artikeln