https://www.faz.net/-gwz-9kz9x

Die Debatte: KI-Medizin : Die zwei Gesichter der intelligenten Assistenten

  • -Aktualisiert am

Reich mir dir Hand! Hilfsroboter Pepper tourt seit Monaten als kommunikatives Aushängeschild der KI-Zukunft durch die Republik. Bild: Picture-Alliance

Der Boom der Algorithmen stellt die Medizin nun vor die Frage, wie Aufgaben und Verantwortung zwischen Mensch und Maschine verteilt werden. In einem Fall hat der Umbruch schon mächtig Fahrt aufgenommen, für die Pflege gilt das nicht.

          Krebs gilt in unserer Gesellschaft als besonders gefürchtet. In Deutschland ist Krebs die zweithäufigste Todesursache. Jährlich erkranken knapp 500.000 Personen in Deutschland neu an Krebs: Für viele der Beginn einer Leidenszeit samt Operationen und Therapien. Die bessere Erforschung und Behandlung von Krebs wird daher von Wissenschaft, Pharmaindustrie und Politik gleichermaßen vorangetrieben. Neue Therapiemöglichkeiten und Medikamente konnten in den letzten Jahrzehnten die Heilungschancen sämtlicher Krebserkrankungen deutlich verbessern.

          Auch mit der Entwicklung von Künstlicher Intelligenz (KI) wird immer wieder die Hoffnung verbunden, dass Krebs besser erkannt und therapiert werden kann. „Ich bin der Überzeugung, dass wir dank der KI in der Krebsdiagnostik und -therapie substantielle Fortschritte machen werden”, sagt der Pathologe  Frederick Klauschen, geschäftsführender Oberarzt am Institut für Pathologie an der Charité Berlin. „Dies insbesondere, weil KI einen wichtigen Beitrag bei der Analyse molekularer Daten leisten kann und dabei hilft, die Ursachen von Krebs besser zu ergründen.”

          KI spürt Krebsgenen nach

          Benedikt Brors vom Deutschen Krebsforschungszentrum forscht daran, wie man dank angewandter Bioinformatik Krebs besser verstehen und behandeln kann. „Mit den modernen Verfahren kann man inzwischen ziemlich genau sagen, welche genetische Veränderung zu einer Bildung von Tumorzellen geführt hat und dementsprechend auch die passende Therapie erstellen,” sagt Brors. „Allerdings sind die Datenmengen für die Auswertung so groß, dass man dabei auf die Unterstützung von Computern angewiesen ist”.

          In einer von ihm geleiteten Studie wurde dabei die Kategorisierung von Neuroblastomen näher erforscht. Diese Tumore treten oft im Säuglings- und Kleinkindalter auf und können je nach Form und Stadium von geringem oder hohem Risiko sein. Während bei den weniger gefährlichen Tumoren die Heilungschancen sehr gut stehen, enden andere Formen oft tödlich. „Bisher kann man mit klinischen Parametern etwa 80 Prozent der Erkrankungen eindeutig klassifizieren. Mit dem Einsatz von KI können wir nun auch Vorhersagen über die restlichen 20 Prozent treffen”, sagt Brors. Dies gelingt dadurch, dass die Aktivitäten einzelner, relevanter Gene gemessen werden und ein Algorithmus dadurch erkennt, ob die Form gut- oder bösartig ist.  

          Der Operateur zeigt anhand der Tomographbilder die Lage des Turmors an

          Auch für andere Krebserkrankungen verspricht die Anwendung von KI durchaus Erfolg. Denn KI-Verfahren werden insbesondere auch bei bildgebenden Verfahren eingesetzt. „Eine Krebsdiagnose wird in aller Regel durch die Beurteilung von Gewebeproben in der Pathologie gestellt. Die KI kann hier enorm dabei helfen, die Erfahrung des Pathologen bei der Beurteilung qualitativer Gewebeeigenschaften, zum Beispiel ob ein Tumor gut- oder bösartig ist, zu ergänzen, da quantitative Merkmale schneller, präziser und standardisierter ausgewertet werden können”, sagt Frederick Klauschen.

          Fortschritte auch bei Darm- und Hautkrebs

          Erste Studienergebnisse sind dabei durchaus vielversprechend: So stellten Wissenschaftler der Eötvös Universität in Budapest im März 2018 ein KI-Verfahren vor, welches bei der Mammographie – die übliche Methode zum Erkennen von Brustkrebs – aus den Röntgenbildern der weiblichen Brust Brustkrebszellen mit einer etwa 90 prozentiger Wahrscheinlichkeit erkennen kann. Wissenschaftler der Showa University Northern Yokohama Hospital gelang es ein KI-Algorithmus so zu trainieren, dass es bei Darmspiegelungen Vorläufer von Darmkrebs erkennt – die Trefferquote lag dabei in ersten klinischen Tests mit 93 Prozent höher als bei vielen Medizinern. Da die eingesetzten Systeme lernfähig sind, wird zudem erwartet, dass in Zukunft die Aussagen der Algorithmen noch verlässlicher werden.

          Besondere Aufmerksamkeit erhielt zuletzt eine Studie von Holger Hänßle von der Universität Heidelberg zu der frühzeitigen Erkennung von Hautkrebs. Bei dieser werteten sowohl ein Team internationaler Dermatologen als auch ein neuronales Netzwerk identische Bilder von Muttermalen und schwarzem Hautkrebs aus. Das Ergebnis: Die Hautärzte erkannten im Durchschnitt 86,6 Prozent der bösartigen Melanome, das neuronale Netzwerk konnte sogar 95 Prozent richtig identifizieren. „Eine solche Studie führt natürlich dazu, dass medial der KI ein sehr großes Potential zugeschrieben wird, weil die KI sogar noch exakter als eine vom Arzt gestellte Diagnose ist”, sagt Klauschen. „Gemessen an dem Einsatz der KI handelt es sich bei der Erkennung von Hautkrebs um die einfachste Art der Bildgebung. Viele andere Krebsarten lassen sich mit KI-Verfahren aber deutlich schlechter diagnostizieren”, ergänzt Benedikt Brors.

          Industrie entwickelt Früherkennungs-Apps

          Auch, wenn sich die Entwicklung solcher KI-Anwendungen dazu noch im Klinikalltag beweisen müssen, wecken diese schon jetzt das Interesse der Industrie: Verschiedene Firmen arbeiten bereits daran, einen Hautkrebs-Scanner als App anzubieten. So könnte in naher Zukunft jeder selbstständig auffällige Hautstellen scannen. „Solche Consumer-Apps zur Früherkennung werden in Zukunft sicherlich eine Rolle spielen”, sagt Klauschen. „Gerade in Regionen, in denen die ärztliche Versorgung nicht so gut ist, könnten solche Anwendungen auch einen Beitrag zur Früherkennung von Hautkrebs leisten.”

          Ein Ersatz für den Arzt sind solche Apps in Zukunft jedoch eher nicht. „Solche Apps berechnen immer nur Wahrscheinlichkeiten, sodass bei der Beurteilung letztlich doch ein Mediziner zu Rate gezogen muss”, sagt Klauschen. Auch Brors teilt diese Ansicht: „In den allermeisten Fällen wird die Diagnose Krebs auch in Zukunft durch einen Pathologen erstellt. Aber die KI kann tatsächlich im Bereich der Früherkennung eine wichtige Unterstützung leisten.” Und, so die Hoffnung der Experten, damit auch langfristig ein wesentlicher Baustein sein, damit die Zahl der Krebserkrankungen, wie auch der Todesfälle sinkt.

          Was können KI-Roboter in der Pflege?

          Künstliche Intelligenz hält auch zunehmend Einzug in unser Pflegesystem. Zwar sind noch nicht alle Anwendungen ausgereift, doch langfristig erhofft man sich vom Einsatz dieser und ähnlicher KI-Systeme sowohl eine Entlastung der Pflegekräfte als auch präzisere Behandlungen und Diagnosen.

          Trotz aller potentiellen Vorteile gibt es derzeit vor allem Bedenken, wenn Patienten und Pflegebedürftige plötzlich mit Maschinen anstatt mit Menschen interagieren. Insbesondere in der Pflege, wo zwischenmenschlicher emotionaler Kontakt zwischen Patienten und Pflegern essentiell ist, wird der Einsatz von Maschinen teils skeptisch betrachtet. Oliver Bendel, der am Institut für Wirtschaftsinformatik der FHNW in der Schweiz lehrt und sich bereits seit vielen Jahren mit den Beziehungen zwischen Menschen und Maschinen beschäftigt, teilt diese Sorge nicht: „Pflegeroboter unterstützen und entlasten zunächst einmal Pflegekräfte. Diese werden bis auf weiteres nicht ersetzt. Man arbeitet in der Regel im Tandem zusammen. Von daher fällt der menschliche Kontakt nicht weg.“

          Bisher werden Roboter nur in wenigen Heimen eingesetzt. An mangelnder Akzeptanz liegt dies jedoch nicht. Ganz im Gegenteil: Eine aktuelle Feldstudie der Universität Basel legt sogar nahe, dass Menschen, die besonders auf Hilfestellung angewiesen sind, Roboter überwiegend positiv aufnehmen, da sie von deren Unterstützung profitieren. „Manche Patienten möchten sogar in bestimmten Angelegenheiten lieber einen Roboter bei sich haben als einen Menschen, etwa bei Waschungen im Intimbereich“, sagt Bendel. „Der eigentliche Grund, warum die Roboter, an denen bereits seit vielen Jahren geforscht wird, noch nicht stärker eingesetzt werden, ist das Geld“, sagt Karsten Weber vom Institut für Sozialforschung und Technikfolgenabschätzung an der OTH Regensburg. Weder Kranken- noch Pflegeversicherungen würden momentan die Kosten für solche Assistenzsysteme tragen, weshalb die Patienten selbst dafür aufkommen müssten.

          Wir müssen reden! Hilfsroboter Pepper auf einer Ausstellung im Heinz Nixdorf Museumsforum.

          Ein Problem, das in der Zukunft jedoch nur noch eine untergeordnete Rolle spielen sollte. Wie bei anderen technischen Geräten auch, ist es wahrscheinlich, dass die Preise für KI-gestützte Pflegeroboter im Laufe der Jahre sinken. So könnte es schlussendlich gerade mit Hinblick auf den demographischen Wandel und den Mangel an Pflegekräften aus wirtschaftlichen Gründen doch dazu kommen, dass Roboter Pfleger ersetzen. „Ich gehöre damit zwar zu einer starken Minderheit, aber meine Prognose ist, dass es irgendwann ein Luxusgut sein wird, von einem Menschen gepflegt zu werden“, sagt Weber. Auch Bendel sieht dieses Szenario als eine Möglichkeit, betont jedoch, dass in einem reichen Land wie Deutschland wirtschaftliche Gründe nur vorgeschoben seien. „Jeder Patient sollte selbst darüber verfügen können, in welchem Ausmaß und auf welche Weise er von Maschinen gepflegt wird. Um das festzulegen, würde sich am besten eine Patientenverfügung eignen“, sagt er.

          Datenschutz die große Herausforderung

          Eine große Herausforderung sehen beide Experten beim Thema Datenschutz. Roboter haben Kameras und Mikrofone und sammeln unzählige Daten. „Prinzipiell könnten sich Pflegekräfte oder auch Unbefugte zum Beispiel Zugang zu den Kameras verschaffen und die Patienten beobachten“, sagt Bendel. Er sieht zudem noch ein weiteres Problem: „Wenn wir Roboter humanoid gestalten, äußerlich und in Bezug auf die Stimme, werden sie zu Quasipersonen. Als solche wecken sie Emotionen. Man mag sie, man hasst sie, man denkt, man hat eine Beziehung mit ihnen. So etwas kann man als Missbrauch und Manipulation sehen. Wir sollten daher Roboter-Mensch-Beziehungen immer wieder aktiv stören.“ Dazu schlägt Bendel den sogenannten V-Effekt für Roboter vor und meint damit, dass diese immer wieder aktiv darauf hinweisen, dass sie nur eine Maschine sind.

          Roboter Nao tastet sich bei Kanzlerin Merkel vor.

          Bei ethischen Überlegungen zum Einsatz von KI-Systemen im medizinischen Bereich ständen soziale Aspekte weniger im Mittelpunkt, sagt Karsten Weber: „Dort geht es eher um die Fragen: Wer verantwortet eigentlich eine Diagnose? Wer hat das letzte Wort – die Technik oder immer noch der Mensch?“ Wichtig bei diesen Fragen sei es, sich bewusst zu machen, dass KI-Systeme in der Regel für Ärzte Blackboxen darstellen. Denn sowohl Algorithmen als auch Trainingsdaten werden als Firmengeheimnisse behandelt und sind nicht zugänglich. „Diejenigen, die diese Systeme entwerfen, werden in Zukunft sehr viel mehr Verantwortung tragen in Bezug auf die Auswahl von Trainingsdaten und der Gestaltung ihrer Algorithmen“, sagt Weber. „Denn eines ist essentiell, auch wenn es sich um intelligente Systeme handelt, die selbst lernen können: Wie die Systeme handeln und funktionieren, ist letztendlich von dem abhängig, was Menschen ihnen antrainieren.”

          Trainingsdaten freigeben?

          Wenn beispielsweise ein System zur Erkennung von Hautkrebs nur mit Daten hellhäutiger Menschen trainiert wurde, wird es bei Menschen mit anderen Hautfarben nur schlecht funktionieren. „Wenn das den behandelnden Ärzten nicht bewusst ist und sie sich darauf verlassen, dann werden Fehlentscheidungen getroffen“, sagt Weber. Sein Lösungsvorschlag: Alle Unternehmen müssten ihre Trainingsdaten in einen frei zugänglichen Pool geben. Das würde Transparenz schaffen und die Menge der Trainingsdaten deutlich erhöhen. Wissenschaftler könnten somit auch prüfen, ob das, was die Systeme produzieren, korrekt ist. Wunsch und Wirklichkeit liegen hier jedoch weit auseinander: „Das wird international schwer durchsetzbar sein. Denn da geht es nicht nur um Marktmacht, sondern auch um nationales Prestige“, sagt Weber.

          Einheitliche und umfassende Regeln zum Umgang mit KI-Systemen im Bereich der Medizin und Pflege gibt es bisher nicht, auch wenn Expertengruppen weltweit darüber diskutieren. Um gemeinsame Regeln zu definieren, seien laut Weber jetzt vor allem Menschen aus der Praxis und der Wissenschaft gefragt: „Es wäre dringend notwendig, Auseinandersetzungen mit dieser Technik bereits in die Lehrpläne der entsprechenden Studiengänge und Berufsausbildungen einzubauen.“ Oliver Bendel, der Ethik innerhalb von Wirtschaftsinformatik lehrt, sieht jedoch andere in der Bringschuld: „Die Ethik ist eine wichtige Disziplin, aber endgültige Lösungen findet man mit ihr nicht unbedingt. Wir brauchen rechtliche Maßnahmen. Politik und Gesellschaft sollten entscheiden, wie weit der Einsatz gehen darf.“

          Das Projekt „Die Debatte“

          „Die Debatte“ (www.die-debatte.org) ist ein gemeinsames Projekt von Wissenschaft im Dialog (WiD), dem Science Media Center Germany (SMC) sowie der TU Braunschweig. Die Frankfurter Allgemeine Zeitung mit ihrer Online-Plattform FAZ.NET unterstützt das Projekt als Medienpartner. „Die Debatte„ bietet in unterschiedlichen Abständen zu aktuellen Themen aus verschiedensten Bereichen der Wissenschaft verständliche Informationen. Mit kurzen Hintergrundtexten, Infografiken, Interviews und Videos macht „Die Debatte“ wissenschaftliche Erkenntnisse verfügbar und unterschiedliche Perspektiven sichtbar. Gespräche mit renommierten Wissenschaftlerinnen und Wissenschaftlern erlauben einen tieferen Einblick in die jeweilige aktuelle Forschung. Besonders spannend sind die Live-Debatten. Dabei diskutieren Expertinnen und Experten aus der Wissenschaft live über wissenschaftliche Fakten und wie diese in der Gesellschaft wahrgenommen werden. Alle Interessierten sind eingeladen – vor Ort oder im Livestream. Heute um 18:30 Uhr im Berliner Kino Babylon, Rosa-Luxemburg-Straße 30.

          Weitere Themen

          So entstehen Lawinen Video-Seite öffnen

          Lebensgefährliches Phänomen : So entstehen Lawinen

          Die drei Ausnahme-Bergsteiger Hansjörg Auer, David Lama und Jess Roskelley sind bei einem Lawinenabgang im Banff-Nationalpark in Kanada vermutlich ums Leben gekommen. Die Videografik erklärt, wie potenziell tödliche Lawinen entstehen.

          So erzeugen Windräder Strom Video-Seite öffnen

          Erneuerbare Energien : So erzeugen Windräder Strom

          Wind ist eine unerschöpfliche und kostenlose Energiequelle. Vor der Küste von Rügen haben die Energiefirmen Eon und Equinor den nach eigenen Angaben derzeit leistungsstärksten Offshore-Windpark in der Ostsee in Betrieb genommen. Eine Videografik erklärt, wie aus der Kraft des Windes Strom wird und welche Nachteile es gibt.

          Topmeldungen

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.