https://www.faz.net/-gwz-9kxyw

Die Debatte: KI-Medizin : Wir werden von Computern geheilt

  • -Aktualisiert am

Erlöser aus Stahl und Blut? Leonardo DaVincis vitruvianischer Mensch als KI-Roboter dargestellt. Bild: Picture-Alliance

Der Arzt Ihres Vertrauens hat längst einen zweiten Schatten: Lernende Maschinen erobern Klinik, Pflege und Praxen. Wie weit geht das? „Die Debatte“ heute Abend im Livestream aus Berlin.

          8 Min.

          „Prognose, Diagnose, OP: Wo kann Künstliche Intelligenz in der Medizin helfen?“ fragt diesmal „Die Debatte“. Auf dem Berliner Podium werden der Neurochirurg Dietmar Frey von der Charité Berlin, der Neuroethiker Philipp Kellmeyer von der Universität Freiburg und der Physiker Oliver Stegle vom Deutschen Krebsforschungszentrum sein. Die im Kino Babylon stattfindende Live-Diskussion übertragen wir an diesem Montag ab 18.30 Uhr im Livestream auf FAZ.NET. 

          Ganz gleich ob im Verkehr, im Online-Handel oder im militärischen Bereich – Künstliche Intelligenz (KI) spielt in immer mehr Bereichen unserer Gesellschaft eine immer größere Rolle. Das gilt auch für die Medizin. Dort hat Künstliche Intelligenz das Potential eine Branche von Grund auf zu verändern und zwar gleich in mehrfacher Hinsicht.

          „Es gibt drei große Anwendungsbereiche, in denen Künstliche Intelligenz in der Medizin eingesetzt werden könnte: In der Grundlagenforschung, in der Translation und im klinischen Alltag”, sagt Prof. Dr. Thomas Neumuth, Vizedirektor am Innovation Center Computer Assisted Surgery (ICCAS) der Universität Leipzig und Mitglied der Plattform Lernende Systeme. Während es im Bereich der Grundlagenforschung vor allem darum geht, die Daten aus Laboruntersuchungen besser zu verarbeiten und zielgerichteter zu untersuchen, geht es im Bereich der Translation vor allem darum die Entwicklung neuer Medikamente zu verbessern. „Hier nutzt man die Künstliche Intelligenz quasi als Puzzler, der aus bestehenden Molekülstrukturen Medikamente zusammensetzt”, erklärt Neumuth.

          Bild: www.die-debatte.org

          Im klinischen Alltag kommt Künstliche Intelligenz derzeit noch primär im Bereich der Diagnose und Vorsorge zum Einsatz. „Am weitesten ist in diesem Bereich die Radiologie. Das liegt vor allem daran, dass dieser Bereich schon seit Jahren digitalisiert ist und damit die Voraussetzungen für den Einsatz ideal sind”, sagt Prof. Dr. Michael Forsting, Chef-Radiologe an der Uniklinik Essen. Ein Bereich, in dem KI schon heute zum Einsatz kommt, ist die Auswertung und Analyse von Bildern. Eine Arbeit, die relativ monoton und zeitintensiv ist. „KI kann hier den Menschen entlasten und ist vor allem auch weniger fehleranfällig, da sie sich im Gegensatz zu Menschen nicht von Langeweile und Monotonie beeinflussen lässt”, sagt Forsting. „Darüber hinaus haben wir es mit immer mehr Patienten zu tun, also auch mit immer mehr Bildern und Daten. Gerade in diesem Fall ist die KI also ein absoluter Gewinn für die Medizin.”

          Radiologie als Vorreiter

          Darüber hinaus sieht Forsting großes Potenzial für ein weiteres Einsatzgebiet in der Radiologie: „Die künstliche Intelligenz schaut viel tiefer in die Biologie eines Tumors, als es das menschliche Gehirn vermag. Sie erkennt Muster, die wir nicht sehen. In diesem Bereich, den wir Radionomics nennen, sehe ich das größte Potenzial.” Allerdings sind sich Neumuth und Forsting einig, dass die Künstliche Intelligenz künftig auch in Bereichen außerhalb der Radiologie vermehrt zum Einsatz kommen wird. „Es geht im Allgemeinen darum, die Medizin besser zu machen”, sagt Forsting. „In der technischen Medizin, also der Radiologie oder im Labor, passieren allerdings schon heute eher wenige Fehler. Deshalb wird sie dort eher zur Effizienzoptimierung eingesetzt. Ich sehe in der sprechenden Medizin ein noch größeres Potenzial, da dort mehr Fehler gemacht werden.” Ein Bereich, der Forsting zufolge zu oft zu unkritisch betrachtet wird: „Wir haben dieses Idealbild von empathischen Arzt, der gleichzeitig der beste Arzt ist. In der Realität hängen Empathie und medizinische Qualität aber leider nicht immer zusammen und letztendlich glaube ich, dass sich jeder eher für die richtige Diagnose als für die emphatische Fehldiagnose entscheiden würde.”

          Denkbare Einsatzmöglichkeiten reichen im Bereich der sprechenden Medizin von der Diagnose psychischer Erkrankungen mit Hilfe von computergestützten Analysen bis hinein in den Operationssaal. „Hier geht der Trend dahin, dass der Chirurg zunehmend Unterstützung von Computern und Künstlicher Intelligenz erhält”, sagt Thomas Neumuth, der an seiner Universität einen intelligenten Operationssaal entwickelt hat und beforscht. Künstliche Intelligenz wird dort vor allem eingesetzt, um den Ablauf von Operationen zu optimieren. So erhält der Arzt beispielsweise basierend auf Datenanalysen Informationen über die nächsten Arbeitsschritte und kann bei unerwarteten Ereignissen auf die Erfahrung anderer Ärzte zurückgreifen. „Darüber hinaus hat KI immer dann ein großes Potenzial, wenn es darum geht, eine Entscheidung aufgrund vieler und komplexer Einzelinformationen zu treffen”, sagt Neumuth. Dabei gehe es zum einen um die Auswahl und Visualisierung entscheidungsrelevanter Informationen und zum anderen um die optimale Durchführung komplexer chirurgischer Arbeiten.

          KI wird den Arztberuf verändern

          Bei allen Potenzialen sind sich die Experten einig, dass KI den Arzt nicht vollständig ersetzen, sondern ihn vielmehr in seiner Arbeit unterstützen wird. „Trotzdem glaube ich, dass Künstliche Intelligenz den Arztberuf verändern wird. Ich sehe das allerdings positiv und nicht negativ”, sagt Neumuth. „Chirurgie ist beispielsweise derzeit vor allem Handwerk, in der Zukunft könnten Chirurgen hingegen die Rolle als Überwachungsinstanz einnehmen.”

          KI-Diagnostik: Die Auswertung von Röntgenbildern gehört derzeit zu den häufigsten Anwendungen lernender Maschinensysteme.
          KI-Diagnostik: Die Auswertung von Röntgenbildern gehört derzeit zu den häufigsten Anwendungen lernender Maschinensysteme. : Bild: Bildagentur-online/Begsteiger

          Eine Einschätzung, die Michael Forsting teilt: „KI wird den Arzt nicht ersetzen, denn das ist nicht gewollt. Ebenso ist es nicht das Ziel die Medizin günstiger zu machen. Niemand will günstige Medizin, wir wollen gute Medizin und genau dafür ist KI in der Zukunft der Schlüssel. Daher sehe ich in diesem Bereich auch keine ethischen Bedenken, denn Medizin zu verbessern kann nicht ethisch bedenklich sein. Hier liegt folglich ein Missverständnis vor.”

          Während der Einsatz im Bereich der Radiologie in der Tat weitgehend unumstritten ist, gibt es in anderen Bereichen durchaus Menschen, die ethische Bedenken äußern. „Einer der Gründe ist sicherlich, dass die Funktionsweise der Algorithmen nicht transparent ist”, sagt Neumuth. „Dort müssen wir ansetzen. Denn in der Medizin ist es wichtig genau zu wissen, wie ein System zu seinen Empfehlungen kommt. Das wird aber gelingen und rein technisch sind wir nicht mehr weit vom flächendeckenden Einsatz entfernt.”

          Ein weiterer Bereich, für den Künstliche Intelligenz großes Potenzial hat, ist die personalisierte Medizin. „Um personalisierte Medizin zu betreiben muss zuallererst die Diagnose stimmen und hier kann KI sehr effektiv und gewinnbringend zum Einsatz kommen”, sagt Forsting. „Superdiagnostic Institute sind daher aus meiner Sicht das nächste große Ding in der Medizin”.

          Experte warnt vor Überregulierung

          Damit das gelingt ist es aus Sicht der Experten aber vor allem wichtig zum aktuellen Zeitpunkt keine Überregulierung in diesem Bereich vorzunehmen. „Es fehlt derzeit in vielen Bereichen noch am Grunddatensatz, wenn man dort jetzt reguliert und beschränkt, werden wir international den Anschluss verpassen”, sagt Forsting. „Wir brauchen in diesem Bereich dringend Flexibilität und auch die Möglichkeit Dinge zu testen und auszuprobieren, um langfristig erfolgreich zu sein.”

          Auch Thomas Neumuth sieht in der Regulation die entscheidende Herausforderung für den erfolgreichen Einsatz künstlicher Intelligenz in der Medizin: „Wie schnell und flächendeckend sie zum Einsatz kommt hängt nicht ausschließlich von der technischen Entwicklung ab, da sind wir sehr weit. Um KI-Algorithmen in der Medizin ausreichend trainieren zu können, ist der Zugriff auf umfangreiche Patientendatensätze notwendig. Der Zugang zu diesen Daten ist jedoch durch regulatorische Vorgaben zum Schutz der Privatssphäre der Patienten sehr stark geschützt.” Punkte, die aus Sicht der Experten vor allem politisch geklärt werden müssen, bevor die Künstliche Intelligenz zu einer echten Revolution in der Medizin führen kann.

          Ende des Arztgeheimnisses?

          KI-gestützte Geräte halten zunehmend Einzug in unseren Alltag: Für den einen sind sie ein komfortables Gadget, für den anderen Grund zur Sorge um die Privatsphäre. Denn die entsprechende Software verarbeitet persönliche Daten und speichert diese auf Servern von zumeist privaten Firmen. Doch was Sprachassistenten und Co. betrifft, hat in der Regel keiner einen großen Nachteil, wenn er auf diese Geräte verzichtet. Anders ist dies jedoch im Gesundheitssektor: Dort werden KI-Systeme in Zukunft immer wichtigere Assistenten von Ärzten und Pflegern werden und gelten als große Chance, um die Genauigkeit von Diagnosen und Behandlungen zu steigern.

          Wie nah? Roboterhand mit künstlichen, in ihrer Funktionalität aber menschenähnlichen Berührungssensoren.
          Wie nah? Roboterhand mit künstlichen, in ihrer Funktionalität aber menschenähnlichen Berührungssensoren. : Bild: reuters

          Damit dies funktioniert, ist es notwendig, dass Pflegeroboter mit Mikrofonen und Kameras ausgestattet werden und dass Diagnoseinstrumente, die auf KI basieren, mit riesigen Datensätzen trainiert werden. KI kommt schlicht ohne die Verarbeitung großer Datenmengen nicht aus. Der Rechtsanwalt und Arzt Prof. Dr. Christian Dierks sieht den Einzug von KI-Systemen in den Gesundheitssektor jedoch gelassen: „Datenverarbeitung mit KI enthält kein größeres Bedrohungspotenzial für die Sicherheit der Daten als konventionelle Datenverarbeitung. Die Daten bleiben, wie und wo sie sind und werden auch durch eine KI nicht verändert oder an Dritte übertragen.“

          Auch hier gilt: „Die informationelle Selbstbestimmung und das Grundrecht auf Datenschutz garantieren von Verfassung wegen die Entscheidungshoheit des Grundrechtsträgers über seine personenbezogenen Daten“, sagt der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit, Prof. Dr. Johannes Caspar. Wie mit sensiblen Gesundheitsdaten konkret umgegangen werden muss, regelt europaweit die DSGVO, die seit dem 25. Mai 2018 anzuwenden ist. Gesundheitsdaten werden darin der sogenannten „besonderen Kategorie von personenbezogenen Daten“ zugeordnet und unterliegen besonders strengen Regeln. Eine Verarbeitung oder die Weitergabe der Daten an Dritte ist nur mit Einwilligung des Patienten erlaubt. Nur in bestimmten Fällen ist dies auch ohne Zustimmung möglich, zum Beispiel zum Zweck der Gesundheitsversorgung oder aufgrund eines öffentlichen Interesses, wie der Verhinderung von Epidemien.

          Gesundheitsdaten sind besondere Daten

           

          Die DSGVO regelt zudem automatisierte Entscheidungsfindung, wie sie bei KI eine Rolle spielen kann. „Bei der Verarbeitung von Gesundheitsdaten ist die automatisierte Entscheidung nur bei Vorliegen einer ausdrücklichen Einwilligung oder aufgrund einer Rechtsvorschrift aus Gründen eines erheblichen öffentlichen Interesses zulässig. Findet eine automatisierte Entscheidungsfindung statt, muss der Betroffene hierüber im Rahmen der Datenschutzinformationen aufgeklärt werden“, sagt Caspar. Die automatisierte Entscheidungsfindung sei aber auch eine Frage der Haftung, so Christian Dierks: „Es ist zu unterscheiden, ob durch eine schwache KI, also die Anwendung von Algorithmen, die von Menschen gemacht wurden, oder durch eine starke, selbstlernende KI Entscheidungen getroffen werden. Für Entscheidungen der letzteren Art ist das Haftungsregime in Deutschland noch nicht ausreichend klar. Haftet der Arzt, der Anbieter oder Entwickler der KI oder die KI selbst? Hierzu Regeln zu treffen, ist die Aufgabe der nächsten Jahre“. Johannes Caspar schlägt dazu vor: „Entscheidungen über Leben und körperliche Unversehrtheit sollten zwingend menschlichen Entscheidern überantwortet werden.“

          Nicht immer braucht es Einwilligungen

          Weitere Regelungen für den Datenschutz trifft in Deutschland das Bundesdatenschutzgesetz. Dieses lässt für wissenschaftliche Zwecke die Verarbeitung von Gesundheitsdaten auch ohne Einwilligung zu. Notwendig ist dazu der Umstand, dass das wissenschaftliche Interesse deutlich die Interessen der betroffenen Person überwiegt. „Das kann unter Umständen dann bejaht werden, wenn ein Forschungsvorhaben erhebliche Verbesserungen für die Gesundheit oder die soziale Sicherheit der Bevölkerung mit sich bringt“, sagt Caspar. Diese Ausnahme könne jedoch nicht für das Training von KI-Systemen gelten. „Unabhängig vom Anwendungsbereich eines KI-Systems verfolgen die Entwickler bzw. Anbieter immer auch ein eigenes privat(wirtschaftlich)es Interesse an der Weiterentwicklung des Systems. Die Datenverarbeitung zu Trainingszwecken kann daher nicht mit einem erheblich überwiegenden, konkreten medizinischen Forschungsinteresse oder Behandlungsnotwendigkeiten gerechtfertigt werden und setzt vielmehr eine ausdrückliche Einwilligung der Betroffenen voraus“, differenziert der Datenschutzbeauftragte.

          Weltweit boomt der Markt der KI-Innovationen für Medizin und Pflege. Eine Vielzahl an Systemen stammt daher auch aus Ländern außerhalb Europas, wo oft schwächere Gesetze für den Datenschutz gelten. Dierks möchte aber auch hier beruhigen: „Eine Übermittlung von personenbezogenen Gesundheitsdaten in ein Land außerhalb der EU ist nur zulässig, wenn dieses auf der Liste der sicheren Drittstaaten steht oder zusätzliche Sicherungsmaßnahmen getroffen werden. Entsprechende Kontrollen können von den Aufsichtsbehörden durchgeführt werden.“ Der Rechtsexperte macht sich eher Sorgen um einen anderen Aspekt: „In Deutschland gibt es neben der DSGVO und dem Bundesdatenschutzgesetz auch die Landesdatenschutzgesetze, die Landeskrankenhausgesetze, das Sozialgesetzbuch, das Gendiagnostikgesetz und viele weitere Vorschriften. Diese Heterogenität ist in einem vereinten Europa, in einer globalisierten Welt ein Hindernis für Forschung und Wirtschaft im internationalen Wettbewerb.“ Caspar sieht im europäischen Datenschutzsystem jedoch eher einen Vorteil: „Sofern europäische Entwickler dem Datenschutz und darüber hinausgehenden ethischen Anforderungen im gesamten Prozess der Entwicklung und Anwendung von KI Beachtung schenken, kann dies auch international als Markenzeichen einer ʻAI made in Europeʼ genutzt werden.“

          Wie weit geht unser Selbstbestimmungsrecht?

          Letztendlich sehen beide Experten das Selbstbestimmungsrecht des Patienten über seine Daten als zentral an. Patienten müsse die Möglichkeit gegeben werden, den Umgang mit ihren Daten zu lernen und die Verantwortung und die Möglichkeiten, diese den Akteuren im Gesundheitswesen im jeweils erforderlichen Umfang zur Verfügung zu stellen, richtig einzusetzen, sagt Christian Dierks: „Es geht nicht darum, den Datenschutz um seiner selbst willen durchzusetzen, sondern um Wissensgefälle zu vermeiden, die den Betroffenen Nachteile bescheren könnten.“ Caspar sieht den Staat in der Pflicht, Patienten bei dieser Aufgabe zu unterstützen: „Der Deutsche Ethikrat weist zu Recht darauf hin, dass sich in verantwortungsethischer Perspektive die Notwendigkeit für den Staat zum gewährleistenden, überwachenden und gegebenenfalls auch regulierenden und sanktionierenden Eingreifen umso mehr aufdrängt, je weniger Unternehmen und private Organisationen Möglichkeiten bereitstellen, dem Einzelnen die Kontrolle über seine Daten zu erleichtern. Hier kommt dem Datenschutz künftig eine wichtige Funktion zu.“

          Das Projekt: „Die Debatte“

          „Die Debatte“ (www.die-debatte.org) ist ein gemeinsames Projekt von Wissenschaft im Dialog (WiD), dem Science Media Center Germany (SMC) sowie der TU Braunschweig. Die Frankfurter Allgemeine Zeitung mit ihrer Online-Plattform FAZ.NET unterstützt das Projekt als Medienpartner. „Die Debatte„ bietet in unterschiedlichen Abständen zu aktuellen Themen aus verschiedensten Bereichen der Wissenschaft verständliche Informationen. Mit kurzen Hintergrundtexten, Infografiken, Interviews und Videos macht „Die Debatte“ wissenschaftliche Erkenntnisse verfügbar und unterschiedliche Perspektiven sichtbar. Gespräche mit renommierten Wissenschaftlerinnen und Wissenschaftlern erlauben einen tieferen Einblick in die jeweilige aktuelle Forschung. Besonders spannend sind die Live-Debatten. Dabei diskutieren Expertinnen und Experten aus der Wissenschaft live über wissenschaftliche Fakten und wie diese in der Gesellschaft wahrgenommen werden. Alle Interessierten sind eingeladen – vor Ort oder im Livestream.

          Weitere Themen

          Topmeldungen

          Hatte einmal mehr keinen leichten Tag: Armin Laschet

          Laschet und die Union : Machtprobe

          Ein turbulenter Tag für die Union: CSU-Chef Söder spricht Scholz die besten Chancen aufs Kanzleramt zu – und Laschet verhindert eine Kampfkandidatur in der Fraktion.
          Torschütze des Abends: Donyell Malen

          1:0 gegen Lissabon : Schwerfälliger BVB gewinnt

          Ohne Haaland kein Spektakel: Gegen Sporting Lissabon reicht es für Borussia Dortmund aber dennoch zum Sieg, weil 30-Millionen-Neuzugang Malen erstmals im BVB-Trikot trifft.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.