https://www.faz.net/-gqe-8zfrl

Künstliche Intelligenz : So soll Google keine Patientendaten mehr bekommen

Deep-Mind-Mitgründer und Unternehmenschef Demis Hassabis während eines Vortrages in China über künstliche Intelligenz. Bild: EPA

Eine Google-Tochtergesellschaft hat von der britischen Gesundheitsbehörde Daten von 1,6 Millionen Patienten bekommen. Daraus entstand eine App, die Ärzten hilft. Nun hat der Datenschützer Ihrer Majestät über den Datendeal entschieden.

          Patientendaten sind sehr sensibel. Nach Ansicht der britischen Datenschutzbeauftragten hat eine Vereinbarung zwischen einer Tochtergesellschaft des Technologieunternehmens Alphabet (Google) und der staatlichen britischen Gesundheitsbehörde NHS eine rechtliche Grenze überschritten. „Es gibt zweifellos ein großes Potential in der kreativen Nutzung von Daten für die Krankenpflege und klinische Verbesserungen, aber der Preis der Innovation darf nicht die Erosion fundamentaler Persönlichkeitsrechte sein“, teilte Elizabeth Denham mit, die Chefin der unabhängigen Datenschutzbehörde Information Commissioner's Office (ICO).

          Alexander Armbruster

          Verantwortlicher Redakteur für Wirtschaft Online.

          Darum geht es: Die künstliche Intelligenz (KI) erforschende Alphabet-Tochtergesellschaft Deep Mind arbeitet seit zwei Jahren zusammen mit dem NHS. Die KI-Fachleute haben infolgedessen eine App konstruiert namens Streams, die Ärzte und Krankenpfleger nach einer Testphase mittlerweile in mehreren Krankenhäusern in London im Alltag erproben. Streams soll den Medizinern dabei helfen herauszufinden, ob ein Patient anfällig ist für akutes Nierenversagen – im Zusammenhang damit sterben Angaben des NHS  zufolge jedes Jahr 40.000 Menschen im Vereinigten Königreich. Schätzungen zufolge kann etwa ein Viertel davon verhindert werden, wenn die Patienten rechtzeitig vorbeugen. Die Rückmeldungen der Ärzte und Pfleger sind durchaus positiv, teilten die NHS-Krankenhausgruppe Royal Free und auch die Führung von Deep Mind schon vor einiger Zeit mit.

          „Wir müssen das künftig besser machen“

          Im Rahmen der Zusammenarbeit stellte der NHS den Deep-Mind-Mitarbeitern Daten von 1,6 Millionen Patienten zur Verfügung - solche Daten, die offenbar zugeordnet werden können. Vor ungefähr einem Jahr begann der britische Datenschutzbeauftragte eine Untersuchung, ob dies rechtens war, genau darum drehte sich der nun entschiedene Streit. Hätte Google das Einverständnis von jedem einzelnen Erkrankten einholen müssen? Nach britischem Recht ist es offenbar legal, dies auszulassen, wenn die entsprechenden Daten für die direkte medizinische Behandlung verwendet werden. Auf diesem Standpunkt standen die Fachleute von Deep Mind. Gesundheits-Datenschützer argumentierten hingegen, dass die Daten von Deep Mind eben nicht zur direkten Patienten-Behandlung verwendet worden seien, sondern um besagte Medizin-App zu „trainieren“ und für den NHS zu entwickeln. Um Computerprogramme mit Hilfe künstlicher Intelligenz schlauer zu machen, sind derzeit stets große Datenmengen nötig.

          Die ranghöchste Datenschutzbeauftragte im britischen Gesundheitsministerium hatte dem Chef von Royal Free dann im Mai einen Brief geschrieben, in dem sie die Einschätzung äußerte, dass die Bereitstellung der Patientendaten durch den NHS an Deep Mind auf einer „unangemessenen rechtlichen Grundlage“ erfolgt sei. Das ICO hat sich dem nun angeschlossen. „Unsere Untersuchung ergab eine Reihe von Mängeln in der Art, wie Patientendaten für diesen Versuch geteilt wurden (...) der Krankenhausbetreiber hätte gegenüber den Patienten weit transparenter sein sollen darüber, was vor sich geht“, sagte Datenschützerin Denham.

          Sie hat dem Krankenhausbetreiber nun unter anderem auferlegt, die Zusammenarbeit mit Deep Mind nun auf eine rechtlich einwandfreie Basis zu stellen, die geltendem Datenschutzrecht entspricht. Und die dann auch für künftige Kooperationen gilt.

          Der Streit dürfte damit beigelegt sein. Denn der Klinikbetreiber Royal Free hatte bereits auf den Brief im Mai gegenüber dem Internetportal „The Verge“ eingeräumt, dass dieses Projekt „eines der ersten seiner Art innerhalb des NHS“ sei und es „immer Lektionen gibt, die wir aus Pionierarbeit lernen können“. Ein Sprecher von Deep Mind versicherte damals,  dass die Daten „niemals für kommerzielle Zwecke verwendet worden oder mit Google-Produkten, Diensten oder Werbung kombiniert worden sind – und es niemals werden“.

          Mustafa Suleyman, einer der Gründer von Deep Mind und verantwortlich für den Gesundheitsbereich, teilte in einem Blogbeitrag mit: „Obwohl die Ergebnisse heute (den Klinikbetreiber, a.d.R.) Royal Free betreffen, müssen auch wir unser Verhalten reflektieren. In unserem Bestreben, eine schnelle Wirkung zu erreichen nachdem diese Arbeit im Jahr 2015 begann, unterschätzten wir die Komplexität des NHS und der Regeln rund um Patientendaten genauso wie mögliche Ängste um ein gut bekanntes Technologieunternehmen, das im Gesundheitsbereich arbeitet. (...) Wir haben das falsch verstanden und müssen es künftig besser machen.“

          Die Prognose sei gewagt, dass dies nicht der letzte Streit in dieser Hinsicht ist. Hinter dem derzeitigen Vormarsch der KI stecken nicht bloß schlauere Computerprogramme, sondern auch zwei wichtige technische Entwicklungen: viel schnellere Rechner und gigantische Datenvolumen. Um einem Computer etwas beizubringen, müssen Forscher ihn mit vielen Daten, unzähligen Beispielen versorgen. Dann können die Programme Muster erkennen, verstehen und Schlussfolgerungen ziehen. Große Konzerne wie Alphabet oder Facebook verfügen zwar selbst über umfangreiche Datenbestände. Aber auch sie müssen auf speziellen Themenfeldern teilweise mit anderen kooperieren.

          Weitere Themen

          Thomas Cook ist pleite

          Sanierung gescheitert : Thomas Cook ist pleite

          In der Nacht wurde das Aus besiegelt: Der älteste Reisekonzern der Welt steht vor der Zwangsliquidation. Das betrifft auch Zehntausende deutsche Urlauber. Condor-Maschinen sollen zunächst weiter fliegen.

          Thomas Cook kämpft ums Überleben

          Ältester Touristikkonzern : Thomas Cook kämpft ums Überleben

          600.000 Touristen könnten betroffen sein von einer Insolvenz des Reisekonzerns. Nun versucht der Verwaltungsrat, das Schlimmste zu vermeiden. Auch Staatshilfen sind im Gespräch. Immerhin versprach Condor nun, der Flugbetrieb weiter aufrecht zu halten.

          Topmeldungen

          TV-Kritik: Anne Will : Welche Zukunft hätten Sie gern?

          Wer Klimaschutzpolitik als Kampf zwischen den Generationen etikettieren will, ist schief gewickelt. Die Zahl besorgter Eltern und Großeltern, die vergangenen Freitag an der Seite von Kindern und Enkeln auf die Straße gingen, war beachtlich. Der ganzen Debatte fehlt es an Optimismus.
           Ein Flugzeug von Thomas Cook steht auf dem Rollfeld des Flughafens von Manchester.

          Sanierung gescheitert : Thomas Cook ist pleite

          In der Nacht wurde das Aus besiegelt: Der älteste Reisekonzern der Welt steht vor der Zwangsliquidation. Das betrifft auch Zehntausende deutsche Urlauber. Condor-Maschinen sollen zunächst weiter fliegen.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.