Werden die menschliche Autorschaft und die Möglichkeiten verantwortlichen Handelns durch den Einsatz Künstlicher Intelligenz erweitert oder vermindert? Das ist die Leitfrage der neuen Stellungnahme des Deutschen Ethikrats „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“, die am Montag veröffentlicht wurde.

Exemplarisch widmet sich der Ethikrat auf 287 Seiten vier Anwendungsbereichen: Medizin, Schule, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung. Er kommt damit einer Bitte des Bundestags vom Oktober 2020 nach, eine multidisziplinäre Stellungnahme zu den ethischen Fragen des Verhältnisses „Mensch und Maschine“ zu erarbeiten. „Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern“, sagte die Vorsitzende des Ethikrats, die Medizinethikerin Alena Buyx. Außerdem dürfe KI den Menschen nicht ersetzen.

Für die Medizin richten sich die insgesamt 136 Empfehlungen des Ethikrats vor allem auf die medizinische Forschung, in der Literaturrecherchen in großen Datenbanken möglich werden und die medizinische Versorgung. Schon jetzt wird KI zunehmend in der Diagnostik bei Brust- und Prostatakrebserkrankungen sowie Hautkrebs eingesetzt. Fortschritte in der KI-gestützten Bildgebung eröffneten neue Möglichkeiten der frühzeitigen Erkennung, Lokalisation und Charakterisierung pathologischer Veränderungen. Wenn ärztliche Tätigkeiten in einem engen bis mittleren Ausmaß an Technik delegiert würden, könnten Tumore früher erkannt und Therapieoptionen erweitert werden.

Ersatz von Medizinern durch KI vermeiden

Einer der wenigen medizinischen Handlungsbereiche, in denen KI-basierte Systeme ärztliches und anderes Gesundheitspersonal mitunter weitgehend oder vollständig ersetzen könnten, sei die Psychotherapie, heißt es in dem Papier. Seit Jahren gebe es Apps, die auf algorithmischer Basis Therapien für Menschen anbieten, die sonst zu spät oder gar nicht zu einer Therapie kämen. Andererseits gebe es Bedenken mit Blick auf mangelnde Qualitätskontrollen, den Schutz der Privatsphäre oder eine persönliche Beziehung des Patienten zur App.

Der Ethikrat empfiehlt, den vollständigen Ersatz medizinischer Fachkräfte zu vermeiden, hohe Standards und strenge Anforderungen bei Aufklärung, Datenschutz und Schutz der Privatheit zu beachten. Je mehr menschliche Handlungen durch KI-Komponenten ersetzt würden, desto mehr wachse der Aufklärungsbedarf der Patienten.

Beim Einsatz von KI in der schulischen Bildung geht der Ethikrat von einem Bildungsbegriff aus, der in der aktuellen Bildungsforschung wegen seiner Unschärfe wohl nicht geteilt würde. Bildungswissenschaftlichen Sachverstand hat der Ethikrat nicht hinzugezogen. Insgesamt äußert sich das Gremium skeptisch zum Einsatz von KI im Unterricht. Das gilt insbesondere beim Audio- und Videomonitoring im Klassenzimmer. Die Analyse von Audio- und Videoüberwachung erscheine angesichts derzeit verfügbarer Technologien als nicht vertretbar, heißt es in dem Papier.

Regeln für personalisierte Werbung

Ein Teil des Ethikrats kann sich einen künftigen Einsatz vorstellen, sofern eine wissenschaftlich nachweisbare Verbesserung des Lernprozesses damit einhergeht, ein anderer Teil befürwortet ein Verbot von Technologien zu Aufmerksamkeitsmonitoring und Affekterkennung in Klassenzimmern.

Darüber hinaus fordert der Ethikrat standardisierte Zertifizierungssysteme, die anhand transparenter Kriterien für gelingende Lernprozesse Schulämter, Schulen und Lehrer dabei unterstützen können, sich für oder gegen die Nutzung eines Produkts zu entscheiden. Er schließt sich der Forderung der Ständigen Wissenschaftlichen Kommission der Kultusministerkonferenz an, länderübergreifende Zentren für digitale Bildung einzurichten. Mehr Forschung für die empirische Evidenz von Wirkungen etwa auf die Kompetenzentwicklung müsse es geben, außerdem sei die Privatsphäre von Schülern und Lehrern zu beachten.