https://www.faz.net/-gqe-9j7lg

Algorithmen : Auch in Europa entscheiden längst Maschinen

Algorithmen entscheiden über die Behandlung von Patienten? Was wie eine orwellsche Dystopie klingt, ist längst Realität. Bild: AFP/Paul Faith

Etliche Länder in der EU setzen schon heute auf automatisierte Entscheidungen in der Verwaltung. Das zeigt eine Studie. Die Algorithmen kümmern sich dabei jedoch nicht nur um banale Dinge.

          Bürger automatisiert bewerten und verwalten, das erinnert an inzwischen schon berüchtigte Systeme aus China. Doch auch in der Europäischen Union regieren die Maschinen mit: Das zeigt eine der F.A.Z. vorab vorliegende Übersichtsstudie, die die Organisation Algorithmwatch in Zusammenarbeit mit der Bertelsmann Stiftung erarbeitet hat und am Dienstag im Europarlament präsentieren will. Die 150 Seiten enthalten Berichte über den Einsatz von Software für Verwaltungsentscheidungen in etlichen Feldern, von der Steuerverwaltung bis hin zur Entscheidung über Sozialleistungen.

          Hendrik Wieduwilt

          Redakteur der Wirtschaft in Berlin, zuständig für „Recht und Steuern“.

          Die Forscher meinen, die Diskussion über automatisierte Entscheidungen werde derzeit von Beispielen aus Amerika dominiert – und listen reichlich Anschauungsmaterial aus der EU auf: Ungarn, Griechenland und Lettland beispielsweise testen einen virtuellen Grenzposten, der durch automatisierte Interviews Täuschungen durch Migranten aufdecken soll.

          In Dänemark kam es im vergangenen Jahr zu einem öffentlichen Aufschrei, weil örtliche Behörden mit Modellrechnungen Gefahren für das Kindeswohl vorhersagen wollten. Punktewertungen für psychische Erkrankungen, Arbeitslosigkeit, aber auch verpasste Arzttermine sollten das Risiko für Kinder abschätzen. Erst im Dezember stellte die Regierung die Pläne zurück. In Italien soll ein Projekt die effektivsten und effizientesten Behandlungen für Patienten aussuchen und dabei auch die Gesundheitsausgaben optimieren.

          Sozialbetrug entdecken

          Auch die Steuerehrlichkeit prüft Italien durch Algorithmen, indem etwa das Einkommen und die Ausgaben oder eingereichte Rechnungen und der Lebensstandard miteinander abgeglichen werden. Ein weiteres System errechnet etwa aus Steuererklärungen und möglichen Anomalien einen Skalenwert von 0 bis 10. Damit soll ein Belohnungssystem eingeführt werden – wer einen besseren Wert erzielt, soll von bestimmten Steuerprüfungen verschont werden.

          Ein Beispiel namens SyRI in den Niederlanden soll helfen, Sozialbetrug zu entdecken. Das System kombiniert nach Angaben der Studienautoren Daten etwa aus der Steuererklärung mit Informationen aus anderen Quellen. Ein Algorithmus entscheidet anhand teils unbekannter Kriterien, ob ein Bürger als verdächtig markiert wird oder nicht. Das Arbeitsministerium in Polen kategorisiert Arbeitslose danach, welche Art von Hilfe sie von örtlichen Arbeitsämtern erhalten können.

          Die verwendeten Daten werden durch Fragebögen erhoben und daraus zwei Gradmesser errechnet, die „Entfernung vom Arbeitsmarkt“ sowie die „Bereitschaft, in den Arbeitsmarkt (wieder) einzusteigen“. Ein Behördenmitarbeiter könne das Profil zwar händisch wieder ändern, allerdings passiere das in nur einem Prozent der Fälle.

          F.A.Z. Digitec: jetzt testen!
          F.A.Z. Digitec: jetzt testen!

          Nehmen Sie die digitale Zukunft selbst in die Hand.

          Mehr erfahren

          Die Stadt Trelleborg in Schweden hat Teile des Entscheidungsprozesses in Bezug auf Sozialleistungen automatisiert. Anträge werden automatisch mit anderen Datenbanken abgeglichen, etwa der Steuerbehörde oder Behörden für öffentliche Unterbringung. Die Entscheidung trifft das System angeblich automatisch. Die Zahl der Fallbearbeiter sei so von elf auf drei gesenkt worden.

          Vorhersagen über Menschen

          Bei der Einführung des Systems in einer anderen Gemeinde habe die Hälfte der Angestellten ihren Job aus Protest gekündigt. In Deutschland nennt die Studie etwa das Kreditscoring durch die Schufa und intelligente Videoüberwachung in Mannheim, die etwa Schlägereien automatisch erkennt und der Polizei meldet.

          Automatisierte Entscheidungen träfen uns schon heute, nicht in einer fernen Zukunft, schreiben die Autoren der Untersuchung. Sie warnen davor, sich von „attraktiven“, aber spekulativen Diskussionen um Künstliche Intelligenz ablenken zu lassen von schon heute drängenden Fragen. Außerdem rufen sie dazu auf, nicht allein das Datenschutzrecht als Ansatzpunkt für Regulierung automatisierter Entscheidungen zu betrachten.

          Wenn etwa eine Gegend plötzlich stark von den Behörden überwacht werde, seien keine Individuen betroffen. Die Politik müsse sich zudem darüber klarwerden, welche Anwendungsfelder politisch relevant seien. Wenn Maschinen etwa Wartungsintervalle bei der Produktion von Joghurt vorhersagen, müsse das nicht beunruhigen – anders als bei Vorhersagen über Menschen.

          Die Bürger müssten über die Veränderungen informiert werden – 100.000 Finnen haben in ihrem Land durch einen kostenlosen Online-Kurs aus einer öffentlich-privaten Partnerschaft mehr über Künstliche Intelligenz erfahren. Die öffentliche Hand müsse zudem für Expertise sorgen, indem sie Institutionen und Universitäten – auch auf EU-Ebene – unterstützt.

          Weitere Themen

          Dieselskandal kommt vor BGH Video-Seite öffnen

          Showdown gegen VW : Dieselskandal kommt vor BGH

          Der Dieselskandal wird zum Fall für den Bundesgerichtshof (BGH): Der Dienstleister Myright wirft VW wegen des Einbaus von Schummelsoftware in Dieselautos unter anderem Betrug und sittenwidriges Verhalten vor.

          Topmeldungen

          Samsung Galaxy Fold : Smartphone, 2000 Euro, faltbar

          Nun ist es wirklich da. Samsung hat das erste faltbare Smartphone in Serienreife vorgestellt. Es kommt Anfang Mai, kostet 2000 Euro und hat aufgeklappt einen Bildschirm, der fast so groß ist wie das iPad Mini.

          2:3 gegen Manchester City : Schalke zerbricht

          Lange sieht es danach aus, als würde den Königsblauen das eigentlich Undenkbare gelingen. Doch ausgerechnet ein früherer Schalker trifft kurz vor Schluss für Manchester. Und dann geht doch noch alles schief.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.