https://www.faz.net/-gqe-9j7lg

Algorithmen : Auch in Europa entscheiden längst Maschinen

  • -Aktualisiert am

Algorithmen entscheiden über die Behandlung von Patienten? Was wie eine orwellsche Dystopie klingt, ist längst Realität. Bild: AFP/Paul Faith

Etliche Länder in der EU setzen schon heute auf automatisierte Entscheidungen in der Verwaltung. Das zeigt eine Studie. Die Algorithmen kümmern sich dabei jedoch nicht nur um banale Dinge.

          3 Min.

          Bürger automatisiert bewerten und verwalten, das erinnert an inzwischen schon berüchtigte Systeme aus China. Doch auch in der Europäischen Union regieren die Maschinen mit: Das zeigt eine der F.A.Z. vorab vorliegende Übersichtsstudie, die die Organisation Algorithmwatch in Zusammenarbeit mit der Bertelsmann Stiftung erarbeitet hat und am Dienstag im Europarlament präsentieren will. Die 150 Seiten enthalten Berichte über den Einsatz von Software für Verwaltungsentscheidungen in etlichen Feldern, von der Steuerverwaltung bis hin zur Entscheidung über Sozialleistungen.

          Die Forscher meinen, die Diskussion über automatisierte Entscheidungen werde derzeit von Beispielen aus Amerika dominiert – und listen reichlich Anschauungsmaterial aus der EU auf: Ungarn, Griechenland und Lettland beispielsweise testen einen virtuellen Grenzposten, der durch automatisierte Interviews Täuschungen durch Migranten aufdecken soll.

          In Dänemark kam es im vergangenen Jahr zu einem öffentlichen Aufschrei, weil örtliche Behörden mit Modellrechnungen Gefahren für das Kindeswohl vorhersagen wollten. Punktewertungen für psychische Erkrankungen, Arbeitslosigkeit, aber auch verpasste Arzttermine sollten das Risiko für Kinder abschätzen. Erst im Dezember stellte die Regierung die Pläne zurück. In Italien soll ein Projekt die effektivsten und effizientesten Behandlungen für Patienten aussuchen und dabei auch die Gesundheitsausgaben optimieren.

          Sozialbetrug entdecken

          Auch die Steuerehrlichkeit prüft Italien durch Algorithmen, indem etwa das Einkommen und die Ausgaben oder eingereichte Rechnungen und der Lebensstandard miteinander abgeglichen werden. Ein weiteres System errechnet etwa aus Steuererklärungen und möglichen Anomalien einen Skalenwert von 0 bis 10. Damit soll ein Belohnungssystem eingeführt werden – wer einen besseren Wert erzielt, soll von bestimmten Steuerprüfungen verschont werden.

          Ein Beispiel namens SyRI in den Niederlanden soll helfen, Sozialbetrug zu entdecken. Das System kombiniert nach Angaben der Studienautoren Daten etwa aus der Steuererklärung mit Informationen aus anderen Quellen. Ein Algorithmus entscheidet anhand teils unbekannter Kriterien, ob ein Bürger als verdächtig markiert wird oder nicht. Das Arbeitsministerium in Polen kategorisiert Arbeitslose danach, welche Art von Hilfe sie von örtlichen Arbeitsämtern erhalten können.

          Die verwendeten Daten werden durch Fragebögen erhoben und daraus zwei Gradmesser errechnet, die „Entfernung vom Arbeitsmarkt“ sowie die „Bereitschaft, in den Arbeitsmarkt (wieder) einzusteigen“. Ein Behördenmitarbeiter könne das Profil zwar händisch wieder ändern, allerdings passiere das in nur einem Prozent der Fälle.

          F.A.Z. Digitec: jetzt testen!

          Nehmen Sie die digitale Zukunft selbst in die Hand.

          Mehr erfahren

          Die Stadt Trelleborg in Schweden hat Teile des Entscheidungsprozesses in Bezug auf Sozialleistungen automatisiert. Anträge werden automatisch mit anderen Datenbanken abgeglichen, etwa der Steuerbehörde oder Behörden für öffentliche Unterbringung. Die Entscheidung trifft das System angeblich automatisch. Die Zahl der Fallbearbeiter sei so von elf auf drei gesenkt worden.

          Vorhersagen über Menschen

          Bei der Einführung des Systems in einer anderen Gemeinde habe die Hälfte der Angestellten ihren Job aus Protest gekündigt. In Deutschland nennt die Studie etwa das Kreditscoring durch die Schufa und intelligente Videoüberwachung in Mannheim, die etwa Schlägereien automatisch erkennt und der Polizei meldet.

          Automatisierte Entscheidungen träfen uns schon heute, nicht in einer fernen Zukunft, schreiben die Autoren der Untersuchung. Sie warnen davor, sich von „attraktiven“, aber spekulativen Diskussionen um Künstliche Intelligenz ablenken zu lassen von schon heute drängenden Fragen. Außerdem rufen sie dazu auf, nicht allein das Datenschutzrecht als Ansatzpunkt für Regulierung automatisierter Entscheidungen zu betrachten.

          Wenn etwa eine Gegend plötzlich stark von den Behörden überwacht werde, seien keine Individuen betroffen. Die Politik müsse sich zudem darüber klarwerden, welche Anwendungsfelder politisch relevant seien. Wenn Maschinen etwa Wartungsintervalle bei der Produktion von Joghurt vorhersagen, müsse das nicht beunruhigen – anders als bei Vorhersagen über Menschen.

          Die Bürger müssten über die Veränderungen informiert werden – 100.000 Finnen haben in ihrem Land durch einen kostenlosen Online-Kurs aus einer öffentlich-privaten Partnerschaft mehr über Künstliche Intelligenz erfahren. Die öffentliche Hand müsse zudem für Expertise sorgen, indem sie Institutionen und Universitäten – auch auf EU-Ebene – unterstützt.

          Weitere Themen

          Topmeldungen

          Militärübung Zapad: Alexandr Lukaschenko Mitte September auf dem Truppenübungsplatz Obuz-Lesnovsky

          Sorgen um die Ukraine : Lukaschenko droht für Putin

          Der Minsker Machthaber kündigt „Manöver“ mit Russland nahe der Ukraine an – und stellt sogar die Stationierung russischer Nuklearwaffen in Belarus in Aussicht.

          Zapfenstreich für Merkel : Abschied mit Fackeln und Schlagern

          Mit dem Großen Zapfenstreich verabschiedete sich die Bundeswehr von Angela Merkel nach 16 Jahren im Amt. Die Kanzlerin hält zwei Ratschläge bereit – und freut sich über Schlager aus Ost und West.
          Angela Merkel und Olaf Scholz am Donnerstag in Berlin

          Merkel und Scholz : Letzter gemeinsamer Schlag gegen das Virus

          Angela Merkels wohl letzte Corona-Ministerpräsidentenkonferenz ist eine Arbeitssitzung fast wie immer. Kleine Freundlichkeiten gibt es trotzdem für ihren wahrscheinlichen Nachfolger.
          Tritt von der politischen Bühne ab: Sebastian Kurz am Donnerstag in Wien

          Österreichs früherer Kanzler : Wie lange ist Kurz weg?

          Österreichs früherer Kanzler Sebastian Kurz legt seine politischen Ämter nieder und spricht davon, dass er seine Begeisterung verloren habe. Ob es ein Abschied für immer sein soll, bleibt offen.