https://www.faz.net/-gpf-8vyei

Big Data : Trumps neues Menschenregister

  • -Aktualisiert am

Eine Installation auf der Messe SXSW soll die Massenüberwachung erlebbar machen. Bild: Reuters

In Amerika sammeln nicht nur die Online-Konzerne Daten, sondern auch der Staat legt riesige Register an. Wie gefährlich könnten sie in der Hand der Trump-Administration werden?

          4 Min.

          „Wie viel Faschismus steckt in der künstlichen Intelligenz?“, fragt Kate Crawford. Bei der SXSW-Konferenz in Austin bekommt niemand so viel Beifall wie die australische Publizistin, die in New York arbeitet und als leitende Wissenschaftlerin in Diensten von Microsoft steht. In der texanischen Stadt debattierten 40.000 Teilnehmer nicht allein über Innovationen für die Zukunft, sondern auch über die Schattenseiten der technologischen Entwicklung.

          Crawford treibt zum einen die rasch wachsende Datenmacht staatlicher Institutionen um, die zu einer immer feingliedrigeren Katalogisierung der Bürger führt, zum anderen der zunehmende Einsatz künstlicher Intelligenz, um aus den Daten Schlüsse über künftiges Verhalten von Menschen zu ziehen. „Wir folgen einem Mythos“, sagt Crawford, die ihrem Vortrag den Titel gab: „Dunkle Tage. Künstliche Intelligenz und der Aufstieg des Faschismus“.

          Crawford sieht einen Zusammenhang: Ausgerechnet in dem Moment, in dem sich die Menschheit das intelligenteste Kommunikations- und Informationsnetz ihrer Geschichte webt, befindet sich die Demokratie auf dem Rückzug, gibt es in der gesamten Welt einen bedrohlichen Aufschwung von Totalitarismus, Autokratie und antidemokratischen Tendenzen. Selbst in den westlichen Demokratien werden die fundamentalen Grenzen zwischen Bürger und Staat nach und nach verschoben: die Schutzzäune gegenüber einem übermächtigen Staat; der Schutzbereich der bürgerlichen Privatsphäre; der Schutz davor, vorschnell vom Verdächtigen zum Täter gemacht zu werden.

          Die zunehmende Kategorisierung der Bürger sei stets eine Begleiterscheinung totalitärer Entwicklungen gewesen, sagt Crawford. Nazi-Diktatur und SED-Regime waren vereint in ihrem unbändigen Kontrollwahn, in ihrer Datensammelwut, im Sortieren von Menschen und im Aussortieren von missliebigen Bürgern. Ihre Menschenkataloge waren gigantische Filter, die die Bevölkerung in Freund und Feind einteilten, in nützlich und vermeintlich unnütz. Doch die Mittel waren begrenzt. Die Akten von damals muten heute archaisch an: „Das Problem der Faschisten des 20. Jahrhunderts war, dass ihre Technologie armselig war.“

          Die Technologie hat sich geändert, geblieben ist mancherorts aber das Denken: Die neuen populistischen Bewegungen eint der Wunsch nach Abgrenzung und nach der Dämonisierung von Fremdem. Selbstlernende Maschinen könnten dabei zum machtvollen Unterstützer im Wunsch nach Kontrolle und Abgrenzung werden. Vorurteile lassen sich nur allzu einfach in Algorithmen einbauen.

          Der Staat kommt seinen Bürgern immer näher

          Schneller und besser als je zuvor kann der Staat heute existierende Daten kombinieren. Mit Methoden der künstlichen Intelligenz, die längst im E-Commerce und in der digitalen Vermarktung zum Einsatz kommen, beginnt er, Vorhersagen über das Verhalten einzelner Gruppen zu treffen. So wie digitale Kaufhäuser und Medien eine immer engere Beziehung mit ihren Nutzern pflegen, so versucht auch der Staat, über die digitalen Kanäle immer näher an seine Bürger und ihre Persönlichkeit heranzurücken.

          Unterstützt wird er von den intelligentesten Köpfen der Datenindustrie und einigen der machtvollsten Firmen. Aber auch vom Bürger selbst, der in seiner Sucht nach Kommunikation und Selbstdarstellung und auf der immerwährenden Suche nach der perfekten Beziehung privateste Details in einem nie dagewesenen Ausmaß für jeden abrufbar exhibitioniert.

          Eines der größten und umstrittensten Datensysteme erarbeitet gerade die Firma Palantir, die dem deutschstämmigen Unternehmer Peter Thiel gehört, einem glühenden Unterstützer des amerikanischen Präsidenten Trump. Palantir, das sich unter anderem auf den Einsatz künstlicher Intelligenz zum Steuern und Durchforsten riesiger Datenbanken spezialisiert hat, hatte schon vom früheren Präsidenten Obama den Auftrag erhalten, die wichtigsten Datenbestände Amerikas zu aggregieren, um illegale Einwanderer aufzuspüren und abzuschieben.

          Ein machtvolles System zur Massenkontrolle

          Ein System steht nun vor der Vollendung – und es eignet sich für weit größere Anwendungen. Crawford beschrieb es als das „machtvollste System der Massenkontrolle“, das jemals in der westlichen Welt zur Anwendung kam. Es ist eine beängstigende Sammlung persönlicher Daten. Die Software mit dem vielsagenden Namen Investigative Case Management wertet eine Vielzahl von Datenbeständen aus. Die daraus erstellten Persönlichkeitsprofile enthalten Daten zu Schulbildung, Karriere, Familienverbindungen und biometrischen Details, zur Einwanderungshistorie, etwaigen Straftaten, Drogenvergehen und vielem mehr.

          Es ist die detailreichste Datenbank, die ein Land je über Teile seiner eigenen Bürger angelegt hat. Dokumente, die der Onlinedienst „The Intercept“ kürzlich eingesehen hat, deuten darauf hin, dass die erfassten Daten ergänzt werden könnten durch alles, was die einzelnen Personen in sozialen Netzwerken bereits über sich offenbart haben. Gelänge die Verknüpfung staatlicher Datensammlungen mit den Datenspuren von Millionen Internetnutzern, läge ein monströses Instrument in der Hand einer Regierung.

          Gefährliche Vorhersagen über „Gefährder“

          Die Datenkataloge von Palantir stehen noch am Anfang. Gefahren sieht Crawford in der Auswertung dieser Sammlungen durch Mechanismen der künstlichen Intelligenz. Ließen sich dann Algorithmen entwickeln, die ähnlich wie im Online-Marketing aus den gesammelten Daten Vorhersagen über die Verhaltensweisen der Erfassten treffen könnten? Und was würde passieren, wenn sie sich irrten?

          Die von Mord und Totschlag geprägte Stadt Chicago versucht bereits mit Hilfe von sogenanntem „predictive policing“ Vorhersagen über die Kriminalität in einzelnen Stadtteilen zu machen. Crawford warnte vor einem vorschnellen Einsatz von Algorithmen, deren Aussagekraft unklar ist. Kein Rechner könne derzeit mit valider Sicherheit vorhersagen, wer zum Schurken tauge und wer nicht. Stattdessen drohe eine massive Zunahme von falschen Verdächtigungen im Vorfeld der Kriminalität – eine Problematik, die auch in Deutschland bei der Ausweitung der Dateien über sogenannte „Gefährder“ relevant wird, mutmaßlichen Extremisten aus dem islamistischen Umfeld, die einen Anschlag begehen könnten.

          Trotz bisher zweifelhafter Ergebnisse ist eine massive Zunahme von Programmen zu beobachten, die aus Datenanalysen Vorhersagen über menschliches Verhalten zu gewinnen trachten: „Wir sehen einen historischen Anstieg von antidemokratischen Mechanismen“, sagt Crawford und warnt: „Die Geschichte hat uns immer wieder gezeigt, dass riesige Datenregister autokratisches Denken verstärken.“

          Weitere Themen

          Topmeldungen

          Die Kommunalwahlen in NRW sind für die SPD von existentieller Bedeutung: Die Partei kann sich nur stabilisieren, wenn ihnen ihre kommunale Basis nicht wegbricht.

          Verschuldete Kommunen : Werden die Altschulden zur tickenden Zeitbombe?

          Die Lösung des Altschulden-Problems hat sich die große Koalition fest vorgenommen. Gerade die von der SPD regierten Großstädte im Ruhrgebiet würden von Bundeshilfe profitieren – bisher verhält sich Nordrhein-Westfalen jedoch merkwürdig passiv.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.