https://www.faz.net/-gqz-aahsl
Fridtjof Küchemann, Redakteur im Feuilleton

Predictive Policing in Utah : Nullintelligenz

Polizeieinsatz in Salt Lake City, der Hauptstadt des amerikanischen Bundesstaates Utah Bild: Picture-Alliance

Mit dem KI-System „Life Time Intelligence“ hatte Utah Verbrechen verhindern wollen. Dann kam heraus, dass ein Gründer des Anbieters früher rechtsradikal war. Jetzt offenbart sich ein überraschender Mangel des Programms.

          2 Min.

          Die gute Nachricht zuerst: Das umstrittene System „Live Time Intelligence“ der amerikanischen Softwarefirma Banjo, das der Bundesstaat Utah für mehr als zwanzig Millionen Dollar gekauft hat und nutzen wollte, um mit Künstlicher Intelligenz predictive policing, also vorausschauende Polizeiarbeit, betreiben zu können, ist nicht rassistisch voreingenommen.

          Das ist eine grundsätzliche Frage beim Einsatz Künstlicher Intelligenz: Die Systeme werden mit Datensätzen trainiert, erkennen darin Muster und leiten daraus Vorhersagen ab. Wenn – wie bei Amazon geschehen – ein KI-System aus den Mitarbeiterdaten eines Unternehmens erkennt, dass vorrangig Männer in höheren Positionen arbeiten, kann es daraus schließen, hier wohl auf ein Eignungsmerkmal gestoßen zu sein. Wenn eine KI Polizeidaten auswertet und erkennt, wie groß der Anteil von Menschen mit dunkler Hautfarbe unter den Überwachten, Kontrollierten, Verhafteten ist, könnte es nicht etwa darauf kommen, dass hier ein Fall von strukturellem Rassismus vorliegt, sondern ebenfalls ein Merkmal registrieren – für verstärkte Bereitschaft zur Kriminalität.

          Wenn ein System wie „Live Time Intelligence“ damit beworben wird, es könne Anzeichen für terroristische Akte, Schießereien oder Kindesentführungen früh genug erkennen, um das Schlimmste zu verhindern, liegt die Frage nahe, wie es zu den Annahmen kommt – und der Verdacht, es könnten Vorurteile perpetuiert werden. Als vor bald einem Jahr herauskam, dass einer der Banjo-Gründer in seiner Jugend dem Ku-Klux-Klan angehört hatte, stoppte Utahs Generalstaatsanwalt, Sean Reyes, das Projekt, zu dem auch der Datentransfer von staatlichen Überwachungskameras an öffentlichen Plätzen, von Notrufsystemen und von Bewegungen öffentlicher Fahrzeuge gehörte.

          Reyes gab dem staatlichen Rechnungsprüfer John Dougall den Auftrag, mit einer eigens eingesetzten Kommission zum Schutz der Privatsphäre und vor Diskriminierung nach Hinweisen auf Voreingenommenheit und Datenschutzverstöße bei „Live Time Intelligence“ zu suchen. Vom Verdacht, mittels Künstlicher Intelligenz diskriminierende Voraussagen zu treffen, spricht der jetzt vorliegende Bericht des Experten das System frei. Die Begründung allerdings gibt neuen Grund zur Sorge: John Dougall wirft dem Justizministerium vor, den Anpreisungen der Fähigkeiten des Systems ohne Überprüfung vertraut zu haben.

          Das Beispiel einer mit dessen Hilfe gelösten Kindesentführung sei nicht nachvollziehbar, weil die von Banjo versprochene Künstliche Intelligenz bei einer genaueren Untersuchung von „Live Time Intelligence“ schlicht nicht gefunden werden konnte. Nicht nur im System fehlte es an Intelligenz: Dass ein Ministerium den Versprechungen eines KI-Anbieters offenbar blind vertraut und das Vertrauen der Allgemeinheit in den Einsatz solcher Technologien aufs Spiel gesetzt hat, ist eine weitere schlechte Nachricht.

          Fridtjof Küchemann
          (kue.), Feuilleton

          Weitere Themen

          Die Säfte unter der Haut

          Hermann Schmitz gestorben : Die Säfte unter der Haut

          Mit großer Geste Verwarf er die philosophische Tradition und schuf eine eigene: Sein zehnbändiges „System der Philosophie“ steht für das Beisichsein im Elementaren. Nun ist der Leibphilosoph Hermann Schmitz gestorben.

          Joseph Beuys: „Ohne Titel“

          Frankfurter Anthologie : Joseph Beuys: „Ohne Titel“

          Es geht auch ohne Filz: Dieses Gedicht entstand in den vierziger Jahren, inmitten des Krieges und bevor sein Verfasser zum Avantgarde-Künstler wurde. In zarten Wendungen spricht es von den Geheimnissen des Lebens und des Todes.

          Topmeldungen

          Daisuke Inoue mit seiner Erfindung

          Geistiges Eigentum : Erfinden ohne Patente

          Der Schutz durch Patente treibt die Wissenschaft auf den Markt. Doch viele Forscher und Erfinder haben sich ihre geistigen Früchte gar nicht schützen lassen.
          Gefährdete Spezies: Auch für Hersteller von Spielzeugpuppen werden derzeit die Rohstoffe knapp.

          Rohstoffmangel in Europa : Bei Barbiepuppen wird es schon eng

          In Europa werden Rohstoffe knapp. Pappe, Metall und Kunststoff sind Mangelware. Lieferketten sind zu anfällig, die Vorräte zu dürftig. Vor Jahresende ist wenig Besserung in Sicht.
          Eine Figur des britischen Premierminister Boris Johnson im Hafen von Hartlepool am 7. Mai

          Nachwahl in Hartlepool : Die krachende Niederlage der Labour Party

          Die überwältigende Mehrheit für die Tory-Kandidatin in der früheren Labour-Hochburg Hartlepool erschüttert die Oppositionspartei. Und wirft die Frage auf, ob Keir Starmers Zeit als Vorsitzender abgelaufen ist.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.