Es klingt bedrohlich, wie sich Kate Crockford die Zukunft vorstellt. Eines Tages, so sagt die Mitarbeiterin der amerikanischen Bürgerrechtsorganisation ACLU auf der „South by Southwest“ in Austin, werden Polizisten womöglich jede Person, die an ihnen vorbeigeht oder -fährt, mit digitalen Hilfsmitteln wie Computerbrillen scannen.

Vielleicht sorgt dann eine Software dafür, dass die Polizisten durch diese Brille über jedem Kopf eine Zahl sehen, je nachdem wie verdächtig die jeweilige Person eingestuft wird. Gesichtserkennung würde es möglich machen. Und zu verdanken wäre das auch den Unternehmen, die solche Methoden entwickeln. „Ich sehe eine sehr angsteinflößende Welt,“ sagt Crockford.

Die amerikanische Technologiebranche findet sich derzeit regelmäßig in der Defensive wieder. Auf Argwohn stoßen dabei vor allem ihre Datenschutzpraktiken und ihre wachsende Macht. Zunehmend thematisiert wird in jüngster Zeit aber auch die Frage, ob sie sich mit ihren Produkten zu willigen Überwachungswerkzeugen von Regierungen und Strafverfolgungsbehörden macht.

Kritiker wie die ACLU haben dabei in erster Linie den Online-Händler Amazon.com und dessen Sparte Amazon Web Services (AWS) ins Visier genommen. AWS ist auf Angebote rund um „Cloud Computing“ spezialisiert und vor allem dafür bekannt, seinen Kunden Rechnerkapazitäten und damit verbundene Dienstleistungen anzubieten. Zur Produktpalette gehört aber auch „Rekognition“, eine Software zur Gesichtserkennung.

Dieses Programm vermarktet AWS auch an Polizeibehörden, und wie Matt Cagle von der ACLU sagt, tut das Unternehmen das sehr aggressiv und im ganzen Land. „Rekognition“ wurde auch zum Gegenstand der Diskussion, als sich Amazon unlängst mit Plänen für einen neuen Campus in New York einer lautstarken Protestbewegung gegenübersah. Die Gegner führten als Grund für ihre Opposition unter anderem an, dass Amazon die Software angeblich der Zollbehörde ICE zur Verfügung stellt.

Amazon steht zur Kooperation mit der Polizei

Amazon sagt, „Rekognition“ könne in einem einzelnen Foto bis zu 100 Gesichter erkennen, analysieren und indizieren. Das lasse sich auf Gruppenfotos anwenden, auf Veranstaltungen mit vielen Besuchern und öffentlichen Plätzen wie Flughäfen und Warenhäusern. Amazon gibt auch zu, mit der Polizei zusammenzuarbeiten und sagt, die Software habe den Behörden im Bundesstaat Oregon geholfen, die Zeit zur Identifikation von Verdächtigen von zwei bis drei Tagen auf wenige Minuten zu reduzieren.

Das Unternehmen verweist aber auch darauf, dass die Software sich für vielerlei Zwecke einsetzen lasse und wichtige Dienste leiste, etwa um vermisste Kinder zu finden. Auch für harmlosere Spielereien wurde sie genutzt, etwa um die Gäste auf der Hochzeit von Prinz Harry und Meghan Markle im vergangenen Jahr zu identifizieren.

Kameras werden Akteure

Die ACLU sieht in solchen Gesichtserkennungsmethoden aber eine große Gefahr. „Kameras sind nicht mehr passiv, sondern werden zum Leben erweckt und halten Ausschau nach Menschen,“ sagt Matt Cagle. Zudem seien diese Programme bislang oft noch unzuverlässig und ihr Einsatz ginge auf Kosten ethnischer Minderheiten. Die Organisation führte vor geraumer Zeit mit der Software einen Test mit Fotos von amerikanischen Kongressabgeordneten durch und sagte hinterher, mehr als zwei Dutzend von ihnen, darunter vor allem Afro-Amerikaner, seien falsch identifiziert worden.

In einer Studie des Massachusetts Institute of Technology wurde aus einer Gruppe von dunkelhäutigen Frauen fast ein Drittel fälschlicherweise als Männer identifiziert. Amazon selbst sagt, die Fehlerraten seien deutlich reduziert worden.

Amazon ist nicht das einzige Unternehmen, das auf dem Gebiet der Gesichtserkennung aktiv ist. Die ACLU schickte kürzlich zusammen mit anderen Gruppen neben Amazon auch an Microsoft und Google Briefe mit der Forderung, sich zu verpflichten, keine Überwachungstechnologien an die Regierung zu verkaufen. Gerade Microsoft hat in der Öffentlichkeit selbst oft auf Gefahren von Gesichtserkennung hingewiesen und Regulierung gefordert. Nach einem Bericht der Zeitschrift „Wired“ kämpft das Unternehmen aber in seinem Heimatbundesstaat Washington auch gegen ein Gesetz, das bestimmte Restriktionen für den Einsatz der Technologie bringen würde.

ACLU-Mitarbeiterin Crockford will den Kampf gegen Überwachungssysteme trotz der von ihr selbst heraufbeschworenen düsteren Szenarien nicht aufgeben und hält ihn auch nicht für aussichtslos. Sie zeigt sich ermutigt davon, dass es in den Belegschaften von Unternehmen wie Amazon und Microsoft Proteste gegen bestimmte Geschäfte mit der Regierung gegeben hat. Wenn manche Menschen unter Verweis darauf, was sie in Science-Fiction-Filmen gesehen haben, sagen, eine Überwachungsgesellschaft sei letztlich unvermeidbar, dann sei das „Bullshit“.