http://www.faz.net/-gqz-74afv
HERAUSGEGEBEN VON WERNER D'INKA, JÜRGEN KAUBE, BERTHOLD KOHLER, HOLGER STELTZNER

Veröffentlicht: 12.11.2012, 12:56 Uhr

Kolumne „Silicon Demokratie“ Der unfreie Kanal

Digitale Kommunikation komme ohne Vermittler aus, sagen die Netzapologeten. Doch statt auf Verlage und Buchhandlungen setzen sie auf kommerzielle Plattformen und algorithmische Zensoren.

von Evgeny Morozov
© PETAR PETROV/AP/dapd Algorithmen hören immer mit: Demonstration in Sofia gegen staatliche Überwachung

“Disintermediation“ wird oft als Wesensmerkmal des digitalen Zeitalters gepriesen. Durch innovative Technologien, so die These, werden Vermittler aller Art überflüssig. Wenn Lektoren, Verlage und Buchhandlungen abgeschafft sind, werden wir endlich befreit sein von ihren Vorurteilen, ihrer Inkompetenz und ihren versteckten Zielen. Um Jeff Bezos von Amazon zu zitieren, den Oberabschaffer, wenn es je einen gegeben hat: „Selbst wohlmeinende Gatekeeper behindern Innovation. Wenn eine Plattform sich selbst organisiert, können noch die absurdesten Ideen ausprobiert werden, weil niemand daherkommt und mit Expertenmiene sagt: ,Das funktioniert nicht.’“ Selbst wenn Bezos recht hat, so übersieht er einen wichtigen Aspekt der Story: Die Digitalisierung unseres Lebens führt zu vielen neuen, meistens unsichtbaren und womöglich fragwürdigen Vermittlern.

Nehmen wir nur das Bloggen. Als die ersten Blogger in den späten neunziger Jahren anfingen, hatten sie es nur mit ihrem Hostingdienst und dem Internetprovider zu tun. Wer heutzutage bloggen will, wird höchstwahrscheinlich auf einer kommerziellen Plattform wie Tumblr oder Wordpress landen, wobei alle Blogkommentare über ein drittes Unternehmen wie etwa Disqus laufen. Aber es gibt noch weitere Vermittler. Disqus arbeitet mit einer Firma namens Impermium zusammen, die mit Hilfe verschiedener Tools prüft, ob gepostete Kommentare Spams sind. Die wachsende Popularität von Blogs hat nicht zu immer weniger, sondern zu immer mehr Vermittlern geführt. Im Grunde müsste man nicht von „Disintermediation“ sprechen, sondern von „Hyperintermediation“.

Spambekämpfung als Vorwand

Impermium gibt auch an, eine Technologie entwickelt zu haben, „die nicht bloß Spams und Malware-Links, sondern alle möglichen unerwünschten Inhalte identifiziert (etwa Gewalt, Rassismus, Gotteslästerung und Volksverhetzung) und es Seitenbetreibern ermöglicht, in Echtzeit zu reagieren, bevor diese Inhalte die Leser erreichen“. Impermium betreut nach eigenen Angaben 300 000 Websites. Ganz recht: Eine einzige Firma in Kalifornien entscheidet für 300 000 Kunden darüber, was Hate Speech und Gotteslästerung ist, ohne dass jemand prüfen kann, ob die von dieser Firma verwendeten Algorithmen vielleicht verzerrt oder extrem konservativ sind.

Das Modell von Impermium ist interessant, weil der Prozess der Identifizierung von Spam oder Hate Speech mit Big Data unterfüttert wird. Früher war es so, dass jeder Blogeintrag oder Kommentar, in dem das Wort „Viagra“ vorkam, sofort gelöscht wurde; Impermium behauptet, anhand von Nutzerdaten aus dem Netzwerk der 300 000 betreuten Websites Viagra-Witze von Viagra-Werbung unterscheiden zu können.

Das klingt gut. Eine kontextbasierte Moderation könnte manch legitimen Witz retten. In einem anderen Zusammenhang hat diese Verbindung von Big Data und automatischer Moderation von Inhalten jedoch eine dunkle Seite, vor allem in autoritären Staaten, für die Spambekämpfung - mit Hilfe einheimischer IT-Firmen - nur ein Vorwand ist, um missliebige Meinungen zu unterdrücken. Lösungen, wie Impermium sie praktiziert, erlauben eine raffiniertere Zensur und vermeiden die plumpen Lücken, die das Ergebnis undifferenzierter Systeme sind.

Moderation nach Standort

So verwenden chinesische Blogger regelmäßig Euphemismen und Anspielungen, um ihre algorithmischen Zensoren auszutricksen. Ein scheinbar harmloser Begriff wie „Flusskrebs“ steht beispielsweise für „Internetzensur“, „Ferientherapie“ für die Verhaftung von Funktionären. Diese Formulierungen, die die Zensur unterlaufen, weil sie auffällige Begriffe wie „Menschenrechte“ oder „Demokratie“ vermeiden, werden schnell zu Memen, die kritische Diskussionen über die chinesische Politik in Gang setzen.

Mit Hilfe von Big Data kann Moderationssoftware die relative Häufigkeit bestimmter Ausdrücke auf anderen beliebten Seiten ermitteln und die Kommentatoren genauer überprüfen - etwa: Wer sind ihre Freunde? Bei welchen anderen Postings haben sie einen Kommentar hinterlassen? -, um verdächtige Euphemismen aufzuspüren.

Auch der Aufenthaltsort der Kommentatoren lässt sich ermitteln. Man stelle sich nur vor, welche neuen Zensurmöglichkeiten sich bieten, wenn Moderationsentscheidungen auch geographische Informationen einbeziehen (Experten sprechen schon von „Spatial Big Data“): Dann könnte man nämlich Kommentare, Videos oder Fotos unterdrücken, die von Nutzern etwa auf dem Tahrir-Platz oder an einem anderen politisch explosiven Ort hochgeladen werden.

1 | 2 Nächste Seite   |  Artikel auf einer Seite
 

Hier können Sie die Rechte an diesem Artikel erwerben

Weitere Empfehlungen
Journalismus-App von Quartz Liest du noch, oder chattest du schon?

Diese App des Magazins Quartz könnte die Informationsgebung umstürzen: Sie fordert die Nutzer auf, mit ihren Nachrichten zu reden. Und die tun das sogar. Doch was bringen sie in Erfahrung? Mehr Von Adrian Lobe

28.04.2016, 21:04 Uhr | Feuilleton
Video Wiederverwendbare Rakete absolviert Testflug

Die wiederverwendbare Rakete von Amazon-Gründer Jeff Bezos, New Shepard, erreichte nach einigen Minuten im Suborbit wieder sicher die Erde. Nicht nur der Start verlief nach Plan, sondern auch die Landung ein paar Minuten später. Bezos rechnet damit, dass im kommenden Jahr bemannte Testflüge starten können. Mehr

04.04.2016, 10:01 Uhr | Wirtschaft
Wahlkampf in Amerika Wird Facebook Donald Trump verhindern?

Die Frage, ob sich ein Netzkonzern in die Präsidentschaftswahl einmischen und diese manipulieren könnte, ist nicht akademisch: Für Facebook wäre das ein Leichtes, und intern wird es längst schon diskutiert. Wie soll das gehen? Mehr Von Adrian Lobe

29.04.2016, 08:32 Uhr | Feuilleton
Gehälter Das verdienen Ingenieure 2016

Wer die Wirtschaft digitalisieren und Maschinen vernetzen will, der braucht dafür hochqualifizierte Entwickler und Produktionsfachleute. Der Gehaltsatlas von F.A.Z. und Gehalt.de zeigen, wo Ingenieure daraus am meisten Kapital schlagen. Mehr

26.04.2016, 12:33 Uhr | Beruf-Chance
Kommentar Klingt gut, was Grün-Schwarz vorhat

Die grün-schwarze Koalition in Baden-Württemberg hat verraten, was sie vorhat. Es hört sich tatsächlich sehr wirtschaftsfreundlich an. Ein Kommentar. Mehr Von Susanne Preuß, Stuttgart

02.05.2016, 17:36 Uhr | Wirtschaft
Glosse

Bayerische Gleichberechtigung

Von Patrick Bahners

Im Zuge des Neubaus des Münchner Hauptbahnhofs wird auch dessen Vorplatz neu gestaltet. Eine Frau soll dort zu sehen sein – aber ist Bayern schon soweit? Mehr 5

Abonnieren Sie den Newsletter „Literatur“