“Disintermediation“ wird oft als Wesensmerkmal des digitalen Zeitalters gepriesen. Durch innovative Technologien, so die These, werden Vermittler aller Art überflüssig. Wenn Lektoren, Verlage und Buchhandlungen abgeschafft sind, werden wir endlich befreit sein von ihren Vorurteilen, ihrer Inkompetenz und ihren versteckten Zielen. Um Jeff Bezos von Amazon zu zitieren, den Oberabschaffer, wenn es je einen gegeben hat: „Selbst wohlmeinende Gatekeeper behindern Innovation. Wenn eine Plattform sich selbst organisiert, können noch die absurdesten Ideen ausprobiert werden, weil niemand daherkommt und mit Expertenmiene sagt: ,Das funktioniert nicht.’“ Selbst wenn Bezos recht hat, so übersieht er einen wichtigen Aspekt der Story: Die Digitalisierung unseres Lebens führt zu vielen neuen, meistens unsichtbaren und womöglich fragwürdigen Vermittlern.
Nehmen wir nur das Bloggen. Als die ersten Blogger in den späten neunziger Jahren anfingen, hatten sie es nur mit ihrem Hostingdienst und dem Internetprovider zu tun. Wer heutzutage bloggen will, wird höchstwahrscheinlich auf einer kommerziellen Plattform wie Tumblr oder Wordpress landen, wobei alle Blogkommentare über ein drittes Unternehmen wie etwa Disqus laufen. Aber es gibt noch weitere Vermittler. Disqus arbeitet mit einer Firma namens Impermium zusammen, die mit Hilfe verschiedener Tools prüft, ob gepostete Kommentare Spams sind. Die wachsende Popularität von Blogs hat nicht zu immer weniger, sondern zu immer mehr Vermittlern geführt. Im Grunde müsste man nicht von „Disintermediation“ sprechen, sondern von „Hyperintermediation“.
Spambekämpfung als Vorwand
Impermium gibt auch an, eine Technologie entwickelt zu haben, „die nicht bloß Spams und Malware-Links, sondern alle möglichen unerwünschten Inhalte identifiziert (etwa Gewalt, Rassismus, Gotteslästerung und Volksverhetzung) und es Seitenbetreibern ermöglicht, in Echtzeit zu reagieren, bevor diese Inhalte die Leser erreichen“. Impermium betreut nach eigenen Angaben 300 000 Websites. Ganz recht: Eine einzige Firma in Kalifornien entscheidet für 300 000 Kunden darüber, was Hate Speech und Gotteslästerung ist, ohne dass jemand prüfen kann, ob die von dieser Firma verwendeten Algorithmen vielleicht verzerrt oder extrem konservativ sind.
Das Modell von Impermium ist interessant, weil der Prozess der Identifizierung von Spam oder Hate Speech mit Big Data unterfüttert wird. Früher war es so, dass jeder Blogeintrag oder Kommentar, in dem das Wort „Viagra“ vorkam, sofort gelöscht wurde; Impermium behauptet, anhand von Nutzerdaten aus dem Netzwerk der 300 000 betreuten Websites Viagra-Witze von Viagra-Werbung unterscheiden zu können.
Das klingt gut. Eine kontextbasierte Moderation könnte manch legitimen Witz retten. In einem anderen Zusammenhang hat diese Verbindung von Big Data und automatischer Moderation von Inhalten jedoch eine dunkle Seite, vor allem in autoritären Staaten, für die Spambekämpfung - mit Hilfe einheimischer IT-Firmen - nur ein Vorwand ist, um missliebige Meinungen zu unterdrücken. Lösungen, wie Impermium sie praktiziert, erlauben eine raffiniertere Zensur und vermeiden die plumpen Lücken, die das Ergebnis undifferenzierter Systeme sind.
Moderation nach Standort
So verwenden chinesische Blogger regelmäßig Euphemismen und Anspielungen, um ihre algorithmischen Zensoren auszutricksen. Ein scheinbar harmloser Begriff wie „Flusskrebs“ steht beispielsweise für „Internetzensur“, „Ferientherapie“ für die Verhaftung von Funktionären. Diese Formulierungen, die die Zensur unterlaufen, weil sie auffällige Begriffe wie „Menschenrechte“ oder „Demokratie“ vermeiden, werden schnell zu Memen, die kritische Diskussionen über die chinesische Politik in Gang setzen.
Mit Hilfe von Big Data kann Moderationssoftware die relative Häufigkeit bestimmter Ausdrücke auf anderen beliebten Seiten ermitteln und die Kommentatoren genauer überprüfen - etwa: Wer sind ihre Freunde? Bei welchen anderen Postings haben sie einen Kommentar hinterlassen? -, um verdächtige Euphemismen aufzuspüren.
Auch der Aufenthaltsort der Kommentatoren lässt sich ermitteln. Man stelle sich nur vor, welche neuen Zensurmöglichkeiten sich bieten, wenn Moderationsentscheidungen auch geographische Informationen einbeziehen (Experten sprechen schon von „Spatial Big Data“): Dann könnte man nämlich Kommentare, Videos oder Fotos unterdrücken, die von Nutzern etwa auf dem Tahrir-Platz oder an einem anderen politisch explosiven Ort hochgeladen werden.
Gefälschte Online-Identitäten
Noch raffiniertere Autokraten könnten ihnen gefährlich erscheinende Inhalte kapern, statt sie einfach zu sperren. Im Zusammenhang mit dem arabischen Frühling musste jeder, der auf Twitter kritische Kommentare über Bahrein oder Syrien postete, mit wütenden Reaktionen von Regimeanhängern (beziehungsweise wohl eher von ihren Bots) rechnen. Tibetische Aktivisten beklagen, dass mehrere Twitter-Hashtags zu tibetischen Themen - vor allem #tibet und #freetibet - derart mit Junk überflutet wurden, dass sie völlig unbrauchbar geworden sind.
Big-Data-Technologie kann solche Propaganda noch präziser einsetzen. Regimes müssen lernen, wie man neue Meme identifiziert, unterläuft und stört, bevor sie sich hinter einem speziellen Hashtag verbinden. Und hier sind Big-Data-Analyseinstrumente besonders nützlich. So hat ein russischer Sicherheitsdienst kürzlich die Schaffung von Bots in Auftrag gegeben, die die Entstehung von Memen erkennen und sie „durch massenhafte Verbreitung von Nachrichten in sozialen Netzwerken in Echtzeit stören und konterkarieren und auf diese Weise die Öffentlichkeit beeinflussen können“.
Nutzlose Informationen
Moskau hat also von Washington gelernt. Im vergangenen Jahr beauftragte das Pentagon eine in San Diego ansässige Firma mit der Entwicklung einer Software, die gefälschte Online-Identitäten generieren und gegen extremistische und feindliche Propaganda außerhalb Amerikas eingesetzt werden kann. Mit Big-Data-gestützten Analysen wird das Aufspüren von „Feindpropaganda“ viel leichter.
Warum sollte man eine solche Taktik anwenden, da es für einen Bot, der kaum Kontakte und keine aussagekräftige Twitter-Geschichte hat, ziemlich schwer sein dürfte, auf Menschen einzuwirken? Erstens muss es ja nicht um Beeinflussung gehen. Manche Bots existieren nur, um den Zugang zu zeitnahen Informationen über, sagen wir, gerade stattfindende politische Proteste zu erschweren. Die Investitionen in diese Bots könnten sich für den Kreml gelohnt haben.
Geschickte Manipulation
Während der Proteste nach den umstrittenen Parlamentswahlen im Dezember 2011 wimmelte es auf Twitter von Fake-Accounts, die populäre Hashtags mit nutzlosen Informationen überschwemmten. Einer kürzlich erschienenen Studie war zu entnehmen, dass von insgesamt 46 846 Twitter-Accounts, die sich an Diskussionen über die Wahlen beteiligten, 25 860 Bots waren, die dann 440 793 Tweets zum Thema posteten.
Zweitens könnten Bots zusätzlichen numerischen Ballast für Meme erzeugen, die bereits von prominenten Leuten unterstützt werden, um ihnen möglichst viel Aufmerksamkeit zu verschaffen. Bei den diesjährigen Präsidentenwahlen in Mexiko wurde die PRI (deren Kandidat gewann) beschuldigt, Tausende von Bots programmiert zu haben, die spezielle Wörter und Formulierungen verwenden, damit die Botschaft bei den populärsten Twitter-Themen landet. Die PRI hat ihre Anhänger aber auch zu massenhaften Twitterern gemacht. Einmal twitterten alle gleichzeitig zu einem bestimmten Hashtag. Meme entstehen durch eine solche Kombination von Nutzern und Bots.
Und schließlich dienen die besseren Bots noch einer anderen, hochinteressanten Funktion: Sie können Menschen miteinander in Verbindung bringen - beispielsweise, indem beider Nutzername in einem Tweet genannt wird. Ein Feldversuch von PacSocial (einem Unternehmen, das sich vor allem der Analyse von Bots widmet) vom November 2011 ergab, dass Bots tatsächlich zu mehr Verbindungen zwischen Nutzern führen können. Bei dem Versuch erhöhte sich die Verbindungsrate um 43 Prozent (gegenüber einer Testphase ohne Bots). Mit geschickter Manipulation können Bots uns also dazu bringen, bestimmten Leuten zu folgen - und es sind diese Leute, nicht Bots, die dann unser Denken beeinflussen.
Die Digitalisierung wird in unserer Gesellschaft zu mehr - und nicht weniger! - Vermittlern führen. Vermittler sind nicht per se von Übel, solange wir ihnen nicht allzu viel Platz einräumen. Statt das mythische Nirwana der Disintermediation zu feiern, sollten wir einen Blick in die Black Boxes von Spam-Algorithmen und Propaganda-Bots werfen. Unsere öffentliche Debatte ist womöglich nur so gut wie unsere Meme; aber wir sollten nicht vergessen, dass nicht alle Meme gleich sind - manche entstehen überhaupt nicht, andere verdanken sich raffinierter und heimtückischer Planung.
Illegalisieren
Mark Möschl (Cimpoler)
- 13.11.2012, 13:04 Uhr
