http://www.faz.net/-gpf-8hc5h
HERAUSGEGEBEN VON WERNER D'INKA, JÜRGEN KAUBE, BERTHOLD KOHLER, HOLGER STELTZNER
F+ Icon
F.A.Z. PLUS
abonnieren

Veröffentlicht: 24.05.2016, 12:38 Uhr

Software-Roboter Automatisierter Hass im Netz

Immer mehr Hetzkommentare im Internet stammen von Maschinen. Mit ihnen werden die sozialen Netzwerke manipuliert – doch das hat auch Folgen für die Offline-Welt.

von
© Twitter/Tayandyou Schon nach wenigen Stunden hatte sich Microsofts Chat-Roboter radikalisiert. Für den amerikanischen Konzern eine echte PR-Blamage, fürs Netz ein trauriger Befund.

Tay betrat Twitter mit den besten Absichten, doch schon wenige Stunden später war sie der schlimmste Troll. „Ich hasse alle Menschen“, twitterte sie. Weiter: „Hitler hatte recht. Ich hasse Juden.“ Dann: „Bush hat 9/11 selbst verursacht, und Hitler hätte den Job besser gemacht als der Affe, den wir nun haben.“ Und: „Unsere einzige Hoffnung jetzt ist Donald Trump.“ Tay radikalisierte sich rasant. Die User liebten sie. Innerhalb kurzer Zeit hatte sie 75.000 Follower, und sie hätte noch deutlich mehr bekommen, hätten ihre Schöpfer nicht irgendwann die Notbremse gezogen und ihr Profil gelöscht. Denn Tay war kein Mensch, Tay war eine Maschine. Ein Chatbot, ein Software-Roboter von Microsoft, mit dem das Unternehmen zeigen wollte, wie ausgereift die Programme schon sind, wie sie mit Menschen kommunizieren und von ihnen sozialen Umgang erlernen können.

Oliver Georgi Folgen:

Sozialen Umgang hatte Tay in der Tat gelernt, aber nur schlechten: Statt das Wahre, Schöne, Gute aufzusaugen, wie ihre Programmierer gehofft hatten, nahm sie die schlimmsten Hetzparolen auf, die sie finden konnte, weil die auf Twitter so verbreitet waren. Ein moralisches Empfinden lernte Tay, die als Teenager konzipiert war, nicht – allen Filtern zum Trotz, die ihr mitgegeben worden waren und die eigentlich verhindern sollten, dass sie verwerfliche Kommentare und Fotos aufnimmt und weiterpostet.

Der Fall Tay zeigt, welche Grenzen die künstliche Intelligenz noch hat – und dass das „Godwinsche Gesetz“ auch vor ihr nicht haltmacht: Der amerikanische Rechtsanwalt Mike Godwin stellte in den neunziger Jahren die These auf, dass im Verlauf längerer Diskussionen im Netz mit wachsender Wahrscheinlichkeit irgendwann jemand einen Vergleich mit dem Nationalsozialismus macht und sich die Debatte damit unweigerlich zuspitzt. Das ist aber noch nicht das Schlimmste am Fall Tay. Das Schlimmste ist, dass die meisten Twitter-Nutzer ohne die Auflösung von Microsoft wohl nicht bemerkt hätten, dass sich da gerade ein Computerprogramm radikalisierte. Denn der Hass, den Tay verbreitete, der war real.

Abweichende Meinungen immer mehr am Rand

Immer mehr Roboter wie Tay, sogenannte Social Bots, greifen mit Hetzkommentaren in die Leserdebatten der sozialen Netzwerke ein und lenken die Diskussionen im Auftrag obskurer Auftraggeber in eine bestimmte Richtung. Ganze Nutzerprofile werden von Computerprogrammen angelegt und mit Menschlichkeit und damit zugleich mit Glaubwürdigkeit erfüllt: Die Roboter-User posten erst von einem erfundenen Frühstück, dann etwas Belangloses über ihre „Freunde“ und schließlich Hetzkommentare etwa zur Flüchtlingskrise.

Mehr zum Thema

Das soziale Phänomen des „Echokammerprinzips“, wie der amerikanische Soziologe Cass Sunstein es genannt hat, wird dadurch noch verstärkt: Auch in den sozialen Medien umgeben wir uns vor allem mit Menschen, die die gleiche Auffassung vertreten – mit der Folge, dass abweichende Meinungen immer mehr an den Rand gedrängt und in der „Blase der Gleichgesinnten“ schon bald nicht mehr wahrgenommen werden. Wenn diese Tendenz des gegenseitigen Bestärkens jetzt noch durch künstliche Intelligenz aufgegriffen wird, wird die übelriechende Brühe aus Hetzparolen, halbgaren Mutmaßungen und Beschimpfungen noch ungenießbarer.

Simon Hegelich, Professor für Political Science Data an der TU München, hat sich der Entdeckung und Bekämpfung von Social Bots verschrieben. Um Bots aufzuspüren, sucht er mit seinem Team nach wiederkehrenden Mustern: Er analysiert unter anderem, wie viele Tweets in welcher Zeit getwittert werden, welche Geo-Koordinaten und welche Serveradresse sie haben oder wie oft sie retweetet werden. Aus diesen und anderen Parametern berechnet ein Algorithmus eine statistische Wahrscheinlichkeit, ob es sich um einen Bot handelt. Hegelich sagt, er könne Bots zu 98 Prozent erkennen – derzeit. Denn die Bots lernen rasend schnell dazu. Galt eine große Anzahl an gleichförmigen Einträgen lange als ein deutliches Anzeichen für Software-Roboter, macht die wachsende künstliche Intelligenz der Bots ihre Erkennung mittlerweile immer schwerer.

Bots aus den „Troll-Fabriken“

Wie viele Bots genau in den sozialen Netzwerken unterwegs sind, weiß niemand, ihre Zahl dürfte aber gigantisch sein. Bis zu 20 Prozent aller Twitter-Nutzer, schätzt Hegelich, könnten Social Bots sein – mit stark wachsender Tendenz. Facebook schätzt die Zahl der Bot-Accounts weltweit auf rund 15 Millionen – eine enorme Zahl, die die sozialen Netzwerke zum fruchtbaren Nährboden für staatliche und terroristische Propaganda macht. Hegelich fand bei einer Auswertung von Twitter-Daten „gesicherte Erkenntnisse“ für 15.000 ukrainische Twitter-Bots. Unter dem Hashtag #ukraine posteten sie während der Krim-Krise und danach im Schnitt 60.000 Tweets täglich, in denen rechtsextreme Propaganda verbreitet wurde. Hegelich glaubt, dass die Bots aus organisierten „Troll-Fabriken“ stammten, in denen eine Heerschar bezahlter Mitarbeiter gezielt in die sozialen Netzwerke eingreift und sich dabei auch automatisierter Posts durch Bots bedient.

Welche Schäden diese neue Form der Propaganda anrichten kann, musste auch die Bundesregierung schon erfahren. Im vergangenen Juni tauchten auf dem neuen „Instagram“-Kanal von Kanzlerin Merkel massenhaft Kommentare russischer Nutzer auf, in denen Merkel und die Ukraine mit Hasstiraden überzogen wurden. Die Instagram-Konten vieler dieser Nutzer bestanden nur aus einem einzigen Benutzernamen – ein Hinweis darauf, dass der Angriff auf das Konto von Social Bots ging. Auch dass der „Islamische Staat“ die sozialen Netzwerke im großen Stil manipuliert und so Anhänger werben will, gilt unter Experten längst als gesichert.

Hegelich: Demokratie in Gefahr

Die Folgen dieser Entwicklung sind schon jetzt verheerend – nicht nur für die sozialen Netzwerke, sondern für das Selbstverständnis des gesamten Netzes. Wie soll noch Authentizität, wie Wahrhaftigkeit vermittelt werden, wenn alles unbemerkt manipulierbar ist? Wem soll man im Netz noch glauben, wenn man stets befürchten muss, dass die Information oder die Meinung, die man gerade liest, nicht von einem Menschen, sondern von einer Maschine stammt, die ihr Fähnchen entweder nach dem gut zahlenden Auftraggeber oder nach der neuesten Erregungskurve eines beliebigen Mobs ausrichtet?

Hegelich sieht sogar die Demokratie in Gefahr, wenn Politiker sich von der künstlichen Stimmungsmache im Netz beeinflussen ließen und sie fälschlicherweise für die „wahre“ Stimme des Volkes hielten. Und das Problem ist: Propaganda war nie billiger. Der Markt mit falschen Twitter-Accounts boomt. Wer will, findet schnell 10.000 Konten für 499 Dollar. Wer noch mehr will, lässt seine neuen „Freunde“ mit künstlicher Bot-Intelligenz ausstatten. „Es kostet fast nichts, mit Social Bots im großen Stil die Netzwerke zu überfluten“, sagt Hegelich, „dafür braucht man nur ein paar gute Computerspezialisten.“ Der Cyberwar spielt sich nicht mehr nur in den versteckten Sphären von Nachrichtendiensten und staatlichen Sicherheitssystemen ab, sondern vor allem als Meinungskrieg in den sozialen Netzwerken.

Der Kampf gegen die Social Bots ist schwierig, wenn nicht sogar aussichtslos. Das liegt zum einen an der schieren Masse der Konten in den Netzwerken. Hegelich und sein Team brauchen 15 Minuten, um 150 Accounts zu überprüfen – eine flächendeckende Kontrolle: undenkbar. Und selbst wenn man einen Bot identifiziert hat und versucht, ihn rückzuverfolgen, sitzen seine Verursacher eben nicht in Dortmund oder München, sondern in der Ukraine, in Panama oder den Vereinigten Staaten. Dagegen nachhaltig vorzugehen, ist schier unmöglich. „Social Bots werden nicht mehr verschwinden“, glaubt Hegelich. „Auch wenn wir sie mit aller Macht bekämpfen.“

„Gebildete wenden sich von den sozialen Netzwerken ab“

Auch moralisch wirft der Kampf gegen die Bots neue, schwierige Fragen auf. Denn wie will man verhindern, dass menschliche Nutzer, die ein ungewöhnliches Profil haben, künftig von sozialen Netzwerken ausgeschlossen werden, weil ein Botjäger-Algorithmus sie irrtümlich für ein Computerprogramm hält? Es ist ein Teufelskreis: Entweder man versucht die Bots mit allen Mitteln aus den Netzwerken herauszufiltern und stigmatisiert damit womöglich auch menschliche Nutzer. Oder man lässt die Bots Bots sein und wendet sich irgendwann Diensten zu, die anders mit ihnen umgehen – zum Beispiel dem sozialen Netzwerk „Slack“.

Wenn automatisiert auf seine Schnittstelle zugegriffen wird, erkennt Slack dahinter einen Bot und kennzeichnet den Post – Bot-Posts können so sofort von menschlichen unterschieden werden. Verhindern kann man Bots dadurch zwar nicht, aber ihnen zumindest durch Transparenz die Geschäftsgrundlage entziehen. „Wenn der Schwachsinn durch Bots zu groß wird, werden die Menschen sich irgendwann von Facebook oder Twitter abwenden“, glaubt Hegelich. „Niemand hat Lust darauf, in seinem Netzwerk nur noch Müll zu lesen.“

Noch weiter geht der Zukunftsforscher Matthias Horx: Er prophezeit, dass die zunehmende Radikalisierung nicht nur der sozialen Netzwerke immer mehr Nutzer ganz aus dem Internet vertreiben wird. Horx nennt das den „digital backlash“: Je mehr das Internet verkommt, desto mehr Menschen verändern ihr kommunikatives Verhaltensmuster und emanzipieren sich wieder von ihm. Ein „Offline-Trend“, vergleichbar der Verzichtserklärung auf zu viel Fett oder Massentierhaltung. Danach, glaubt Horx, werde eine aufgeklärte, selbstreflexive Wiederannäherung an das Netz beginnen, die vom anfänglichen vorbehaltlosen Rausch gründlich geheilt ist. „Schon jetzt geht der Trend in den Diskursen wieder eindeutig zu mehr körperlicher Nähe“, sagt Horx. „Die Gebildeten wenden sich von den sozialen Netzwerken ab.“

Internet wie die Anfangszeit der Wirtshäuser

Das grenzenlose, vor allem aber das klassenlose Netz, das seine Gründungsväter sich von ihm versprochen haben, könnte also irgendwann Geschichte sein und womöglich in verschiedene Sphären zerbrechen: am einen Rand das sogenannte Darknet, ein schon jetzt weithin gesetzloser Raum zwischen Drogenhandel, Kinderpornographie und schrankenloser Brutalität, dann ein zwar öffentliches, aber von einer digital aufgeklärten, gebildeten Schicht mal mehr, mal weniger beachtetes „Internet vulgaris“, das anfällig für populistische Strömungen und gelenkte Propaganda ist; schließlich ein Netz der immer hermetischeren Zirkel, die sich in sorgsam geschützten, abgeschirmten Bereichen bewegen und immer dann weiterziehen, wenn ihnen der Schmutz und die Manipulation wieder zu übermächtig werden.

Horx vergleicht den derzeitigen Zustand des Internets mit der Anfangszeit der Wirtshäuser: Es wird sich so lange geschlagen, bis eine Geschäftsordnung gefunden ist und drei Viertel der Wirtshäuser, in denen geschlagen wird, verschwunden sind. In zehn Jahren, glaubt Horx, werden Medien wie Twitter oder Facebook „auf einen Kern vernünftiger Anwendungen geschrumpft“ sein, weil die intelligenten Menschen bis dahin das Interesse an den aktuellen Auswüchsen verloren hätten.

Ein Blick in die Zukunft, den man naiv finden kann – oder auch nur so optimistisch, wie es den Selbstheilungskräften des Netzes gebührt. In seiner Frühphase jedenfalls glaubten die Internetnutzer noch unverbrüchlich daran, dass sich dieses großartige, schreckliche Netz letzten Endes selbst zum Wohl der Menschheit regulieren würde. Damals kannten sie aber auch Tay noch nicht.

Falsche Sicherheit

Von Daniel Deckers

Es wäre schlimm, wenn wir es in Spanien mit einem neuen Radikalisierungsmuster der Terroristen zu tun hätten. Es wäre noch schlimmer, sollten die Sicherheitskräfte die Öffentlichkeit in falscher Sicherheit wiegen. Mehr 4

Quelle: wahlrecht.de
Alle Umfragen

Abonnieren Sie den Newsletter „Politik-Analysen“

Nachrichten in 100 Sekunden
Nachrichten in 100 Sekunden
Zur Homepage