Es fing alles so unschuldig an. Da war dieser nerdige Student, der sich in das Uni-Netzwerk von Harvard hackte, die dort gespeicherten und nicht öffentlichen Bilder seiner Kommilitonen absaugte, sie auf einer Internetseite montierte und zur Bewertung freigab: Wer ist die Schönste auf dem ganzen Campus? Wer der Attraktivste? Mehr als ein Dutzend Jahre später ist aus dem Harvard-Schelm Mark Zuckerberg einer der reichsten Männer der Welt geworden und aus seinem Facebook, dem Buch der Gesichter, die machtvollste Medienplattform, die der Menschheit je zur Verfügung stand.

Die Unschuld ist dahin. Noch immer ist Facebook ein machtvolles Kommunikationsnetz, das mittlerweile 1,7 Milliarden Menschen verbindet. Doch so, wie es Millionen lachende Gesichter vereint, ist es auch zu einem Netzwerk der Teufel geworden. Eine Schleuder für Lügen und Hass, ein Werkzeug für Mörder, Terroristen und die Verrückten dieser Welt, die, statt das Leben zu lieben, einem Todeskult huldigen.

Kaum ein Amokläufer, der sich nicht darauf verewigt hat, kaum eine größere Terrororganisation, die nicht ihren Märtyrern dort und in anderen sozialen Netzwerken gehuldigt hat. Und es ist nur eine Frage der Zeit, bis wir Killern oder Terrorgangs live über die Schulter sehen können.

Im Netz Ordnung schaffen

Das alles wissen die Verantwortlichen von Facebook, Twitter und anderen Netzwerken. Sie haben Monitoring-Teams eingerichtet, zehntausende Accounts mit Verbindungen zu gewalttätigen Organisationen gelöscht. Aber nicht schnell genug, wie etliche Angehörige von Gewaltopfern kritisieren, die in den vergangenen Monaten vor Gericht gezogen sind.

Die jüngste Klage wurde vor einer Woche eingereicht von der israelischen Organisation Schurat Hadin und den Eltern mehrerer junger Israelis, die von radikalen Palästinensern ermordet wurden. Sie werfen den Verantwortlichen vor, Facebook der Hamas für Gewaltverherrlichung gegen Israel zur Verfügung gestellt und damit den Boden für die Gewalttaten an ihren Kindern bereitet zu haben. Sie verlangen eine Milliarde Dollar Schadenersatz.

Ist Zuckerberg ein Terrorhelfer, ein gewissenloser Förderer von Gewalt und Mord? Es geht dabei um die Frage, wer Ordnung schaffen soll im Netz, dieser digitalen Parallelwelt, in der vieles anders ist als in der Wirklichkeit, aber eben vieles auch genauso: Es gibt die Höhenflüge und die Abgründe der Menschheit.

Müssten soziale Netzwerke für ihre Inhalte belangt werden?

Das Vorbildliche, das Niederträchtige. Beides ist einfach da, weltweit abrufbar, ein Sein ohne Gut und Böse, Richtig und Falsch. Das Netz, dieser Ort des erbarmungslosen Relativismus, ist der große Gleichmacher zwischen Wahrheit und Lüge, Edelmut und Verbrechertum.

In den Vereinigten Staaten sind digitale Plattformen durch eine starke gesetzliche Grundlage geschützt, die Section 230 des Communications Decency Act, kurz CDA. Sie bewahrt die führenden Online-Konzerne der Welt davor, für Rechtsverstöße ihrer Nutzer zur Verantwortung gezogen zu werden.

Dienste wie Youtube, Vimeo, Facebook, Twitter, Snapchat, Whatsapp werden damit fast so behandelt wie ein Telefonunternehmen, das nicht dafür belangt werden kann, wenn sich Anrufer über seine Leitungen zum Mord verabreden. Allerdings sind diese Grundsätze schon vielfach durchbrochen: Youtube etwa filtert blitzschnell urheberrechtlich Geschütztes, um nicht von Hollywood-Studios verklagt zu werden. Pornographie wird wirksam verbannt.

Wann wird der erste Terrorist live streamen?

Die amerikanische Regierung verlangt von den Plattform-Betreibern immer lauter einen verstärkten Einsatz gegen Terror- und Verbrechen. Und im Ausland gilt der CDA ohnehin nicht. Immer deutlicher machen Gerichte und Justizbehörden, dass es sehr wohl eine inhaltliche Verantwortlichkeit gibt.

Erste Staatsanwaltschaften haben in Deutschland Strafverfahren gegen Facebook-Manager eingeleitet wegen Beihilfe zur Volksverhetzung. Sie sind inzwischen allerdings wieder eingestellt worden. Und Justizminister Heiko Maas hat den Facebook-Verantwortlichen nachdrücklich aufgegeben, sich stärker um das Löschen von strafbaren Hasskommentaren zu kümmern. Reicht das alles? Mit Sicherheit nicht.

Viel zu lange stehen noch immer strafbare Inhalte auf den Plattformen. Noch drängender wird die Frage für die neuen Live-Dienste wie Periscope oder Facebook Live. Wann wird der erste Terrorist sein Mordwerk live streamen? Und wenn er es tut – hat möglicherweise gerade die Aussicht auf einen globalen Propagandakanal den letzten Anstoß zur Tat gegeben?

Beantworten lassen wird sich das im Zweifel nie. Verhindert werden kann es nur durch sekundenschnelle Überprüfung, bei Zigtausenden paralleler Streams eine riesige technologische Herausforderung. Sollte man Livestreamen ohne vorherige Anmeldung deshalb ganz unterbinden?

Hier offenbart sich die Ambivalenz der meisten technischen Neuerungen im Netz. Livebotschaften können Hilferufe sein. Kürzlich übertrug eine farbige Amerikanerin, wie Polizisten mit ihr und ihrem sterbenden, von der Polizei angeschossenen Freund umgingen – ein Dokument der Zeitgeschichte. Livestreams können Dinge übertragen, die später vor Gericht Beweisfunktionen für Opfer haben.

Und sie verhindern, dass Putschisten gelingt, was sie früher als Erstes taten: die Fernsehanstalten zu besetzen. In der Nacht auf Samstag sendete CNN Turk nach dem Eindringen von Militärs schlicht per Livestream weiter.

Der raffinierte Ich-Verstärker

Eine Software wird aber kaum auseinanderhalten können, ob es sich um einen Propagandastream eines Terroristen oder um die Aufnahmen eines Opfers handelt. Selbst menschlichen Beobachtern wird es schwerfallen, in den ersten Momenten den Charakter eines Livestreams zu erfassen. Zugrunde liegt ein fundamentaleres Problem: Facebook hat keinen Mechanismus, um Wahres von Unwahrem zu unterscheiden, es hat keinen Kompass für Gut und Böse.

Das hatten die Macher auch nie im Sinn. Sie wollen Gewinne machen. Mit der Wahrheit lassen sich derzeit kaum ein paar Cent verdienen, mit dem Aufbau einer Plattform dagegen Milliarden. Zuckerberg hat es geschafft, die Antriebsinstinkte menschlicher Kommunikation im Digitalen zu bedienen. Sein Dienst ist ein raffinierter Ich-Verstärker, der es jedem Nutzer möglich macht, sein Selbstbild zu tunen. Das kann gesellschaftliche Strömungen jeder Art verstärken.

Wenn in einem unterdrückten Land revolutionäre Funken sprühen, können die Facebook-Mechanismen dazu beitragen, daraus ein Feuer zu entfachen. Wenn in einem demokratischen Gemeinwesen das Misstrauen wächst, lässt Facebook die Stimmen derjenigen lauter werden, die der Gesellschaft schnelle Lösungen vorgaukeln.

Hätte es Facebook im 20. Jahrhundert schon gegeben, wäre der Menschheit kein Blutvergießen erspart geblieben, keine Machtergreifung und kein Regime. Zuckerberg ist da nichts anders als der Wirt einer gigantischen Stammtischkneipe. Er verdient an der Wahrheit, er verdient an der Lüge. Zumindest, solange die Gäste die Einrichtung nicht zerlegen.