https://www.faz.net/-gsf-6onti

Im Gespräch: Miriam Meckel : Werden wir alle zu Algorithmen?

  • Aktualisiert am

Kampf gegen die Passivierung durch Algorithmen: Miriam Meckel Bild: Burkhard Neie/xix

Dass es bei unserer Unterhaltung über das Internet auch um abgründige Waldspaziergänge gehen würde, war nicht absehbar. Kühl malt Miriam Meckel den digitalen Schrecken an die Wand.

          7 Min.

          In Ihrem neuen Buch „Next“ beschreiben Sie den Totalitarismus einer digitalen Maschinenwelt, der die feindliche Übernahme des Menschen gelingt. Es ist ein fiktives Szenario, das gleichwohl als energische Kulturkritik auftritt. In Abwandlung von Neil Postmans Fernsehkritik „Wir amüsieren uns zu Tode“ beschreiben Sie eine Zukunft, in der wir uns zu Tode gegoogelt haben. Wiederholt Ihr Schreckensszenario nicht nur Postmans Verdummungsthese mit anderen Mitteln?

          Neil Postmans Kritik und meine unterscheiden sich in einem wichtigen Punkt. Postman kritisiert vor allem das Fernsehen, das ja bislang immer ein externalisiertes Medium war. Deshalb glaube ich auch nicht, dass wir durchs Fernsehen verdummen, denn es gibt ein Leben, auch ein mediales, drumherum. Mein Szenario beschreibt dagegen einen Prozess der Internalisierung von Technologie, das Internet wird Teil von uns - geistig, aber auch körperlich. Das geschieht vor allem durch das personalisierte Internet der Algorithmen, ohne dass wir es merken. Wenn Sie und ich bei Google nach demselben Begriff suchen, bekommen wir nicht unbedingt dieselben Ergebnisse geliefert, denn die Algorithmen rechnen im Hintergrund alle Informationen ein, die es über uns drei im Netz gibt, und die unterscheiden sich natürlich. Google, Facebook und Co. liefern uns unterschiedliche, aber passgenaue Angebote, die Voraussetzung und Bestandteil unseres Entscheidens und Handelns werden.

          Voraussetzungsfrei entscheiden und handeln wir doch aber ohnehin nie. Mit oder ohne Internet unterliegen wir Einflüssen, zu denen wir uns verhalten können.

          Das ist gerade die Frage: Ob sich mit dem Internet nicht eine neue Dimension der Einflussnahme abzeichnet. Denken Sie daran, wie es inzwischen gelingt, Computer durch Hirnströme zu lenken, nicht zu sprechen von Hirnimplantaten, über die das auch gelingen kann. Wir werden dann selbst unsere Schnittstelle zur Technik, und das bedeutet, dass die Differenz zwischen uns selbst und den Technologien nicht mehr beobachtbar ist. Da liegt auch der Unterschied zur Kritik am Fernsehen. Ich kann aus mir selbst als an das globale Netzwerk angeschlossener Mensch nicht mehr heraustreten und sagen: Huch, das verdummt oder verändert mich aber, was hier gerade geschieht. Beim Fernsehen ging das bislang. Durch einfaches Ausschalten.

          Ein Schlüsselsatz Ihres Buches stammt von Günther Anders, der in der „Antiquiertheit des Menschen“ schreibt: „Heute wissen wir Zauberlehrlinge nicht nur nicht, dass wir die Entzauberungsformel nicht wissen oder dass es keine gibt; sondern noch nicht einmal, dass wir Zauberlehrlinge sind.“ Was heißt dieser Satz für die beiden Erzähler Ihres Buches: also für den menschlichen Algorithmus einerseits und für den letzten Menschen dieser Erde andererseits?

          Der Mensch ist - frei nach Goethes gleichnamiger Ballade - der Zauberlehrling, der experimentiert, weil er die Zauberformel aufgeschnappt hat und wissen will, was durch sie möglich ist. Und der Algorithmus ist der Besenstil, der sich durch diese Formel in einen Knecht verwandelt, letztlich in einen Roboter. Einmal in die Lage versetzt, trägt er nun Wasser ins Bad, ohne wieder aufzuhören, bis das ganze Haus abzusaufen droht. Der Roboterknecht ist nicht selbständig genug, seine Selbständigkeit wieder aufzugeben. Und irgendwann steht der Mensch dabei und weiß nicht mehr, was er tun soll. In Goethes Ballade ruft er dann nach dem Meister, der schließlich die Rückverwandlungsformel und damit die Rettung bringt. Die Frage heute lautet: Wer ist der Meister? Gibt es ihn? Ich fürchte, wir glauben, Zauberlehrling und Meister in einem zu sein. Aber diese Annahme könnte existentiell falsch sein.

          Inwiefern lässt sich diese Befürchtung, die in Ihrem Buch ja zur Gewissheit wird, als Fortsetzung Ihrer Burn-out-Thematik lesen?

          Tatsächlich gibt es da Verbindungen. In meinem letzten Buch Brief an mein Leben. Erfahrungen mit einem Burnout ging es um eine Art Erschöpfungsinfarkt, den man aufgrund einer vollkommenen Kommunikations-, Informations-, auch Arbeits- und Gefühlsüberlastung als Mensch erleiden kann - und den ich erlitten habe. Diese Stimmung, in der ich seinerzeit war, zieht sich auch in das neue Buch hinein, als eine melancholische, manchmal vielleicht sogar fatalistische Erzählhaltung. Nur dass es diesmal um den digitalen Infarkt einer ganzen Gesellschaft geht, die sich ins Netz begeben hat und zwischen dem, was einmal menschlich am Menschen war, und dem, was technisch aus ihm geworden ist, nicht mehr zu unterscheiden vermag.

          Warum haben Sie das Genre der Science-Fiction-Erzählung gewählt? Warum nicht ein konventionelles Thesenbuch, wie es von einer Kommunikationswissenschaftlerin zu erwarten gewesen wäre?

          Als Kommunikationswissenschaftlerin hätte ich das Buch auch ganz anders schreiben können. Das ist richtig. Ich fürchtete nur, dass es dann kaum jemand lesen würde, weil wir im deutschsprachigem Raum die Debatte über das, was im Internet passiert, ziemlich rückständig führen. Bei uns gibt es eine gewisse Ideologisierung von Verfechtern und Gegnern des Internets, und dazwischen kann eigentlich keine wirkliche kulturkritische Debatte stattfinden. Ich war im letzten Jahr mit einem Sabbatical in Harvard und habe mich dort in dieses Thema eingearbeitet, und wenn ich dort geblieben wäre, hätte ich das Buch wahrscheinlich ganz anders geschrieben. Aber für unsere Diskussion in Deutschland schien mir die Fiktionalisierung des Themas als Möglichkeit, auch solche Leser anzusprechen, die beim Thema Internet und Technik nicht gleich hurra rufen. Wir haben hier noch nicht richtig begriffen, dass es um den Eintritt in eine neue Zivilisationsstufe geht. Es geht nicht um eine neue Technik oder eine neue Kommunikationsplattform oder neue Kommunikationsinstrumente, sondern es geht schon um eine ziemlich rasante Frage, nämlich: Wie gehen wir mit uns selbst um? Wie hinterfragen wir das, was irgendwann von uns übrig bleibt?

          Was von uns übrig bleibt?

          Ja. Mein Buch radikalisiert das Problem so, dass wir am Anfang einer Zukunft stehen, die irgendwann ohne uns auskommt.

          Wo sehen Sie für diese Apokalypse denn empirische Anknüpfungspunkte?

          Wir arbeiten im personalisierten Internet immer mehr mit Empfehlungssystemen. Wenn Sie bei Amazon ein Buch bestellen, liegt dahinter ein algorithmisches Empfehlungssystem, also eine mathematische Formel, die Ihnen berechnet, welches Buch gut zu Ihnen passen könnte. Bei der Musikwahl ist es so, bei der Partnersuche, beim Buchen von Ferienorten, bei der Rekrutierung von Mitbewohnern einer Wohngemeinschaft; es sind also so ziemlich alle Lebensbereiche betroffen. Was ein Algorithmus macht, ist ja eigentlich simpel: Er wertet als mathematische Formel das aus, was wir bisher getan haben und projiziert es dann in die Zukunft. Aus unserer Vergangenheit und unserem früheren Verhalten wird unser mögliches zukünftiges Verhalten errechnet. Das bedeutet, wir bewegen uns in einen Tunnel unserer selbst hinein, der immer enger, immer selbstreferentieller wird, weil keine neuen Impulse mehr hinzukommen. Wir werden zu dem, was eine Software als historisches Präferenz- und Verhaltensmuster von uns errechnet hat.

          Bleibt uns nicht immer die Möglichkeit, zu diesen Empfehlungen Stellung zu nehmen? Das Profil, das von uns erstellt wird, ersetzt ja nicht unser Ich, wie es der letzte Mensch in Ihrem Buch nahelegt: „Das Profil wirkte auf uns zurück, und irgendwann verschmolzen wir mit ihm. Ich wurde mein Profil.“

          Aber genau darum geht es. Wenn Sie sich vorstellen, das die algorithmische Berechnung und Beeinflussung immer weiter um sich greift, wie es in der letzten Zeit zu beobachten ist, dann lassen Sie sich jenseits dieser Empfehlungen immer seltener auf Alternativen ein. Das ist das Problem, von dem ich sage, dass es eine neue Zivilisationsstufe markiert. Sie müssten diese Alternativen aus sich selbst heraus entwickeln. Wir wissen aber aus der menschlichen Psychologie, dass wir Gewohnheitstiere sind, dass die Dinge, die gut funktionieren, auf Wiederholung und Routine beruhen. Das heißt, der Kraftakt, den ich leisten muss, um mir Alternativen zu suchen, von denen ich nicht gewusst habe, dass es sie geben kann und dass sie mich faszinieren könnten - dieser Kraftakt wird immer größer, weil ich mit nichts Widerständigem mehr konfrontiert werde, sondern nur mit dem, was mir angenehm, was praktisch und passgenau ist. Wie wollen Sie denn einen Meinungsbildungsprozess in einer demokratischen Gesellschaft hinkriegen, wenn ein wachsender Teil der Menschen in einem algorithmischen Berechnungs-Tunnel steckt? Es braucht viel Energie und intellektuelle Disziplin, sich bewusst mit dem Fremden, mit anderen Quellen und Perspektiven auseinanderzusetzen.

          Aber geht das nicht jedem so, wenn er derart in seinem Kram drinsteckt, dass er mal Tapetenwechsel braucht? Schon ein einziger Waldspaziergang, bei dem ich ein wenig zum Nachdenken komme, könnte das Tunnelproblem doch schon wieder relativieren. Kommt man bei Vogelgezwitscher und guter Luft nicht auf Ideen, die mir kein Algorithmus vorgesagt hat?

          Der Wald ist auf lange Sicht kein Fluchtpunkt. Es bedarf keiner großen Phantasie, sondern lediglich eines Blicks auf die Möglichkeiten der künstlichen Intelligenz, um sich für die Zukunft die Frage zu stellen: Bin ich es dann noch, der durch den Wald läuft, oder ist der Waldspaziergang Teil einer auf mich zugeschnittenen, auf sehr komplexen Rechenoperationen basierenden Simulation, die alleine in meinem Kopf stattfindet? Der wunderbarste Waldspaziergang kann dann jederzeit nach meinen Präferenzen simuliert werden, weil die Algorithmen mühelos errechnet haben, welche Waldspaziergänge ich in den letzten Jahren am liebsten gemacht habe und mir genau die Baum-, Laub- und Moossorten mit dem passenden Vogelgezwitscher als Umfeld anbietet, die es mir möglich machen zu glauben, dieser Waldspaziergang würde meine Kreativität anregen. Das ist jetzt aber - zugegeben - schon sehr weit nach vorne gedacht. Was ich sagen will: Auch wenn wir beide, Sie und ich, Waldspaziergänge lieben, so müssen wir sehr genau überlegen, ob es sich um einen Waldspaziergang handelt unter den Bedingungen, die Sie beschreiben, oder um einen solchen unter den Bedingungen, wie ich sie beschreibe. Mit anderen Worten: Ihr Waldspaziergang ist kein Selbstläufer. Meiner schon.

          In der neuen Zeit, die Ihr Buch entwirft, „sind wir von all dem Ballast befreit, den wir seit Jahrtausenden mit uns geschleppt hatten. Die Fragen nach dem Individuum, nach den Beziehungen zwischen den Menschen, nach Freiheit und Begrenzung, nach Liebe und Hass, nach dem Anfang und dem Ende“. Eine Verlustprognose, die in der Tat das Blut in den Adern gefrieren lässt. Wir kennen solche Szenarien bisher nur im klinisch-pathologischen Raum der Persönlichkeitsstörungen. Würden Sie so weit gehen zu sagen, dass wir auf dem Weg in eine pathologische Normalkultur sind?

          Was ist normal? Mit diesem Begriff habe ich nie etwas anfangen können. Normal ist ausgehandeltes Mittelmaß. Das finde ich grauenhafter als jedes Extremszenario in meinem Buch. Aber ich empfinde unsere Gesellschaft schon manchmal wie im manisch-depressiven Dauerzustand. Wichtig ist aus meiner Sicht, dass es zwischen beiden Zuständen noch eine, wie auch immer flüchtige Grenzlinie gibt, die uns das Unterscheiden möglich macht, die Unterschiede, die einen Unterschied ausmachen, wie Gregory Bateson gesagt hat. In meinem Buch wird eine Zukunft geschildert, in der das Unterscheiden unmöglich geworden ist. In der wir nicht mehr wissen können, wo die Grenzlinie zwischen digitalem und ontologischem Ich verläuft. Alles geht auf in einer gleichförmigen, unendlichen Vernetzung. Das ist dann nicht die pathologische Normalkultur. Das ist die Hölle.

          Zur Person

          Geboren 1967 in Hilden war Miriam Meckel zunächst Staatssekretärin für Europa, Internationales und Medien der nordrhein-westfälischen Landesregierung unter Peer Steinbrück.

          Seit 2005 ist sie Professorin für Unternehmenskommunikation und Direktorin am Institut für Medien- und Kommunikationsmanagement der Universität St. Gallen.

          Heute erscheint bei Rowohlt Miriam Meckels neues Buch „Next. Erinnerungen an eine Zukunft ohne uns“. Darin geht es in fiktionalisierter Form um die Frage, wie das personalisierte Internet der Algorithmen unser Denken und Handeln verändert.

          Meckel sieht in der Netzexistenz eine neue Zivilisationsstufe erreicht und warnt vor dem digitalen Infarkt unserer Gesellschaft. „Next“ nimmt Motive die Stimmung ihres Vorgängerbuchs „Brief an mein Leben“ auf, in dem die Autorin ihre persönlichen Erfahrungen mit der Burnout-Thematik darstellt.

          Weitere Themen

          Theater und die Kunst zu leben Video-Seite öffnen

          Spielplanänderung – Folge 6 : Theater und die Kunst zu leben

          In dieser Folge der „Spielplanänderung“ kehren wir zum wahren, schönen Leben zurück: Sardanapal ist nicht nur tragischer König und Bühnenheld, sondern vor allem ein Genießer des schönen Lebens. Zusammen mit dem langjährigen Volksbühnen-Dramaturgen Carl Hegemann erkunden wir Parallelen zwischen diesem König, der keiner sein will und heutigen politischen Disputen.

          Topmeldungen

          Erdogan am 15. Juni 2017 vor Anhängern in Istanbul

          Zukunft der Türkei : Erdogans dunkle Jahre

          Zuerst war Recep Tayyip Erdogan ein überzeugter Islamist, dann ein Reformer, nun ist er ein paranoider Autokrat. Was würde er tun, um die Macht zu behalten?

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.