https://www.faz.net/-gqe-9je5z

FAZ Plus Artikel Deutscher IT-Unternehmer warnt : „Uns droht ein technikzentriertes Mittelalter“

Server-Zentrum von Google Bild: AP

Europa ist in der Digitalisierung ins Hintertreffen geraten, China und Amerika erscheinen übermächtig. Das kann sich ändern, sagt der IT-Fachmann Peter Ganten – wenn ein völlig anderes Konzept verfolgt werden würde.

          Der Bremer IT-Fachmann Peter Ganten sollte in Deutschland bekannter sein. Er führt mit Univention nur ein eher kleines Unternehmen. Er ist aber ein kluger Kopf – und wenn er einmal im Jahr zu einer großen Kundenveranstaltung einlädt, hat er eine Rede vorbereitet, die man in der deutschen IT-Szene in einer solchen analytischen Qualität sonst eher nicht zu hören bekommt.

          Carsten Knop

          Chefredakteur digitale Produkte.

          In diesem Jahr hat sich Ganten mit einem dritten Weg beschäftigt, den Europa einschlagen könnte, um für sich eine eigene digitale Zukunft zu schaffen. Zeit dafür wird es. Denn die Digitalisierung wird heute von zwei, auf den ersten Blick sehr unterschiedlichen, ethisch-moralischen Modellen getragen. Sie kommen aber eben nicht aus Europa.

          Das erste Modell stammt aus China und anderen totalitären Staaten: Sein Ziel ist es, das Verhalten der Menschen mit Hilfe der Digitalisierung zu kontrollieren und zu steuern. Ganten nennt in seiner Rede ein einfaches Beispiel: „Stellen Sie sich vor, Sie leben in einer chinesischen Großstadt und machen sich Sorgen darüber, dass der Smog die Gesundheit ihrer Kinder schädigt. Sie tauschen sich darüber mit anderen aus und besuchen vielleicht Informationsveranstaltungen. Eventuell sind Sie sogar offen dafür, sich an Protesten zu beteiligen. Nicht unwahrscheinlich, dass sie in ihren Newsfeeds plötzlich deutlich mehr Nachrichten darüber erhalten, was der chinesische Staat alles tut, um den Smog einzudämmen und gleichzeitig auch zu den negativen persönlichen Konsequenzen, die die Teilnahme an unerwünschten Protestveranstaltungen haben kann. Für Sie sind das alles relevante Informationen, die nicht nur Ihr Denken beeinflussen, sondern auch Ihr Verhalten: Sie kommunizieren dann anders über die Luftverschmutzung und gehen vielleicht lieber doch nicht zur Protestveranstaltung.“

          Der Unternehmer Peter Ganten warnt vor dem Silicon Valley und vor China.

          Damit aber nicht genug. Denn außerdem gebe es das inzwischen recht bekannte Punktesystem: Jedes erwünschte Verhalten, wie zum Beispiel der Kauf gesunder Babynahrung, führt zu Punktgewinn. Und jedes Unerwünschte zu Punktabzug. „Ein Grund mehr beispielsweise, in Chinas Zügen nicht zu rauchen. Auch wenn gerade das Punktesystem Anfangsschwierigkeiten hat, es scheint grundsätzlich gut zu funktionieren und wird von vielen Menschen als positiv empfunden. Denn damit lassen sich bestimmte Probleme totalitärer Staaten wie Korruption oder Vetternwirtschaft gut bekämpfen. Menschen bekommen mit solchen Systemen jetzt nicht mehr Chancen, weil sie einflussreiche Leute kennen oder unverfroren bestechen, sondern weil sie sich ‚richtig‘ im Sinne des Staates verhalten. Und das wird als Fortschritt erlebt“, sagt Ganten.

          Das uns eher vertraute, zweite ethisch-moralischer Modell der Digitalisierung stammt aus dem Silicon Valley. Es bildet die Grundlage für das Handeln von Google, Facebook, Amazon und vielen anderen. Doch auch hier ist es – gewiss nicht nur aus der Sicht von Ganten – das Ziel, das Verhalten der Menschen mit Hilfe der Digitalisierung vorherzubestimmen und zu beeinflussen. Und auch die Aktivitäten, von denen dieses Modell getragen wird, stimmen mit den chinesischen weitgehend überein.

          Denn auch die großen Plattformbetreiber in den Vereinigten Staaten sammeln so viele Informationen wie möglich über jede Person und führen diese in ihren Datensilos zusammen. Daraus erzeugen auch sie digitale Zwillinge, mit denen sie die Gedanken und Wünsche jedes Individuums und damit auch sein Verhalten vorhersagen können wollen. Das ist ja auch Kern des Geschäftsmodells: Je besser bekannt ist, wer sich mit was beschäftigt, wer welche Aktivitäten plant oder wer was kaufen möchte, desto zielgerichteter und teurer kann diese Information an Werbekunden verkauft werden. Oder auch an Arbeitgeber, die mehr über ihre Mitarbeiter erfahren möchten.

          Auch das Silicon Valley möchte erwünschtes Verhalten belohnen

          Aus Gantens Sicht beginnen an dieser Stelle die Parallelen zu China: „Wie in China erfolgt dann auf dieser Basis die Beeinflussung des Verhaltens der Menschen durch zielgerichtete Bereitstellung von Informationen. Denn so funktioniert Werbung. Die Anzeigen bei der Suche im Netz waren nur der Anfang. Wenn ich heute meinen Supermarkt betrete, zeigt mir Google die Sonderangebote in diesem Markt an, und wenn ich mich für bestimmte politische Themen interessiere, steuert irgendwer, welche Nachrichten ich dazu bekomme. Und natürlich funktioniert das auch für politische Einflussnahme: Die Nutzung der amerikanischen sozialen Medien und Internetplattformen durch Russland, China und andere Staaten zur Beeinflussung von Wahlen und allgemeiner politischer Überzeugungen ist ja spätestens seit Cambridge Analytica kein Geheimnis mehr“, beschreibt Ganten die Situation.

          Wie in China nutzten auch die Silicon-Valley-Unternehmen soziale Kreditsysteme, mit denen erwünschtes Verhalten durch Vergünstigungen und soziale Anerkennung belohnt werde. Ein gutes Beispiel dafür seien die Google-Punkte, die man bekomme, wenn man als „Local Guide“ Bewertungen für Restaurants, Geschäfte oder ähnliches abgebe.

          Und in verdeckter Form gebe es ähnliche Systeme auch für die Bewertung des Rücksendeverhaltens bei Onlinekäufen oder neuerdings zur Bewertung der Glaubwürdigkeit von Individuen bei Facebook. „Das Silicon-Valley-System funktioniert also mindestens so gut wie das chinesische und wird auch von vielen Menschen als positiv erlebt: Denn sie erhalten im richtigen Moment als relevant erlebte Information und können ihre eigene Bedeutung und das Erhalten von Belohnungen durch eine als „gerecht“ erlebte Weise steuern“, folgert Ganten.

          Gar keine großen Unterschiede?

          Abgesehen von dem dahinter stehenden Staats- und Demokratieverständnis gebe keine großen Unterschiede zwischen beiden Systemen: Sie seien ähnlich konzipiert und steuern die Menschen auf ähnliche Weise.

          Nur die Selbst-Legitimation ihrer Betreiber sei anders: Auf der einen Seite sei es das Machtinteresse der Kommunistischen Partei Chinas und auf der anderen das wirtschaftliche Interesse der Silicon-Valley-Unternehmen. Das Entscheidende: Der Mensch werde nicht als eigenständiges, souveränes Subjekt mit freiem Willen angesehen. Nicht als Subjekt, das auf Basis eigenständiger Entscheidungen aktiv handelnd Einfluss auf die Welt ausübe.

          So wie die mittelalterlichen Herrscher den Menschen als das Objekt von Kirche und Staat gesehen hätten, so sähen die chinesischen genauso wie die amerikanischen Digitalisierer den Menschen jetzt als das Objekt ihrer Technik, von ihren Daten und Algorithmen. Der Mensch sei das, was von der Technologie vermessen, vorhergesagt und optimiert werde. Der Unterschied: Das Durchleuchten der Menschen gelinge heute weit besser als im Mittelalter.

          Porträts von „Modellbürgern“ in der chinesischen Stadt Rongcheng. China hat ein soziales Kreditsystem entwickelt, um die Bürger einzustufen – die Unternehmen in Silicon Valley nutzen vom Prinzip her ähnliche Ansätze.

          Diese chinesisch-kalifornische Ethik einer automatisierten Steuerung der Menschen stehe aber eben im Widerspruch zu modernen, europäischen Werten, wie sie sich zum Beispiel im Grundgesetz ausdrückten. Dort heiße es, die Staatsgewalt gehe vom Volke aus. Das sei in China nicht so. Und im Westen sei es zwar nicht die Staatsgewalt, die von Google, Facebook oder Uber ausgehe. Aber diese Plattformen übernähmen eben immer mehr Aufgaben des Staates, wie die Kontrolle über Informationsauswahl und Informationsbereitstellung, die Organisation des öffentlichen Nahverkehrs, die Kommunikation zwischen Staat und Bürgern oder auf vielfältige Weise in Schule und Bildung. „Und wenn vermeintlich demokratische Wahlen unbemerkt über soziale Medien beeinflusst werden können, geht dann nicht auch Staatsgewalt von diesen Plattformen aus?“, fragt Ganten.

          Ist unsere Ethik am Ende?

          Nun sage der Lieblings-Philosoph des Silicon Valleys, Yuval Noah Harari, auch, dass unsere klassische Ethik, die jedem Menschen einen freien Willen unterstelle, jetzt an das Ende ihrer Zeit komme. Denn jetzt könnten die Silos Künstlicher Intelligenz in China und Kalifornien so viele Daten über jeden Menschen, sein Verhalten und seine Bedürfnisse sammeln, dass es ihren Algorithmen bald gelingen werde, die Menschen besser zu verstehen, als sie es selbst könnten. „Wenn wir also nicht aufpassen führt der Siegeszug der alles steuernden Internetplattformen dazu, dass wir uns tatsächlich in eine Art technikzentriertes Mittelalter begeben“, glaubt Ganten.

          Das wir auf dem besten Weg dazu seien, sei auch an der fehlenden Verfügbarkeit von Daten und der fehlenden Möglichkeit zur Überprüfung von Entscheidungen erkennbar: „Im Mittelalter waren es die Bücher, die in gut bewachten Bibliotheken nur wenigen Eingeweihten offen standen. Heute sind es die Daten und Quellcodes, die gut bewacht in den Cloud-Silos der Plattformen verwahrt werden und diesen Konzernen nicht hinterfragbare Allmacht geben. Wenn Google oder Apple uns sagen, wie wir am schnellsten von einem Ort zum anderen kommen, dann ist schon heute niemand mehr in der Lage, das zu hinterfragen. Das gleiche gilt auch für die Frage, ob bei einer Websuche nicht wichtige Ergebnisse unterschlagen wurden.“

          Das aber widerspreche dem klassischen Wissenschaftsprinzip, nachdem der Weg zu jeder Erkenntnis nachvollziehbar und widerlegbar sein müsse. Wenn aber die Internetplattformen nun Entscheidungen auf der Basis geheim gehaltener Informationen träfen, wenn Pharma-Firmen Medikamente mit Daten, auf die Dritte keine Zugriff haben, testeten oder zu Lernendes auf der Basis unüberprüfbarer Daten in Cloud-Silos ausgewählt werde, wie könnten wir uns dann sicher sein, ob diese Entscheidungen uns wirklich dienten?

          Einig über Methode und Ziele

          Die vermeintliche Auseinandersetzung zwischen chinesischer und westlicher Ethik der Digitalisierung sein in Wirklichkeit also gar keine, im Grunde seien sich die Protagonisten über Methoden und Ziele einig.

          Diese Auseinandersetzung lenke uns nur von einer anderen, viel grundlegenderen ab. Diese, oft kaum zu erkennende, grundlegendere Auseinandersetzung finde zwischen der Auffassung statt, dass die Geschicke der Menschen mit Hilfe von Computern besser gelenkt werden können, als die Menschen es selber könnten und andererseits dem humanistischen Menschenbild, nachdem es immer der Mensch selbst sein müsse, der Informationen frei auswählt und entscheidet, welchen Weg er geht.

          „Die Frage ist, welches Menschenbild wir haben, wie wir die Welt selbst gestalten und in welche Welt wir mit Hilfe der Digitalisierung steuern wollen. Wollen wir wirklich ein neues von den Herrschern über Künstliche Intelligenz bestimmtes Technik-Mittelalter? Selbst, wenn wir dann vielleicht glücklicher sind? Ich meine, das wollen wir nicht, denn ich halte die Vorstellung einer automatisierten Optimierung der Menschen nach den nicht hinterfragbaren Kriterien einer Elite für menschenverachtend und totalitär. Soll es nicht der Mensch, das einzelne Individuum sein, das seine Geschicke lenkt und zwar auch dann, wenn die eigenen Erkenntnisse unvollkommen und ihre Beschaffung anstrengend sind?“, fragt Ganten.

          Er findet: Wir gestalten die Digitalisierung nur dann so, dass sie Willensbildung und freie Entscheidung fördert, wenn wir uns von einer Ethik leiten lassen, die den freien Menschen in den Mittelpunkt stellt – und zitiert den Philosophen Kant. „Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbstverschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Mutes liegt, sich seiner ohne Leitung eines anderen zu bedienen.“

          Damit das das dauerhaft funktioniere, brauche Europa Regeln, die Wettbewerb und freie Innovation ermöglichen. „Zu diesen Regeln muss gehören, dass wir auch als Unternehmen Kontrolle über die von uns generierten Daten haben. Denn wenn es übermächtige Internetkonzerne sind, die, über die in unseren Organisationen durchgeführten Websuchen, über die Arbeit mit Software wie Office oder Linkedin oder durch die Verwendung von Smartphones und Apps mehr Daten über unsere Mitarbeiter und Kunden sammeln, als wir es selber können oder wollen, dann haben diese einen kontinuierlichen Informationsvorsprung. Damit können sie jede Innovation, jede neue Wertschöpfung für sich nutzen und die damit verbundenen wirtschaftlichen Potentiale selbst abschöpfen“, wiederholt Ganten einen Hinweis, den er schon früher häufiger gegeben hat.

          Franchise wie bei McDonalds

          Doch er legt argumentativ nach. Denn dann hätten wir keine freie oder soziale Marktwirtschaft mehr, sondern vielmehr Franchise-Systeme wie bei McDonalds oder Subway, bei denen die Unternehmer vollständig abhängig von den zentral gesammelten Daten und den daraus erzeugten Vorgaben seien.

          Was sei also wichtig? Dass Eigentümer ihre Daten auch unabhängig von einer bestimmten Software lesen, ändern und löschen könnten, dass Software überprüfbar und frei veränderbar sei. Aber dass auch die Funktionsweise von Hardwarekomponenten nachvollzogen werden könne. Außerdem müsse jedes System, jede Anwendung auch unter der eigenen Kontrolle betrieben werden können.

          Und schließlich brauche es Kompetenzen, um Daten, Programmcode oder Prozesse zu verstehen und zu verändern, also echte Bildung für die digitale Welt. Und nur, wenn diese Bedingungen erfüllt seien, könnten Unternehmen, Behörden oder Schulsysteme unabhängig handeln. Nur dann könnten sie dauerhaft innovativ und damit erfolgreich sein.

          Das bedeute, dass man sich für eine sehr weitgehende Trennung von Daten, Programmcode und Cloud-Dienstleistungen einsetzen müsse. Das Prinzip müsse es sein, dass jedes Individuum, jede Organisation eigene Daten selbst verwalten und frei entscheiden könne. Und man brauche einheitliche, offene Programmierschnittstellen. Durch ein solches System würden noch mehr Daten verfügbar werden und eine darauf aufbauende, verteilte KI deswegen noch besser als die zentralistische KI der Plattformbetreiber sein. „Denn wenn Menschen sich sicher sein können, dass mit ihren Daten vernünftig umgegangen wird, dass diese nicht zu ihrem Nachteil verwendet werden und dadurch nicht nur einzelnen Unternehmen sondern allen Menschen gedient ist, stellen sie auch persönliche Daten häufiger etwa für die Forschung zur Verfügung“, sagt Ganten.

          Ein solches Internet der Daten im Sinne einer europäischen Ethik könne nur auf der Basis offener Daten und mit Open Source Software erfolgreich sein. Sonst gäbe es keine Nachprüfbarkeit von Entscheidungen, kein Vertrauen und auch der Innovationsspielraum für Unternehmen wäre erheblich eingeschränkt.

          Frankfurter Allgemeine Zeitung

          Die digitale F.A.Z.

          Zur kompletten Ausgabe

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.