Die Bewältigung von Krisen ist ein großes Thema dieser Falling-Walls-Konferenz, Künstliche Intelligenz als Lösungsoption taucht dabei erstaunlich selten auf. In Ihrem neuen Buch* diskutieren Sie die Allgegenwärtigkeit von Big Data und Algorithmen durchaus kritisch. Ist das unser Kardinalproblem: dass wir uns zu wenig bewusst machen, wie KI unterschwellig unser Denken und Verhalten verändert?

Das Thema ist ja sehr wohl präsent. Wir haben gerade diesen Vortrag über die kleinen Roboter gehört, die in unsere Körper gelangen und fähig sind, Medikamente an bestimmte Stellen zu bringen oder drahtlose Stents in Blutgefäße einzuführen. Das alles ist ohne Künstliche Intelligenz undenkbar, ohne dass man groß darüber spricht. Wenn Frau Özlem Türeci darüber spricht, dass es in fünf Jahren gelungen ist, Tumore bedeutend schneller zu sequenzieren, geht das nur mit KI. Sie ist eingebaut in den Prozess der Automatisierung. Das ist ein toller Fortschritt in der Medizin, ebenso wie die Modellierung von komplexen Systemen wie Klimawandel. Die KI ist oft unsichtbar, aber sie ist da.

Gleichzeitig zeigen solche Beispiele auch die Schwierigkeiten, die Menschen mit der Automatisierung haben. Denn es braucht die Daten der Bürger, und zwar massenhaft persönliche Daten.

In der Tat, wir liefern unsere Daten ab, unsere ganze soziale Umwelt wird erfasst. Nach meiner Ankunft mit dem Flugzeug in Berlin erhielt ich auf dem Handy eine Nachricht der Bundesregierung der Bundesrepublik Deutschland, die mich willkommen heißt und mich erinnert, die Quarantäne- und Sicherheitsregeln zu befolgen. Das ist Künstliche Intelligenz, die weiß, wo ich gerade bin und wohin ich mich bewege. Ich habe diesem Willkommensgruß nie zugestimmt und nehme an, dass es dafür eine gesetzliche Grundlage gibt, die der Pandemie geschuldet ist. Dennoch zeigt es eben auch die Möglichkeiten des Missbrauchs, und davor haben viele Menschen Angst. Zwischen diesen beiden Möglichkeiten, dem Nutzen und dem möglichen Missbrauch, gilt es nun einen vernünftigen Modus Vivendi zu finden.

Wenn KI Alltag ist, kommt dann der Ruf nach einem digitalen Humanismus, wie jetzt von Ihnen, nicht etwas zu spät?

Man muss immer früher anfangen. Aber wenn man zu früh anfängt, bleibt die Zukunft ein riesiger, spekulativer Projektionsraum. Noch ist es nicht zu spät, aber wir müssen aktiver werden und handeln. Wir müssen dem Gefühl entgegentreten, dass wir der Technologie ausgeliefert sind. Die großen Konzerne sind ökonomisch sehr mächtig, keine Frage, doch gerade deshalb ist staatliche Regulierung das Gebot der Stunde. Auf EU-Ebene ist man dran, einen vernünftigen Mittelweg zwischen dem zu finden, was in den USA und in China läuft.

Wie sieht der Humanismus aus, der in der digitalen Welt nötig wird?

Vergleichen wir doch einmal, was uns ein Amazon-Algorithmus alles anbietet, wenn wir ein Buch kaufen. Wir bekommen zig weitere Buchempfehlungen mitgeliefert, die auf unsere Lesevorlieben zugeschnitten sind. Die Daten dazu stammen aus unserem vergangenen Leseverhalten und geben vor, was wir in Zukunft lesen sollen. Als wir jung waren und in die Bibliothek gegangen sind, haben wir die Erfahrung gemacht, uns zwischen den Bücherregalen umzudrehen und plötzlich ein spannendes anderes Buch zu entdecken, das wir gar nicht gesucht haben. Diese Art von Unvorhersehbarkeit und Offensein für Überraschungen gehört zu unserem Menschsein. Wenn wir im Amazon-Universum verbleiben, konsumieren wir genau das, was Amazon möchte. Wenn wir das nicht wollen, müssen wir ausbrechen, und daran erinnert der digitale Humanismus.

Es heißt also auch die analoge Welt zu erhalten und, wenn man so will, in der Metaphorik dieser Konferenz möglicherweise Mauern zu errichten vor dem grenzenlosen Vorrücken der KI?