https://www.faz.net/-gwz-8hezm

Künstliche Intelligenz - Hype? : Die Schnittstelle im Kopf

  • -Aktualisiert am

Hallo Freunde: KI erobert das Internet, das Kinderzimmer - schließlich auch die Welt? Bild: obs

Werden intelligente Maschinen bald schon die klügeren Einsteins sein? Selten zuvor wurden die Grenzen der Wissenschaft so radikal banalisiert und so lustvoll phantasiert wie zurzeit im KI-Boom.

          12 Min.

          Der Unterschied zwischen Mensch und Computer wird in Kürze aufgehoben sein.“ frohlockte Timotheus Höttges in einem Interview mit der „Zeit“. Der technikbegeisterte Chef der Deutschen Telekom freut sich auf dienstbare Haushaltsroboter, die ihm in Zukunft helfen werden, seine Brille zu finden. Auch Miriam Meckel, Chefredakteurin der „Wirtschaftswoche“, verblüffte ihre Zuhörer auf einem Festvortrag über den berechenbaren Menschen in Tübingen: In nur fünf bis zehn Jahren brauchen wir weder Maus noch Computertastatur.

          Stattdessen haben wir eine Schnittstelle im Kopf, die unsere Gedanken direkt aus dem Gehirn ausliest und in die Maschine einspeist. Aber es geht noch phantastischer: Die „Brain Preservation Foundation“ ist eine in den Vereinigten Staaten beheimatete Bewegung. Deren Adepten wollen das biologische Leben auf digitalem Weg beliebig verlängern!

          Die Persönlichkeit wird unsterblich

          Das stellen sie sich so vor: Wenn das letzte Stündlein schlägt, begibt man sich schnell ins Krankenhaus. Dort erhält man eine Vollnarkose. Das ist das Ende der biologischen Existenz. Jetzt wird der Brustkasten von Chirurgen aufgesägt. Man öffnet eine große Arterie. Mit einer Pumpe flutet man den Kreislauf zuerst mit einem Konservierungsmittel, schließlich mit einem Fixiermittel. Gehirn und Rückenmark werden auf diese Weise plastifiziert und dann entnommen.

          Roboter heute – morgen Chefs.

          Mit Hilfe eines Mikrotoms wird das Nervengewebe in feinste Scheiben geschnitten. Diese kommen unter ein hochauflösendes Mikroskop und werden in einen Computer eingelesen, der mit speziellen Algorithmen alle Neuronen mit sämtlichen synaptischen Verbindungen digital rekonstruiert. Dieser digitale Hirnscan wird schließlich einem Roboter implantiert, der dann angeblich das Bewusstsein seines biologischen Vorgängers annimmt.

          Weil man digitale Daten verlustfrei übertragen kann, wird es möglich, das „Leben“ des Hirnscans, der mit der Persönlichkeit des verstorbenen Menschen gleichgesetzt wird, beliebig zu verlängern. In nur hundert Jahren sollen solche Gehirn-Uploads so alltäglich sein wie ein Reifenwechsel beim Auto. Aber nicht alle freuen sich über derart weltbewegende Umbrüche. Der Astrophysiker Stephen Hawking fürchtet den Untergang der menschlichen Spezies und warnt vor der Machtübernahme intelligenter Maschinen.

          Gediegenes Halbwissen treibt Spekulanten

          Es scheint also ausgemacht, dass uns der digitale Wandel wie ein Wirbelsturm packen wird. Uneinigkeit besteht offensichtlich nur darin, ob man das gut findet oder eher schlecht. Aber stimmt das? Oder fühlt man sich an das Märchen von des Kaisers neuen Kleidern erinnert? Guckt man nämlich hinter die Kulissen, dann wird offenbar, dass sich der gigantische Wirbel nicht nur harten wissenschaftlichen Fakten verdankt. Er nährt sich auch von windigen Spekulationen und gediegenem Halbwissen.

          Das betrifft vor allen Dingen die Rolle des menschlichen Körpers für das Denken und Aspekte der mathematischen Modellbildung.

          Die Mathematik – bewundert, aber nicht immer verstanden – hat in unserer Gesellschaft die Funktion eines Mythos übernommen. In der Tradition von Pythagoras, Platon und Galilei existiert die unausgesprochene Annahme, dass sich die Natur in ihrer ganzen Fülle mathematisch fassen lässt. Und es ist genau diese Annahme, die die „Philosophien“ von Timotheus Höttges, Miriam Meckel, Stephen Hawking und den Optimisten, die vom digitalen Garten Eden träumen, wie mit einem unsichtbaren Band verbindet. Wenn man sie jedoch hinterfragt, und dafür gibt es gute Gründe, dann bekommt man eine realistischere Einschätzung, was Computer in Zukunft werden leisten können und was nicht.

          Was bedeutet das etwa für Frau Meckels Gehirn-Computer-Schnittstelle?

          Verwirrung um Turing-Maschinen

          Rechner heutiger Bauart sind Verkörperungen abstrakter Gedankenmaschinen, die der britische Mathematiker Alan Mathison Turing ersonnen hat. Diese sogenannten Turing-Maschinen besitzen Begrenzungen, die sich konkret in der Funktionsweise des Computers widerspiegeln: Es ist nicht möglich, beliebig genaue Eingabewerte zu berechnen, die Maschine arbeitet Schritt für Schritt, ist also zeitlich getaktet, und sie folgt einem Algorithmus, einem vorgegebenen Programm. In ihrer Gesamtheit beschränkt die Funktionsweise der Turing-Maschinen dann die Menge der mathematischen Probleme, die sich behandeln lassen. Per definitionem können sie mit berechenbaren Funktionen umgehen. Das ist nur ein Teil des gesamten mathematischen Universums.

          Häufige Frage heute: Wie gelingt es den Menschen, die Oberhand über die künstliche Intelligenz zu behalten?

          Man muss sich fragen, ob bereits diese Tatsache für Frau Meckels erträumte Schnittstelle einschneidende Konsequenzen hat. Im selben Vortrag betonte sie nämlich ausdrücklich, dass der Mensch einen freien Willen besitzt. Ist das nicht ein Widerspruch? Da der Computer nur berechenbare Funktionen verarbeiten kann, müssten Gedanken und Gedankenfolgen berechenbar sein, wenn die Schnittstelle die ihr zugedachte Aufgabe erfüllt, getreu zwischen Hirn und Maschine zu übersetzen. Sind die Gedanken aber berechenbar, dann sind sie determiniert und nicht frei. Wären sie frei, könnten sie von der Gedankenschnittstelle nicht adäquat ausgelesen werden. Ein prinzipielles Problem, das noch völlig außer Acht lässt, dass bis zum heutigen Tag eigentlich niemand weiß, was Gedanken sind. Sicher etwas anderes, als die Farbkleckse in der funktionellen Bildgebung oder die Wellenmuster eines EEG.

          Lassen wir das abgründige Problem des freien Willens beiseite und fragen uns, wie man überhaupt auf die Idee kommt, dass man komplexe Neuronennetze formalisieren kann, um sie dann mit einem Computer zu simulieren. Diese Annahme verdankt sich vor allen Dingen einer augenfälligen Analogie zwischen Hirn und Computer: Die meisten Neuronen in unserem Hirn funktionieren nach dem Alles-oder-nichts Prinzip. Wird ein bestimmter Schwellenwert überschritten, feuern sie, ansonsten bleiben sie stumm. Da lacht das Auge des Informatikers, denn das ist offensichtlich ein binäres Signal, wie geschaffen, um von einem Computer verarbeitet zu werden. Leider ist die Tatsache, dass beide mit einem binären Signal arbeiten, nicht maßgeblich. Um das zu verstehen, muss man sich vor Augen führen, welchen Anforderungen ein taugliches dynamisches Modell genügen muss.

          Modelle von Gehirnen ungeeignet

          Was ist ein Modell? Ein Modell ist eine Abbildung der Wirklichkeit, in der man alle Aspekte, die man bezüglich seiner Fragestellung für wesentlich hält, darstellt und alles Überflüssige weglässt. Denken Sie an eine Straßenkarte. Es ist ihr Zweck, einen Weg von A nach B zu weisen. In diesem Licht ist es unerheblich, ob die Straße durch Weizen- oder Maisfelder führt. Deshalb sind auf solchen Karten Straßen verzeichnet, aber nicht die verschiedenen Vegetationsformen. Betrachtet man dynamische Modelle, so kommt noch die Zeit ins Spiel. Wieder beschränkt man sich auf die für die wissenschaftliche Fragestellung wesentlichen Zustandsgrößen. Gleichzeitig verlangt man, dass die zeitliche Entwicklung der Modellgrößen in einem bestimmten Phasenverhältnis zur Dynamik der wirklichen Zustandsgrößen steht, die natürlich messbar sein müssen, damit man den Wert des Modells prüfen kann. Wenn man dann die Simulationszeit des Modells mit einem Faktor multipliziert, erhält man idealerweise den Zeitverlauf der Zustandsgrößen des Realsystems. Werfen Sie einen Blick auf eine analoge Uhr, und betrachten Sie den kleinen Zeiger, der einmal von der 12 zur 12 läuft! Eine Multiplikation mit dem Faktor zwei ergibt relativ exakt die zeitliche Dauer einer Drehung der Erde um die eigene Achse. Eine klassische Armbanduhr ist eine mechanische Simulation der Erdrotation.

          Zurück zu den Neuronenmodellen. Eine gelungene Simulation eines Nervennetzes müsste das raumzeitliche Muster der Aktionspotentiale nachbilden. Dazu wäre es aber notwendig zu wissen, wie Aktionspotentiale in der Realität zustande kommen. Leider ist dieser Prozess hochgradig analog-kontinuierlich, und es ist fraglich, ob er sich auf vernünftige Weise digitalisieren lässt.

          Simuliertes Neuronennetzwerk unter dem Elektronenmikroskop.

          Betrachten wir eine Pyramidenzelle im Kortex, eine spezialisierte Nervenzelle also. Auf ihrem Dendritenbaum gibt es mehr als zehntausend Synapsen - erregende und hemmende. Welche Informationen sind essentiell, um zu wissen, wann der Schwellenwert überschritten wird und das Neuron feuert? In der Theorie hört sich das Problem einfach an: Die Potentiale, die sich an den aktiven Synapsen bilden, wandern zum Axonhügel, addieren sich, und wenn die Überlagerung den Schwellenwert überschreitet, dann feuert das Neuron. Die Praxis ist viel komplizierter. Da gibt es erst mal eine verwickelte zeitliche Phasenbeziehung aller aktiven Synapsen. Aber auch der Ort der Synapsen auf dem Dendritenbaum ist von Bedeutung. Die Amplituden der synaptisch erzeugten Potentiale nehmen nämlich im Gegensatz zu den Aktionspotentialen mit der Entfernung ab.

          Man denke zur Veranschaulichung an einen Teich, in dessen Mitte ein Plastikentchen schwimmt. Am Ufer stehen zwei Jungen, die jeweils einen Stein ins Wasser werfen. An den Aufschlagpunkten entstehen zwei Wellenberge, die sich kreisförmig vom Zentrum entfernen, sich nach einer Zeit treffen und überlagern. Möchte man die Frage beantworten, ob das Entchen zu einem gewissen Zeitpunkt um 5 Zentimeter angehoben wird, dann muss man wissen, wo und wann die Steine aufschlagen, wie hoch die Amplituden der Wellen zu Beginn sind, wie sie mit der Entfernung abklingen und mit welcher Geschwindigkeit die Wellen über die Oberfläche laufen. Was passiert, wenn Tausende von Steinen in kurzer Zeit ins Wasser geworfen werden? Das ist schon komplexer, aber noch immer eine grobe Vereinfachung der Wirklichkeit.

          Die Wirklichkeit ist komplexer

          Im menschlichen Gehirn gibt es schließlich ein paar Dutzend verschiedene Neuronentypen, erregende und hemmende, die nicht nur mit verschiedenen Botenstoffen arbeiten. Auch ihre Reizleitungsdynamik ist unterschiedlich und hängt zu allem Überfluss von ihrer Vorgeschichte ab. Aber schon das einfache Bild legt nahe, dass die Annahme, komplex vernetzte Neuronen ließen sich digital simulieren, mit Vorsicht zu genießen ist. Orte und Zeiten sind in der Physik schließlich kontinuierliche Größen und diese nach Bedarf einfach zu diskretisieren, also zu runden, kann gerade in nichtlinearen Systemen schnell zu falschen Ergebnissen führen.

          Zusammengefasst verlangt man von einem funktionstüchtigen mathematischen Modell, dass die gewählten und messbaren Zustandsgrößen relevant sind. Außerdem darf man keine Einflussgrößen vergessen. Sie müssen vollständig sein. Und es ist notwendig, dass sie mit hinreichender Genauigkeit messbar sind. Genügen die bekannten mathematischen Neuronenmodelle diesen Vorgaben? Eher nicht. Die Wirklichkeit ist wesentlich komplizierter als in den mathematischen Modellen dargestellt. Damit relativiert sich deren Erkenntniswert. Dieser Umstand wirft ein bezeichnendes Licht auf das Human Brain-Project, das kein geringeres Ziel hat, als das gesamte menschliche Nervennetzwerk zu analysieren, um es dann mittels eines Computers zu simulieren. Ein bemerkenswerter Anspruch. Eigentlich müssten die Erfahrungen, die man mit dem Fadenwurm Caenorhabditis elegans gemacht hat, zur Bescheidenheit führen. Das Nervennetz dieses unscheinbaren Tierchens ist das bisher einzige, das vollständig kartiert ist. Von seinen 302 Neuronen ist genau bekannt, wie sie untereinander verdrahtet sind. Aber sind wir deshalb in der Lage, das Verhalten dieses primitiven Tieres vorherzusagen? Nicht wirklich. Die Simulationsergebnisse bleiben hinter den Erwartungen zurück. Aus dem Wissen, wie etwas verbunden ist, folgt eben nicht, wie es funktioniert. Wenn man sich das Streckennetz der Deutschen Bahn anschaut, weiß man auch nicht, wie die Züge fahren. Um das zu wissen, braucht man noch andere Informationen, etwa die Dynamik der Weichen. Das ist der Dreh- und Angelpunkt. Wenn die Dynamik der Schaltstellen nicht genau bekannt ist, sind Vorhersagen über die zeitliche Entwicklung sinnlos. Deshalb ist man erstaunt, wenn die „Simulation“ einer kortikalen Säule von den beteiligten Forschern als großer Erfolg gefeiert wird, wobei dann schüchtern darauf hingewiesen wird, dass man die synaptische Plastizität im Modell noch nicht berücksichtigt hat.

          Grenzenlos kreativ?

          Aber man kann bei Modellierungen des Gehirns noch weiter in die Irre gehen. Das tun die Jünger, die glauben, ihre Seele ließe sich einem Roboter implementieren und deshalb würden sie ewig leben. Auch hier ist der von Computern rekonstruierte Verschaltungsplan des toten Gehirns für dessen Funktionieren nicht entscheidend. Und selbst wenn man aus den mikrometerfeinen Schnitten des Gehirns herauslesen könnte, wie die Synapsen im Moment des Todes funktioniert haben, was spekulativ ist, so reicht auch dieses Wissen nicht, um auf die Funktionsweise des Gehirns zu schließen. Das ist ein bisschen so, als wenn man im Kino mit Blitzlicht einen Film abfotografiert, um dann aus diesem Schnappschuss dessen Verlauf vorherzusagen.

          Es wird in diesem Zusammenhang außer Acht gelassen, dass das Gehirn ein extrem dynamisches System ist. Es verändert sich in jeder Sekunde seiner Existenz. Diese Veränderungen sind zum Teil rückbezüglichen Schleifen geschuldet, da sich das Gehirn viel mit sich selbst beschäftigt. Sie verdanken sich aber auch den Wechselwirkungen mit der äußeren Welt. Und ein wichtiges Tor zur Welt ist der menschliche Körper. Dieser Punkt ist zentral. Ohne die vollständige Kenntnis des Körpers lässt sich das Gehirn nicht verstehen. Betrachten wir zur Verdeutlichung die menschliche Hand. Bei jeder Bewegung, die wir mit unseren Händen ausführen, gehen nicht nur Steuerbefehle vom Hirn zur Hand, sondern auch unzählige sensorische Rückmeldungen von der Hand zum Hirn. Deshalb gibt es im Gehirn neben motorischen Karten eben auch sensorische. In diesen sensomotorischen Karten sind nun allerdings auch die individuellen anatomischen, morphologischen und physiologischen Besonderheiten unseres Körpers kodiert. Sollten Sie eine Hand bei einem Unfall verlieren und eine Spenderhand erhalten, die kleiner und leichter ist, andere Drehmomente, Hebel und Gelenkwinkel hat, dann verändert sich zwangsläufig die neuronale Kartierung ihrer Hand in ihrem Gehirn und damit verbunden auch ihre Selbstwahrnehmung. Vermutlich ist das einer der Gründe, weshalb Handtransplantierte starken psychischen Belastungen ausgesetzt sind und ihre neuen Hände teilweise ablehnen.

          Die eigene Identität geht verloren?

          Kann man sich vorstellen, was es bedeutet, wenn ein Operateur wie der Italiener Sergio Canavero einen menschlichen Kopf transplantieren will? Das ist eins der gruseligsten Experimente, die man sich vorstellen kann. Canavero möchte einen gesunden Kopf auf den chirurgisch enthaupteten Körper eines kürzlich Verstorbenen setzen, in dem naiven Glauben, dass sich dieser über sein neues Zuhause freut. Leider wird sich der freuende Kopf nach einer Weile selbst nicht mehr wieder erkennen. Wenn man die menschliche Sensorik - Augen, Ohren, Nase - als Interface zur umgebenden Wirklichkeit betrachtet, dann kann man unseren Körper als „Intraface“ unseres Gehirns ansehen. Er konstituiert einen ganz individuellen Erfahrungsraum. Und in diesem Zusammenhang gibt es eben nicht nur sensorische Informationen aus Muskulatur und Gelenken. Es gibt auch humorale Komponenten, also Hormone, Immunfaktoren und Mineralien, die im Blut zirkulieren und die Funktionsweise des Gehirns beeinflussen. Des Weiteren steht das komplexe ENS, das enterische Nervensystem, das unsere Verdauungsorgane umschließt, mit dem Zentralnervensystem in Wechselwirkung.

          Deshalb würde der Spenderkörper zu einer massiven Umgestaltung des Gehirns führen, und es ist wahrscheinlich, dass damit das Gefühl für die eigene Identität verlorengeht.

          Was wäre nun, wenn ein plastisches Gehirn in einem Roboter beheimatet wäre? Selbst wenn es gelänge, eine Konnektivität zwischen Maschine und Hirn herzustellen, dann würde das zentrale Ziel mit Sicherheit verfehlt: die eigene Lebensspanne zu verlängern. Das Ich des Gehirns, das sich der Maschine anpassen müsste, hätte nämlich nichts mehr mit dem Ich zu tun, das sich vorher ein ewiges Leben erträumte.

          Robo-Cup als Weltmeisterschaft der KI?

          Auch in einem anderen mathematischen Konzept spielt der Körper eine Schlüsselrolle. Damit wären wir zum Schluss bei der Brille von Timotheus Höttges und den Ängsten von Stephen Hawking.

          Man muss nicht zwangsläufig das Nervensystem in seiner spezifischen Dynamik simulieren, wie es etwa die Forscher des European Brain Project versuchen. Man kann auch Maschinen bauen, die statistische Korrelationen auswerten oder aber auf der Grundlage neuronaler Netze arbeiten. Einige Funktionscharakteristika sind dem natürlichen Vorbild abgeschaut, andere bleiben unbeachtet. Man könnte die Strategie, die dahintersteht, als „funktionelle Mimikry“ bezeichnen. An der Oberfläche sehen wir ein „intelligentes“ Verhalten, aber die Maschinerie im Innern hat in ihrer Funktionsweise wenig bis gar nichts mit der des Menschen zu tun. Ein Beispiel ist die Sprachsoftware „Siri“, die definitiv keine menschliche Sprache versteht, aber unter Ausnutzung statistischer Korrelationen Ihrem Benutzer das Gefühl gibt, mit der Maschine sprechen zu können. Das ist für einige Benutzer immerhin so glaubwürdig, dass sie die Maschine anschreien, wenn sie nicht versteht, was sie meinen, da sie ihr einen bösen Willen unterstellen. Oder „Kari“, Knowledge Acquiring and Response Intelligence, eine fügsame virtuelle Geliebte, die sich der Benutzer nach eigenen Wünschen schaffen kann, um mit ihr eine Beziehung zu pflegen. Aber warum versteht Siri ihren Gesprächspartner nicht? Und warum kann Kari die Gefühle ihrer Liebhaber nicht erwidern und hat keine Ahnung, was es heißt, „Schmetterlinge im Bauch zu haben“? Weil sie keinen menschlichen Körper besitzen.

          Er ist unverzichtbar, damit die von uns verwendeten Wörter ihre geläufige Bedeutung bekommen. Man kann ihn als semantischen Referenzrahmen bezeichnen. Was bedeutet das für die Brille von Herrn Höttges? Ist es möglich, dass sein erträumter Roboter seine Bitte versteht, die Brille zu suchen, und sie findet? Sicher. Kann man sich vorstellen, dass die beiden sich über ihre Erfahrungen mit Brillen austauschen? Auch das ist möglich. Nur wird das Gespräch nicht erbaulich sein. Sie werden systematisch aneinander vorbeireden. Das liegt an den unterschiedlichen Erfahrungsräumen, die ihnen zum Lernen zur Verfügung stehen. Diese Erfahrungsräume sind quantitativ und qualitativ verschieden und das wird so lange so bleiben, wie Roboter Maschinenkörper haben und keinen menschlichen.

          Wie versteht ein Roboter Schamgefühle?

          Der KI-Forscher Jürgen Schmidhuber glaubt, dass in Zukunft riesigen lernenden neuronalen Netzwerken im Internet Sprache, Video und Text als millionenfach vorhandene Quelle dienen werden. Die Netze können dann Wörter und Bilder in Beziehung setzen und auf der Grundlage dieser Informationen „verstehen“, was etwa eine Brille ist. Das stimmt nur zum Teil. Der Erfahrungsraum des World Wide Web ist weitgehend körperlos - es gibt keine Propriozeption, keinen plötzlichen Adreanalineinschuss, keinen Ekel, kein inneres Glücksgefühl. Im Gespräch könnte sich Herr Höttges mit seinem Roboter also sicher einigen, wie eine Brille aussieht. Aber wie ist es, eine auf der Nase zu haben? Wie soll ein Roboter verstehen, dass ein junger Mensch beim ersten Rendezvous Scham wegen seines Nasenfahrrads empfindet? Oder könnte die Maschine nachvollziehen, dass ein Intellektueller ein expressives Modell mit markantem schwarzen Rand wählt, um den Visionär zu mimen?

          Zur gelingenden Kommunikation gehören also vergleichbare Erfahrungsräume, und unser Körper ist ein maßgeblicher Teil eines hochdimensionalen Erfahrungsraums. Das schließt nicht aus, dass intelligentes Verhalten auf der Basis anderer, häufig beschränkterer Erfahrungsräume möglich ist. Das sieht man etwa an leistungsfähigen Schachcomputern. Diese agieren aber nicht zufällig in einem überschaubaren Modelluniversum und können dort ihre Stärke ausspielen. Ob Computern das auch in menschlichen Alltagswelten gelingen wird, bleibt abzuwarten.

          Die Entwicklung im Sinne von Stephen Hawking aufmerksam zu beobachten ist in diesem Sinne kein Fehler. Dass aber Computer in naher Zukunft die neuen Einsteins werden und uns intellektuell überflügeln, darf man vorerst bezweifeln.

          Der Autor

          Marco Wehr ist Physiker und Philosoph in Tübingen. Er beschäftigt sich mit der Beziehung von Körper und Denken sowie Fragen der Berechenbarkeit.

          Weitere Themen

          Hier stehe ich und bin

          John O’Keefe 80 : Hier stehe ich und bin

          Wie wir uns im Raum orientieren, nämlich mit einer Karte im Kopf, gehört bis heute zu den faszinierendsten Detailkenntnissen über über uns Gehirn. Der Entdecker der „Ortszellen“, feiert heute seinen achtzigsten Geburtstag.

          Erst Ausnahmezustand, dann Schneeschmelze? Video-Seite öffnen

          Österreichische Alpen : Erst Ausnahmezustand, dann Schneeschmelze?

          Schulen und Straßen blieben in Österreich vielerorts geschlossen, weil Lawinen und Erdrutsche dicht an bewohnte Gebiete heranreichten. Nach dem heftigen Schneefall folgt nun die Schmelze: „Das heißt für morgen Entspannung, aber keine Entwarnung", summiert ein Geologe.

          Topmeldungen

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.