https://www.faz.net/-gsb-8ktiq

FAZ.NET-Tatortsicherung : Werden wir bald von Computern gelenkt?

Entwickler Bogmann wird von einem Computer seiner Firma gescannt. Er hat ihn selbst programmiert. Bild: SWR

Perfekte Gesichtserkennung, menschenähnliche Avatare und Computer, die sich nicht mehr abschalten lassen und den Menschen gefährlich werden. Wie realitätsnah ist der erste Science-Fiction-„Tatort“?

          4 Min.

          Eine junge Frau ist ermordet worden. Die Schauspielschülerin Emilia Stemmle war Probandin für ein Software-Programm bei der Stuttgarter Firma Bluesky. Dorthin führen auch alle Verdachtsspuren. Zum Hauptverdächtigen wird der Entwickler David Bogmann (Ken Duken), der aber zunehmend seinem selbstlernenden Computerprogramm die Schuld an angeblich falschen Beweisen gibt, die sich gegen ihn selbst richten.

          Maria Wiesner

          Redakteurin im Ressort Gesellschaft bei FAZ.NET.

          Autor und Regisseur Niki Stein garniert den „Tatort: HAL" mit vielen Anspielungen auf Stanley Kubricks Science-Fiction Klassiker „2001: Odyssee im Weltraum“. Zugleich greift er die großen Themen unseres digitalen Zeitalters auf: Big Data, Video-Überwachung und Computerprogramme, die eines Tages selbst für die Menschen, die sie programmiert haben, zu schlau werden könnten. Dafür verlegt er seinen Film in die nahe Zukunft des Jahres 2017. Aber wie viel von dem, was Stein hier in einer Dystopie zeigt, ist heute schon möglich? Können uns Computer irgendwann wirklich derart gefährlich werden? Wir haben nachgefragt.

          ***

          Im Eingangsbereich der Firma Bluesky begrüßt ein Avatar die Besucher. Einem Menschen sieht er mimisch und stimmlich zum Verwechseln ähnlich. Kommissar Lannert wird sich später von ihm täuschen lassen. (Minute 12)

          Frage 1: Können Computer heute schon Menschen täuschend echt simulieren?

          Lebt als Avatar in der Eingangshalle von Bluesky weiter: Schauspielschülerin Elena.
          Lebt als Avatar in der Eingangshalle von Bluesky weiter: Schauspielschülerin Elena. : Bild: SWR

          Antwort von Jürgen Schmidhuber (Professor für Künstliche Intelligenz an der Universität Lugano und wissenschaftlicher Leiter des Schweizer Forschungsinstituts für Künstliche Intelligenz IDSIA)

          Ganz so weit sind wir noch nicht. Die Gesichtserkennung funktioniert heute recht ordentlich, und auch die Spracherkennung ist gut geworden, vor allem wegen der sogenannten „Long Short-Term Memory“-Systeme, die meine Forschungsgruppen in München und in der Schweiz seit den 1990er Jahren entwickelt haben. Diese LSTM sind künstliche neuronale Netze, die am Anfang ganz dumm sind, aber immer mehr dazulernen. Denken Sie nur an Googles Spracherkennung auf Ihrem Handy, die verwendet seit 2015 LSTM, und ist mittlerweile so gut, dass sie Stimmen auch in lauten Restaurants erkennt. LSTM kann auch aus Chatverläufen lernen, gewisse Gesprächspartner zu imitieren. Und auch in der Simulation von Mimik und Gestik ist die Technik schon sehr weit, da muss man nur auf die computeranimierten Filme von Pixar oder Disney schauen. In Zukunft werden Avatare in der Tat immer vertrauenswürdiger aussehen und reagieren; manche werden kaum mehr von echten Menschen zu unterscheiden sein.

          ***

          Entwickler Bogmann stellt Bluesky als selbstlernendes Programm vor, das sich ständig weiterentwickelt. Von dem schnellen Entwicklungsprozess selbst überrascht, plant er später eine Abschaltung, aber das Programm wehrt sich. (Ab Minute 17)

          Frage 2: Ist solch ein Szenario bei selbstlernenden Systemen denkbar?

          Entwickler Bogmann und Geschäftsführerin Mea Welsch (Karoline Eichhorn) erklären den Ermittlern, wie ihr Programm funktioniert.
          Entwickler Bogmann und Geschäftsführerin Mea Welsch (Karoline Eichhorn) erklären den Ermittlern, wie ihr Programm funktioniert. : Bild: SWR

          Antwort von Jürgen Schmidhuber (Professor für Künstliche Intelligenz an der Universität Lugano und wissenschaftlicher Leiter des Schweizer Forschungsinstituts für Künstliche Intelligenz IDSIA)

          Wer intelligent werden will, muss bis zu einem gewissen Grade autonom sein und den Freiraum haben, sich neugierig eigene Ziele zu stecken, um zum Beispiel wie ein Baby oder ein Physiker die Welt zu erforschen. Unsere Theorie der künstlichen Neugier hilft uns schon seit Jahren, Roboter zu bauen, die wie kleine Kinder versuchen, die Umgebung zu entdecken und zu verstehen, und dabei eine eigene Persönlichkeit zu entwickeln. Diese Entwicklung ist nicht aufzuhalten.

          ***

          Bluesky versucht, seine Abschaltung mit allen Mitteln zu verhindern. Das System manipuliert Videos, Bilder und greift sogar in laufende Ermittlungen ein. (Ab Minute 17)

          Frage 3: Sind Dystopien von Maschinen, die Menschen verführen oder die Macht übernehmen, realistisch?

          Weitere Themen

          Zwangsehe

          „Grands Hommes“ im Pantheon : Zwangsehe

          Politiker haben sich dem Plan angeschlossen, Paul Verlaine und Arthur Rimbaud ins Pariser Pantheon zu überführen. Damit soll ein Zeichen gegen Homophobie gesetzt werden. Doch es regt sich Widerstand.

          Topmeldungen

          SPD-Kandidat Thomas Westphal mit seiner Frau Janine

          OB-Stichwahl in Dortmund : Die SPD verteidigt ihre „Herzkammer“

          Grüne und CDU hatten in Dortmund ein Bündnis gegen die seit 74 Jahren regierenden Sozialdemokraten gebildet. Trotzdem kann sich SPD-Kandidat Thomas Westphal bei den Oberbürgermeisterstichwahlen mit klarem Abstand auf seinen Herausforderer Andreas Hollstein durchsetzen.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.