https://www.faz.net/aktuell/wirtschaft/kuenstliche-intelligenz/fake-porns-mit-ki-werden-promis-in-pornos-eingebaut-15419920.html

Künstliche Intelligenz : Jetzt also „Fake Porn“

  • Aktualisiert am

Sieht täuschend echt aus: Der Kopf von Schauspielerin Daisy Ridley (Star Wars) auf einem fremden Körper. Bild: Jiffier Gifs

Spielen die Hollywoodstars Scarlett Johansson und Daisy Ridley in Porno-Filmen mit? Keineswegs. Doch mit digitalen Manipulationen wurden ihre Gesichter auf fremde nackte Körper in entsprechenden Streifen montiert. Das Ergebnis wirkt täuschend echt.

          2 Min.

          Die Fortschritte im Bereich der Künstlichen Intelligenz machen sich in immer mehr Bereichen bemerkbar. Im vergangenen Sommer sorgten Forscher der University of Washington für Aufsehen, als sie ein manipuliertes Video des früheren amerikanischen Präsidenten Barack Obama präsentierten, in dem das Staatsoberhaupt zwar mit seiner Stimme sprach, ihm aber ein fremder Text in den Mund gelegt wurde. Das Beispiel ging damals um die Welt und gewährte einen Einblick, was noch so alles möglich sein könnte mithilfe sogenannter künstlicher neuronaler Netze, jener derzeit angesagten KI-Methode, in die auch viele große Unternehmen gewaltige Summen stecken und deren Potential als enorm eingeschätzt wird. Täuschend echte Videos gehören, das ist seitdem klar, sehr sicher dazu - „fake videos“ analog zu „fake news“ sozusagen.

          Nun ist eine dramatische Möglichkeit offenbar geworden, wie die Fortschritt in der KI offenkundig missbraucht werden können. Ein frei zugängliches auf KI basierendes Programm ermöglicht es Nutzern, die Köpfe Prominenter zum Beispiel in Pornostreifen zu integrieren und mit denen der eigentlichen Darsteller auszutauschen. Die berühmten Schauspielerinnen Gal Gadot, Maisie Williams, Taylor Swift, Scarlett Johansson und Daisy Ridley sind davon nach einem Bericht des Onlinedienstes „Motherboard“ schon betroffen.

          Bald für alle?

          Auf dem Internetportal „Reddit“ gehören einem entsprechenden Forum mittlerweile Tausende Mitglieder an, die sich dort demnach Nachrichten und Videos zusenden. Ein Nutzer namens „deepfakes“ steht dahinter. Er habe zudem den Algorithmus erdacht, der wiederum dem frei zugänglichen Programm „FakeApp“ zugrunde liegt, das einer oder mehrere andere Nutzer erschaffen haben, die hinter dem Namen „DeepfakeApp“ stehen. Mit dessen Hilfe lassen sich manipulierte Videosequenzen erstellen, können Nutzer Köpfe vertauschen.

          Grob zusammengefasst funktioniert das so: Ein schlaues Computerprogramm lernt, ein bestimmtes Gesicht zum Beispiel eines Hollywoodstars zu identifizieren, in dem es unzählige eingefrorene Videoabschnitte anschaut. Ist die Zahl der Lernbeispiele groß genug, dann ist es augenscheinlich in der Lage, dieses Gesicht an die Stelle eines anderen zu setzen in einem anderen Video. Nötig ist dafür neben ausreichendem Videomaterial ein leistungsfähiger Rechner.

          Nach einem Bericht des Tech-Dienstes „The Register“ sind bislang vor allem prominente Frauen Opfer solcher Manipulationen geworden. Zum Beispiel fügte jemand die Star-Wars-Schauspielerin Daisy Ridley in ein pornographisches Video ein (unser Bild). „Ich möchte diese unglaubliche Gesichteraustausch-Technolgie (“face swapping“) auch Nutzern zugänglich machen, die nicht notwendigerweise eine technischen Hintergrund haben“, zitiert die Seite den Programmerfinder „DeepfakeApp“, mit dem sie in dieser Woche Kontakt gehabt habe. Damit konfrontiert, dass theoretisch beispielsweise auch Kindergesichter in Pornofilme hinein getauscht werden könnten und wie er es überhaupt mit dem Missbrauch dieser Technik halte, sagte er demnach: „Schlussendlich (...) ist es unmöglich, jemanden davon abzuhalten, was er mit diesem Instrument machen möchte und das bedeutet unglücklicherweise auch, dass einige es missbrauchen werden.“

          Schon vor einigen Wochen, kurze Zeit nachdem die Internetseite „Motherboard“ erstmals über den Reddit-Nutzer „deepfakes“ berichtet hatte, sagte der Computerwissenschaftler Peter Eckersley von der Electronic Frontier Foundation voraus, dass bald der Punkt erreicht sei, an dem die dahinterstehende Technologie (face-swapping) leicht anzuwenden und weit verbreitet sein werde. „Heute können Fake-Videos mit Hilfe neuronaler Netze gemacht werden, aber die Menschen werden bei genauem Hinsehen noch erkennen können, dass das eine Fälschung ist. (...) Das wird aber nicht mehr länger so bleiben als ein oder zwei Jahre.“

          Weitere Themen

          Was hilft gegen Kinderarbeit?

          FAZ Plus Artikel: Schulz gegen Haeusgen : Was hilft gegen Kinderarbeit?

          Deutsche Unternehmen sollen künftig ihre Lieferanten stärker überprüfen. Entwicklungshilfeministerin Svenja Schulz und Maschinenbau-Verbandschef Karl Haeusgen streiten über Sinn und Unsinn des neuen Lieferkettengesetzes.

          Topmeldungen

          Ein pensionierter Sportlehrer leitet den Kurs „Fit im Alter“ im Gesundheitskiosk Hamburg-Billstedt.

          Streit um Gesundheitksioske : Einmal gesund werden, bitte

          Karl Lauterbach will, dass bundesweit Hunderte Gesundheitskioske entstehen. Ihr Nutzen ist umstritten, viele Kassen wollen das Geld lieber anders ausgeben. Ein Modellprojekt bangt schon um seine Zukunft.
          Stahlproduktion in Duisburg

          Wirtschaftslage in Deutschland : Wie schlimm wird die Rezession?

          Die deutsche Wirtschaft kommt trotz Energiekrise ohne katastrophale Schäden durch die kommenden Monate, versprechen Forscher. Doch in den Unternehmen geht die Angst um.
          Verena Hubertz, 34, ist stellvertretende Fraktionsvorsitzende der SPD im Bundestag.

          Verena Hubertz : Plötzlich mächtig

          Gerade hat Verena Hubertz ein Start-up gegründet. Nun ist sie die wichtigste Wirtschaftspolitikerin der Kanzlerpartei. Eine Karriere mit Giga-Geschwindigkeit.

          2:0 gegen Mexiko : Argentinien wendet vorzeitiges Aus ab

          Superstar Lionel Messi führt Argentinien zum dringend benötigten Sieg über Mexiko. Der Superstar macht für die „Albiceleste“ den Unterschied. Weltklasse ist aber nur die Stimmung auf den Rängen.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Die wichtigsten Nachrichten direkt in Ihre Mailbox. Sie können bis zu 5 Newsletter gleichzeitig auswählen Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.