Namhafte Forscher in der Künstlichen Intelligenz und bekannte Technologie-Unternehmer wie Tesla-Chef Elon Musk und Apple-Mitgründer Steve Wozniak fordern in einem dramatischen Aufruf, die Entwicklung riesiger KI-Systeme sofort zu unterbrechen. „KI-Systeme mit menschlich-kompetitiver Intelligenz können gravierende Risiken für die Gesellschaft und die Menschheit darstellen“, heißt es in dem auf der Webseite der amerikanischen Denkfabrik „Future of Life Institute“ veröffentlichten offenen Brief.

Dort heißt es weiter: „Deshalb fordern wir alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger sind als GPT-4, sofort für mindestens sechs Monate zu unterbrechen. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen.“ Wenn eine solche Pause nicht schnell umgesetzt werden könne, sollten die Regierungen eingreifen und ein Moratorium verhängen.

Zu den Unterzeichnern des Aufrufs gehören neben Musk und Wozniak der Pinterest-Mitgründer Evan Sharp sowie eine Vielzahl ausgewiesener Informatiker und auf KI spezialisierter Fachleute, darunter Stuart Russell, Grady Booch, der Turing-Award-Gewinner Yoshua Bengio, der am MIT lehrende Physiker Max Tegmark und der New Yorker Neurowissenschaftler Gary Marcus, aber auch Vertreter anderer Disziplinen wie etwa der israelische Historiker Yuval Noah Harari, der mit mehreren Bestsellern über die gesellschaftlichen Folgen des technologischen Fortschritts weltbekannt geworden ist. Insgesamt haben den Brief inzwischen mehr als 1000 Menschen unterzeichnet.

„Gefährlichen Wettlauf stoppen“

Die Autoren machen unmissverständlich klar, worum es aus ihrer Sicht geht. „Heutige KI-Systeme werden bei allgemeinen Aufgaben immer konkurrenzfähiger für den Menschen, und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollten wir alle Jobs automatisieren, auch die erfüllenden?“, fragen sie und spitzen hernach weiter zu: „Sollten wir nichtmenschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen sein, überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?“

Die Aufgabe, Antworten darauf zu geben und entsprechende Entscheidungen zu treffen, dürfe nicht an „nicht gewählte Technologie-Anführer delegiert werden“. „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind. Dieses Vertrauen muss gut begründet sein und mit dem Ausmaß der potentiellen Auswirkungen eines Systems zunehmen.“

Kritik an „Blackbox-Modellen“

In dem Aufruf nehmen die Autoren mehrfach ausdrücklich Bezug auf das amerikanische KI-Unternehmen Open AI, das gerade unter dem Namen GPT-4 die neueste Version seines allgemeineren KI-Systems öffentlich bekannt machte, das gegenüber seinem Vorgänger nicht nur noch vielseitiger mit Sprache und Text umgehen kann, sondern auch mit Bildern.

Das kalifornische Start-up wurde rund um den Globus bekannt, als es im Herbst des vergangenen Jahres eine auf seiner KI basierenden Nutzeroberfläche unter dem Namen ChatGPT für jedermann zugänglich machte. Viele Millionen Menschen auf der ganzen Welt probierten das KI-System aus und erlebten so erstmals, wie weit diese Technologie inzwischen ist, wenn es darum geht, Fragen zu beantworten oder auch längere Textmengen zu verfassen. Das Programm verblüffte auch viele Fachleute.

Seit Jahren schon investiert indes nicht nur Open AI mithilfe des Internet-Unternehmens Microsoft enorme Mittel darin, solche riesigen Sprach-KI-Systeme zu entwickeln, nein, alle führenden Tech-Konzerne wie Alphabet (Google) oder Meta (Facebook), aber etwa auch chinesische Universitäten arbeiten daran. In Deutschland entwickelt das in Heidelberg beheimatete Start-up Aleph Alpha solche Systeme. Gerade seitdem ChatGPT breit verfügbar ist, hat die Diskussion indes noch einmal merklich zugenommen, welches Potential in diesem Ansatz steckt und wie leistungsstark KI-Systeme werden können, wenn sie im Kern mit diesen Methoden einfach immer größer konstruiert, mit noch mehr Rechenleistung ausgestattet und noch mehr Daten trainiert würden.

Die Autoren des Aufrufs machen zugleich klar, dass sie nicht die Weiterentwicklung von KI-Systemen insgesamt anhalten wollen. Sie fordern „lediglich, dass der gefährliche Wettlauf zu immer größeren, unvorhersehbaren Blackbox-Modellen (...) gestoppt wird“. Mit „Blackbox-Modell“ verweisen sie darauf, dass häufig nicht klar nachvollziehbar ist, warum eine riesige Sprach-KI genau zu der Aussage gelangt ist, die sie getroffen hat.

„Die KI-Forschung und -Entwicklung sollte sich darauf konzentrieren, die heutigen leistungsstarken, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, abgestimmter, vertrauenswürdiger und loyaler zu machen“, fordern die Aufruf-Autoren weiter. „Parallel dazu müssen die KI-Entwickler mit den politischen Entscheidungsträgern zusammenarbeiten, um die Entwicklung robuster KI-Governance-Systeme drastisch zu beschleunigen.“ Diese sollen ihrer Ansicht nach neue und kompetente Regulierungsbehörden umfassen, die sich speziell mit KI befassen, die Überwachung und Verfolgung hochleistungsfähiger KI-Systeme und ein robustes Prüfungs- und Zertifizierungssystem.