Künstliche Intelligenz : ChatGPT-Hersteller hilft bei Erkennung von KI-Texten
- -Aktualisiert am
ChatGPT kann schnell Texte schreiben, die so aussehen, als wären sie von Menschen verfasst. Das birgt Risiken, auf die Hersteller Open AI reagiert. Bild: dpa
Der ChatGPT-Hersteller Open AI präsentiert eine Technologie, um KI-Texte zu identifizieren. Sie ist aber noch ziemlich unzuverlässig.
Das mit Künstlicher Intelligenz arbeitende Sprachsystem ChatGPT hat in den vergangenen Wochen für Furore gesorgt, aber auch Bedenken geweckt. Etwa dass Schüler und Studenten die Software nutzen, um zu schummeln. Open AI, der Hersteller von ChatGPT, hat jetzt eine Technologie herausgebracht, die erkennen soll, ob ein Text mithilfe der Software oder anderer KI-Systeme verfasst wurde. Solche Instrumente könnten helfen, wenn KI für „akademische Unehrlichkeit“ oder Propaganda eingesetzt werde, sagte das Unternehmen.
Das Erkennungsinstrument ist – ebenso wie ChatGPT selbst – frei verfügbar. Open AI gibt allerdings zu, es sei „nicht vollständig zuverlässig“. Es habe nur zu 26 Prozent korrekt KI als wahrscheinliche Quelle von Texten identifiziert, und es habe zu 9 Prozent unkorrekt von Menschen verfasste Texte als KI eingestuft. Es werde bislang nur zur Nutzung bei englischsprachigen Texten empfohlen, in anderen Sprachen schneide es schlechter ab. Es sei auch unzuverlässig bei der Erkennung von mit KI verfasstem Programmiercode.
Zudem könne es leicht umgangen werden, indem KI-Texte etwas modifiziert werden. Es sei außerdem nicht in der Lage, Plagiate zu erkennen. Grundsätzlich urteile es umso zuverlässiger, je länger die Texte seien. Open AI sagt, die Technologie solle nicht als „hauptsächliches Entscheidungsinstrument“ genutzt werden, sondern als Ergänzung zu anderen Methoden, der Quelle von Texten auf den Grund zu gehen. Open AI habe das System öffentlich verfügbar machen wollen, um zu sehen, ob auch „fehlerhafte Instrumente“ wie diese als nützlich empfunden werden.
Die Technologie arbeitet nur mit Texten, die mindestens 1000 Zeichen haben. Sie stuft das eingegebene Material in fünf Kategorien ein: Als wahrscheinlich, möglicherweise, unwahrscheinlich oder sehr unwahrscheinlich mit KI verfasst oder auch als unklar. Das System sei mit Paaren von Texten zu jeweils gleichen Themen trainiert worden, von denen einer von Menschen und der andere von KI geschrieben worden sei. Es seien dabei hauptsächlich Texte verwendet worden, die von Erwachsenen verfasst seien, deswegen liege die Technologie bei Texten von Kindern öfter falsch.
Open AI weist in seiner Mitteilung darauf hin, dass die Erkennung von KI-Texten in Bildungsinstitutionen besonders große Relevanz habe. Tatsächlich wurden in Schulen und Universitäten seit der Veröffentlichung von ChatGPT Ende November leidenschaftliche Diskussionen geführt, wie mit solchen Technologien am besten umgegangen werden sollte. In einigen Städten wie New York wurde der Zugang zu der Software auf den Rechnern öffentlicher Schulen gesperrt. Viele Lehrer und Professoren überlegen sich aber auch Wege, ChatGPT in den Unterricht zu integrieren. Neben Open AI gibt es auch andere Unternehmen, die Technologien zur Erkennung von KI-Texten entwickeln.
