KI-Detektoren sind laut OpenAI weitestgehend nutzlos

KI-Detektoren sind laut OpenAI weitestgehend nutzlos

Bezüglich der Frage, ob entsprechende Programme KI-generierte Texte erkennen können, gibt OpenAI eine klare Antwort: Nein. Auch ChatGPT selbst kann nicht sagen, ob ein Text aus der eigenen KI-Feder stammt.
12. September 2023

     

Nach wie vor bestimmt die Frage den öffentlichen Diskurs, wie sich KI-generierte Inhalte von menschlichen Werken unterscheiden lassen. Wer dabei auf Software gehofft hat, wird jedoch enttäuscht. KI-Detektoren sind weitestgehend nutzlos, wie ChatGPT-Entwickler OpenAI einräumt. Dabei hatte das Unternehmen selbst ein entsprechendes Tool angeboten – die Erfolgsraten scheinen allerdings überschaubar zu sein.


Veröffentlicht hat OpenAI dieses ernüchternde Ergebnis im Rahmen eines FAQ für Lehrkräfte zum Schulstart. In diesem sollen Informationen rund um den Einsatz von ChatGPT in der Bildung an die Hand gegeben werden. Teil des FAQ ist zudem die Frage, ob KI-Detektoren funktionieren. Die klare Antwort von OpenAI: "Kurz gesagt, nein." Zwar hätten einige (darunter auch OpenAI) Tools veröffentlicht, die vorgeben, KI-generierte Inhalte zu erkennen, "aber keines dieser Tools hat sich als zuverlässig erwiesen, um zwischen KI-generierten und von Menschen erstellten Inhalten zu unterscheiden".
Darüber hinaus schreibt OpenAI, dass auch ChatGPT nicht über die Fähigkeit verfüge, KI-generierte Inhalte zu erkennen. "Es erfindet manchmal Antworten auf Fragen wie ‘Haben Sie diesen [Aufsatz] geschrieben?’ oder ‘Könnte dies von einer KI geschrieben worden sein?’. Diese Antworten sind willkürlich und entbehren jeglicher Grundlage."

Von entsprechenden Detektoren könnte gar ein Risiko ausgehen. OpenAI weist darauf hin, dass die Programme in einigen Fällen suggerieren, dass von Menschen geschriebene Inhalte von KI generiert wurden. So habe das eigens entwickelte Tool beispielsweise Shakespeare-Texte entsprechend bewertet. Darüber hinaus gab es Hinweise darauf, dass dies unverhältnismässig grosse Auswirkungen auf Schüler haben könnte, die Englisch als Zweitsprache gelernt haben oder lernen, sowie auf Schüler, deren Texte besonders formelhaft oder prägnant sind. Und selbst wenn die Tools KI-generierte Inhalte genau identifizieren könnten ("was sie noch nicht können"), haben die Schüler die Möglichkeit, schlicht kleine Änderungen vorzunehmen, um die Erkennung zu umgehen. (sta)


Weitere Artikel zum Thema

OpenAI lädt zur ersten Entwicklerkonferenz

7. September 2023 - OpenAI führt am 6. November 2023 die erste Entwicklerkonferenz durch. Vermutlich werden in diesem Zusammenhang neue Versionen von ChatGPT präsentiert.

OpenAI lanciert ChatGPT Enterprise für Unternehmen

29. August 2023 - Mit einer dedizierten Unternehmens-Version will OpenAI das grosse Interesse an ChatGPT in Unternehmen gebührend adressieren können. ChatGPT Enterprise bietet unter anderem mehr Sicherheit, unbegrenzte Nutzung und Admin-Tools.

OpenAI will GPT-4 online geteilte Inhalte prüfen und moderieren lassen

17. August 2023 - Laut OpenAI ist GPT-4 prädestiniert dafür, die Moderation von Online-Content und somit eine anstrengende, nervenaufreibende Aufgabe zu übernehmen. Die KI soll dem Menschen gar überlegen sein.


Artikel kommentieren
Kommentare werden vor der Freischaltung durch die Redaktion geprüft.

Anti-Spam-Frage: Welche Farbe hatte Rotkäppchens Kappe?
GOLD SPONSOREN
SPONSOREN & PARTNER