ChatGPT: OpenAI führt unsichtbare Text-Wasserzeichen ein

OpenAI zieht bei der Kennzeichnung KI-generierter Texte nach. In den kommenden Wochen sollen geeignete Ausgaben von ChatGPT und Codex innerhalb der EU mit einem unsichtbaren Wasserzeichen versehen werden. Die Markierung gilt für Nutzer aller Tarife. Außerhalb der EU bleibt sie zunächst optional, API-Kunden können sie auf Wunsch aktivieren.

Damit setzt OpenAI die Transparenzvorgaben des europäischen AI Acts um. Bereits im August hatten wir über einen vergleichbaren Schritt von Anthropic berichtet. Anders als bei Bildern oder Audiodateien steckt die Kennzeichnung direkt im erzeugten Text. OpenAIs Verfahren namens textGrain verändert dafür statistisch die Wortwahl des Modells. Sichtbar ist davon nichts.

Schon kleine Änderungen schwächen das Signal

Wie belastbar diese Kennzeichnung im Alltag ist, schränkt OpenAI selbst deutlich ein. Bei 400 Token langen englischen Texten erkannte der eigene Detektor unter Testbedingungen rund 92 Prozent der Wasserzeichen. Wurden zehn Prozent der Wörter durch Synonyme ersetzt, sank die Erkennungsrate auf 66 Prozent. Bei 25 Prozent ausgetauschten Wörtern blieben nur noch 17 Prozent.

Auch kurze Texte und Inhalte mit wenig sprachlichem Spielraum lassen sich schlechter erkennen. Zugleich sind Fehlalarme möglich. Deshalb stellt OpenAI seinen Detektor zunächst nicht öffentlich bereit. Zugang erhalten nur ausgewählte Forschungseinrichtungen und Fachorganisationen.

Dass solche Erkennungssysteme leicht zu weitreichenden Schlüssen verleiten können, zeigt auch die Diskussion um einen angeblichen KI-Treffer bei „Frankenstein“. Der dort getestete Ausschnitt lag allerdings nur bei rund 100 Zeichen und damit gerade in einem Bereich, den auch OpenAI selbst als problematisch beschreibt. Als Beleg gegen Wasserzeichen taugt der Fall deshalb kaum, als Warnung vor überzogenen Interpretationen durchaus.

Auch Korrekturhilfe hinterlässt Spuren

Entscheidend ist ohnehin, was ein Treffer nicht aussagt. Ein Wasserzeichen belegt weder vollständige KI-Autorenschaft noch den Umfang menschlicher Arbeit. Auch Texte, die lediglich überarbeitet, übersetzt oder sprachlich geglättet wurden, können ein entsprechendes Signal enthalten. Damit geraten potentiell auch Nutzer unter KI-Verdacht, die sich nur beim Formulieren helfen lassen.

OpenAI betont zudem, dass ein Treffer weder Eigentum noch Verantwortlichkeit, Richtigkeit oder die Identität eines Nutzers nachweist. Umgekehrt bedeutet ein fehlendes Wasserzeichen nicht, dass ein Text von einem Menschen stammt. Übersetzungen, starke Bearbeitungen oder nicht unterstützte Modelle können das Signal entfernen oder ganz vermeiden.