ChatGPT-Wasserzeichen: Wie OpenAI KI-Texte kennzeichnet

Ein digitales Wasserzeichen soll die Herkunft eines Inhalts nachvollziehbar machen. Bei Bildern können entsprechende Informationen beispielsweise in den Bilddaten gespeichert werden. Bei Texten ist das schwieriger, weil sie sich leicht kopieren und umformulieren lassen.

OpenAI nutzt deshalb mit textGrain ein unsichtbares Muster in der Wortwahl.

Bei der Texterstellung stehen ChatGPT häufig mehrere passende Formulierungen zur Verfügung. Die Wasserzeichen-Technologie beeinflusst diese Auswahl geringfügig. Über viele Sätze hinweg entsteht so ein statistisches Muster, das ein spezielles Prüfprogramm erkennen kann.

Der Text bleibt dabei normal lesbar. Weder werden sichtbare Hinweise eingefügt noch einzelne Wörter grundsätzlich als KI-Merkmale festgelegt.

Entscheidend ist das Muster über eine längere Textpassage, nicht ein bestimmtes Wort oder ein einzelner Satz.

Aufgrund der neuen gesetzlichen Vorgaben in der EU müssen Anbieter generativer KI dafür sorgen, dass ihre Inhalte technisch als KI-generiert erkennbar sind. Mit den unsichtbaren Wasserzeichen setzt OpenAI diese Anforderungen um.

Wichtig ist die Unterscheidung zwischen zwei Arten der Kennzeichnung:

Technische Kennzeichnung: Ein unsichtbares Wasserzeichen kann von einem geeigneten System erkannt werden.

Sichtbare Kennzeichnung: Ein Hinweis wie „Dieser Text wurde mithilfe von KI erstellt“ informiert Leser unmittelbar über den KI-Einsatz.

Der EU AI Act regelt beide Bereiche, allerdings mit unterschiedlichen Anforderungen. Nicht jeder KI-unterstützte Marketingtext muss deshalb automatisch einen sichtbaren Hinweis erhalten. Ob eine solche Pflicht besteht, hängt unter anderem vom Inhalt, dem Veröffentlichungszweck und der redaktionellen Bearbeitung ab.

OpenAI führt textGrain schrittweise ein. Deshalb werden zunächst nicht alle Texte, die mit einem OpenAI-Modell entstehen, automatisch gekennzeichnet.

Für die verschiedenen Anwendungen gelten unterschiedliche Regelungen:

• ChatGPT und Codex in der EU: Unterstützte Textausgaben sollen automatisch ein Wasserzeichen erhalten. Nutzer müssen dafür keine Funktion aktivieren. Die Einführung erfolgt schrittweise.
• ChatGPT außerhalb der EU: Die automatische Kennzeichnung konzentriert sich zunächst auf die Europäische Union. Eine weltweite Standardaktivierung ist zum Start nicht vorgesehen.
• OpenAI API: Unternehmen, die OpenAI-Modelle über eine Schnittstelle in eigene Anwendungen integrieren, können die Wasserzeichen-Funktion bei unterstützten Modellen selbst aktivieren. Standardmäßig ist sie dort nicht eingeschaltet.

Ob ein konkreter Text bereits ein Wasserzeichen enthält, hängt somit von der Anwendung, dem verwendeten Modell und dem Stand der Einführung ab.

OpenAI hat für textGrain einen speziellen Detektor entwickelt. Die Testergebnisse zeigen, dass sich Wasserzeichen grundsätzlich erkennen lassen – allerdings nicht unter allen Bedingungen gleich zuverlässig.

Die Textlänge spielt eine wichtige Rolle

In bestimmten Tests erkannte der Detektor bei einer angestrebten Falsch-Positiv-Rate von einem Prozent:

• rund 80 Prozent der Wasserzeichen in Textpassagen mit 200 Token,
• rund 95 Prozent der Wasserzeichen in Textpassagen mit 400 Token.

Token sind kleine Texteinheiten, beispielsweise Wörter, Wortteile oder Satzzeichen. 200 Token entsprechen im Deutschen grob 130 bis 150 Wörtern, 400 Token etwa 260 bis 300 Wörtern. Die genaue Wortzahl kann variieren.

Längere Texte lassen sich meist zuverlässiger prüfen als kurze. Allerdings sind Fehlbewertungen möglich: OpenAI legte für die Tests eine Falsch-Positiv-Rate von einem Prozent zugrunde. Das bedeutet, dass unter diesen Bedingungen etwa einer von 100 Texten ohne Wasserzeichen fälschlicherweise als gekennzeichnet eingestuft werden könnte. Die Ergebnisse gelten für die untersuchten Testbedingungen und lassen sich nicht pauschal auf alle KI-Texte übertragen.

Überarbeitungen erschweren die Erkennung

Wird ein Text nachträglich verändert, kann das Wasserzeichen an Aussagekraft verlieren.

In einem OpenAI-Test sank die Erkennungsrate bei 400 Token langen Passagen von rund 92 auf 66 Prozent, nachdem zehn Prozent der Wörter durch Synonyme ersetzt worden waren. Bei einem Austausch von 25 Prozent der Wörter lag sie nur noch bei 17 Prozent.

Auch umfangreiche Umformulierungen oder Übersetzungen können die Erkennung erschweren.

Wird ein KI-generierter Text stark überarbeitet, lässt sich das Wasserzeichen möglicherweise nicht mehr erkennen. Ein negatives Prüfergebnis bedeutet deshalb nicht automatisch, dass der Text ohne KI erstellt wurde.

Der offizielle textGrain-Detektor ist zunächst nicht öffentlich zugänglich. OpenAI beschränkt den Zugang vorerst auf zugelassene Forschende und Fachorganisationen.

Marketingteams und Agenturen können daher derzeit nicht einfach über ein frei verfügbares OpenAI-Tool prüfen, ob ein Text das Wasserzeichen enthält.

Andere kommerzielle KI-Detektoren sind dafür kein gleichwertiger Ersatz. Sie verwenden nicht automatisch die textGrain-Technologie und können KI-generierte Inhalte falsch einordnen.

Zudem gilt: Ein Wasserzeichen liefert Hinweise auf die technische Herkunft, nicht auf die Qualität oder Richtigkeit eines Textes. Es verrät weder, wer den Inhalt erstellt hat, noch welche Prompts verwendet wurden oder wie viel menschliche Arbeit darin steckt.

Für Unternehmen ist vor allem interessant, ob Google wasserzeichenhaltige Texte erkennen und im Ranking benachteiligen könnte.

Dafür gibt es in den veröffentlichten Google-Richtlinien keinen Beleg.

Google erlaubt den Einsatz generativer KI bei der Content-Erstellung grundsätzlich. Entscheidend ist, ob ein Inhalt hilfreich, relevant und für Nutzer erstellt wurde. Problematisch sind dagegen massenhaft produzierte Inhalte ohne Mehrwert, die vor allem Suchrankings manipulieren sollen.

Ein ChatGPT-Wasserzeichen ist somit nicht automatisch ein negatives SEO-Signal.

Für Unternehmen bleibt wichtig, dass ihre Inhalte die Suchintention erfüllen, fachlich korrekt sind und einen eigenständigen Mehrwert bieten. Dazu gehören beispielsweise fundierte Informationen, eigene Erfahrungen und eine sorgfältige redaktionelle Prüfung. Wie sich die Suchmaschinenoptimierung durch künstliche Intelligenz verändert, zeigt auch unser Beitrag SEO in Zeiten von KI: Alles neu oder nur anders?.

Für Unternehmen stellt sich vor allem die Frage, ob künftig erkennbar ist, dass sie ChatGPT zur Texterstellung genutzt haben.

Eine automatische Offenlegung gegenüber Lesern bedeutet das Wasserzeichen zunächst nicht. Es ist unsichtbar und kann nur mit einem geeigneten Prüfprogramm erkannt werden. Der offizielle Detektor ist bislang nicht öffentlich verfügbar.

Allerdings können Wasserzeichen die KI-Herkunft eines Textes künftig leichter nachvollziehbar machen. Unternehmen sollten deshalb zwischen der technischen Erkennbarkeit und möglichen gesetzlichen Pflichten zur sichtbaren Kennzeichnung unterscheiden.

Ob ein KI-unterstützter Text ausdrücklich gekennzeichnet werden muss, hängt vom jeweiligen Anwendungsfall ab. Ein unsichtbares Wasserzeichen ersetzt einen gesetzlich vorgeschriebenen Hinweis nicht automatisch.

Mit textGrain reagiert OpenAI auf die Transparenzanforderungen des EU AI Act. Die unsichtbaren Wasserzeichen sollen es erleichtern, die Herkunft KI-generierter Texte technisch zu überprüfen.

Allerdings hat die Technologie Grenzen: Besonders kurze oder stark bearbeitete Texte lassen sich nicht immer zuverlässig erkennen. Außerdem ist der offizielle Detektor bislang nicht allgemein zugänglich.

Für Unternehmen bedeutet die Einführung vor allem, dass die Nutzung von ChatGPT künftig leichter nachvollziehbar werden könnte. Eine automatische Benachteiligung bei Google oder eine pauschale Pflicht zur sichtbaren Kennzeichnung aller KI-Texte ergibt sich daraus jedoch nicht.

Sie möchten KI gezielt in Ihre Content-Prozesse integrieren und gleichzeitig Ihre Sichtbarkeit in Suchmaschinen verbessern? krick.com unterstützt Sie bei der Entwicklung einer nachhaltigen SEO- und Content-Marketing-Strategie – mit relevanten Inhalten und klaren Prozessen. Wie sich ChatGPT mit gezielten Prompt-Anweisungen effizienter einsetzen lässt, erfahren Sie in unserem Beitrag Geheime ChatGPT Codes, die Workflows vereinfachen.