ChatGPT und Codex erhalten unsichtbare Markierung
OpenAI führt in der Europäischen Union ein unsichtbares Wasserzeichen für Texte aus ChatGPT und Codex ein. Der Rollout soll in den kommenden Wochen für berechtigte Nutzer aller Abo-Stufen erfolgen. Grundlage sind die seit dem 2. August geltenden Transparenzvorgaben des EU AI Act.
Anders als ein sichtbarer Hinweis erscheint die Markierung nicht im Dokument. Stattdessen verändert OpenAI serverseitig die Wahrscheinlichkeiten bei der Wortauswahl. Dadurch entsteht im Text ein statistisches Muster, das mit einem passenden Detektor und einem geheimen Schlüssel erkannt werden kann.
| Bereich | Regelung |
|---|---|
| ChatGPT und Codex in der EU | Einführung in den kommenden Wochen für berechtigte Nutzer aller Abo-Stufen |
| OpenAI API | Weltweit für ausgewählte Modelle verfügbar, standardmäßig deaktiviert |
| Außerhalb der EU | Zum Start keine allgemeine Aktivierung |
| Zugang zum Detektor | Zunächst nur für ausgewählte Forscher und Expertenorganisationen |
So funktioniert textGrain
Die gemeinsam mit Forschern der University of Pennsylvania und der Yale University entwickelte Methode heißt textGrain. Bei jeder Wortvorhersage beeinflusst ein geheimer Schlüssel geringfügig, welche passende Formulierung das Modell auswählt. Über längere Passagen summieren sich diese kleinen Eingriffe zu einem erkennbaren Muster.
Weil das Muster in der Wortfolge steckt, bleibt es beim Kopieren und Einfügen erhalten. Nach Angaben von OpenAI identifiziert es keinen einzelnen Nutzer und beeinträchtigt die Modellleistung nicht spürbar. Es zeigt allerdings auch nicht, welcher Anteil eines Textes von einem Menschen überarbeitet wurde.
Sinngemäß erklärt OpenAI: Ein Wasserzeichen kann anzeigen, dass ein OpenAI-System einen Teil einer Passage erzeugt oder verarbeitet hat. Es sagt jedoch nichts darüber aus, wie viel menschliches Urteilsvermögen, Bearbeitung oder Kreativität eingeflossen ist.
Technische Markierungen in Modellausgaben sind nicht ohne Nebenwirkungen. Auch bei anderen Verfahren können KI-Wasserzeichen die Verarbeitung und Schutzmechanismen beeinflussen. Bei textGrain liegt der Eingriff direkt in der Auswahl der Wörter.
Bearbeitete Texte sind deutlich schwerer erkennbar
Das Verfahren liefert keinen eindeutigen Urhebernachweis. In einem Test sank die Erkennungsrate von etwa 92 % auf 66 %, nachdem 10 % der Wörter durch Synonyme ersetzt worden waren. Kurze Passagen, mathematische Antworten und übersetzte Texte bereiten dem Detektor ebenfalls größere Schwierigkeiten.
| Testsituation | Erkennungsrate |
|---|---|
| Ausgangstext mit Wasserzeichen | etwa 92 % |
| 10 % der Wörter durch Synonyme ersetzt | 66 % |
Ein fehlender Nachweis belegt daher nicht, dass ein Text von einem Menschen stammt. Er kann zu kurz, stark überarbeitet oder mit einem anderen Modell erzeugt worden sein. Umgekehrt lässt ein erkanntes Muster keine belastbare Aussage über den Umfang menschlicher Arbeit zu.
Sinngemäß begründet OpenAI den eingeschränkten Zugang damit, dass zunächst zugelassene Forscher und Expertenorganisationen die Zuverlässigkeit sowie verantwortbare Einsatzmöglichkeiten bewerten sollen.
Unternehmen können den Nachweis vorerst nicht selbst prüfen
Für Unternehmen im DACH-Raum entsteht damit eine ungewöhnliche Situation. Texte aus regulären ChatGPT- und Codex-Abonnements können in der EU künftig technisch markiert sein, der notwendige Detektor steht Unternehmenskunden aber zunächst nicht allgemein zur Verfügung. Ein Termin für eine breitere Freigabe wurde nicht genannt.
Offen bleibt außerdem, nach welchen Kriterien OpenAI EU-Nutzer erkennt. Das Unternehmen nennt weder Account-Region noch Abrechnungsadresse oder IP-Standort als bestätigtes Verfahren. Auch die konkreten API-Modelle mit optionalem textGrain wurden nicht benannt.
Für Schweizer Unternehmen kann die Regelung relevant werden, wenn KI-Inhalte für den EU-Markt erstellt oder dort angeboten werden. Die technische Umsetzung durch OpenAI ersetzt dabei keine eigene Prüfung der Anforderungen. Die europäische KI-Strategie und ihre regulatorischen Vorgaben betreffen nicht nur die Modellanbieter, sondern auch konkrete betriebliche Einsatzszenarien.
Mehr Kontrolle durch lokale Modelle, mehr Eigenverantwortung
Die Einführung zeigt einen grundsätzlichen Nachteil proprietärer Cloud-Modelle. Anbieter können die erzeugten Inhalte serverseitig verändern, ohne dass die Eingriffe im fertigen Text sichtbar sind. Unternehmen erhalten dafür regulatorische Funktionen, bleiben aber von der technischen Umsetzung und den Zugangskriterien des Anbieters abhängig.
Lokal betriebene Open-Source-Modelle bieten mehr Kontrolle über Wortwahl, Protokollierung und technische Markierungen. Mit Plattformen wie Ollama oder vLLM lässt sich vermeiden, dass ein externer Hersteller unsichtbare Muster in Ausgaben einbaut. Die rechtlichen Transparenzpflichten verschwinden dadurch jedoch nicht, ihre Umsetzung liegt dann vollständig beim betreibenden Unternehmen.
Anthropic hatte zwei Monate zuvor ein weltweites Wasserzeichen für Claude-Texte angekündigt. OpenAI wählt zunächst einen engeren Ansatz für die EU und eine freiwillige Aktivierung in der API. Damit wird die Kennzeichnung von KI-Texten zunehmend zu einer Produkteigenschaft, die bei der Auswahl von Modellen und Abonnements berücksichtigt werden muss.