Anthropic hat stillschweigend die technischen Details der Wasserzeichnung von Texten veröffentlicht, die von seinen Claude-Modellen erzeugt werden, und erfüllt damit eine Transparenzpflicht, die im EU AI Act verankert ist. Die Methode funktioniert, indem die Wortauswahl des Modells in Richtung eines statistischen Musters gelenkt wird, das von einem kryptografischen Schlüssel gesteuert wird, der nur Anthropic bekannt ist. Für die Ingenieure des Unternehmens sind die Ersetzungen unbedenklich: "grau" wird zu "bewölkt", "verschleiert" wird zu "verborgen", "Trupp" wird zu "Brigade". Für einen Schriftsteller stellen die Veränderungen einen stillen Vandalismus dar.

Wie das Wasserzeichen funktioniert

Das System fügt keine sichtbaren Markierungen oder Metadaten-Tags ein. Stattdessen beeinflusst es die Wahrscheinlichkeitsverteilung, aus der das Modell jedes Token zieht, und schafft so einen Fingerabdruck, den Anthropic später durch eine Neubewertung desselben Textes mit seinem privaten Schlüssel erkennen kann. Das Unternehmen argumentiert, dass die Bedeutung erhalten bleibt, da die ausgetauschten Wörter nahezu synonym sind. In einem technischen Blogbeitrag, der die Veröffentlichung begleitete, schrieben Anthropic-Forscher, dass die Änderungen "den semantischen Inhalt nicht verändern" und dass die Zuverlässigkeit der Erkennung bei längeren Textpassagen zunimmt. Sie räumen jedoch ein, dass die Sicherheit probabilistisch und nicht absolut ist.

Die Verpflichtung ergibt sich aus Artikel 50 des AI Act, der Anbieter von Allzweck-KI-Modellen dazu verpflichtet sicherzustellen, dass ihre Ergebnisse "in einem maschinenlesbaren Format gekennzeichnet und als künstlich generiert oder manipuliert erkennbar" sind. Die Verordnung trat im August 2024 in Kraft und ihre Transparenzvorschriften gelten ab August 2025. Anthropics Implementierung ist das erste detaillierte öffentliche Beispiel dafür, wie ein großer Modell-Anbieter die Einhaltung beabsichtigt.

Der Einspruch eines Autors

Jeff Jarvis, Autor des bevorstehenden Buches "Hot Type" und Professor an der Craig Newmark Graduate School of Journalism, hat die anhaltendste öffentliche Kritik an dem Ansatz geäußert. Sein Argument ist nicht, dass die Wasserzeichnung technische Mängel aufweist, sondern dass ihre philosophische Prämisse zersetzend ist. Indem "grau" und "bewölkt" als austauschbar behandelt werden, so sagt er, erklären Anthropic und die Gesetzgeber, die diese Maßnahme vorgeschrieben haben, die Sprache selbst zu fungiblen Daten.

"Ich versuche, meine Wörter unter Berücksichtigung einer Reihe von Aspekten so sorgfältig wie möglich auszuwählen: Stil, Tonfall, Rhythmus, Vermeidung von Wiederholungen, aber vor allem Bedeutung", schreibt Jarvis. "Sie mögen meine Entscheidungen beanstanden, aber sie sind meine, nicht Ihre; das macht mein Schreiben zu meinem, um mitzuteilen, was ich mitteilen möchte." Das Wasserzeichen, argumentiert er, durchtrennt die Verbindung zwischen Autor und Absicht und ersetzt die bewusste Auswahl durch algorithmische Permutation.

Den Verlust veranschaulichen

Um den Punkt zu veranschaulichen, speiste Jarvis den Eröffnungsabsatz von "Hot Type" in Claude ein mit der Bitte um eine synonymersetzte Version, die Struktur und Bedeutung bewahrt. Das Original beschreibt die freiliegenden Innereien der Linotype-Maschine, "ihren Trupp idiosynkratisch geformter Nocken, Zahnräder, Riemen, Arme und Räder, die auf Anweisungen marschierten, die mehr als ein Jahrhundert zuvor von ihrem Erfinder, dem in Deutschland geborenen Uhrmacher Ottmar Mergenthaler, vorhergesehen wurden." Claude gab zurück: "ihre Brigade von unverkennbar geformten Nocken, Zahnrädern, Riemen, Armen und Rädern, die zu Direktiven voranschritten, die mehr als ein Jahrhundert früher von ihrem Schöpfer, dem in Deutschland geborenen Horologen Ottmar Mergenthaler, antizipiert wurden."

Die Ersetzungen sind in einem Thesaurus vertretbar. "Trupp" zu "Brigade", "idiosynkratisch" zu "unverkennbar", "marschieren" zu "voranschreiten", "vorhergesehen" zu "antizipiert", "Uhrmacher" zu "Horologe". Doch die Textur verschwindet. Die militärische Metapher des "Marschierens" geht verloren. Der anachronistische Charme des "Uhrmachers" weicht dem klinischen "Horologe". Der Rhythmus zieht sich in die Länge. Jarvis nennt das Ergebnis "gut" in dem Sinne, in dem ein nachgebauter Stuhl gut ist: funktional, aber ohne Maserung.

Regulierung als moralische Panik

Jarvis führt die Wasserzeichen-Pflicht auf das zurück, was er ein "Vorurteil gegenüber der Technologie: Angst bis zur moralischen Panik" nennt. Der AI Act wurde inmits intensiver öffentlicher Besorgnis über Deepfakes, Desinformation und akademischen Betrug verhandelt. Gesetzgeber im Europäischen Parlament und im Rat drängten auf strenge Transparenzschutzmaßnahmen und argumentierten, dass Bürger ein Recht darauf haben, zu wissen, wann sie Maschinenergebnisse lesen. Der endgültige Text spiegelt diese Dringlichkeit wider: Anbieter von Allzweck-Modellen müssen "effektive, interoperable, nicht diskriminierende und zuverlässige" Kennzeichnungstechniken implementieren.

Die Ironie besteht laut Jarvis darin, dass eine Maßnahme, die dazu gedacht ist, die Heiligkeit des menschlichen Textes zu schützen, das Gegenteil bewirkt. Indem die Idee normalisiert wird, dass Wörter austauschbare Token sind, beschleunigt sie die Kommodifizierung des Schreibens, die durch große Sprachmodelle bereits in Gang gesetzt wurde. "Genau in dem Moment, in dem LLMs das Schreiben und die Schriftsteller kommodifizieren, ist dies nur ein weiterer Tritt in die Nieren für ein bedrängtes Handwerk", schreibt er.

Historische Perspektive auf die Schreibtechnik

"Hot Type" selbst ist eine Geschichte darüber, wie Schreibwerkzeuge das Denken formen. Jarvis zitiert Friedrich Kittlers Beobachtung, dass die Schreibmaschine veränderte, wie Nietzsche, Hemingway und Hesse komponierten. Er erzählt seinen eigenen Werdegang von der Schreibmaschine zum Computer bis zu PostScript und stellt fest, dass jede Technologie seine Methoden veränderte, ohne seine Prosa weniger menschlich zu machen. Das Argument ist nicht, dass KI nicht reguliert werden sollte, sondern dass der aktuelle regulatorische Impuls einen kulturellen Übergang mit einem forensischen Problem verwechselt.

"Wir sollten debattieren, welche Auswirkungen diese nächste Technologie, KI, auf Kreativität und Wahrnehmung haben könnte, aber wir sollten diesem Prozess Zeit geben", schreibt Jarvis. "Sich in regulatorische und technologische Lösungen für ein noch nicht vollständig verstandenes Problem zu stürzen, ist töricht." Der Zeitplan des AI Act, 2021 vorgeschlagen, 2023 vereinbart und ab 2025 angewendet, spiegelt eher politischen Schwung als abwägende Geduld wider.

Was das Wasserzeichen nicht lösen kann

Technische Einschränkungen verstärken die kulturelle Kritik. Wasserzeichen funktionieren nur bei Texten, die direkt von einem konformen Modell generiert wurden. Sie überstehen kein umfangreiches menschliches Bearbeiten, keine Übersetzung durch ein nicht konformes System und keine Paraphrasierung durch ein zweites Modell. Gegner können das Signal durch Umschreiben entfernen. Forscher der ETH Zürich und anderswo haben gezeigt, dass die Erkennungsraten selbst bei leichten Paraphrasierungsangriffen stark sinken. Das KI-Büro der Europäischen Kommission ist mit der Überwachung der Einhaltung betraut, aber die Verordnung gibt keine Mindestschwelle für die Erkennung vor.

Darüber hinaus gilt das Wasserzeichen nur für Anbieter, die sich entscheiden, innerhalb der EU-Rechtsordnung konform zu gehen. Open-Weight-Modelle, die woanders veröffentlicht werden, können ohne die Markierungsschicht feinabgestimmt werden. Das Ergebnis ist eine fragmentierte Landschaft, in der regulierte Ergebnisse einen statistischen Fingerabdruck tragen, während unregulierte Entsprechungen frei zirkulieren, eine Dynamik, die von der Durchsetzung von Urheberrechten und Datenschutzregelungen bekannt ist.

Reaktion der Industrie und nächste Schritte

Andere große Modell-Anbieter haben noch keine vergleichbaren Wasserzeichen-Designs veröffentlicht. OpenAI hat Unterstützung für Herkunftsstandards wie C2PA signalisiert, aber kein Wasserzeichen auf Token-Ebene für ChatGPT detailliert. Googles SynthID markiert Bilder und Audio; sein Text-Wasserzeichen bleibt in der Forschung. Die Durchführungsrechtsakte des AI Act, die von der Kommission mit Beratung durch das Europäische KI-Gremium erlassen werden sollen, könnten schließlich technische Standards vorschreiben. Bis dahin ist Anthropics Ansatz die De-facto-Referenzimplementierung.

Erwähnte Personen

  • Jeff Jarvis

    Author and professor of journalism, Craig Newmark Graduate School of Journalism

Organisationen

Anthropic · European Commission · European Parliament