Anthropic versieht Claude-Ausgaben unter EU-AI-Act-Frist mit Wasserzeichen

Anthropic hat bestätigt, dass es die Art und Weise ändern wird, wie sein Claude-Chatbot Text generiert, sodass jede Antwort ein statistisches Wasserzeichen trägt. Dieser Schritt wird durch die Anforderungen des EU AI Act vorangetrieben, wonach alle KI-generierten Inhalte ab Dezember 2026 gekennzeichnet werden müssen. Das Unternehmen erklärt, dass die Änderung auf der granularen, stochastischen Ebene stattfindet, auf der das Modell zwischen Nah-Synonymen wählt, etwa „grey" gegenüber „overcast", oder „stream" gegenüber „brook". Das daraus resultierende Muster sei für Leser unsichtbar, aber von Anthropic und jedem Inhaber des Entschlüsselungsschlüssels nachweisbar.

Wie das Wasserzeichen funktioniert

Große Sprachmodelle wägen die Wortwahl nicht so ab wie ein menschlicher Autor. Bei jedem Schritt ziehen sie eine Stichprobe aus einer Wahrscheinlichkeitsverteilung über das Vokabular und steuern kontrollierte Zufälligkeit ein, sodass derselbe Prompt unterschiedliche Ergebnisse liefern kann und, was entscheidend ist, das Modell nicht in repetitive Schleifen gerät. Das Wasserzeichen von Anthropic ersetzt die rein zufällige Komponente dieser Stichprobenentnahme durch eine Pseudozufallssequenz, die eine statistische Signatur trägt. Die Wortverteilung bleibt gleich; nur das verborgene Muster, welche spezifischen Token mit niedriger Wahrscheinlichkeit erscheinen, ändert sich.

Steven Murdoch, Professor für Informatik am University College London, beschrieb den Effekt als vernachlässigbar. „Es wird keinen spürbaren Unterschied geben. Dort sind die gleichen Zufallsgeneratoren, es war früher einfach völlig zufällig, und jetzt ist es statistisch vorhersagbar, aber immer noch zufällig", sagte er. Seiner Ansicht nach tauscht das Wasserzeichen lediglich eine Quelle der Zufälligkeit gegen eine andere aus, ohne das allgemeine Verhalten des Modells zu verändern.

Die Kritik: Eingeschränkte Freiheit, schlechtere Texte

John Gruber, ein veteraner Technologiekommentator, der auf Daring Fireball schreibt, vertrat eine völlig andere Ansicht. „Dieses gesamte Unterfangen ist eine perverse Verfälschung dessen, was Schreiben bedeutet", schrieb er. Sein Argument beruht auf der Prämisse, dass die Freiheit des Modells, bei jedem Schritt das Token mit der höchsten Wahrscheinlichkeit auszuwählen, den besten Text erzeugt. Indem der Sampler gezwungen wird, einem vorbestimmten Pseudozufallspfad zu folgen, kann das Wasserzeichen das Modell daran hindern, das Wort zu wählen, das ein menschlicher Lektor als das präziseste beurteilen würde, selbst wenn der Unterschied subtil ist.

Gruber räumt ein, dass die Ausgabe inhaltlich möglicherweise korrekt bleibt, besteht aber darauf, dass die literarische Qualität leiden wird. Er bezeichnet die Änderung als eine Verschlechterung des Ausdrucksspektrums des Modells, eine Einschränkung, die nicht durch die Architektur des Modells, sondern durch regulatorische Compliance auferlegt wird. Anthropic hat keine direkten Vergleiche veröffentlicht, um diese Behauptung zu überprüfen.

Warum die Zufälligkeit überhaupt existiert

Die Debatte beleuchtet einen weithin missverstandenen Aspekt der Funktionsweise großer Sprachmodelle. Das stochastische Element ist kein Fehler, sondern eine designbedingte Notwendigkeit. Ohne es würde ein deterministischer Sampler immer das am höchsten bewertete Token wählen, was dazu führen würde, dass das Modell Phrasen wiederholt, in Endlosschleifen gerät und brüchigen, roboterhaften Text erzeugt. Temperatureinstellungen, üblicherweise zwischen 0,7 und 1,0 für kreative Aufgaben, steuern den Grad der Zufälligkeit. Das Wasserzeichen von Anthropic fixiert den Zufallsseed auf eine Weise, die kryptografisch strukturiert, aber statistisch nicht vom Rauschen zu unterscheiden ist, das es ersetzt.

Murdoch betonte diesen Punkt. „LLMs treffen bereits nicht die besten Entscheidungen", sagte er. „Bei all diesen großen Sprachmodellen ist bereits Zufälligkeit im Spiel. Das ist ziemlich wesentlich für ihre Funktionsweise. Wäre diese Zufälligkeit nicht da, würden sie in Schleifen stecken bleiben und immer wieder dasselbe wiederholen." Das Wasserzeichen entfernt keine Zufälligkeit, es macht sie lediglich überprüfbar.

Ein warnendes Beispiel aus dem wissenschaftlichen Publikationswesen

Die Risiken von unbeaufsichtigtem KI-Text kamen kürzlich ans Licht, als ein Paper in einem führenden Chemie-Journal zurückgezogen wurde, nachdem Gutachter eine halluzinierte Formulierung entdeckt hatten. Die Autoren hatten anscheinend ein KI-Tool verwendet, um einen Abschnitt über ein Zink-Nanogel zu verfassen. Das Modell schlug „Massenmord an einer ethnischen Gruppe" als Synonym für „Endlösung" vor, ein Begriff, der in der Chemie den letzten Schritt einer Synthese bezeichnet, in der Geschichte jedoch den Holocaust meint. Der Vorfall unterstreicht, dass Modelle keinen Kontext verstehen; sie sagen plausible Token-Sequenzen auf der Grundlage von Trainingskorrelationen voraus.

Ein Wasserzeichen hätte die Halluzination nicht verhindert, aber es hätte den Text als maschinell generiert markiert und so möglicherweise eine frühere Überprüfung ausgelöst. Das Ereignis veranschaulicht auch, warum Regulierungsbehörden Rückverfolgbarkeit wollen: Wenn KI-Ausgaben in wissenschaftliche Dokumente, rechtliche Verträge oder Studentenaufsätze einfließen, wird die Fähigkeit, die Herkunft zu überprüfen, zu einer Angelegenheit von öffentlichem Interesse.

Die regulatorische Frist und ihre Reichweite

Der EU AI Act, formell Verordnung (EU) 2024/1689, wird schrittweise vollständig angewendet. Artikel 50 verlangt von Anbietern von KI-Modellen für allgemeine Zwecke sicherzustellen, dass ihre Ausgaben in einem maschinenlesbaren Format gekennzeichnet und vom Anbieter nachweisbar sind. Die Verpflichtung gilt für jedes Unternehmen, das solche Modelle auf dem EU-Markt anbietet, unabhängig davon, wo das Unternehmen seinen Hauptsitz hat. Die Ankündigung von Anthropic signalisiert, dass die Dezember-Frist von mindestens einem großen US-Anbieter ernst genommen wird.

Andere Modellbetreiber, OpenAI, Google, Meta, Mistral, haben ihre Compliance-Ansätze noch nicht im Detail dargelegt. Technische Standards für Wasserzeichen werden von europäischen Normungsgremien im Auftrag der Kommission noch entwickelt. Das Fehlen einer harmonisierten Methode bedeutet, dass jeder Anbieter ein anderes Schema anwenden könnte, was die Erkennung für Endnutzer erschwert, die mehrere Schlüssel oder Tools benötigen würden.

Modellkollaps: Das verborgene Motiv

Über die Erkennung hinaus hob Murdoch eine zweite Begründung für Wasserzeichen hervor, die weniger Aufmerksamkeit erhält. Das Internet füllt sich rasend mit KI-generiertem Text. Wenn neue Modelle mit Daten trainiert werden, die synthetische Ausgaben enthalten, nehmen sie ihre eigenen Verzerrungen auf, eine Rückkopplungsschleife, die Forscher als Modellkollaps bezeichnen. Konzepte verschwimmen, seltene Ereignisse verschwinden und die interne Repräsentation der Realität durch das Modell verschlechtert sich. Wasserzeichen ermöglichen es den Trainings-Pipelines, synthetische Inhalte herauszufiltern und die Integrität zukünftiger Modelle zu bewahren.

„Es gibt davon bereits so viel im Umlauf, dass es die Modelle selbst beschädigen könnte", sagte Murdoch. „Das Training von KI mit KI-geschriebenem Inhalt erzeugt einen Modellkollaps, der dazu führt, dass Modelle Konzepte verwechseln." In diesem Licht ist die Wasserzeichen-Technologie nicht nur ein Compliance-Tool, sondern ein Erhaltungsmechanismus für die Technologie selbst.

Wie es weitergeht

Anthropic plant, den mit Wasserzeichen versehenen Sampler vor der Frist im Dezember in all seinen Claude-Modellen einzuführen. Das Unternehmen hat nicht gesagt, ob es den Erkennungsschlüssel für Drittprüfer freigeben oder die exklusive Kontrolle behalten wird. Inzwischen wird erwartet, dass das AI Office der Europäischen Kommission Leitlinien zu technischen Spezifikationen und Interoperabilität veröffentlicht. Der erste Praxistest wird stattfinden, wenn Universitäten und Verlage Erkennungstools bei Studentenarbeiten und Manuskriptentwürfen einsetzen. Wenn Grubers Qualitätsbedenken sich bestätigen, könnte der Druck wachsen, einen technischen Standard zu schaffen, der sowohl Nachweisbarkeit als auch sprachliche Freiheit bewahrt, ein Gleichgewicht, das die aktuelle Regulierung nicht vorgibt.