Les règles de l'UE sur le filigrane IA obligent Anthropic à modifier les choix de mots dans le texte généré

Anthropic a discrètement publié les détails techniques de la manière dont elle filigranera le texte produit par ses modèles Claude, remplissant une obligation de transparence inscrite dans le règlement sur l'IA. La méthode fonctionne en orientant les choix de mots du modèle selon un motif statistique régi par une clé cryptographique connue d'Anthropic seule. Pour les ingénieurs de l'entreprise, les substitutions sont bénignes : « gris » devient « couvert », « voilé » devient « dissimulé », « troupe » devient « brigade ». Pour un écrivain, les changements sont un vandalisme silencieux.

Comment fonctionne le filigrane

Le système n'insère pas de marqueurs visibles ou de balises de métadonnées. Il biaise plutôt la distribution de probabilité à partir de laquelle le modèle tire chaque jeton, créant une empreinte digitale qu'Anthropic peut ensuite détecter en renotant le même texte avec sa clé privée. L'entreprise soutient que parce que les mots échangés sont des quasi-synonymes, le sens est préservé. Dans un billet de blog technique accompagnant la publication, les chercheurs d'Anthropic ont écrit que les altérations « ne changent pas le contenu sémantique » et que la fiabilité de la détection s'améliore avec des passages plus longs. Ils reconnaissent cependant que la certitude est probabiliste, non absolue.

L'obligation trouve son origine dans l'article 50 du règlement sur l'IA, qui exige que les fournisseurs de modèles d'IA à usage général veillent à ce que leurs sorties soient « marquées dans un format lisible par machine et détectables comme générées ou manipulées artificiellement ». Le règlement est entré en vigueur en août 2024 et ses dispositions de transparence s'appliquent à partir d'août 2025. La mise en œuvre par Anthropic est le premier exemple public détaillé de la manière dont un grand fournisseur de modèles entend se conformer.

L'objection d'un écrivain

Jeff Jarvis, auteur du livre à paraître Hot Type et professeur à la Craig Newmark Graduate School of Journalism, a formulé la critique publique la plus soutenue de l'approche. Son argument n'est pas que le filigrane est techniquement flawed, mais que sa prémisse philosophique est corrosive. En traitant « gris » et « couvert » comme interchangeables, dit-il, Anthropic et les législateurs qui ont mandaté la mesure déclarent que le langage lui-même est une donnée fongible.

« J'essaie de sélectionner mes mots aussi soigneusement que possible pour un certain nombre de considérations : style, ton, rythme, éviter la répétition, mais surtout le sens », écrit Jarvis. « Vous pouvez chipoter sur mes choix, mais ils sont miens, pas les vôtres ; c'est ce qui fait que mon écriture est mienne, pour communiquer ce que je souhaite communiquer. » Le filigrane, soutient-il, rompt le lien entre l'auteur et l'intention, remplaçant la sélection délibérée par une permutation algorithmique.

Démontrer la perte

Pour concrétiser le propos, Jarvis a fed le premier paragraphe de Hot Type dans Claude avec une demande de version substituée par synonymes qui préservait la structure et le sens. L'original décrit les entrailles exposées de la machine Linotype, « sa troupe de cames, engrenages, courroies, bras et roues de forme idiosyncrasique marchant selon des instructions prévues plus d'un siècle auparavant par leur inventeur, l'horloger d'origine allemande Ottmar Mergenthaler ». Claude a rendu : « sa brigade de cames, engrenages, courroies, bras et roues de forme distinctive progressant selon des directives anticipées plus d'un siècle plus tôt par leur créateur, l'horloger d'origine allemande Ottmar Mergenthaler ».

Les substitutions sont défendables dans un thésaurus. « Troupe » à « brigade », « idiosyncrasique » à « distinctif », « marchant » à « progressant », « prévues » à « anticipées », « horloger » à « horloger » (note: watchmaker/horologist nuance). Pourtant, la texture s'évapore. La métaphore militaire de « marchant » disparaît. Le charme anachronique de « watchmaker » cède la place au clinique « horologist ». Le rythme s'étire. Jarvis qualifie le résultat de « bien » de la manière dont une chaise répliquée est bien, fonctionnelle, mais absente du grain.

La réglementation comme panique morale

Jarvis retrace le mandat de filigrane à ce qu'il appelle un « préjugé contre la technologie : peur jusqu'à la panique morale ». Le règlement sur l'IA a été négocié au milieu d'une anxiété publique intense concernant les deepfakes, la désinformation et la triche académique. Les législateurs du Parlement européen et du Conseil ont poussé pour des garde-fous de transparence solides, soutenant que les citoyens ont le droit de savoir quand ils lisent une sortie machine. Le texte final reflète cette urgence : les fournisseurs de modèles à usage général doivent mettre en œuvre des techniques de marquage « efficaces, interopérables, non discriminatoires et fiables ».

L'ironie, de l'avis de Jarvis, est qu'une mesure conçue pour protéger la sainteté du texte humain achieve l'opposé. En normalisant l'idée que les mots sont des jetons interchangeables, elle accélère la marchandisation de l'écriture que les grands modèles de langage ont déjà mise en mouvement. « Au moment même où les LLM marchandisent l'écriture et les écrivains, c'est juste un autre coup dans les reins pour un métier challengé », écrit-il.

Perspective historique sur la technologie de l'écriture

Hot Type est lui-même une histoire de la manière dont les outils d'écriture façonnent la pensée. Jarvis cite l'observation de Friedrich Kittler selon laquelle la machine à écrire a altéré la façon dont Nietzsche, Hemingway et Hesse composaient. Il raconte sa propre trajectoire de la machine à écrire à l'ordinateur en passant par PostScript, notant que chaque technologie a changé ses méthodes sans rendre sa prose moins humaine. L'argument n'est pas que l'IA devrait être non réglementée, mais que l'impulsion réglementaire actuelle confond une transition culturelle avec un problème forensique.

« Nous devrions débattre de l'impact de cette prochaine technologie, l'IA, sur la créativité et la perception, mais nous devrions donner du temps à ce processus », écrit Jarvis. « Se précipiter vers des solutions réglementaires et technologiques pour un problème pas encore entièrement compris est foolish. » Le calendrier du règlement sur l'IA, proposé en 2021, adopté en 2023, applicable à partir de 2025, reflète plus l'élan politique que la patience délibérative.

Ce que le filigrane ne peut pas résoudre

Les limitations techniques compound la critique culturelle. Le filigrane ne fonctionne que sur le texte généré directement par un modèle conforme. Il ne survit pas à une édition humaine substantielle, à une traduction via un système non conforme, ou à une paraphrase par un second modèle. Les acteurs adversaires peuvent striper le signal en réécrivant. Des chercheurs de l'ETH Zurich et ailleurs ont montré que les taux de détection chutent fortement même sous de légères attaques par paraphrase. L'Office pour l'IA de la Commission européenne est chargé de surveiller la conformité, mais la réglementation ne spécifie pas de seuil de détection minimum.

De plus, le filigrane s'applique uniquement aux fournisseurs qui choisissent de se conformer dans la juridiction de l'UE. Les modèles à poids ouverts publiés ailleurs peuvent être fine-tunés sans la couche de marquage. Le résultat est un paysage fragmenté où les sorties réglementées portent une empreinte digitale statistique tandis que les équivalents non réglementés circulent librement, une dynamique familière des régimes de protection du droit d'auteur et des données.

Réponse de l'industrie et prochaines étapes

D'autres grands fournisseurs de modèles n'ont pas encore publié de conceptions de filigrane comparables. OpenAI a signalé son soutien aux normes de provenance telles que C2PA mais n'a pas détaillé un filigrane au niveau des jetons pour ChatGPT. Le SynthID de Google marque les images et l'audio ; son filigrane texte reste en recherche. Les actes d'exécution du règlement sur l'IA, qui doivent être rédigés par la Commission avec les conseils du Conseil européen de l'IA, pourraient éventuellement prescrire des normes techniques. En attendant, l'approche d'Anthropic est l'implémentation de référence de facto.