Anthropic va intégrer un tatouage numérique aux résultats de Claude pour respecter l'échéance de l'IA Act européen

Anthropic a confirmé qu'elle allait modifier la façon dont son chatbot Claude génère du texte afin que chaque réponse porte un tatouage statistique, une décision motivée par l'exigence de l'IA Act européen imposant que tout contenu généré par l'IA soit marqué à partir de décembre 2026. L'entreprise précise que cette modification opère au niveau granulaire et stochastique où le modèle choisit entre des quasi-synonymes, « gris » contre « couvert », « ruisseau » contre « ruisselet », et que le motif qui en résulte sera invisible pour les lecteurs, mais détectable par Anthropic et toute partie détenant la clé de décodage.

Comment fonctionne le tatouage

Les grands modèles de langage ne délibèrent pas sur le choix des mots de la même manière qu'un écrivain humain. À chaque étape, ils échantillonnent une distribution de probabilité sur le vocabulaire, y injectant un aléa contrôlé pour qu'une même invite puisse produire des résultats variés et, surtout, pour que le modèle ne tombe pas dans des boucles répétitives. Le tatouage d'Anthropic remplace la composante purement aléatoire de cet échantillonnage par une séquence pseudo-aléatoire portant une signature statistique. La distribution des mots reste la même ; seul change le motif caché déterminant l'apparition de jetons spécifiques de faible probabilité.

Steven Murdoch, professeur d'informatique à l'University College London, a qualifié l'effet de négligeable. « Il n'y aura aucune différence perceptible. Il y a les mêmes générateurs de nombres aléatoires, c'est juste qu'avant c'était complètement aléatoire, et maintenant c'est statistiquement prévisible, mais toujours aléatoire », a-t-il déclaré. Selon lui, le tatouage se contente d'échanger une source d'aléatoire contre une autre sans modifier le comportement global du modèle.

Les critiques : une liberté restreinte, une prose dégradée

John Gruber, vétéran commentateur technologique écrivant sur Daring Fireball, a adopté un point de vue radicalement différent. « Cette entreprise entière est une adultération perverse de ce que signifie écrire », a-t-il écrit. Son argument repose sur le postulat selon lequel la liberté du modèle de choisir le jeton ayant la plus forte probabilité à chaque étape est ce qui produit la meilleure prose. En forçant l'échantillonneur à suivre un chemin pseudo-aléatoire prédéterminé, le tatouage pourrait empêcher le modèle de sélectionner le mot qu'un éditeur humain jugerait le plus précis, même si la différence est subtile.

Gruber concède que le résultat peut rester factuellement exact, mais il insiste sur le fait que la qualité littéraire en souffrira. Il présente ce changement comme une dégradation de la palette expressive du modèle, une contrainte imposée non pas par l'architecture du modèle, mais par la conformité réglementaire. Anthropic n'a pas publié de comparaisons côte à côte pour vérifier cette affirmation.

Pourquoi l'aléatoire est intégré dès le départ

Le débat éclaire un aspect largement mal compris du fonctionnement des grands modèles de langage. L'élément stochastique n'est pas un bogue, c'est une nécessité de conception. Sans lui, un échantillonneur déterministe choisirait toujours le jeton le mieux classé, amenant le modèle à répéter des phrases, à entrer dans des boucles infinies et à produire un texte fragile et robotique. Les paramètres de température, généralement compris entre 0,7 et 1,0 pour les tâches créatives, contrôlent le degré d'aléatoire. Le tatouage d'Anthropic fixe efficacement la graine aléatoire d'une manière qui est structurellement cryptographique, mais statistiquement indiscernable du bruit qu'elle remplace.

Murdoch a souligné ce point. « Les LLM ne font déjà pas les meilleurs choix », a-t-il déclaré. « Il y a déjà de l'aléatoire impliqué dans n'importe lequel de ces grands modèles de langage. C'est assez essentiel à leur fonctionnement. S'il n'y avait pas cet aléatoire, ils resteraient bloqués dans des boucles et se mettraient à répéter la même chose encore et encore. » Le tatouage ne supprime pas l'aléatoire, il le rend simplement auditable.

Une mise en garde venue de l'édition académique

Les risques liés au texte IA non surveillé sont récemment apparus lorsqu'un article dans une revue de chimie de premier plan a été rétracté après que les évaluateurs ont découvert une expression hallucinée. Les auteurs avaient apparemment utilisé un outil d'IA pour rédiger une section décrivant un nanogel de zinc. Le modèle a proposé « massacre de masse d'un groupe ethnique » comme synonyme de « solution finale », un terme qui, en chimie, désigne la dernière étape d'une synthèse, mais qui dans l'histoire désigne la Shoah. L'incident souligne que les modèles ne comprennent pas le contexte ; ils prédisent des séquences de jetons plausibles basées sur des corrélations d'entraînement.

Le tatouage n'aurait pas empêché l'hallucination, mais il aurait signalé le texte comme étant généré par une machine, ce qui aurait potentiellement provoqué un examen plus précoce. Cet épisode illustre également pourquoi les régulateurs veulent de la traçabilité : lorsque les résultats de l'IA entrent dans le registre scientifique, les contrats légaux ou les dissertations étudiantes, la capacité de vérifier la provenance devient un intérêt public.

L'échéance réglementaire et sa portée

L'IA Act européen, officiellement le règlement (UE) 2024/1689, entre en application complète par étapes. L'article 50 exige des fournisseurs de modèles d'IA à usage général qu'ils veillent à ce que leurs résultats soient marqués dans un format lisible par machine et détectables par le fournisseur. L'obligation s'applique à toute entreprise proposant de tels modèles sur le marché de l'UE, quel que soit l'endroit où elle a son siège. L'annonce d'Anthropic indique que l'échéance de décembre est prise au sérieux par au moins un grand fournisseur américain.

D'autres opérateurs de modèles, OpenAI, Google, Meta, Mistral, n'ont pas encore détaillé leurs approches en matière de conformité. Les normes techniques relatives au tatouage numérique sont encore en cours d'élaboration par les organismes européens de normalisation, sur mandat de la Commission. L'absence de méthode harmonisée signifie que chaque fournisseur peut adopter un schéma différent, ce qui complique la détection pour les utilisateurs finaux, qui auraient besoin de multiples clés ou outils.

Effondrement des modèles : le motif caché

Au-delà de la détection, Murdoch a souligné une deuxième justification du tatouage qui reçoit moins d'attention. Internet se remplit rapidement de texte généré par l'IA. Lorsque de nouveaux modèles sont entraînés sur des données qui incluent des résultats synthétiques, ils ingèrent leurs propres distorsions, une boucle de rétroaction que les chercheurs appellent l'effondrement des modèles. Les concepts deviennent flous, les événements rares disparaissent et la représentation interne de la réalité par le modèle se dégrade. Les tatouages permettent aux pipelines d'entraînement de filtrer le contenu synthétique, préservant ainsi l'intégrité des modèles futurs.

« Il y en a déjà tellement en ligne que cela pourrait endommager les modèles eux-mêmes », a déclaré Murdoch. « Entraîner l'IA sur du contenu écrit par l'IA crée un effondrement des modèles, amenant les modèles à confondre les concepts. » Sous cet angle, le tatouage n'est pas simplement un outil de conformité, mais un mécanisme de préservation pour la technologie elle-même.

Prochaines étapes

Anthropic prévoit de déployer l'échantillonneur tatoué sur l'ensemble de ses modèles Claude avant l'échéance de décembre. L'entreprise n'a pas précisé si elle fournirait la clé de détection à des vérificateurs tiers ou si elle en conserverait le contrôle exclusif. Pendant ce temps, le bureau de l'IA de la Commission européenne devrait publier des orientations sur les spécifications techniques et l'interopérabilité. Le premier véritable test grandeur nature aura lieu lorsque les universités et les éditeurs déploieront des outils de détection contre les soumissions d'étudiants et les brouillons de manuscrits. Si les craintes de Gruber concernant la qualité se concrétisent, la pression pourrait augmenter pour l'adoption d'une norme technique qui préserve à la fois la détectabilité et la liberté linguistique, un équilibre que la réglementation actuelle ne précise pas.