Les règles de tatouage de l'UE obligent les géants de l'IA à étiqueter les contenus synthétiques

L'Union européenne a de facto mis fin à l'ère des contenus synthétiques non étiquetés. Depuis le 2 août, les obligations de transparence du règlement sur l'intelligence artificielle imposent aux fournisseurs des modèles génératifs les plus puissants de veiller à ce que leurs productions portent un filigrane lisible par machine et à ce que les utilisateurs soient informés qu'ils interagissent avec une IA. La règle s'applique indépendamment du lieu de développement du modèle ; s'il dessert le marché européen, il s'y conforme.

Bruxelles fixe une nouvelle fois la référence mondiale

Le mécanisme est bien connu. L'UE adopte une réglementation à portée extraterritoriale, et les plus grandes entreprises technologiques mondiales adaptent leurs produits mondiaux plutôt que de maintenir des versions européennes distinctes. Le règlement général sur la protection des données a établi ce schéma. Le règlement sur les services numériques l'a renforcé. Désormais, le règlement sur l'IA contraint Anthropic, OpenAI et d'autres acteurs à intégrer des signaux de provenance dans chaque image, clip audio et passage textuel produits par leurs modèles.

« Je ne pense pas que les gens mesurent l'ampleur du changement, a déclaré Ashley Casovan, directrice générale du centre de gouvernance de l'IA à l'International Association of Privacy Professionals. Elle a décrit un basculement d'un monde où les utilisateurs devaient deviner, en s'appuyant sur leur intuition, si quelque chose était produit par une machine vers un monde où ces contenus portent un symbole ou une superposition vérifiés. Le changement n'est pas facultatif. Le règlement désigne ces règles de transparence comme s'appliquant aux fournisseurs de modèles d'IA à usage général présentant un risque systémique, une catégorie qui englobe les systèmes de pointe actuels.

Anthropic et OpenAI agissent en premier

Le 11 août, Anthropic a annoncé que tous les modèles Claude publiés depuis la date de mise en conformité intègreraient désormais des filigranes dans les textes. Le filigrane, a indiqué l'entreprise, est tissé dans le flux de tokens lui-même. « Vous ne le verrez pas, et il ne modifie ni le sens, ni la qualité, ni la lisibilité de la réponse de Claude, a écrit l'entreprise dans son billet de blog. Comme le filigrane fait partie du texte, il l'accompagnera lorsqu'il sera copié et collé ailleurs. » L'approche diffère du tatouage des images, où un motif de pixels invisible résiste à la compression et au recadrage. Pour le texte, la signature statistique doit résister à la reformulation, à la traduction et à la citation partielle.

OpenAI a agi plus tôt. Fin juillet, l'entreprise s'est engagée à ce que « les utilisateurs disposent de davantage de contexte sur les contenus qu'ils voient en ligne, notamment pour savoir s'ils ont été créés ou modifiés par une IA ». Elle s'appuie sur SynthID, un outil de tatouage développé par la division DeepMind de Google, pour appliquer une superposition invisible aux images générées par IA. Cette capacité a été étendue à l'audio dans la même annonce. Les deux entreprises ont également adhéré à la norme de la Coalition for Content Provenance and Authenticity (C2PA), une initiative industrielle conçue pour stocker et transférer les métadonnées de provenance entre plateformes.

Le déficit de détection

Le tatouage n'est que la première moitié de l'équation. La seconde, et commercialement plus lourde de conséquences, est la détection. Walter Pasquarelli, chercheur sur les contenus synthétiques à l'Université de Cambridge et conseiller auprès de l'OCDE, a expliqué la chaîne pratique : un utilisateur génère du texte sur Claude, le colle dans l'outil de composition d'un réseau social, et l'interface de la plateforme détecte le filigrane avant la publication. La plateforme décide ensuite comment visualiser ce signal, par une étiquette, un badge ou une distribution réduite.

C'est à ce stade que l'économie bascule. « Il existe de nombreuses preuves, en matière de médias, que dès que les gens savent que quelque chose est généré par IA, leur engagement chute assez fortement », a déclaré Pasquarelli. Il a ajouté, dans le langage numérique actuel, que la décision de l'UE pourrait réduire la « AI slop », ce déluge de publications synthétiques de faible qualité qui encombrent les fils d'actualité et les résultats de recherche. LinkedIn a déjà ajouté une option permettant aux utilisateurs de signaler une publication qui « semble être de la AI slop », un signe que les plateformes se préparent à un environnement étiqueté.

De la tromperie à la divulgation

Le cadrage politique a sensiblement évolué. Les considérants du règlement sur l'IA évoquent la prévention du caractère trompeur des contenus générés par IA. Sa mise en œuvre va plus loin : toutes les productions des modèles désignés doivent être marquées, quel que soit l'intention. « La discussion est passée du contenu généré par IA avec une intention trompeuse au contenu généré par IA dans son ensemble », a observé Pasquarelli. Cet élargissement convient aux plateformes qui peinent à modérer les volumes. Une étiquette universelle est plus facile à imposer qu'un jugement contextuel sur la tromperie.

Francesca Pole, avocate spécialisée en données, confidentialité et cybersécurité chez DLA Piper, a confirmé que les obligations de transparence constituent « le principal sujet de préoccupation du moment, en termes de ce dont tout le monde parle ». La raison est pratique. Les autres exigences du règlement, gestion des risques, gouvernance des données, contrôle humain, sont de nature opérationnelle. La transparence est visible. Elle modifie l'interface utilisateur. Elle crée un artefact de conformité que les régulateurs peuvent contrôler.

Limites techniques et pression adverse

Le tatouage du texte au niveau des tokens se heurte à un environnement adverse plus exigeant que celui des images. Un filigrane d'image résiste parce que les statistiques de pixels sont redondantes. Le tatouage du texte repose sur un biais de la distribution de probabilité du modèle en faveur d'un schéma détectable. Ce schéma peut être affaibli par des outils de reformulation, des chaînes de traduction ou des attaques délibérées qui réécrivent la production tout en préservant le sens. L'affirmation d'Anthropic selon laquelle le filigrane « accompagne le texte lorsqu'il est copié et collé » ne vaut que tant que le texte n'est pas transformé.

L'approche par métadonnées C2PA offre une couche complémentaire. En associant un manifeste cryptographique au contenu dès sa création, elle établit une chaîne de traçabilité. Mais les métadonnées s'effacent facilement. Les captures d'écran, le copier-coller dans des champs de texte brut et le ré-encodage par les plateformes rompent tous la chaîne. L'exigence de l'UE selon laquelle les fournisseurs doivent « garantir » que les utilisateurs savent qu'ils interagissent avec une IA suppose une obligation qui résiste à ces transformations, une norme qu'aucune technologie actuelle ne satisfait pleinement.

Conséquences commerciales

La baisse d'engagement citée par Pasquarelli n'a rien de spéculatif. Des recherches internes menées sur plusieurs plateformes ont montré que les étiquettes explicites d'IA réduisent les taux de clics, le temps passé sur le contenu et le partage. Pour les entreprises dont le modèle économique repose sur l'attention, cela crée une tension. Elles doivent se conformer au règlement, mais elles ont aussi intérêt à rendre les étiquettes discrètes, à les placer là où le regard ne s'attarde pas, ou à concevoir des seuils de détection qui laissent passer les cas limites.

Le règlement anticipe ce risque. L'article 50 exige que le marquage soit « efficace, interopérable, robuste et fiable ». La Commission européenne adoptera des actes délégués précisant les normes techniques. Tant que ceux-ci ne seront pas publiés, les entreprises disposent d'une latitude dans la mise en œuvre. L'approche au niveau des tokens d'Anthropic et le recours d'OpenAI à SynthID représentent deux paris différents sur ce qu'exigera la norme finale.