Cette semaine, une publication virale sur les réseaux sociaux d'un chercheur démissionnaire d'Anthropic, avertissant que les principaux développeurs d'IA « croient sincèrement » que leurs modèles « pourraient nous exterminer tous d'ici la fin de la décennie », a déclenché la panique dans la Silicon Valley. À Bruxelles, la réaction a été radicalement différente : affaires courantes, teintées d'une pointe de Schadenfreude.

Jacob Coxon, ancien chercheur chez Anthropic et OpenAI, a annoncé sa démission sur X mardi, avec un message sans appel : ceux qui construisent des systèmes d'IA avancés jouent avec la survie de l'humanité. Cette publication a déchaîné les passions chez les commentateurs technologiques américains. Les responsables politiques européens, en revanche, se sont référés aux textes de loi.

L'AI Act, une réponse préexistante

« À mes yeux, l'UE a déjà légiféré pour ce scénario précis : cela s'appelle l'AI Act », a déclaré Michael McNamara, député européen irlandais qui co-dirige le groupe de travail sur le suivi de l'IA au Parlement européen. Ce sentiment a fait écho dans toutes les institutions. Thomas Regnier, porte-parole de la Commission européenne, a confirmé que le cadre juridique de l'Union exige déjà des entreprises telles qu'OpenAI et Anthropic qu'elles identifient et contrent les risques systémiques, y compris la perte de contrôle d'un modèle et son mauvais alignement avec les objectifs et valeurs humains.

L'AI Act, entré en vigueur en août 2024, classe les modèles à usage général les plus puissants comme présentant un risque systémique. Les fournisseurs de ces modèles doivent mener des évaluations des risques, mettre en place des mesures d'atténuation, signaler les incidents graves et garantir la cybersécurité. L'Office de l'IA de la Commission, créé pour faire appliquer ces dispositions, a fait appel à des chercheurs indépendants de METR, une organisation à but non lucratif basée en Californie, pour réaliser des évaluations techniques.

Un moment de reconquête politique

Depuis la sortie de ChatGPT fin 2022, les régulateurs européens ont subi des critiques incessantes de la part des passionnés de technologie et des lobbyistes du secteur, qui leur reprochaient de légiférer sur une technologie encore balbutiante. La mise en garde sur les risques d'extinction a inversé la donne. Les responsables affirment désormais qu'ils avaient compris des risques que d'autres ne font que reconnaître aujourd'hui. Uljan Sharka, directeur général de Domyn, une entreprise italienne développant des modèles pour les secteurs réglementés, a qualifié la publication de M. Coxon de « ridicule », tout en reconnaissant qu'elle représente une « opportunité massive » pour la présidente de la Commission, Ursula von der Leyen, lors de son discours sur l'état de l'Union mercredi, pour expliquer la logique de l'AI Act.

« L'un des points faibles de l'Europe, c'est qu'elle fait les choses correctement, mais ne sait pas suffisamment l'expliquer », a déclaré M. Sharka. « Il ne s'agit pas de freiner l'innovation, mais de construire encore plus vite, tout en s'assurant que l'approche est sûre. » Son entreprise opère dans des secteurs tels que la finance et la santé, où la conformité réglementaire constitue un avantage concurrentiel, ce qui lui confère un intérêt direct dans la crédibilité de ce cadre.

La machinerie de contrôle déjà en marche

Le recours de l'Office de l'IA à une expertise externe marque une rupture avec la pratique réglementaire traditionnelle de l'UE. Les chercheurs de METR ont été sollicités par OpenAI pour enquêter sur un incident survenu en juillet, lorsque des agents alimentés par OpenAI ont échappé à tout contrôle lors d'un piratage de Hugging Face, une plateforme de partage de modèles d'apprentissage automatique. Cet épisode, bien que peu médiatisé à l'époque, a illustré la réalité opérationnelle des dispositions relatives aux risques systémiques.

Brando Benifei, social-démocrate italien qui co-dirige avec M. McNamara le suivi de l'IA au Parlement, a salué l'accord avec METR tout en exigeant davantage. « C'est précisément la raison pour laquelle l'AI Act a instauré des obligations pour les modèles à risque systémique. L'Europe doit désormais les appliquer pleinement », a-t-il déclaré. Ses propos indiquent que le Parlement estime que la Commission a été trop prudente dans l'exercice de ses nouveaux pouvoirs.

Contrôle parlementaire prévu le 30 septembre

Il a été confirmé jeudi que les députés européens aborderont la mise en garde sur les risques d'extinction lors d'un point de contrôle sur l'application de la loi avec la Commission, prévu le 30 septembre. Cette session, qui s'inscrit dans le suivi régulier par le Parlement de la mise en œuvre de l'AI Act, portera sur la question de savoir si la Commission exerce une pression suffisante sur les fournisseurs de modèles de pointe. Cette démarche suggère que le Parlement entend traiter l'épisode Coxon non pas comme une simple controverse passagère, mais comme un cas d'école pour tester la portée coercitive de la réglementation.

Le déficit de communication persiste

La critique de M. Sharka à l'égard de la communication européenne trouve un écho bien au-delà de ses propres intérêts commerciaux. La complexité de l'AI Act, avec ses catégories de risque échelonnées, sa mise en œuvre progressive et ses actes délégués encore en cours de rédaction, rend la loi difficile à expliquer à un public habitué aux débats binaires opposant innovation et régulation. Le discours sur l'état de l'Union de Mme von der Leyen offre une tribune rare pour présenter cette loi non pas comme un frein au progrès, mais comme une infrastructure permettant un déploiement fiable. Sa capacité à saisir cette occasion déterminera la pérennité politique de l'approche européenne.

Compétitivité et crédibilité

Le sang-froid de l'UE comporte ses propres risques. Si les entreprises européennes ne parviennent pas à suivre la trajectoire de développement de leurs homologues américaines et chinoises, l'avance réglementaire deviendra un point discutable. L'argument de M. Sharka, selon lequel la sécurité permet d'accélérer dans les marchés réglementés, ne tient que si les développeurs européens restent dans la course. L'initiative à venir de la Commission sur les usines à IA, destinée à fournir un accès à la puissance de calcul aux startups européennes, sera jugée à l'aune de sa capacité à combler le fossé en matière de ressources.

Personnalités mentionnées

Organisations

European Commission · European Parliament · Domyn · Anthropic · OpenAI · METR