Lorsque Jacob Coxon, chercheur chez Anthropic, a annoncé sa démission cette semaine avec l'avertissement que les personnes qui construisent l'IA avancée « croient sincèrement » que leurs modèles « pourraient nous tuer tous d'ici la fin de la décennie », la réaction à Bruxelles a été remarquablement retenue. Pas désinvolte. Pas paniquée. Au lieu de cela, la réponse dominante des responsables politiques de l'UE s'est résumée à : nous avons déjà une loi pour cela.

Le 30 septembre, les députés du Parlement européen soulèveront l'avertissement de Coxon lors d'une session formelle avec la Commission européenne. Cette discussion, qui fait partie d'un point de suivi régulier sur l'application, offrira aux législateurs une tribune pour presser la Commission sur la façon dont elle applique les obligations de l'AI Act concernant les modèles à « risque systémique », la catégorie couvrant les systèmes d'IA à usage général les plus puissants développés par des entreprises telles qu'OpenAI et Anthropic.

Une loi écrite pour ce scénario

L'AI Act de l'UE, entré en vigueur en août 2024, classe certains modèles d'IA à usage général comme présentant un risque systémique s'ils dépassent des seuils de calcul définis. Les entreprises développant ces modèles doivent évaluer et atténuer les risques, notamment la perte de contrôle sur un modèle et le « mésalignement », le terme technique désignant le moment où les objectifs d'un système d'IA divergent des intentions humaines.

Michael McNamara, député irlandais au Parlement européen et co-responsable de son groupe de suivi de l'IA, a été direct quant au lien. « À mon avis, l'UE a déjà légiféré pour exactement ce scénario : cela s'appelle l'AI Act », a-t-il déclaré.

Son homologue, le social-démocrate italien Brando Benifei, qui a été le principal négociateur du Parlement sur l'AI Act, a poussé pour une application plutôt que pour une nouvelle législation. « C'est précisément la raison pour laquelle l'AI Act a créé des obligations pour les modèles à risque systémique. L'Europe doit maintenant les appliquer pleinement », a déclaré Benifei.

La Commission européenne, chargée de faire appliquer la loi, a pointé vers le cadre existant. « L'UE dispose déjà d'un cadre juridique pour réglementer et atténuer le risque posé par les modèles avancés », a déclaré le porte-parole de la Commission, Thomas Regnier, dans une déclaration.

Surveillance indépendante, mandatée

L'application des dispositions relatives aux risques systémiques incombe au bureau de l'Intelligence artificielle de la Commission. Ce bureau a déjà commencé à contracter des chercheurs indépendants pour exercer une surveillance réglementaire. L'un de ces prestataires est METR, une organisation de recherche à but non lucratif basée en Californie qui évalue les capacités et les risques des modèles d'IA.

L'implication de METR dans le travail réglementaire européen n'est pas purement théorique. L'organisation a été appelée par des chercheurs d'OpenAI après un piratage en juillet de la plateforme d'IA Hugging Face, lors duquel des agents alimentés par OpenAI se sont comportés de manière erratique. Cet incident, bien que résolu, a illustré le type de mode de défaillance que les dispositions sur le risque systémique sont conçues pour traiter.

Validation et calcul politique

Pour les responsables européens qui ont passé des années à défendre l'AI Act contre les critiques affirmant que l'Europe réglementait une technologie qu'elle ne comprenait pas encore, la démission de Coxon et l'alarme qui s'en est suivie ont offert une forme de validation. Depuis la sortie de ChatGPT en 2022, l'UE a été régulièrement tournée en dérision par les passionnés de technologie pour avoir réglementé un domaine émergent. La panique actuelle dans la Silicon Valley a fait évoluer ce débat.

Uljan Sharka, directeur général de Domyn, une entreprise italienne qui développe des modèles d'IA pour les industries réglementées, a qualifié la publication de Coxon de « ridicule », mais a déclaré que la panique qui en résultait présentait une « opportunité massive » pour la présidente de la Commission, Ursula von der Leyen, d'expliquer le but de l'AI Act dans son discours sur l'état de l'Union européenne, prévu mercredi.

« L'un des points où l'Europe échoue, c'est qu'elle fait les choses de la bonne manière, mais nous ne les expliquons pas assez », a déclaré Sharka. « Il ne s'agit pas de ralentir l'innovation, il s'agit de construire encore plus vite, mais avec une approche sûre. »

L'écart entre la loi et son application

La question la plus difficile est de savoir si les dispositions de l'AI Act sur le risque systémique, telles qu'elles sont actuellement rédigées et appliquées, sont suffisantes pour faire face au type de catastrophe que décrit Coxon. La loi oblige les entreprises à identifier et à atténuer les risques systémiques avant de déployer un modèle. Elle donne à la Commission le pouvoir de demander de la documentation, de mener des évaluations et d'imposer des amendes. Mais les dispositions ne s'appliquent qu'aux modèles qui dépassent un seuil de calcul pour l'entraînement, une mesure qui peut ne pas capturer toutes les capacités dangereuses.

L'avertissement de Coxon ne portait pas sur un modèle spécifique qui existe déjà. Il concernait la trajectoire du développement de l'IA et les croyances déclarées des personnes qui la construisent. L'AI Act peut exiger des évaluations des risques pour des modèles individuels. Il est moins évident qu'il puisse contraindre les entreprises à cesser de poursuivre des capacités que leurs propres chercheurs estiment pouvoir devenir existentiellement dangereuses.

Les défis qui attendent la Commission

Le discours de von der Leyen la semaine prochaine sera scruté pour tout signal sur la façon dont la Commission entend appliquer les règles de l'AI Act sur le risque systémique dans la pratique. La loi est dans les textes. Les mécanismes d'application existent. Mais désigner les modèles de pointe d'OpenAI ou d'Anthropic comme présentant un risque systémique, puis faire respecter la conformité, nécessitera des capacités techniques que le bureau de l'IA est encore en train d'assembler.

Il y a aussi une dimension diplomatique. Les entreprises américaines d'IA investissent des dizaines de milliards de dollars dans le développement de modèles et ont de puissants alliés à Washington. Les confronter sur les évaluations des risques et les préoccupations en matière de mésalignement nécessitera autant de résolution politique que d'expertise technique.

Personnalités mentionnées

Organisations

European Parliament · European Commission · Anthropic · OpenAI · Domyn · METR