Les règles de transparence de l'UE sur l'IA laissent les salariés sans recours face aux décisions algorithmiques

Près de quatre entreprises sur cinq dans les quatre plus grandes économies européennes s'appuient désormais sur des outils algorithmiques pour attribuer les plannings, suivre les performances, fixer des objectifs ou éclairer les décisions d'embauche et les sanctions disciplinaires. Ce chiffre, issu d'une enquête de l'OCDE, montre clairement que la gestion automatisée n'est plus une expérience confinée aux plateformes de l'économie à la tâche. C'est désormais la routine. Pourtant, les règles que l'Europe met en place pour encadrer cette évolution ne traitent qu'une partie du problème : elles indiquent aux salariés quand une machine intervient. Elles ne leur donnent aucun moyen fiable de contester ce que la machine a décidé.

Ce que le règlement sur l'IA impose réellement

Le règlement de l'UE sur l'IA, entré en vigueur en août 2024 avec un calendrier de mise en œuvre échelonné jusqu'en 2027, classe certains systèmes d'IA selon leur niveau de risque. Les applications liées à l'emploi, notamment celles utilisées pour le recrutement, l'attribution des tâches, la promotion et le licenciement, relèvent de la catégorie à haut risque. Cette classification emporte des obligations : les déployeurs doivent garantir une supervision humaine, tenir une documentation et informer les salariés lorsqu'un système d'IA contribue à une décision les concernant.

La transparence, en d'autres termes, constitue le socle réglementaire. Les employeurs doivent déclarer que l'IA est utilisée. En revanche, ils ne sont pas tenus de fournir un mécanisme structuré permettant à un salarié concerné d'identifier les données spécifiques qui ont pesé sur une décision, de contester une erreur ou d'obtenir un examen véritablement indépendant. L'obligation de divulgation est bien réelle. Le déficit de responsabilité l'est tout autant.

Savoir n'est pas pouvoir agir

Prenons un exemple concret. Une salariée d'entrepôt en Lombardie qui apprend qu'un algorithme a contribué à déterminer son planning a gagné quelque chose, mais pas grand-chose. Elle sait désormais qu'une machine est intervenue. Elle ne sait pas nécessairement quels points de données le système a pondérés, s'il a formulé une recommandation ou s'il a effectivement déterminé le résultat, si un humain a examiné celui-ci, ni qui était cet humain. Elle ne dispose certainement d'aucune voie normalisée pour contester une erreur sans expertise juridique, et elle peut raisonnablement craindre des représailles si elle soulève la question auprès du même manager qui s'est appuyé sur l'outil en premier lieu.

Gleb Tsipursky, spécialiste des sciences du comportement et auteur d'un livre à paraître sur l'adoption de l'IA au travail, expose la chose sans détour : informer un salarié que l'IA est intervenue ne sert pas à grand-chose si ce salarié doit encore deviner comment signaler une erreur, craint des représailles pour s'être élevé contre la décision, ou attend des semaines pendant que la décision contestée reste en vigueur. La divulgation sans droit pratique de contestation, argue-t-il, n'est guère plus qu'un avis placardé sur une porte verrouillée.

La décision Deliveroo et sa portée plus large

L'Europe dispose déjà d'un exemple concret de ce qui se produit lorsque la gestion algorithmique fonctionne sans garanties suffisantes. En 2020, le tribunal du travail de Bologne a examiné le système de classement des livreurs de Deliveroo, qui répartissait l'accès aux créneaux de livraison les plus recherchés sur la base d'un modèle de notation. Les livreurs qui annulaient trop tard des sessions réservées voyaient leur classement baisser, ce qui réduisait leur capacité de gain future. Le tribunal a estimé le système discriminatoire parce qu'il pénalisait les annulations quelle qu'en soit la raison, y compris les absences liées à la maladie ou à la grève, qui bénéficient toutes deux d'une protection juridique en droit du travail italien.

La décision a compté au-delà d'une seule plateforme. Elle a démontré que les systèmes de décision automatisés pouvaient intégrer une logique discriminatoire difficile à détecter ou à prouver pour les salariés pris individuellement, en particulier lorsque les critères de notation sont opaques. Elle a aussi montré que les protections existantes du travail pouvaient être sapées, non par l'intention de l'employeur, mais par la conception même du système, et que remédier au problème a nécessité une ordonnance du tribunal plutôt qu'un quelconque mécanisme interne de recours mis en place par Deliveroo.

Trois garanties que la transparence seule ne peut offrir

L'argument en faveur d'un dispositif allant au-delà de la simple divulgation repose sur trois garanties interdépendantes. La première est une transparence effective : non pas une phrase générique dans une politique de confidentialité, mais une information en langage clair sur le rôle joué par le système, sur le point de savoir s'il a recommandé ou déterminé le résultat, et sur les catégories de données traitées. Les salariés doivent comprendre le mécanisme, et pas seulement en constater l'existence.

La deuxième est la désignation nominative d'une responsabilité humaine. Tout processus d'emploi assisté par l'IA devrait s'accompagner d'une personne identifiable, dotée de l'autorité nécessaire pour examiner les éléments, modifier le résultat et, si un schéma d'erreurs émerge, suspendre le système. La formule « l'algorithme a décidé » ne peut tenir lieu de conclusion. Quelqu'un doit répondre de la décision, et cette personne doit avoir le pouvoir d'intervenir.

La troisième est un recours effectif. Un droit d'appel qui expose le salarié à une perte de revenus pendant un examen prolongé, ou qui réachemine les plaintes par le même manager qui s'en est remis au système, n'offre qu'une protection de façade. Un processus pertinent protégerait le salarié de tout préjudice grave pendant la durée de l'examen, tiendrait un registre des corrections afin que les défaillances récurrentes deviennent visibles, et associerait les comités d'entreprise ou les syndicats à la conception du système avant que les problèmes ne s'enkystent.

Le problème de l'incohérence transfrontalière

La Commission européenne a souligné que les règles de transparence sur l'IA devaient fonctionner de manière cohérente dans l'ensemble du marché unique. Les droits de recours au travail ne bénéficient actuellement d'aucune norme commune de ce type. La protection dépend des capacités d'application nationales, de la solidité des institutions du travail existantes et de la volonté de chaque employeur d'aller au-delà des exigences légales minimales. Un livreur à Amsterdam, un employé de banque à Francfort et un opérateur d'entrepôt à Madrid peuvent être confrontés à des décisions algorithmiques similaires, mais disposer de moyens très différents pour les contester.

Cette disparité n'est pas seulement un problème d'équité. Elle crée des distorsions au sein du marché unique. Les employeurs opérant au-delà des frontières font face à des obligations différentes selon la localisation de leurs salariés, tandis que les travailleurs exerçant des tâches similaires bénéficient de niveaux de protection variables en fonction de la géographie, et non de la nature du risque.

Les employeurs pourraient aussi tirer parti de mécanismes de recours

L'argument en faveur d'une responsabilité renforcée ne tient pas seulement à la protection des salariés. Les managers reçoivent souvent des recommandations générées par l'IA sans contexte suffisant pour en juger la qualité. Un processus d'examen formel produirait de meilleures données sur les performances réelles des systèmes, mettrait au jour des entrées faibles ou biaisées, et donnerait aux managers une base légitime pour rejeter les sorties plutôt que de s'en remettre à un outil qui paraît objectif. La consultation des salariés et de leurs représentants peut aussi améliorer les taux d'adoption : les travailleurs sont plus enclins à interagir de manière constructive avec des systèmes qu'ils comprennent et qu'ils peuvent interroger.

Le débat actuel est souvent présenté comme une tension entre innovation et réglementation. Cette formulation est trop étroite. La question pertinente est celle de la répartition des gains et des coûts de l'automatisation. Un système de planification qui fait gagner des heures aux managers peut simultanément imposer aux salariés des schémas de travail imprévisibles. Un modèle de performance qui uniformise l'évaluation peut dissimuler un mauvais indicateur de la qualité réelle. Un outil de recrutement qui accélère le tri peut faire peser sur les candidats la charge de prouver une erreur, sans qu'ils apprennent jamais pourquoi ils ont été rejetés. Il ne s'agit pas de problèmes techniques. Ce sont des questions de pouvoir institutionnel.

Un socle commun, et non une procédure unique

Personne ne plaide pour une procédure unique et rigide, appliquée à l'identique à un hôpital, un entrepôt, une banque et une plateforme de livraison. Les risques diffèrent trop. Ce qui est proposé, c'est un minimum commun : une notification expliquant en termes simples le rôle du système, un responsable identifié pour chaque décision, un mécanisme de contestation accessible, une protection contre les préjudices pendant l'examen, un registre des corrections et la participation des travailleurs à la conception et à la révision du système. Ces six éléments s'appliqueraient indépendamment du secteur ou de l'État membre.

Sans un tel socle, la transparence reste une étiquette. Avec lui, la divulgation devient un point d'entrée : le point de départ d'un processus capable de corriger réellement les erreurs, d'attribuer les responsabilités et de prévenir les préjudices. La Commission européenne s'est engagée à appliquer des normes de transparence cohérentes. La question de savoir si elle étendra la même ambition aux mécanismes de responsabilité reste ouverte, et c'est elle qui façonnera la réalité quotidienne de la gestion automatisée pour des millions de travailleurs européens.