Établissement public : conformité AI Act sur le recrutement
BROUILLON — À remplacer par le contenu de l’auteur
Contexte
Le terrain : un grand établissement public français du secteur de la recherche et de l’enseignement supérieur, plus de huit mille collaborateurs permanents et plusieurs milliers de personnels associés non permanents. L’établissement procède à environ mille deux cents recrutements par an, sur des typologies très variées : enseignants-chercheurs, ingénieurs de recherche, personnels administratifs et techniques, contractuels temporaires sur projets financés.
L’établissement a déployé en 2023 une plateforme de gestion des candidatures intégrant des fonctionnalités d’aide à la décision : pré-tri des candidatures, scoring de pertinence par rapport à la fiche de poste, recommandations de relance pour les candidats inactifs. Ces fonctionnalités, fournies par un prestataire HR Tech européen, reposent sur des modèles d’apprentissage automatique propriétaires.
L’entrée en vigueur progressive de l’AI Act, à partir de février 2025, a imposé à l’établissement de mettre cette chaîne en conformité avec les obligations spécifiques aux systèmes d’IA classés à haut risque dans le contexte du recrutement.
Problème
Le problème était à double détente.
D’une part, l’établissement devait atteindre la conformité sur quatre exigences précises : transparence sur l’usage des modèles vis-à-vis des candidats, supervision humaine documentée de toute décision prise avec appui d’un modèle, possibilité pour les candidats de demander une explication individuelle, conduite d’une étude d’impact sur les droits fondamentaux pour les usages à haut risque. Aucune de ces exigences ne disposait, au démarrage du chantier, de mécanisme opérationnel.
D’autre part, l’établissement devait conduire cette mise en conformité sans dégrader des délais de pourvoi déjà tendus sur les postes critiques — notamment les postes d’enseignants-chercheurs sur des disciplines en tension. La direction des ressources humaines redoutait, avec raison, qu’un alourdissement procédural prolonge ces délais et provoque la perte de candidats au profit d’établissements concurrents moins contraints réglementairement.
Intervention
L’intervention a été conduite sur douze mois, avec un comité de pilotage mixte associant la direction des ressources humaines, la direction juridique, le délégué à la protection des données, un représentant de la direction des systèmes d’information et un membre indépendant désigné par la présidence.
La première étape, sur trois mois, a consisté à conduire l’étude d’impact sur les droits fondamentaux. Cette étude, conduite avec le concours d’un cabinet externe spécialisé, a examiné chacune des fonctionnalités de la plateforme sous l’angle des risques de biais algorithmique, de discrimination indirecte et d’opacité décisionnelle. Elle a conclu à un risque limité sur deux fonctionnalités, à un risque significatif nécessitant remédiation sur une troisième, et à un risque élevé imposant le retrait sur une quatrième — fonctionnalité qui a été désactivée dans le mois suivant la conclusion de l’étude.
La deuxième étape, sur quatre mois, a consisté à instrumenter la supervision humaine. La plateforme a été reparamétrée pour produire, à chaque décision assistée par modèle, une trace documentée incluant l’identité du superviseur, le motif de la décision et les éléments du score considérés comme déterminants. Les processus de validation ont été réécrits pour intégrer cette traçabilité.
La troisième étape, sur trois mois, a consisté à mettre en place le mécanisme de réponse aux demandes d’explication des candidats. Un canal dédié a été ouvert, avec un délai cible de réponse de quinze jours ouvrés. Les équipes recrutement ont été formées à la conduite de ces réponses, en s’appuyant sur les traces produites par la plateforme.
La quatrième étape, en parallèle des trois précédentes, a consisté à mettre à jour les notices d’information à destination des candidats, en amont du dépôt de candidature, et à publier sur le site institutionnel une description synthétique des modèles utilisés et de leurs limites.
Résultat
Au terme des douze mois, l’établissement avait atteint la conformité opérationnelle sur les quatre exigences. Une auto-évaluation, conduite selon la méthode de l’autorité de contrôle nationale, n’a pas relevé de non-conformité majeure. Les délais de pourvoi, mesurés sur l’ensemble de l’année, n’avaient pas significativement augmenté — l’allongement théorique lié aux nouvelles procédures ayant été compensé par l’amélioration de la qualité des présélections.
Plus inattendu : le nombre de candidatures sur les postes les plus sensibles a légèrement augmenté, dans un contexte sectoriel pourtant tendu. La direction des ressources humaines attribue cet effet à la publication transparente sur les modèles utilisés, qui aurait rassuré une partie des candidats sensibles à ces questions.
Leçons
Trois leçons ont été tirées par la directrice des ressources humaines, dans un retour d’expérience présenté à la conférence des établissements de recherche.
La première leçon concerne le calendrier. La conformité AI Act sur le recrutement n’est pas une obligation de moyens mais une obligation opérationnelle, qui suppose plusieurs mois de travail effectif. Tarder à engager le chantier produit, à terme, des choix forcés et coûteux. Engager le chantier dès maintenant — y compris pour les organisations qui ne sont pas encore directement contraintes — constitue un choix de prudence.
La deuxième leçon concerne le bénéfice non anticipé de la transparence. La publication des modèles utilisés et de leurs limites a constitué un signal positif sur l’attractivité employeur, dans un secteur où la défiance vis-à-vis des outils automatisés est traditionnellement élevée. La transparence n’est pas seulement une contrainte ; elle peut devenir un levier.
La troisième leçon concerne la composition du comité de pilotage. Associer un membre indépendant a permis de désamorcer plusieurs discussions internes en apportant un regard extérieur respecté. Ce type de composition mérite d’être généralisé pour ce type de chantiers, y compris dans les organisations privées qui ne sont pas tenues de le faire.