IA pour le recrutement : comment accélérer les embauches sans discriminer (et respecter l’AI Act)

L’IA peut réduire le time-to-hire de 26 %, mais elle est classée à haut risque par l’AI Act. Nous vous expliquons comment la mettre en place avec une supervision humaine, des indicateurs d’équité et un modèle de gouvernance qui protège votre entreprise et les candidats

L’intelligence artificielle transforme le recrutement. 67 % des organisations utilisent déjà l’IA dans leurs processus de recrutement, et elles devraient être 80 % à le faire d’ici 2027. Les chiffres sont séduisants : un time-to-hire réduit de 26 % à 50 %, une économie de 30 à 50 % sur le coût par recrutement et un ROI moyen de 340 % en 18 mois.

Mais il existe une réalité dérangeante que de nombreuses entreprises ignorent : l’IA appliquée au recrutement est classée comme système à haut risque par l’AI Act (annexe III). Et ce, pour de bonnes raisons. Un algorithme qui filtre des CV, note des candidats ou priorise des profils prend des décisions qui touchent directement au droit fondamental d’accès à l’emploi.

Le cas le plus connu est celui d’Amazon : son système de tri de CV pénalisait systématiquement les femmes, car le modèle avait appris à partir de données historiques où la majorité des recrues étaient des hommes. Ce n’était pas une défaillance ponctuelle, mais un biais structurel codé dans l’algorithme.

Dans cet article, nous vous expliquons comment tirer parti des avantages de l’IA dans le recrutement sans tomber dans le piège des biais, ce qu’exige l’AI Act, quels indicateurs d’équité vous devez surveiller et comment mettre en place un modèle de supervision humaine réellement efficace.

La promesse : pourquoi l’IA dans le recrutement est si séduisante

Les processus de recrutement traditionnels sont lents, coûteux et, paradoxalement, eux aussi biaisés. Un recruteur humain met en moyenne 42 à 44 jours pour pourvoir un poste, et ses décisions sont soumises à des biais cognitifs (affinité, effet de halo, ancrage) difficiles à détecter et à corriger.

L’IA promet de résoudre ces deux problèmes :

• Rapidité : Un système d’IA peut trier des centaines de CV en quelques minutes, identifier les profils les plus en adéquation avec les exigences du poste et ramener le time-to-hire de 44 jours à 11-26 jours.
• Coût : Les recruteurs consacrent jusqu’à 70 % de leur temps à des tâches administratives (tri, planification, suivi). L’automatisation de ces tâches peut réduire le coût par recrutement de 30 % à 50 %.
• Cohérence : Contrairement à un humain, qui n’évalue pas de la même façon à 9 heures du matin et à 17 heures, l’IA applique les mêmes critères à tous les candidats.
• Portée : Des outils comme Textio optimisent les descriptions de poste pour éliminer le langage biaisé et attirer un vivier de candidats plus diversifié.

Mais la cohérence de l’IA est une arme à double tranchant : si les critères sont biaisés, l’IA applique ce biais avec une précision et à une échelle qu’aucun humain ne pourrait égaler.

Le risque : les biais algorithmiques dans le recrutement

Les biais algorithmiques dans le recrutement ne sont pas un risque théorique. Les cas documentés sont nombreux :

• Amazon (2014) : Son système de tri de CV pénalisait les CV contenant le mot « women » (par exemple, « captain of women’s chess club ») et favorisait un langage typiquement masculin. Le système a été abandonné.
• HireVue (2019-2025) : Plaintes pour biais dans son système d’analyse d’entretiens vidéo. En 2025, l’ACLU a déposé une plainte pour discrimination à l’encontre de candidats sourds et non blancs. HireVue a abandonné l’analyse faciale au profit d’évaluations fondées sur les compétences.
• Workday (Mobley v. Workday) : Première action collective d’envergure pour discrimination raciale, liée à l’âge et au handicap dans le filtrage automatisé des candidats.
• iTutorGroup (2022) : Poursuite engagée par l’EEOC pour discrimination liée à l’âge dans son outil de recrutement par IA.

Les types de biais les plus fréquents dans l’IA appliquée au recrutement :

• Biais de genre : Des modèles entraînés sur des données historiques où certains postes étaient dominés par un genre.
• Biais racial : Des algorithmes qui pénalisent des noms, des universités ou des codes postaux corrélés à des groupes ethniques.
• Biais lié à l’âge : Des systèmes qui relèguent les profils ayant davantage d’années d’expérience ou des dates de diplôme anciennes.
• Biais lié au handicap : Des analyses vidéo ou vocales qui pénalisent des schémas atypiques d’élocution, d’expression faciale ou de mouvement.

À retenir : Le biais n’est pas toujours intentionnel ni évident. Un modèle peut ne pas utiliser directement la variable « genre » et pourtant discriminer par le biais de variables proxy (type d’université, loisirs, style de rédaction du CV). Le détecter exige des indicateurs spécifiques.

Ce qu’exige l’AI Act : la classification à haut risque

L’AI Act classe les systèmes d’IA de recrutement comme systèmes à haut risque (annexe III, catégorie emploi). Cela comprend : la diffusion ciblée d’offres d’emploi, le filtrage des candidatures, l’évaluation des candidats, les décisions de recrutement ou de licenciement, l’attribution de tâches fondée sur les profils et le suivi des performances.

Les obligations qui s’appliquent à vous en tant que déployeur :

1. Documentation technique : Documenter la finalité, les données utilisées, l’architecture, les indicateurs, les seuils et les garanties.
2. FRIA : Analyse d’impact sur les droits fondamentaux. Analyser qui est concerné, quelles décisions le système prend, quels risques il génère et comment ils sont atténués.
3. AIPD : Analyse d’impact relative à la protection des données (RGPD), obligatoire car vous traitez des données personnelles à grande échelle pour une prise de décision automatisée.
4. Supervision humaine obligatoire : Une personne disposant de la compétence, de l’autorité et du discernement nécessaires doit examiner les décisions du système. Aucun candidat ne peut être définitivement écarté par la seule IA.
5. Journaux de traçabilité : Enregistrer chaque décision du système (score, classement, motifs) afin de pouvoir reconstituer toute décision faisant l’objet d’un audit.
6. Indicateurs d’équité : Surveiller l’impact différencié du système sur les groupes protégés (genre, âge, origine, handicap).
7. Enregistrement et conformité : Le système doit être enregistré et avoir fait l’objet d’une évaluation de la conformité.

Aucun candidat ne peut être définitivement écarté par la seule IA.

Indicateurs d’équité : comment mesurer si votre IA discrimine

Il ne suffit pas d’affirmer que votre système est équitable. Vous devez le mesurer avec des indicateurs spécifiques. Voici les quatre fondamentaux :

Règle des 4/5 (Disparate Impact Ratio)

L’indicateur le plus utilisé en contexte réglementaire. Il compare le taux de sélection du groupe le moins favorisé à celui du groupe le plus favorisé. Si le ratio est inférieur à 80 % (4/5), il existe des éléments indiquant un impact disproportionné.

Exemple : si votre IA retient 60 % des candidats masculins et 40 % des candidates féminines, le ratio est de 40/60 = 0,67 (67 %). Il est inférieur à 80 % → il existe un impact disproportionné que vous devez analyser et corriger.

Parité démographique

Elle mesure si la probabilité d’obtenir un résultat positif (être retenu) est similaire entre les groupes démographiques. C’est l’indicateur le plus intuitif, mais il présente une limite : il peut entrer en conflit avec la méritocratie si les taux de base diffèrent selon les groupes.

Égalité des chances (Equalized Odds)

Elle mesure si les taux de réussite et d’erreur du système sont identiques entre les groupes. Autrement dit : le système rejette-t-il à tort des candidats qualifiés avec la même fréquence, quel que soit leur groupe démographique ?

Calibrage

Il mesure si les scores du système ont la même signification pour tous les groupes. Si un score de 8/10 pour un candidat masculin prédit la même performance qu’un 8/10 pour une candidate féminine, le système est calibré.

Important : Il existe un théorème d’impossibilité qui démontre que l’on ne peut pas satisfaire simultanément la parité démographique et l’égalité des chances (sauf si les taux de base sont identiques). Vous devez choisir l’indicateur à privilégier selon votre contexte et documenter cette décision.

Supervision humaine obligatoire : comment mettre en place le HITL

La supervision humaine (HITL, Human-in-the-Loop) dans le recrutement n’est pas une case à cocher administrative. C’est un contrôle opérationnel qui fait toute la différence entre un système conforme et un système qui vous expose à des sanctions et à des poursuites.

Les principes d’une supervision humaine efficace :

1. Aucun rejet définitif sans examen humain. L’IA peut prioriser, noter et recommander, mais la décision finale d’écarter un candidat doit passer par un humain. En particulier dans les cas limites (borderline).
2. Compétence du superviseur. La personne chargée de l’examen ne peut pas être un junior sans discernement. Elle doit comprendre ce que fait le système, quelles variables il utilise, où se situent ses limites et quand elle doit le corriger.
3. Une réelle autorité pour intervenir. Si le superviseur détecte un problème mais n’a pas l’autorité pour arrêter ou modifier le processus, la supervision n’est que du théâtre. Le HITL a besoin d’un droit de veto.
4. Seuils de confiance. Configurez le système pour qu’il transmette automatiquement le dossier à un examen humain lorsque le score d’un candidat tombe dans la zone grise (ni clairement qualifié ni clairement à écarter).
5. Traçabilité des interventions. Chaque correction humaine doit être consignée : qui est intervenu, ce qui a changé, pourquoi et quand. Cela nourrit l’amélioration du modèle et constitue une preuve de conformité.

Une mise en œuvre responsable : la démarche par Gates

Si vous envisagez de mettre en place l’IA dans votre recrutement, suivez le modèle de déploiement progressif par Gates :

Gate 0 : Idéation

• Définissez l’hypothèse de valeur : réduire le time-to-hire de 30 % tout en maintenant ou en améliorant la diversité.
• Remplissez la fiche de classification : haut risque (annexe III, emploi).
• Identifiez les indicateurs d’équité que vous allez surveiller.
• Désignez le sponsor et le superviseur HITL.

Gate 1 : Pilote avec des données réelles

• Déployez sur un processus de recrutement circonscrit (un service, un type de poste).
• Réalisez l’AIPD et la FRIA avant le pilote.
• Contrôlez chaque semaine la règle des 4/5 par genre, âge et origine.
• Feu tricolore : vert si 4/5 >80 % dans tous les groupes. Orange si 70-80 %. Rouge si <70 % dans un groupe quelconque → KILL.

Gate 2 : Production

• Étendez à tous les processus avec une documentation technique complète.
• Tableau de bord avec les indicateurs d’équité, le taux d’intervention HITL et la qualité des recrutements.
• Audit externe des biais annuel ou lors de changements significatifs du modèle.
• Protocole de retrait (kill switch) opérationnel si les indicateurs franchissent des seuils critiques.

Ce que doit comprendre un audit des biais

Un audit des biais n’est pas un rapport générique. C’est une analyse systématique qui doit couvrir :

1. Analyse des données d’entraînement. Examen de la représentativité des données historiques utilisées : reflètent-elles la diversité réelle du marché du travail ou reproduisent-elles des biais historiques de recrutement ? Si votre entreprise a majoritairement recruté un certain profil au cours des 10 dernières années, le modèle apprendra à privilégier ce profil.
2. Détection des variables proxy. Déterminer si le modèle utilise des variables en apparence neutres mais corrélées à des caractéristiques protégées. Le code postal peut être corrélé à l’origine ethnique. Le type d’université peut être corrélé au niveau socio-économique. Le style de rédaction peut être corrélé au genre.
3. Calcul des indicateurs d’équité. Appliquer la règle des 4/5, la parité démographique et l’equalized odds à chaque groupe protégé : genre, âge, origine, handicap. Documenter les résultats avec des données chiffrées, et non avec des appréciations subjectives.
4. Tests de résistance. Soumettre le système à des scénarios adverses : que se passe-t-il si vous ne changez que le nom du candidat sur un CV identique ? Le score change-t-il ? S’il change, il y a un biais.
5. Rapport et plan d’action. Documenter les constats, les indicateurs, les risques identifiés et les mesures correctives, avec des délais et des responsables. Ce rapport fait partie de la documentation technique exigée par l’AI Act.

Fréquence : Audit initial avant le Gate 1 (pilote). Revue trimestrielle des indicateurs d’équité en production. Audit complet annuel ou lorsque le modèle change, que les données d’entraînement sont mises à jour ou que le système est étendu à de nouveaux postes ou services.

L’IA dans le recrutement n’est pas facultative, mais les biais ne le sont pas non plus

L’IA dans le recrutement va devenir la norme, et non l’exception. Les entreprises qui la mettront bien en œuvre bénéficieront d’un réel avantage concurrentiel en matière de rapidité, de coût et de qualité des recrutements. Mais celles qui la déploieront sans gouvernance s’exposent à des sanctions réglementaires, à des poursuites pour discrimination et à une atteinte à leur réputation.

La différence ne tient pas au fait d’utiliser ou non l’IA. Elle tient à la manière dont vous l’utilisez : avec une supervision humaine réelle, des indicateurs d’équité surveillés, des preuves documentées et un modèle de déploiement progressif qui vous permet de détecter et de corriger les problèmes avant qu’ils ne prennent de l’ampleur.

Si vous souhaitez évaluer si votre système de recrutement actuel présente un risque de biais, configurer les indicateurs d’équité ou préparer la documentation technique exigée par l’AI Act, chez Impulsa3 nous réalisons des audits des biais et vous accompagnons dès le Gate 0.

Dans vos points de contact avec les clients, complétez cette approche avec le guide sur la transparence de l’IA dans la communication.