Débiaiser les algorithmes de recrutement sans remplacer un préjugé par un autre

La technologie peut améliorer l’équité uniquement si le processus qu’elle accélère a été conçu pour la mesurer.

Le biais entre dans le système bien avant le calcul du score

Le premier risque apparaît dans la définition de la réussite. Un outil de matching doit savoir ce qu’il cherche. Certaines entreprises utilisent les recrutements historiques, la durée de présence ou les évaluations des collaborateurs comme indicateurs de succès. Or ces données ne sont jamais neutres. Une personne peut être restée longtemps faute d’opportunités externes. Une autre peut avoir quitté l’entreprise parce que son potentiel n’était pas reconnu. Une note de performance peut dépendre de la qualité du management, de l’accès aux missions visibles ou de critères insuffisamment structurés.

L’algorithme transforme ces choix en objectif mathématique. Si l’organisation a historiquement recruté ses cadres dans un nombre limité d’écoles, la provenance académique peut devenir un raccourci très puissant. Le système risque alors de sous-classer les profils issus d’autres établissements, les autodidactes ou les personnes en reconversion, sans démontrer que leur capacité à réussir est inférieure.

Le biais peut aussi provenir de la représentation des populations dans les données d’apprentissage. Un modèle entraîné principalement sur une catégorie de candidats sera moins fiable sur les parcours peu présents dans l’échantillon. Cette faiblesse ne se manifeste pas toujours par une exclusion visible. Elle peut apparaître sous la forme d’une extraction moins précise des compétences, d’une mauvaise interprétation des intitulés de poste ou d’un score plus instable.

Enfin, la fiche de poste elle-même peut intégrer des obstacles inutiles. Une exigence de diplôme très précise, un nombre d’années arbitraire ou une disponibilité géographique excessive réduisent le vivier avant toute analyse intelligente. Une IA ne corrige pas automatiquement ces choix. Elle peut au contraire les appliquer avec davantage de constance. Le débiaisement commence donc par une question métier : quelles compétences sont réellement indispensables pour accomplir le travail ?

L’anonymisation réduit certains biais sans neutraliser les variables de substitution

Le recrutement à l’aveugle cherche à retirer les informations susceptibles d’influencer la présélection : nom, photo, âge, situation familiale ou adresse détaillée. Dans un ATS, ce masquage peut s’effectuer avant la lecture humaine et avant le calcul du score. Il limite l’effet direct de certaines caractéristiques et oblige le recruteur à concentrer son attention sur l’expérience et les compétences.

Cette mesure est utile, mais elle ne suffit pas. Un CV contient de nombreux indices indirects. Les dates de diplôme peuvent permettre d’estimer l’âge. Une association, un établissement, une activité ou une interruption de parcours peuvent donner des indications sur le genre, l’origine sociale, la situation familiale ou la localisation. Ces variables de substitution, ou proxies, permettent au modèle de reconstruire partiellement une information pourtant masquée.

Le problème est encore plus délicat avec les représentations sémantiques. Un modèle de langage associe des termes à partir de régularités observées dans de vastes corpus. Il peut rapprocher certains métiers, qualités ou trajectoires de catégories démographiques sans que ces associations apparaissent clairement dans les règles du système. L’entreprise ne peut donc pas conclure à l’équité au seul motif qu’elle a supprimé la colonne « genre » de sa base.

L’anonymisation doit être combinée à une sélection fondée sur un référentiel de compétences. Le poste est décomposé en activités, savoir-faire, connaissances, comportements observables et niveaux attendus. Le système compare les preuves présentes dans le parcours avec ces exigences, plutôt qu’avec le portrait moyen des personnes recrutées auparavant. Cette approche facilite l’identification des compétences transférables et des profils atypiques.

Elle exige néanmoins de contrôler la qualité de l’extraction. Une même compétence peut être décrite avec des vocabulaires différents selon le secteur, la langue ou le niveau de formalisation du CV. Le système doit reconnaître les équivalences sans inventer des aptitudes absentes. Les recruteurs doivent pouvoir consulter les éléments du dossier qui justifient un score et corriger une interprétation erronée.

Mesurer l’équité à chaque étape de l’entonnoir

Un audit sérieux ne se contente pas d’observer la composition de la liste finale. Il suit le parcours des candidatures depuis l’entrée dans le vivier jusqu’à la décision. Pour chaque étape, la DRH examine les taux de passage, les abandons, les scores, les rejets et les possibilités de réexamen. Une différence importante entre groupes constitue un signal à analyser, pas une preuve automatique de discrimination.

L’analyse doit distinguer plusieurs sources possibles. Le vivier initial peut déjà être déséquilibré en raison des canaux de sourcing ou de la formulation de l’annonce. Le parseur de CV peut extraire moins bien certaines trajectoires. Le modèle de matching peut utiliser un proxy. Le seuil choisi par l’entreprise peut amplifier un faible écart. Le recruteur peut enfin contredire plus souvent les recommandations pour certains profils. Sans cette décomposition, l’organisation risque d’attribuer au modèle un problème créé ailleurs dans le processus.

Les moyennes globales peuvent également masquer des effets croisés. Un système apparemment équilibré entre femmes et hommes peut défavoriser une tranche d’âge, une région ou une combinaison de caractéristiques. L’analyse doit toutefois rester compatible avec la Loi 09-08 : les données utilisées pour mesurer l’équité sont elles-mêmes des données personnelles et parfois sensibles. Leur collecte, leur accès, leur durée de conservation et leur usage doivent être encadrés.

La DRH doit aussi mesurer les erreurs du modèle. Les faux positifs sont les profils fortement classés qui ne répondent pas réellement au besoin. Les faux négatifs sont les candidatures pertinentes placées trop bas ou rejetées. L’audit des faux négatifs est essentiel car l’entreprise ne rencontre jamais ces personnes et peut ignorer la perte de talents. Un échantillon régulier des candidatures rejetées doit être revu par des évaluateurs formés, avec une grille structurée.

Le suivi doit se poursuivre après le recrutement, sans transformer la performance future en justification automatique du score initial. L’entreprise peut comparer la qualité d’intégration, la réussite de la période d’essai et la progression, tout en tenant compte des conditions de travail et du management. Un bon modèle de sélection ne doit pas seulement prédire la ressemblance avec les collaborateurs en place. Il doit aider à identifier des personnes capables de réussir dans un environnement équitable.

Exiger une véritable auditabilité des fournisseurs

De nombreux ATS présentent leurs outils comme « intelligents », « objectifs » ou « sans biais ». Ces affirmations ne suffisent pas. Avant le déploiement, la DRH doit obtenir une description précise de la fonction du système. Recommande-t-il des profils, classe-t-il les candidatures, écarte-t-il automatiquement certains dossiers ou génère-t-il simplement une synthèse ? Le niveau de contrôle doit augmenter avec l’impact de la fonctionnalité.

Le fournisseur doit préciser les données utilisées, les variables exclues, la manière dont les compétences sont représentées, la fréquence de mise à jour et les limites connues. L’entreprise doit savoir si le modèle apprend à partir de ses décisions, si ses données servent à améliorer un modèle mutualisé et comment elle peut désactiver cette utilisation. Elle doit aussi connaître les conditions dans lesquelles une version du modèle peut changer.

L’explicabilité utile n’exige pas nécessairement de révéler chaque détail mathématique. Le recruteur doit cependant comprendre les principaux facteurs du classement et accéder aux preuves qui les soutiennent. Un score de 82 % sans justification exploitable n’aide pas à prendre une décision responsable. Une explication du type « expérience de pilotage de projet repérée dans deux missions, maîtrise de l’ERP non démontrée, niveau linguistique à vérifier » permet au contraire de conduire un examen humain.

Le contrat doit prévoir des indicateurs de qualité, un accès aux résultats d’audit, la gestion des incidents, la traçabilité des versions, la possibilité de contester un résultat et les conditions de sortie. L’entreprise doit pouvoir suspendre une fonctionnalité si un écart préoccupant apparaît. Elle ne peut pas déléguer sa responsabilité au seul motif que le modèle appartient à un éditeur.

Pour auditer rigoureusement un algorithme de recrutement avant son déploiement et à chaque évolution importante, une grille consolidée documente cinq volets alignés sur les cinq points d’entrée du biais : l’objectif et les données (définition de la réussite, données historiques, représentation des populations, qualité des évaluations sources, variables exclues, proxies possibles, données d’apprentissage mutualisées), la qualité du modèle (précision de l’extraction, compétences transférables, stabilité du score, explication du classement, faux positifs, faux négatifs, performance par population), l’équité de l’entonnoir (vivier initial, présélection, tests, entretiens, shortlist, offres, embauches, abandons candidats), la gouvernance et les recours (décisions interdites au modèle, réexamen humain, contestations candidats, journal des versions, seuils d’alerte, pouvoir de suspension) et la décision finale (Valider / Corriger / Suspendre).

📎 Télécharger la Fiche outil — Grille d’audit d’un algorithme de recrutement

Maintenir l’humain dans la boucle sans réintroduire tous les biais humains

La supervision humaine est indispensable, mais elle n’est pas une garantie automatique. Un recruteur peut suivre aveuglément le score par biais d’automatisation. Il peut aussi l’ignorer de manière sélective et réintroduire ses préférences personnelles. Le contrôle humain doit donc être organisé, documenté et soutenu par une méthode.

La décision finale doit s’appuyer sur plusieurs sources : expérience, compétences démontrées, test pertinent, entretien structuré et références lorsque leur usage est justifié. Les candidats doivent être évalués à partir de critères identiques et de questions comparables. Les commentaires doivent décrire des éléments observables. Des formulations vagues comme « manque de présence », « profil pas assez rassurant » ou « ne correspond pas à notre culture » peuvent dissimuler des jugements stéréotypés.

La notion de compatibilité culturelle mérite une vigilance particulière. Rechercher des personnes qui ressemblent à l’équipe renforce l’homogénéité. Il est plus pertinent d’évaluer l’adhésion à des comportements professionnels définis, la capacité à coopérer et la complémentarité apportée. Le recrutement doit mesurer la capacité à contribuer au travail, non la facilité avec laquelle le candidat reproduit les codes sociaux dominants.

Le recruteur doit pouvoir renverser la recommandation du système et expliquer pourquoi. Ces divergences servent ensuite à l’audit : le modèle a-t-il manqué une compétence, le recruteur a-t-il détecté une information nouvelle ou la décision humaine traduit-elle un biais ? Le désaccord n’est pas une anomalie à supprimer. Il constitue une donnée de gouvernance.

Le candidat doit enfin disposer d’une information claire sur l’usage d’un outil automatisé lorsque celui-ci joue un rôle significatif dans l’évaluation. Un canal doit permettre de demander une correction des données, de signaler un problème ou de solliciter un réexamen humain. Cette possibilité renforce la qualité du système, car elle fait remonter des erreurs que les tableaux de bord ne détectent pas toujours.

Installer une gouvernance continue plutôt qu’un audit unique

Un modèle peut se dégrader après son lancement. Le marché évolue, les intitulés changent, les compétences recherchées se déplacent et les comportements des recruteurs alimentent parfois de nouvelles données. Une validation réalisée au moment de l’achat ne garantit donc pas la qualité dans la durée.

La gouvernance doit réunir recrutement, diversité et inclusion, data, juridique, sécurité et représentants des métiers. Elle définit les usages autorisés, les décisions interdites, les seuils d’alerte, les groupes d’analyse, la fréquence des revues et les responsabilités. Toute modification importante du modèle, des données ou du poste doit déclencher une nouvelle évaluation.

Un comité ne suffit pas sans pouvoir d’action. Les résultats d’audit doivent conduire à des mesures concrètes : modification de la fiche de poste, retrait d’une variable, changement du seuil, révision du référentiel de compétences, correction du parseur, réentraînement ou suspension. Chaque action doit être documentée puis testée pour vérifier qu’elle réduit l’écart sans dégrader la pertinence de la sélection.

La formation des recruteurs reste enfin déterminante. Ils doivent comprendre ce que le score mesure, ce qu’il ne mesure pas, comment reconnaître un proxy, comment examiner un faux négatif et comment mener un entretien structuré. L’IA ne rend pas le métier moins exigeant. Elle déplace une partie de la responsabilité vers la capacité à contrôler un système complexe.

Une intelligence artificielle de recrutement ne sera jamais parfaitement neutre, car elle traduit toujours des choix sur le talent, la réussite et la preuve. Elle peut néanmoins être plus cohérente et plus équitable qu’un tri improvisé si l’entreprise fixe des critères professionnels, mesure les écarts, audite les erreurs et garantit un réexamen humain. L’algorithme ne doit pas décider qui mérite une chance. Il doit aider le recruteur à examiner davantage de compétences sans laisser l’histoire de l’entreprise devenir une frontière invisible.