L’inclusion a longtemps été abordée à travers les comportements, la culture managériale, la composition des équipes et les politiques de recrutement ou d’évolution de carrière. Ces sujets restent centraux. Mais l’intelligence artificielle ouvre un front supplémentaire, souvent plus discret et parfois plus dangereux. Lorsqu’une organisation délègue une partie de ses choix, de ses tris, de ses priorisations ou de ses évaluations à des systèmes automatisés, elle ne fait pas disparaître les biais. Elle risque au contraire de leur donner une puissance nouvelle : vitesse, volume, cohérence apparente et difficulté de contestation.
Ce danger vient d’un malentendu très répandu. Beaucoup d’entreprises considèrent encore qu’un outil algorithmique réduit automatiquement la subjectivité. Le raisonnement est séduisant : la machine ne ressent ni préférence, ni antipathie, ni fatigue, ni préjugé conscient. Mais elle ne décide jamais dans le vide. Elle apprend à partir de données, de règles, de critères, de jeux d’entraînement, de paramétrages et d’objectifs définis par des humains. Si ces éléments sont partiels, déséquilibrés ou marqués par des pratiques historiques peu inclusives, l’outil n’efface rien. Il reproduit plus vite, plus silencieusement et souvent avec une apparence de légitimité technique.
Pour les directions RH, cette réalité change la nature du travail sur la diversité et l’inclusion. Il ne suffit plus de sensibiliser les managers, de suivre quelques indicateurs et d’afficher des engagements. Il faut désormais auditer les flux automatisés eux-mêmes. Qui est avantagé par l’algorithme ? Qui est écarté plus souvent ? Quelles caractéristiques sont indirectement pénalisées ? Quels choix de paramétrage traduisent des normes implicites ? Quels groupes restent invisibles dans les données servant à entraîner ou calibrer les outils ? L’inclusion entre dans une phase plus technique, mais aussi plus structurante.
Ce déplacement est décisif, car les usages se multiplient rapidement. Les entreprises s’appuient de plus en plus sur des systèmes d’aide au recrutement, au tri de candidatures, à l’évaluation, à la rédaction de synthèses, à la priorisation de dossiers, à la relation client ou au pilotage des performances. À chaque fois, une même question doit être posée : l’outil renforce-t-il l’équité, ou bien standardise-t-il des préférences anciennes sous couvert d’efficacité ? C’est ici que la fonction RH doit reprendre la main. L’inclusion ne peut pas être reléguée à la marge d’un projet technologique. Elle doit faire partie du design du système.
Le faux mythe de la machine objective
Pour comprendre le risque, il faut revenir à la matière première de l’intelligence artificielle : les données passées. Un outil ne fabrique pas seul sa représentation du mérite, du potentiel ou de la performance. Il repère des régularités dans ce qu’on lui donne à voir. Si une entreprise nourrit un système avec des historiques de recrutements, de promotions, d’évaluations ou de carrières façonnés par des biais anciens, elle introduit mécaniquement ces biais dans la logique de l’outil. Même sans consigne explicite, la machine peut apprendre qu’un certain type de parcours, d’école, de style d’expression, d’expérience ou de trajectoire ressemble davantage au profil “réussi” simplement parce que c’est ce que l’histoire de l’organisation a rendu plus visible.
Le problème devient encore plus complexe lorsque les critères en apparence neutres servent de substituts à des variables sensibles. Le lieu de résidence, certaines expériences, certaines interruptions de parcours, certains mots-clés, certaines formes de mobilité ou certains styles de présentation peuvent produire des effets de tri profondément inégalitaires sans jamais faire explicitement référence au genre, à l’âge, au handicap ou à l’origine. L’entreprise peut alors croire qu’elle a retiré les biais visibles, alors qu’elle a simplement déplacé la discrimination dans des critères de second niveau.
Cette mécanique est redoutable parce qu’elle est moins contestable socialement qu’une décision humaine. Lorsqu’un recruteur ou un manager exprime une préférence discutable, il peut être interrogé, challengé, contredit. Lorsqu’un système génère un score, un classement ou une recommandation, la tentation est forte de lui accorder un crédit supérieur. Le raisonnement implicite devient : “si l’outil l’a dit, c’est que la donnée l’établit”. C’est précisément à ce moment que le biais devient plus difficile à repérer, parce qu’il se présente comme un résultat technique et non comme un jugement humain.
Les RH doivent donc déconstruire activement cette croyance dans la neutralité spontanée de la machine. Une IA n’est ni inclusive ni discriminante par essence. Elle hérite d’un cadre. C’est ce cadre qu’il faut interroger. Quels historiques ont servi ? Quels critères comptent le plus ? Quels profils ont été utilisés comme référence ? Quelles exceptions ont été ignorées ? Quels résultats sont considérés comme de bonnes décisions ? Tant que ces questions ne sont pas posées, l’entreprise prend le risque de confondre industrialisation et progrès.
Cette vigilance doit être particulièrement forte dans les processus RH, car ce sont eux qui structurent l’accès aux opportunités. Un outil de tri de CV qui privilégie inconsciemment certains formats de parcours, un système d’évaluation qui valorise un type très homogène de comportement, ou un assistant qui rédige des synthèses en reproduisant des formulations stéréotypées peuvent avoir des effets cumulatifs considérables. Ce ne sont pas seulement des erreurs techniques. Ce sont des mécanismes qui redessinent l’équité d’accès dans l’entreprise.
Le rôle décisif de l’humain dans la boucle, à condition qu’il soit réellement outillé
Face à ce risque, beaucoup d’organisations invoquent une solution simple : garder un humain dans la boucle. L’intention est juste, mais elle reste insuffisante si elle n’est pas pensée sérieusement. Mettre une personne à la fin du processus ne garantit rien si cette personne ne comprend pas le fonctionnement de l’outil, n’a pas la légitimité pour contester une recommandation ou manque de temps pour examiner réellement ce que la machine propose. L’humain dans la boucle n’est utile que s’il est positionné comme un arbitre réel, pas comme une signature de conformité.
Cela suppose d’abord une montée en compétence spécifique. Les professionnels RH et les managers appelés à superviser des systèmes automatisés doivent apprendre à lire les signaux de biais. Ils doivent savoir poser les bonnes questions, comparer les résultats, identifier des écarts anormaux, repérer des exclusions répétitives et demander des explications sur les critères réellement mobilisés par l’outil. Sans cette maîtrise, le contrôle humain devient symbolique. Il valide plus qu’il ne corrige.
Il faut aussi penser des points de contrôle explicites dans les workflows. L’inclusion ne peut pas dépendre de la seule vigilance individuelle. Des audits réguliers doivent être prévus sur les décisions produites ou influencées par l’IA. Les RH doivent examiner les profils rejetés, comparer les taux de sélection ou de progression selon différentes populations, tester des scénarios alternatifs, analyser les cas limites et documenter les anomalies. Cette discipline d’audit est la seule manière d’éviter que les écarts ne s’installent dans le temps.
Le rôle des managers devient lui aussi plus exigeant. Ils ne peuvent pas se contenter de considérer les recommandations algorithmiques comme un support commode. Ils doivent rester responsables de leurs arbitrages. Si un outil propose toujours le même type de profil, si certaines trajectoires sont systématiquement sous-évaluées, ou si des collaborateurs perçoivent une logique opaque dans les décisions, le manager doit être capable d’interroger le système et non de s’abriter derrière lui. L’autorité managériale change ici de nature : elle ne consiste plus seulement à décider, mais à garantir que les outils utilisés pour décider restent compatibles avec les principes d’équité de l’entreprise.
Cette responsabilité doit être partagée avec les équipes techniques. Trop souvent, les projets d’IA avancent selon une logique de performance, de rapidité ou d’optimisation sans intégrer suffisamment tôt la question des effets inclusifs. Les RH doivent intervenir en amont, pas seulement lorsqu’un problème apparaît. Elles doivent peser sur le choix des cas d’usage, sur la définition des critères, sur les jeux de données mobilisés, sur les seuils d’automatisation et sur les modalités d’explication des décisions. Tant que l’inclusion est traitée après coup, elle reste une correction périphérique. Elle doit devenir un paramètre de conception.
Une politique d’inclusion crédible suppose aussi de diversifier ceux qui conçoivent et supervisent les outils
Le sujet ne se limite pas aux données ou aux contrôles. Il concerne aussi les personnes impliquées dans la conception, le paramétrage et la supervision des systèmes. Une organisation qui confie ces sujets à des équipes homogènes, partageant les mêmes références, les mêmes parcours et parfois les mêmes angles morts, augmente le risque de reproduire des biais invisibles pour ceux qui les produisent. Ce n’est pas seulement un enjeu de représentation. C’est un enjeu de qualité de jugement.
Plus les profils associés à la gouvernance de l’IA sont diversifiés, plus la probabilité augmente de repérer des effets inattendus. Une équipe pluraliste voit plus de cas d’usage, interroge davantage les évidences et teste mieux les hypothèses implicites. À l’inverse, une gouvernance technologique concentrée entre quelques profils très proches peut construire des outils performants sur le papier mais aveugles à certaines réalités sociales ou organisationnelles. L’inclusion ne peut donc pas être défendue uniquement au niveau des outputs. Elle doit être pensée dans la composition même des instances qui fabriquent les règles.
Cette exigence vaut aussi pour la formation. La maîtrise des outils d’IA ne doit pas rester réservée à une petite élite technique ou managériale. Si seuls certains profils comprennent comment fonctionnent les systèmes, le pouvoir d’interprétation et de contestation reste concentré. Or une politique d’inclusion crédible suppose au contraire une diffusion large de cette culture critique. Les collaborateurs concernés doivent savoir ce que l’outil fait, ce qu’il ne fait pas, comment il peut se tromper, et comment remonter une anomalie. Plus la compréhension est partagée, plus l’entreprise réduit le risque d’une discrimination silencieuse.
Il faut enfin inscrire ce sujet dans la gouvernance globale de l’entreprise. Une charte d’usage, un comité d’éthique technologique, des audits réguliers, des indicateurs de vigilance, des procédures d’alerte et des responsabilités clairement attribuées constituent des bases nécessaires. Mais ces dispositifs n’ont de valeur que s’ils s’inscrivent dans une volonté claire : considérer que la performance d’un système d’IA ne se mesure pas seulement à sa rapidité ou à son taux de précision, mais aussi à sa capacité à ne pas dégrader l’équité.
Au fond, l’intelligence artificielle agit comme un révélateur de maturité RH. Une entreprise peu exigeante sur ses biais transformera vite ses failles culturelles en mécanismes automatisés. Une entreprise lucide sur ses propres limites peut au contraire utiliser l’IA pour rendre certaines décisions plus justes, mieux documentées et plus cohérentes, à condition d’en garder la maîtrise critique. Pour les DRH, le message est net : l’inclusion ne survivra pas à l’automatisation si elle n’entre pas dans l’architecture même des outils. La vraie modernité ne consiste pas à décider plus vite. Elle consiste à s’assurer que la vitesse ne fige pas les injustices.
