Ceci est devenu une vérité absolue : disposer d’une main-d’œuvre diversifiée et inclusive a un véritable impact positif sur les résultats commerciaux de quelconque entreprise. En sont preuve les divers rapports et études menés dans ce sens et qui ont tous démontré les entreprises dans lesquelles toutes les catégories de la société étaient bien représentées et occupaient des postes de direction étaient considérablement plus rentables que celles dans lesquelles la diversité n’était pas prise en compte. Ce lien étant étroit, les entreprises, partout dans le monde, se précipitent pour instaurer une politique inclusive, équitable et diversifiée afin de garantir davantage de succès. Pour ce faire, la tendance est de se tourner vers la technologie en vue de conduire le changement nécessaire, voire indispensable à la création de nouveaux lieux de travail où tout un chacun soit bien accueilli et puisse s’épanouir.
Évidemment, si l’intelligence artificielle est tant appréciée par les entreprises, c’est parce qu’elle permet d’aller au-delà des capacités humaines et aide les gens à accomplir des choses qu’ils ne pourraient faire manuellement, notamment en matière d’utilisation des données. Néanmoins, les utilisateurs d’outils d’IA doivent être correctement équipés afin d’éviter tout type de dévoiement, surtout lorsqu’il s’agit d’une politique de diversité basée sur l’intelligence artificielle. Car oui, bien qu’elle soit ‘’surnaturelle’’ ou ‘’surhumaine’’, l’IA ne fonctionne pas de manière spontanée mais, plutôt, elle se base sur des données renseignées par l’humain, qui s’avère comme élément fondamental du processus de création et de fonctionnement de tout outil d’IA, afin d’en faire un traitement automatique.
Or, et pour mettre en œuvre des algorithmes à titre d’exemple de machine learning ou de deep learning, l’existence de certains biais dans les données historiques, et dont la technologie est innocente, peut engendrer des modèles susceptibles d’inclure des décisions humaines pouvant entraîner une discrimination involontaire. Encore pire, même lorsque l’entreprise s’en rend compte et procède à la suppression de nombreux champs directement liés à des biais potentiels comme le sexe ou la race, l’IA, si mal utilisée et grâce à ses grandes capacités, peut toujours reproduire les défis historiques grâce aux informations déduites. Encore, donnons l’exemple d’une entreprise qui installe dans son logiciel une option d’égalité entre femmes et hommes, le résultat peut être biaisé si le nombre de candidatures envoyées par un sexe est largement supérieur par rapport à l’autre.
En revanche, et si utilisée correctement, l’intelligence artificielle a un fort potentiel de changement en tant qu’outil de diversité, équité et inclusion, en fournissant les informations nécessaires basées sur les données. Cependant, en cas d’instabilité des fondations de base, le résultat final ne sera pas fiable. De manière générale, l’être humain, ou encore les données biaisées involontairement dont ces projets d’IA peuvent être alimentés, peut entraver le véritable changement souhaité, et ce en rajoutant davantage de biais humains à l’équation.
La diversité, sujet épineux pour les entreprises
Avant même que l’intelligence artificielle ne soit née, et avant d’aborder les enjeux posés par ses différentes technologies en matière de biais possibles, il serait important de comprendre que nous tous, en tant qu’êtres humains, sommes biaisés d’une manière ou d’une autre, et ce en raison du vécu de tout un chacun, des circonstances individuelles, de l’éducation et de la culture ou encore des réactions émotionnelles à différentes situations. Cela fait partie de notre composition d’êtres humains ayant tous des préjugés conscients, inconscients ou encore subconscients. De ce fait, il faudrait avant tout se rendre compte de l’existence de ces préjugés pour pouvoir ensuite procéder à une intégration efficace et réussie de la diversité.
Comme précité, il faut malgré tout reconnaître que la technologie de l’intelligence artificielle ne soit pas, de par sa nature, discriminatoire. Car oui, la machine est, contrairement aux êtres humains, dénudée de tous types de préjugés ou d’idées préétablies capables d’entraver quelconque politique de diversité, d’équité et d’inclusion. Mais, ce qui arrive c’est que les logiciels traitent des données historiques dont elles ont été alimentées dans le cadre du processus d’éducation de la machine. En fait, le plus grand risque est celui d’une attitude partiale inconsciente quand on considère les ensembles de données et les caractéristiques algorithmiques sélectionnés par les mêmes personnes qui conçoivent ces algorithmes. Par conséquent, au niveau de la formation et de la programmation, l’intelligence artificielle est dépendante et ne peut qu’obéir à son créateur et à ses propres idées et expériences, qu’elles soient justes ou malhonnêtes.
Dans le domaine des RH, à titre d’exemple, cela pourrait signifier que l’IA serait en mesure de reconnaître que ce sont généralement des femmes parlant une certaine langue étrangère qui occupent des postes spécifiques dans une entreprise. De ce fait, et si un nouveau manager est recherché, il y aurait involontairement un biais de données dans lequel ce même groupe de femmes est considéré comme statistiquement beaucoup plus susceptible de réussir dans ces fonctions. Par conséquent, plusieurs autres candidats qualifiés peuvent alors se retrouver filtrés du processus de candidature et totalement écartés de la course. Autrement dit, si l’entreprise ne procède pas à la mise en place de mesures de protection adéquates, l’intelligence artificielle ne serait pas capable, toute seule, de mener la révolution en matière de diversité et d’inclusion. Même en éliminant les paramètres de sexe ou de langues étrangères parlées fournis à l’algorithme d’IA, le modèle peut constater des lacunes dans l’emploi, ou des informations déduites qui révèlent indirectement l’âge ou le sexe, pouvant entraîner la poursuite du biais qui était présent dans les données brutes.
Luttons contre les biais !
En principe, éviter les biais en utilisant de l’intelligence artificielle signifie que cette dernière ne porte pas de jugement, d’ailleurs elle n’en est pas capable et n’exécute que ce qu’on lui a demandé d’exécuter. Donc, le seul moyen de détecter et d’arrêter tout préjugé involontaire est d’aller soigner d’abord la pensée, de nourrir cette capacité à voir différents problèmes à travers différentes perspectives dans les équipes, et puis de renforcer l’intelligence humaine qui, plus tard, ira concevoir et conduire une autre intelligence, artificielle cette fois-ci.
Très fin est le fil qui sépare succès et échec. Afin de ne pas le mettre en morceaux, il serait fondamental de prendre en compte toutes ces formes de biais pour ensuite les éradiquer, qu’ils soient conscients ou inconscients. Pour mener à bonne fin ce changement, toute entreprise est censée veiller à ce qu’un plus grand nombre de personnes soient compétentes en matière d’IA et puissent contribuer au processus. Plus les équipes sont capables de se comporter correctement avec les données et d’aborder la résolution de problèmes avec des points de vue uniques, plus la construction d’outils d’IA justes et équitables serait réalisable.
Les collaborateurs, moteurs de la transformation
Il est désormais possible de trouver de nouvelles solutions innovantes et efficaces à des problèmes anciens persistants en analysant les données et en recherchant des modèles transformateurs qui peuvent aider à conduire une entreprise vers le succès, et ce grâce à l’IA pilotée par la Data Science. Les préjugés sont ainsi atténués et les viviers de talents diversifiés.
En fait, adopter une stratégie de données qui lutte contre les préjugés nécessite d’investir toute l’équipe dans les bonnes technologies et surtout dans les meilleurs usages qu’on peut en faire. Encore, il faudrait qu’un groupe diversifié d’humains soit au centre de la stratégie pour, d’un côté, s’assurer que le développement de l’IA soit mené en partenariat avec les humains et, d’un autre côté, vu que ce qui peut être considéré comme un biais pour certains peut ne pas l’être aux yeux des autres.
Afin d’évoluer dans un environnement serein et riches en données, la diversité, l’équité, l’inclusion et le sentiment d’appartenance sont essentiels au sein de quelconque entreprise. En parallèle, la culture des données doit être progressivement instaurée au sein des organisations puisqu’elle représente l’un des outils les plus puissants pour développer la prochaine génération de talents en data science et en IA. Ces données sont une source d’influence pour les entreprises, les consommateurs et la société de manière générale. Il est donc crucial de disposer d’un vivier de talents compétents en matière de données qui soit capable de conduire cette grande transformation.
In fine, dans un contexte de plus en plus mondialisé, les points de vue multiples ne peuvent constituer qu’une force pour quelconque organisation. De ce fait, il ne serait plus d’accepter les diverses différences qui existent entre les individus dans une logique de ‘’tolérance’’, mais il faudrait plutôt de célébrer la diversité et y recourir pour regarder le monde d’angles différents.
