L’IA apporte une valeur considérable, mais uniquement lorsqu’elle est appliquée de manière stratégique. 

Il est important de savoir que l’IA n’est pas une solution miracle ni une solution universelle. Il ne fait aucun doute que l’essor des solutions technologiques ouvrira un monde de possibilités et de valeur. Mais le nombre croissant d’options signifie qu’il est impératif que les organisations réfléchissent de manière critique aux principes fondamentaux de l’IA avant d’investir. 

Lorsqu’ils sont correctement mis en œuvre, les outils de gestion et d’acquisition des talents fondés sur l’IA peuvent :

• Améliorer la prise de décision fondée sur les données (et la qualité des recrutements)
• Améliorer l’expérience des candidats et des employés
• Automatiser les tâches manuelles fastidieuses
• Réduire les frais généraux opérationnels

L’IA introduit toutefois aussi une certaine complexité en matière de biais et de sécurité des données. Les organisations qui ne procèdent pas à une diligence raisonnable approfondie lors de la phase d’évaluation pourraient être exposées à de graves risques financiers, juridiques et réputationnels.

Comprendre l’IA

L’intelligence artificielle désigne toute technique permettant aux machines d’imiter le comportement humain. Elle permet aux recruteurs de faire davantage de choses similaires, mais aussi de mieux les faire. L’IA peut être divisée en trois concepts fondamentaux : l’automatisation, l’apprentissage automatique et l’apprentissage profond.

Automatisation

L’automatisation est fondée sur des règles. Elle applique les mêmes règles (« si ceci, alors cela ») à chaque donnée entrante, ce qui permet d’exécuter les processus plus rapidement et à grande échelle, sans intervention humaine. Par exemple, les chatbots. Les chatbots fondés sur des règles peuvent renvoyer les candidats vers la bonne page de FAQ.

Apprentissage automatique

L’apprentissage automatique (ML) est plus intelligent que l’automatisation. Il n’est pas fondé sur des règles. Il s’agit de la capacité d’un algorithme à apprendre à exécuter une tâche à partir d’un ensemble de données, puis à continuer à apprendre pour l’accomplir toujours mieux au fil du temps. La mise en correspondance des postes et des candidats pourrait en être un exemple. L’automatisation regrouperait uniquement les candidats en fonction de règles explicites et préprogrammées. Le ML serait capable de déduire des similitudes supplémentaires à mesure que les compétences associées à un intitulé de poste évoluent au fil du temps, sans qu’il soit nécessaire de réécrire les algorithmes.

Apprentissage profond

L’apprentissage profond va encore plus loin. Il est capable d’examiner un ensemble de données et de déterminer ce qui est le plus utile et intéressant à son sujet afin de résoudre une tâche. L’analyse des CV pourrait en être un exemple. L’apprentissage profond peut examiner des données non structurées (comme un CV) et identifier les éléments indiquant qu’un candidat correspond bien à un poste, sans qu’on lui dise lesquels. 

Mettre en œuvre l’IA 

Éviter les biais

Les besoins du secteur

Grâce à l’IA, les modèles peuvent être conçus pour exclure les biais des algorithmes, soit explicitement (en supprimant les identifiants tels que le nom, l’âge et le genre), soit implicitement (en supprimant des éléments tels que l’adresse, la formation ou le salaire). L’IA peut également être intégrée aux systèmes d’évaluation des candidats afin de garantir une pondération cohérente et équitable des différents points de données, excluant ainsi la possibilité de s’appuyer excessivement sur un seul facteur. Il est prouvé que les descriptions de poste sont truffées de biais inconscients, mais les moteurs de règles, les outils d’analyse et les processus manuels ne sont pas suffisamment sophistiqués pour lire les données et comprendre quelle formulation permettra de garantir un vivier de candidats le plus diversifié possible. L’IA est capable d’analyser le marché en constante évolution et d’y réagir rapidement, ainsi que de comprendre la proximité entre les compétences, afin que les candidats possédant des compétences similaires qui peuvent être méconnues du recruteur ne soient pas négligés. 

La solution Beamery

Beamery a conçu ses produits et services de manière à éviter les impacts injustes sur les personnes en fonction de caractéristiques protégées, telles que la race, l’origine ethnique, le genre, la nationalité, le revenu, l’orientation sexuelle, les aptitudes et les convictions politiques ou religieuses. Ces caractéristiques, ainsi que les indicateurs connus de ces caractéristiques, ne sont jamais inclus comme données d’entrée dans nos modèles d’apprentissage. Nos modèles, ainsi que nos données d’apprentissage et de validation, ont été audités par un tiers afin de confirmer que nous respectons les normes du secteur et réduisons au minimum le risque de biais involontaire. Nous n’utilisons par ailleurs jamais de reconnaissance faciale, de reconnaissance vocale, de détection des émotions ou de données biométriques dans nos produits ou services.  

Explicabilité 

Les besoins du secteur

Le risque de biais dans la gestion des talents est élevé et peut avoir de graves conséquences en aval, non seulement pour les entreprises, mais aussi pour les personnes. Après tout, les décisions de recrutement déterminent le cours de leur carrière. Une IA adaptée peut aider les équipes chargées des talents à assurer la transparence auprès des candidats et des employés concernant les points de données ayant influencé chaque décision, qu’elle soit positive ou négative. Cette transparence peut également favoriser l’inclusion en suggérant des parcours professionnels qui n’auraient peut-être pas été évidents autrement, en particulier pour les minorités qui sont susceptibles d’être moins bien représentées aux postes de direction ou au sein de certaines équipes.

L’explicabilité consiste à savoir quelles caractéristiques et quels points de données ont conduit à une recommandation, et à disposer d’une piste d’audit permettant de les examiner et de les justifier. L’IA et ses paramètres de décision doivent être testables, auditables et documentés afin de résister à un examen approfondi. L’IA explicable aide les équipes chargées des talents à prendre des décisions équitables et impartiales. En effet, elle peut contribuer à prendre de meilleures décisions. Comprendre comment les modèles produisent leurs résultats permet de les former, de les corriger et de les optimiser. 

La solution Beamery

Beamery aide les utilisateurs à comprendre pourquoi une personne est considérée comme susceptible de bien correspondre à un poste, grâce à plusieurs niveaux d’explication clés que les utilisateurs peuvent communiquer aux candidats afin de clarifier la recommandation de l’IA.

1. Les utilisateurs peuvent voir le poids (ou l’influence) de chaque composant dans la décision : nos recommandations fondées sur l’IA indiquent la combinaison et la pondération des compétences, du niveau de séniorité, de la maîtrise et du secteur, afin que les utilisateurs puissent clairement voir la principale raison pour laquelle notre IA a considéré qu’il existait une adéquation potentielle entre les talents et les postes à pourvoir.
2. Les utilisateurs peuvent comprendre quelles compétences ont le plus influencé les recommandations, ce qui les aide également à comprendre quelles compétences ont eu ou non un impact sur la recommandation. 

Sécurité et confidentialité

Les besoins du secteur

Sans surprise, lorsqu’il est question de grands volumes de données, la sécurité et la confidentialité sont primordiales. Avec l’introduction du RGPD et les titres de presse répétés concernant les violations et les pertes de données, la sécurité des données est déjà une priorité pour la plupart des organisations. Elles savent que les données doivent être stockées en toute sécurité et qu’elles doivent disposer de processus de diligence raisonnable complets et vérifiables afin d’éviter les problèmes avec les autorités de réglementation. 

Mais l’IA introduit un niveau de risque supplémentaire. L’IA ne fonctionne que lorsqu’elle est entraînée à partir de grands volumes de données. Les entreprises doivent donc réfléchir de manière critique non seulement à la façon dont elles stockent les données, mais aussi à la façon dont elles les utilisent. L’un des principes fondamentaux du code britannique sur l’IA est, par exemple, que « l’intelligence artificielle ne doit pas être utilisée pour réduire les droits relatifs aux données ou la confidentialité des personnes, des familles ou des communautés ». Les équipes chargées des talents doivent veiller à utiliser les données de manière sensible, appropriée et sans introduire de biais inconscients.

La solution Beamery

Lors de l’entraînement de ses modèles, Beamery utilise des ensembles de données anonymisés provenant de tiers, ce qui signifie que les modèles n’ont pas explicitement connaissance de la race, de l’origine ethnique, du genre, de la nationalité, du revenu, de l’orientation sexuelle, des aptitudes et des convictions politiques ou religieuses. De plus, lorsque les modèles sont validés à l’aide d’ensembles de données de test, des données ne permettant pas d’identifier personnellement les individus sont utilisées. Lorsque Beamery met en correspondance des candidats dans le CRM, nos modèles ne voient jamais les informations personnelles identifiables d’un candidat. Ils ne voient que les compétences, les rôles et l’expérience. En outre, chaque fois que les auditeurs externes de Beamery utilisent des caractéristiques démographiques de candidats obtenues en dehors des processus internes, celles-ci sont supprimées au terme de l’audit et ne sont jamais conservées. Ces points de données sont utilisés uniquement pour évaluer les performances du modèle en matière de biais potentiel.