Image: Gerd Altmann/Pixabay
Si on n’y prend garde l’IA perpétue nos biais dans le recrutement de nouveaux employés. Mais pourrait-elle aussi nous en sauver ?
Les programmes d’Amazon croyaient avoir bâti une machine de rêve : une intelligence artificielle (IA) qui trierait les curriculum vitae pour en tirer les meilleurs candidats. Comme d’autres, ils ont cru que la technologie était la réponse à tous leurs maux. Mais ils ont oublié que la machine est à l’image des humains qui la conçoivent : bourrée de préjugés.
Entraîné à analyser des CV généralement soumis par des hommes (qui composent la majorité de la main-d’œuvre dans les technologies), le système a «appris» à discriminer les femmes. Ainsi, l’outil pénalisait les dossiers de candidature qui présentaient le mot femme , comme dans «présidente du groupe de femmes en IA» ; il déclassait ceux qui comportaient des noms de collèges féminins. Amazon a abandonné son outil à l’automne 2018.
De toute évidence, si l’on n’y prend garde, l’intelligence artificielle perpétue nos idées préconçues dans le recrutement d’employés. Mais pourrait-elle aussi nous en libérer ? Voici trois compagnies qui y travaillent.
Les mots utilisés dans les offres d’emploi sont importants, notamment parce qu’ils peuvent décourager certains candidats de postuler. Le logiciel de la jeune entreprise américaine Textio analyse les offres d’emploi et relève quels mots sont subjectifs pour en suggérer d’autres.
