L'utilisateur de Seattle, consultant en expérience utilisateur, Torrey Podmajersky, et l'exécutif à la retraite des ventes et du marketing, Douglas Hamilton, ont tous deux reçu des e-mails non sollicités d'un bot d'intelligence artificielle nommé Jennie Johnson. Le bot a été créé comme un outil de recherche d'emploi en ligne développé par Hyperleap, et il envoie des résumés automatisés d'emplois aux utilisateurs en fonction de leurs profils LinkedIn, de leurs CV et de leur historique de travail. Bien que ces outils de recrutement d'IA aient le potentiel d'être plus objectifs que les humains, il y a des inquiétudes concernant leur capacité à capturer des traits personnels importants et leur potentiel à renforcer les préjugés.

Les chercheurs ont découvert que les candidats peuvent se comporter de manière moins naturelle lors d'entretiens basés sur l'IA, et le manque de surveillance humaine peut entraîner des résultats biaisés, pénalisant ainsi les personnes issues de milieux moins favorisés. Ces outils sont formés sur des tendances et des pratiques de recrutement passées biaisées, de sorte qu'ils peuvent involontairement perpétuer la discrimination, même si des facteurs tels que la race et le genre sont explicitement exclus. Bien qu'il y ait de l'engouement autour des outils de recrutement d'IA, de nombreux services des ressources humaines préfèrent attendre qu'ils prouvent leur efficacité et leur équité avant de les adopter pleinement.