Der in Seattle ansässige User Experience-Berater Torrey Podmajersky und der pensionierte Vertriebs- und Marketing-Manager Douglas Hamilton erhielten beide unerwünschte E-Mails von einem KI-Bot namens Jennie Johnson. Der Bot wurde als Online-Job-Suchwerkzeug von Hyperleap entwickelt und sendet automatisierte Stellenzusammenfassungen an Benutzer, basierend auf ihren LinkedIn-Profilen, Lebensläufen und Berufserfahrungen. Obwohl diese KI-Rekrutierungstools objektiver sein können als Menschen, gibt es Bedenken hinsichtlich ihrer Fähigkeit, wichtige persönliche Eigenschaften zu erfassen, und ihrer potenziellen Verstärkung von Vorurteilen.

Forscher haben festgestellt, dass Bewerber sich in KI-basierten Vorstellungsgesprächen weniger natürlich verhalten können, und das Fehlen menschlicher Aufsicht kann zu voreingenommenen Ergebnissen führen, die Menschen aus weniger privilegierten Hintergründen benachteiligen. Diese Tools werden auf vergangenen voreingenommenen Einstellungstrends und -praktiken trainiert, daher können sie unbeabsichtigt Diskriminierung fortsetzen, selbst wenn Faktoren wie Rasse und Geschlecht explizit ausgeschlossen sind. Während es Hype um KI-Rekrutierungstools gibt, warten viele Personalabteilungen darauf, dass diese ihre Wirksamkeit und Fairness beweisen, bevor sie sie vollständig übernehmen.