En 2014, Amazon a voulu automatiser ses recrutements grâce à la mise en place d’une intelligence artificielle (IA) secrète. Malheureusement, le géant a dû l’abandonner car elle discriminait les femmes.
L’automatisation est le principe central de la stratégie d’Amazon, ce qui lui permet sa domination dans le e-commerce. Il était donc logique pour le groupe de se tourner vers l’automatisation de leurs recrutements.
Le programme servait le processus de recrutement d’Amazon en attribuant à chaque candidat une note d’une à cinq étoiles. Or, il se trouve que le système donnait des notes moins bonnes aux candidates pour des postes de développeurs web ou autres fonctions techniques.
Cela s’explique tout simplement par l’algorithme qui utilise le « machine learning ». L’IA va donc se baser sur des données pré-existantes pour prendre des décisions par reproduction. Or, les données utilisées étaient celles des recrutements effectués sur les dix dernières années, par des êtres humains, pour des postes largement représentés par les hommes.
De ce fait, tout CV mentionnant une université non-mixte ou contenant des mots comme femme ou féminin (exemple capitaine de football féminin) recevait automatiquement une moins bonne note.
Selon Reuters, le programme n’était qu’un test et a subi des modifications lors de la découverte du biais sexiste. Cependant, Amazon a préféré s’en séparer à la fin de l’année 2017, n’étant pas certain de l’absence de discrimination par le système.
Cet incident réveille les inquiétudes sur l’intelligence artificielle. L’apprentissage automatique (machine learning) a ses limites et la présence de l’Homme reste toujours indispensable aujourd’hui. Pourtant, les entreprises continuent à développer leur propre intelligence artificielle. Son intégration dans le recrutement est inévitable, mais quand sera-t-elle réellement prête ?