L'intelligence artificielle peut se montrer d'une aide précieuse dans toutes sortes de domaines… mais encore faut-il qu'elle soit bien « nourrie ». Ce n'était manifestement pas le cas du système développé par Amazon qui devait aider les ressources humaines du groupe à choisir les meilleurs profils. En 2014, une équipe du géant du commerce en ligne a développé une intelligence artificielle pour déterminer les CV les plus pertinents pour combler des emplois à compétences techniques ou de développeurs logiciel. Pour ce faire, le modèle sur lequel s'est appuyé le robot était composé des milliers de CV reçus par l'entreprise pour ces mêmes postes.
Selon une des sources citées par Reuters, l'équipe d'Amazon voulait faire en sorte que ce système puisse ingurgiter une centaine de CV et qu'elle détermine les cinq meilleurs à embaucher. Mais pas de femmes, donc… Même avec des CV anonymes, le robot pouvait détecter le genre d'un profil en analysant certaines informations spécifiques (« présidente du club d'échecs » comme hobby, par exemple). Les notes données aux CV, de une à cinq étoiles, étaient inférieures pour les femmes, qui étaient sanctionnées en raison d'un modèle misogyne.
En 2015, Amazon s'est aperçu de ce biais, qui a été corrigé. Mais cette intelligence artificielle n'a jamais servi, si ce n'est pour des essais. L'an dernier, le système a même été supprimé, d'ailleurs pas uniquement en raison de de la discrimination envers les femmes dont il s'était rendu coupable. L'expérience montre en tout cas à quel point le regard humain reste vital pour les ressources humaines, et pour bien d'autres aspects de la vie de l'entreprise.
Selon une des sources citées par Reuters, l'équipe d'Amazon voulait faire en sorte que ce système puisse ingurgiter une centaine de CV et qu'elle détermine les cinq meilleurs à embaucher. Mais pas de femmes, donc… Même avec des CV anonymes, le robot pouvait détecter le genre d'un profil en analysant certaines informations spécifiques (« présidente du club d'échecs » comme hobby, par exemple). Les notes données aux CV, de une à cinq étoiles, étaient inférieures pour les femmes, qui étaient sanctionnées en raison d'un modèle misogyne.
En 2015, Amazon s'est aperçu de ce biais, qui a été corrigé. Mais cette intelligence artificielle n'a jamais servi, si ce n'est pour des essais. L'an dernier, le système a même été supprimé, d'ailleurs pas uniquement en raison de de la discrimination envers les femmes dont il s'était rendu coupable. L'expérience montre en tout cas à quel point le regard humain reste vital pour les ressources humaines, et pour bien d'autres aspects de la vie de l'entreprise.