 |
| Logo de la Data & Trust Alliance (source) |
Il y a quelques années déjà, des spécialistes de l'intelligence artificielle par apprentissage profond chez Amazon ont développé un système pour classer automatiquement les candidatures reçues pour les postes à combler dans l'entreprise. Rapidement, on s'est rendu compte que le système avait un biais systématique contre les femmes. Le système avait été entrainé avec des CV reçus par l'entrepise sur une période de 10 ans. Or, le personnel d'Amazon (comme beaucoup d'autre entreprises de haute technologie) est dominé par les hommes. L'algorithme avait "appris" que les femmes étaient moins désirables et pénalisait sytématiquement les candidatures qui contenait le mot "femme", ou même celles de candidates provenant d'universités réservées exclusivement aux femmes. Des corrections ont été apportés à l'algorithme, mais jugeant qu'il n'était pas possible de s'assurer de l'absence de discrimination, Amazon l'a finalement abandonné.
Cet incident illustre bien les écueils potentiel du recours à l'IA et aux systèmes décisionnels automatisés en embauche. Ces écueils ne sont pas suffisants pour que les entreprises abandonnent ce filon prometteur et des systèmes d'IA sont de plus en plus en plus utlisés par de nombreuses entrerprises pour classer et évaluer les candidatures reçues. En réponse à ce problème, une vingtaine de grandes entreprises se sont associées pour créer la Data and Trust Alliance. Cette organisation est dévouée à prévenir la discrimination et au biais dans les processus d'embauche, particulièrement par la création d'un programmes d'évaluation des algorithmes utlisés dans ces processus. On peut voir dans ce gest un signe de bonne volonté, mais aussi un désir de prévénir de couteuses poursuites pour discrimination, Ajoutons à cela, sans doute, une volonté de la part de l'industrie démontrer sa capacité à s'autoréguler alors que différents gouvernements signalent leur intention d'intervenir, au besoun.
Aucun commentaire:
Publier un commentaire