Amazon a avorté un projet de recrutement par intelligence artificielle. La raison ? Cette dernière avait des tendances sexistes à cause des préjugés des recruteurs humains.

Logo AmazonSelon un rapport de Reuters, le géant du commerce Amazon vient de mettre à terme à un projet internet de recrutement de personnel à l’aide d’une intelligence artificielle.

Le souci de l’intelligence artificielle, c’est que bien souvent, ces dernières se basent sur des bases de données existantes, autrement dit d’origine humaine. Cela implique que l’IA imite le comportement humain, jusque dans ses défauts. C’est ce qui vient de se produire pour Amazon, entreprise de la tech, secteur largement dominée par des hommes. Dans le cas présent, l’intelligence artificielle a suivi cette tendance en pénalisant tous les curriculums vitae contenant le mot « femme ».

L’Intelligence Artificielle reproduit les préjugés des recruteurs

L’équipe à l’origine du projet avait pour intention d’accélérer et d’améliorer  le processus d’embauche. « Ils voulaient littéralement qu’il s’agisse d’un moteur auquel on donne 100 curriculums vitae, qu’il sélectionne les cinq meilleurs, et nous les embauchons« , a déclaré une source anonyme à Reuters. Lorsque les ingénieurs se sont aperçus de ce favoritisme, ils ont rapidement modifié les paramètres de l’algorithme pour éliminer ce critère de sélection sexiste. Le souci, c’est qu’ils n’avaient aucune certitude que d’autres critères basés sur des préjugés n’entraient pas en compte. Ils ont donc décidé de mettre un terme au projet.


> Lire aussi :  De douteux « ambassadeurs » d’Amazon vantent leurs conditions de travail sur Twitter

Une autre source explique à The Verge que le programme n’a été utilisé que dans le cadre d’essais. Cette source anonyme affirme également que le projet a été abandonné pour diverses raisons et pas seulement pour ce critère de sélection sexiste, qui avait été corrigé. Des déclarations qui viennent corréler les informations précédentes.

Ce qui est certain, c’est que ces comportements déviants de l’IA proviennent des humains. Les algorithmes ne font que perpétuer les préjugés présents dans nos sociétés. 

Les réserves des chercheurs sur les dangers les tendances biaisées des intelligences artificielles se sont faites nombreuses ces dernières années. Les tendances sexistes et racistes des intelligences artificielles ne sont d’ailleurs pas nouvelles, notamment en matière de reconnaissance faciale. D’ailleurs, Amazon avait déjà face à un problème de la sorte où son intelligence artificielle confondait criminels et politiciens

Malgré cela, Amazon ne semble pas abandonner son idée, puisque Reuters rapporte que l’entreprise serait en train de mettre au point un nouvel outil de recrutement à base d’intelligence artificielle, avec cette fois « un accent sur la diversité« .

> Lire aussi :  Philips, Echo, Netgear… les promos continuent sur la maison connectée chez Amazon

Source