IBM abandonne la reconnaissance faciale pour lutter contre le racisme

IBM a annoncé qu’elle renonçait à développer des technologies de reconnaissance faciale pour des usages généraux, craignant son utilisation pour promouvoir la discrimination et l’injustice raciales.

« IBM s’oppose fermement à l’utilisation de toute technologie de reconnaissance faciale – y compris proposée par d’autres fournisseurs – pour la surveillance de masse, le profilage racial, les violations des droits de l’homme et des libertés fondamentales, ou tout autre objectif qui n’est pas conforme à nos valeurs et à nos principes de confiance et de transparence », écrit Arvind Krishna, PDG d’IBM, dans une lettre au Congrès ce lundi.

« Nous pensons qu’il est temps d’entamer un dialogue national sur la question de savoir si et comment la technologie de reconnaissance faciale doit être utilisée par les services répressifs nationaux », ajoute-t-elle. « L’intelligence artificielle est un outil puissant qui peut aider les forces de l’ordre à assurer la sécurité des citoyens. Mais les sous-traitants et les utilisateurs des systèmes d’IA ont une responsabilité partagée de s’assurer que l’IA est testée pour les biais et les particularités de son utilisation par les forces de l’ordre, et que ces tests sont vérifiés et signalés. »

Encadrer l’utilisation de ces technologies

Dans sa lettre, Arving Krishna demande également au Congrès d’introduire une politique nationale visant à encourager l’utilisation de technologies telles que les caméras corporelles et l’analyse des données, afin d’apporter une plus grande transparence et une plus grande responsabilité dans le maintien de l’ordre.

Une poignée de villes américaines ont déjà interdit l’utilisation des technologies de reconnaissance faciale. L’année dernière, San Francisco, Oakland et San Diego faisaient partie de ces villes qui ont interdit cette technologie, invoquant ses limites et un manque de normes concernant son utilisation, ajoutant qu’elle favorise également les préjugés potentiels contre les minorités.

Au début de cette année, l’idée d’interdire l’utilisation de la technologie de reconnaissance faciale dans les lieux publics était également un sujet pour l’Union européenne. Comme l’a rapporté Reuters, elle envisageait d’interdire la reconnaissance faciale dans les lieux publics – y compris les parcs, les lieux touristiques et les installations sportives – pour une durée de cinq ans, afin de donner aux responsables politiques le temps d’élaborer une législation visant à prévenir ses abus.

Source : ZDNet.com