IBM fait pression pour que les Etats-Unis limitent l’usage de la reconnaissance faciale

Le sujet de la reconnaissance faciale fait plus que jamais débat. Alors que de plus en plus de GAFAM font marche arrière sur cette technologie, des failles apparaissent au grand jour, mettant en lumière les enjeux d’ordre éthique et juridique qui en découlent. Même Palantir, l’allié technologique des agences gouvernementales, admet que l’IA peut très certainement engendrer des biais algorithmiques, et qu’une vigilance de tous les instants s’impose.

IBM, qui s’est rallié à la cause des “anti”, a demandé au département américain du Commerce de limiter l’exportation de systèmes de reconnaissance faciale, en particulier vers des pays qui pourraient potentiellement l’utiliser pour la surveillance de masse, le profilage racial ou d’autres violations des droits de l’Homme.

Dans une lettre adressée au ministère, IBM a souligné la nécessité de renforcer les contrôles à l’exportation des technologies de reconnaissance faciale qui utilisent ce qu’elle appelle la correspondance “one-to-many”. Ces suggestions comprennent le contrôle d’une part de l’exportation des caméras à haute résolution utilisées pour collecter les données, mais aussi des algorithmes logiciels utilisés pour les analyser et les comparer à une base de données d’images, ainsi que la restriction de l’accès aux bases de données d’images en ligne qui peuvent être utilisées pour former les systèmes de reconnaissance faciale de type “one-to-many”.

« Ces systèmes sont distincts des systèmes de reconnaissance faciale “one-to-one”, comme ceux qui peuvent déverrouiller votre téléphone ou vous permettre de monter à bord d’un avion – dans ces cas, la reconnaissance faciale vérifie qu’une personne consentante est bien celle qu’elle dit être », explique Christopher Padilla, vice-président d’IBM chargé des affaires gouvernementales et réglementaires, dans un article de blog.

Limiter l’accès aux données

Mais, dans une application “one-to-many”, un système peut, par exemple, repérer un visage dans la foule en comparant une image à une base de données de plusieurs autres.

IBM souligne également la nécessité de former les systèmes uniquement sur les données fournies avec le consentement. « Les systèmes de reconnaissance faciale ne fonctionnent pas sans ces données. Contrôler l’accès à ces données à partir de sources en ligne pourrait être un moyen efficace de limiter certaines violations des droits de l’Homme. Limiter l’accès aux données de formation peut être une méthode efficace pour limiter la capacité d’un système de reconnaissance faciale à mener une surveillance de masse et à faire des comparaisons one-to-many », écrit la société.

IBM recommande également qu’un accord multilatéral soit introduit pour accroître la coopération mondiale afin de limiter la capacité des « régimes répressifs » à accéder à ces technologies.

Appel à un encadrement national plus strict

L’appel s’aligne sur la décision prise par la firme en juin d’abandonner son activité de reconnaissance faciale, craignant que sa technologie ne soit utilisée pour promouvoir la discrimination raciale et l’injustice. « IBM s’oppose fermement et ne tolérera pas l’utilisation de toute technologie, y compris la technologie de reconnaissance faciale proposée par d’autres fournisseurs, à des fins de surveillance de masse, de profilage racial, de violation des droits de l’homme et des libertés fondamentales, ou à toute autre fin qui ne serait pas conforme à nos valeurs et à nos principes de confiance et de transparence », écrivait alors Arvind Krishna, PDG d’IBM, dans une lettre adressée au Congrès.

Dans ce courrier, Arvind Krishna demandait aussi au Congrès d’introduire une politique nationale visant à encourager l’utilisation de technologies telles que les caméras corporelles et l’analyse des données, afin d’apporter une plus grande transparence et une plus grande responsabilité dans le maintien de l’ordre.

Quelques villes américaines ont déjà interdit l’utilisation de la technologie de reconnaissance faciale, notamment San Francisco, Oakland, San Diego, et plus récemment Portland, estimant que l’usage de cette technologie manquait encore de normes et de règles, et favorisait les préjugés potentiels contre les minorités.

Au début de cette année, l’idée d’encadrer plus strictement l’utilisation de la technologie de reconnaissance faciale était également une priorité pour l’Union européenne. L’UE envisageait d’interdire la reconnaissance faciale dans les lieux publics, y compris dans les parcs, les lieux touristiques et les installations sportives, pour une durée maximale de cinq ans, afin de donner aux responsables politiques le temps d’élaborer une législation visant à prévenir les abus.

En France, alors que cette technologie est toujours interdite, plusieurs villes l’ont pourtant déjà expérimenté pour accroître la sécurité des foules. Le gouvernement français s’intéresse aussi de près aux technologies de reconnaissance faciale. Rappelons qu’il est notamment question de coupler le lancement de cette technologie avec celui de l’outil controversé Alicem (pour “Authentification en ligne certifiée sur mobile”), qui doit fournir un outil de reconnaissance faciale compatible avec le système France Connect à l’horizon 2020.