Comment l’UE veut lutter contre les effets pervers de l’intelligence artificielle

En septembre 2017, le président russe Vladimir Poutine affirmait à propos de l’Intelligence artificielle que « celui qui deviendra le leader dans ce domaine sera le maître du monde. » De fait, les grandes puissances sont toutes très actives sur ce secteur, à commencer par la Chine et les États-Unis. L’Union européenne veut aussi aller de l’avant, mais elle sait aussi les potentielles dérives qui pourraient être associées à ce type de technologies et entend poser certaines limites.

C’est en ce sens que la Commission présentera le 21 avril prochain son projet de régulation de l’intelligence artificielle. Politico s’est procuré en avant-première ce document qui pourrait encore évoluer d’ici la semaine prochaine. Il comprend des mesures très fermes qui, sans contenter tout le monde, feraient du vieux continent un précurseur, tout en bénéficiant des bienfaits économiques et sociaux que pourraient apporter l’IA.

Bannissement des systèmes de crédits sociaux et encadrement de la reconnaissance faciale

En clair, et pour ne citer que quelques exemples fournies par nos confrères, si un système permet de modéliser le changement climatique, ou de rendre le réseau énergétique plus efficace, il est évidemment le bienvenu. Mais les algorithmes utilisés pour les recrutements, évaluer la solvabilité d’une personne, distribuer des prestations sociales, ou encore prendre des décisions judiciaires, seront par principe considérés comme à haut risque et feront l’objet d’un examen bien plus approfondi.

Plusieurs autres applications potentielles de l’intelligence artificielle sont dans le viseur des autorités européennes. Les systèmes de crédit sociaux qui permettent de juger de la fiabilité d’une personne en fonction de son comportement social ou des traits de sa personnalisé seront formellement interdits. Les IA « qui causent du tort aux personnes en manipulant leur comportement, leurs opinions, ou leurs décisions » seront également bannies.

L’UE ne ferme en revanche pas totalement la porte aux systèmes d’identification biométrique à distance. La reconnaissance faciale sera toutefois encadrée et soumise à une autorisation spéciale. Politico affirme que cette mesure est destinée à apaiser des pays comme la France qui sont tentés d’intégrer ces dispositifs dans leur arsenal de sécurité.

Des amendes salées en cas de non-respect des règles

L’annonce devrait toutefois déplaire aux nombreux groupes de défense des droits civils et numériques qui militent pour une interdiction de la surveillance biométrique de masse en Europe. Une pétition a même été lancée en février dernier à ce sujet et a déjà obtenu plus de 46 000 signatures.

Afin de s’assurer de l’application de ces nouvelles règles, la Commission prévoit des sanctions assez fermes pour les entreprises récalcitrantes. Elles pourraient en effet se voir appliquer une amende allant jusqu’à 20 millions d’euros ou 4 % de leur chiffre d’affaires.

Ce nouveau corpus réglementaire fonctionnerait un peu la manière du RGPD. Ainsi, les États membres seraient tenus de créer des comités d’évaluation nationaux afin de tester et valider les systèmes d’IA considérés comme à haut risque. L’ensemble serait supervisé par un comité européen de l’Intelligence artificielle qui partagerait les meilleures pratiques. Il comprendrait un représentant par pays de l’UE, le contrôleur européen de la protection des données, et un représentant de la Commission.

À noter que les députées européens sont également très mobilisés sur ce dossier. La commission de la culture et de l’éducation du Parlement s’est prononcée en faveur d’une résolution visant à encadre l’intelligence artificielle. L’objectif est de « réduire les préjugés de genre, sociaux ou culturels dans ces technologies ».

En janvier dernier, une autre réunion a été consacrée à ce sujet par des parlementaires du Vieux continent. Une des intervenantes, Francesca Lagioia, chercheuse à Institut universitaire européen, a parfaitement résumé les enjeux : « L’IA offre certainement de grandes opportunités aux individus et aux sociétés mondiales en ce qui concerne la durabilité et la possibilité d’accroître les connaissances. Mais cela implique également des risques importants, comme par exemple le chômage, la discrimination et l’exclusion. »