Les activités de contrôle, terrain de déploiement privilégié de l’IA publique

Les systèmes d’intelligence artificielle ont pris une bonne place dans les activités de contrôle, d’enquête et de sanction exercées par les forces de l’ordre et les administrations publiques, selon le Conseil d’Etat.

Dans une récente étude sur l’IA publique, rédigée à la demande du gouvernement, la plus haute juridiction administrative déclare que les systèmes d’IA offrent « d’importantes potentialités pour la détection des infractions, des manquements et des menaces (…), la conduite des investigations ainsi que l’organisation de la réponse préventive et répressive ».

Si le Conseil d’Etat mesure le risque d’utiliser cette technologie sans garde-fou, il note en revanche que le recours à des systèmes d’IA peut « restaure(r) une efficacité réelle des autorités de contrôle ».

La chasse aux fraudes, la quête du ROI

Face à l’ampleur des données à traiter, la Direction générale des finances publiques (DGFIP) a fait parler d’elle très récemment avec son projet « Foncier innovant ». Il vise à détecter des bâtiments ou des aménagements (comme des piscines) non déclarés.

LA DGFIP travaille sur cette technique de détection de la fraude depuis 2017. Le dispositif de détection des piscines a d’ores et déjà permis de récolter 10 millions d’euros et va être généralisé à toute la France à partir de septembre.

Quand il s’agit de détecter des fraudes, le retour sur investissement de la technologie est assez évident, ce qui explique en partie son engouement, note le Conseil d’Etat. Parmi les autres usages  « avancés » de la sphère économique, le rapport mentionne le service de renseignement « Tracfin », piloté par Bercy, pour lutter contre les circuits financiers clandestins, le blanchiment d’argent et le financement du terrorisme.

Beaucoup d’attentes

Certains acteurs publics utilisent les données en libre accès pour signaler les abus et les infractions. C’est le cas notamment du ministère de l’Agriculture, qui identifie les établissements « à risque sanitaire potentiel » en épluchant automatiquement les avis laissés par les internautes sur internet. Le Conseil d’Etat évoque également le cas des autorités de concurrence, qui envisagent de recourir à des systèmes d’IA pour « détecter et qualifier des ententes par collusion algorithmique, qui peuvent prendre les formes les plus diverses, d’un contrôle automatisé des prix pratiqués au sein d’un système organisé à la fourniture par un même prestataire du même algorithme à des concurrents permettant un alignement tarifaire ».

Mais l’usage le plus controversé de l’IA, et aussi le plus largement répandu, reste « la prévention des troubles à l’ordre public et l’identification de suspects dans l’espace public par la reconnaissance biométrique », déclare le Conseil d’Etat. On parle là d’outils permettant notamment d’identifier les comportements suspects par l’exploitation de flux de données, la détection de menaces terroristes ou encore la diffusion de fausses informations par ou pour le compte de puissances étrangères avec le service Viginum.

Bien que répandus, ces systèmes d’IA sont encore peu efficaces, estime toutefois le Conseil d’Etat. L’autorité plaide pour qu’une stratégie nationale de l’IA publique soit adoptée, avec des « garde-fous » à la hauteur du potentiel de la technologie.