L’Unesco tire la sonnette d’alarme sur les défis de l’intelligence artificielle
Les 193 Etats membres de l’Unesco ont adopté hier un cadre normatif sur l’éthique de l’intelligence artificielle.
Ce volet éthique, l’Unesco n’est pas la seule à en faire son cheval de bataille. L’OMS milite aussi pour mettre plus d’éthique dans l’IA, tandis que le gouvernement français a fait de l’IA responsable et frugale l’un des volets de son plan stratégique pour former plus de talents en intelligence artificielle. La France est d’ailleurs impliquée depuis quelques années aux côtés du Canada pour travailler sur des standards internationaux autour de l’IA responsable.
Malgré cela, moins de la moitié (48 %) des entreprises qui ont réussi à déployer l’IA dans l’ensemble de l’organisation l’ont fait avec une IA responsable, souligne une étude du Boston Consulting Group. Les spécialistes s’interrogent sur le décalage entre le foisonnement des modèles d’IA et la difficulté d’avoir des datasets qui soient « plus inclusifs et le plus divers posssible », pour reprendre les mots de Léa Samarji, spécialiste de l’IA éthique chez Avanade.
Le texte de l’Unesco énonce un certain nombre de valeurs et de principes qui « guideront la mise en place de l’infrastructure nécessaire pour assurer un développement sain de l’IA », précise un communiqué de presse. Ce texte vise en outre à assurer la transparence et l’intelligibilité du fonctionnement des algorithmes, afin que les Etats membres puissent s’en inspirer dans leurs législations nationales.
Trois années pour parvenir à un texte
L’Unesco tire la sonnette d’alarme sur les défis de l’IA, comme « l’augmentation des préjugés sexistes et ethniques, des menaces qui pèsent sur la vie privée, la dignité et la capacité d’agir, des dangers de la surveillance de masse et de l’utilisation accrue de technologies de l’IA peu fiables dans l’application de la loi ».
Témoignant de l’absence de « norme universelle » jusqu’alors, l’organisation mondiale avait commencé à travailler sur ce sujet de l’éthique depuis 2018, sous la supervision d’Audrey Azoulay, directrice générale de l’Unesco.
« Le monde a besoin de règles pour que l’intelligence artificielle profite à l’humanité. La recommandation sur l’éthique de l’IA est une réponse fore. Elle fixe le premier cadre normatif mondial tout en donnant aux Eats la responsabilité de l’appliquer à leur niveau. L’Unesco soutiendra ses 193 Etats membres dans sa mise en oeuvre et leur demandera de rendre compte régulièrement de leurs progrès et de leurs pratiques » a déclaré Audrey Azoulay.
Haro sur la surveillance de masse
L’Unesco a rédiger des chapitres politiques orientés vers l’action sur la gouvernance des données, l’éducation, la culture, le travail, les soins de santé et l’économie. Le texte aborde un certain nombre de principes – comme la sûreté, l’équité, la durabilité ou encore la non-discrimination – auxquels les Etats membres sont invités d’adhérer.
En matière d’usage de l’IA dans l’espace public, l’Unesco interdit formellement l’utilisation des systèmes d’IA pour la « notation sociale et la surveillance de masse ».
Tout un pan de texte est aussi consacré aux enjeux environnementaux. L’Unesco conseille aux créateurs de modèles d’IA de privilégier les méthodes d’IA « économes en données, en énergie et en ressource ».
Pour que ces propositions soient suivies d’effets, l’Unesco recommande aux Etats membres de mettre en places des méthodes d’évaluation de l’impact éthique de la technologie. Selon l’organisation, cet outil de méthodologie permettrait d’analyser « les avantages et les risques des systèmes d’IA et les questions qu’ils soulèvent », et offrirait « des mesures appropriées de prévention, d’atténuation et de suivi des risques, entre autres mécanismes de certification ».
