L’OMS milite pour mettre plus d’éthique dans l’IA

Spread the love
L'OMS milite pour mettre plus d'éthique dans l'IA

Selon un nouveau guide publié par l’Organisation mondiale de la santé (OMS), l’utilisation de données dans un contexte de soins de santé ne donnerait pas d’aussi bons résultats dans des contextes où les revenus sont faibles ou intermédiaires, par comparaison aux endroits où les revenus sont élevés.

« Les systèmes d’IA doivent être soigneusement conçus pour refléter la diversité des contextes socioéconomiques et sanitaires. Les systèmes basés principalement sur les données des individus des pays à revenu élevé peuvent ne pas être pertinents pour les individus des milieux à revenu faible ou intermédiaire », écrit l’organisation dans son rapport Ethique et gouvernance de l’intelligence artificielle pour la santé.

« Les investissements des pays dans l’IA et l’infrastructure d’appui devraient donc contribuer à la mise en place de systèmes de soins de santé efficaces en évitant que l’IA ne code des biais préjudiciables à la fourniture et à l’accès équitable aux services de santé », estime l’OMS. Et d’ajouter que si des « mesures appropriées » ne sont pas prises lors du développement de solutions de soins de santé basées sur l’IA, il pourrait en résulter « des situations où les décisions sont transférées à des machines, portant ainsi atteinte à l’autonomie humaine ».

publicité

Vers une IA plus éthique

Le rapport publié par l’OMS est le fruit de 18 mois de consultations entre un groupe d’experts en éthique, en technologie numérique, en droit et en droits humains. Et si tous sont d’accord pour estimer que l’IA a un énorme potentiel pour aider à améliorer les soins de santé, les systèmes d’IA doivent nécessairement prendre en compte les considérations éthiques et les droits humains avant toute prise de décisions.

« Comme toutes les nouvelles technologies, l’intelligence artificielle recèle un énorme potentiel pour améliorer la santé de millions de personnes dans le monde, mais comme toutes les technologies, elle peut aussi être mal utilisée et causer des dommages », explique le directeur général de l’organisation, Tedros Adhanom Ghebreyesus.

Pour ce dernier, l’IA pourrait potentiellement améliorer le diagnostic et les soins cliniques, renforcer la recherche en santé et le développement de médicaments et aider au déploiement de différentes interventions de santé publique, telles que la surveillance des maladies, la réponse aux épidémies et la gestion des systèmes de santé. L’utilisation d’outils basés sur l’IA pourrait en outre aider les gouvernements à étendre les services de soins de santé aux populations mal desservies, à améliorer la surveillance de la santé publique et à permettre une meilleure prise en charge des patients.

Eviter les biais

L’OMS a élaboré six principes qui doivent servir de base aux pouvoirs publics et aux entreprises. Il s’agit notamment de :

  • permettre aux humains d’être autonomes par rapport aux systèmes de santé et aux décisions médicales tout en veillant à la protection de leur vie privée et de la confidentialité ;
  • préserver le bien-être et la sécurité des humains ;
  • veiller à la transparence du développement, de la conception et du déploiement des technologies d’IA ;
  • concevoir l’IA pour la santé de manière à encourager l’inclusion et l’équité ;
  • veiller à ce que les applications de l’IA soient réactives et durables ;
  • veiller à ce que les parties prenantes impliquées dans la conception, le développement et le déploiement des technologies d’IA assument leurs responsabilités et rendent des comptes.

En fin d’année dernière, le Forum économique mondial a publié un rapport expliquant en détail comment les organisations peuvent adopter une approche éthique de la conception des technologies et de leur utilisation responsable. Le rapport détaillait trois principes de conception pouvant être intégrés pour promouvoir un comportement éthique lors de la création, du déploiement et de l’utilisation des technologies.

Ces principes comprennent l’attention portée en temps opportun sur les implications éthiques de la technologie en sensibilisant par le biais de la formation et des canaux de communication internes, en développant des “nudges” organisationnels tels que des listes de contrôle et en utilisant des rappels de diligence raisonnable, et en intégrant les valeurs et l’éthique dans la culture de l’entreprise.

Source : ZDNet.com

Leave a Reply