ChatGPT fortement limité en Italie

ChatGPT fortement limité en Italie

L’agence italienne de protection des données italienne, l’équivalent de la Cnil au pays du Chianti, a annoncé vendredi avoir  ouvert une enquête sur le chatbot ChatGPT d’OpenAI. OpenAI est soupçonné par l’autorité transalpine d’avoir enfreint les règles de collecte de données avec son application d’intelligence artificielle rapporte Reuters.

L’agence accuse également ChatGPT, qui bénéficie du soutien financier de Microsoft, de ne pas avoir vérifié l’âge de ses utilisateurs. L’application est censée être réservée aux personnes âgées de 13 ans et plus. L’agence a aussi indiqué avoir provisoirement restreint l’utilisation par le chatbot des données personnelles des utilisateurs italiens. L’agence italienne allègue “l’absence de toute base juridique justifiant la collecte et le stockage massifs de données à caractère personnel afin d'”entraîner” les algorithmes qui sous-tendent le fonctionnement de la plateforme”.

« L’Italie prend une excellente mesure assure Stéphane Roder, CEO d’AI Builders. ChatGPT est malheureusement utilisé dans beaucoup d’entreprise sur des documents internes qui sont de fait directement envoyés dans ChatGPT qui les ingère et est en mesure de les ressortir pour un autre usage sur une autre demande en dehors de l’entreprise sans que celle-ci n’ait aucun moyen de contrôle ». Il assure avoir observé le cas d’une grande banque d’affaire dont les informations issues de ses documents sont ressorties dans des requêtes externes à l’entreprise.

publicité

“Les informations fournies par ChatGPT ne correspondent pas aux données réelles, ce qui conduit à un traitement inexact des données à caractère personnel”

“De plus, comme en témoignent les vérifications effectuées, les informations fournies par ChatGPT ne correspondent pas toujours aux données réelles, ce qui conduit à un traitement inexact des données à caractère personnel” mentionne l’autorité qui précise par ailleurs que “ChatGPT a subi une perte de données le 20 mars dernier concernant les conversations des utilisateurs et les informations relatives au paiement des abonnés au service payant”.

« Il faut absolument en faire de même en France complète Stéphane Roder. Veiller à utiliser des LLM européens comme Lighton ou Aleph Alfa, utiliser des jeux de données de pré entrainement conforme à notre éthique, notre culture, nos lois et mettre en place dans les entreprises des règles strictes de partage des données internes avant de rouvrir ce type de service au grand public sans barrière de sécurité ».

OpenAI, qui n’a pas de bureau dans l’Union Européenne mais a désigné un représentant dans l’Espace économique européen, doit communiquer dans les 20 jours les mesures qu’elle a prises pour donner suite à la demande de la Cnil italienne, sous peine d’une amende pouvant aller jusqu’à 20 millions d’euros ou jusqu’à 4 % du chiffre d’affaires annuel mondial précise l’autorité.

L’application grand public à la croissance la plus rapide de l’histoire

Depuis son lancement ChatGPT suscite un grand engouement. Ses rivaux lancent des produits similaires, à commencer par Google Bard.

Selon une étude d’UBS publiée le mois dernier, l’application aurait atteint 100 millions d’utilisateurs actifs mensuels en janvier, deux mois seulement après son lancement, ce qui en fait l’application grand public à la croissance la plus rapide de l’histoire.

Cette semaine, Europol a mis en garde contre l’utilisation potentiellement abusive du chatbot dans les tentatives d’hameçonnage, la désinformation et la cybercriminalité, ajoutant sa voix à d’autres qui s’inquiètent de problématiques juridiques, éthiques, et de sécurité informatique posées par cette nouvelle technologie.

Leave a Reply

Your email address will not be published. Required fields are marked *