Gros carton des chatbots érotiques sur le GPT Store

Dès l’ouverture du GPT Store d’OpenAI, qui donc s’est précipité sur cette nouvelle place de marché ? Des chatbots susceptibles d’enfreindre les CGU, dont des bots conçus pour avoir des conversations érotiques.

J’ai donc entré le mot clé “petite amie” dans le GPT Store et j’ai trouvé 11 chatbots avec qui discuter. D’autres mots-clés, tels que “boyfriend” et “lover”, ont fait apparaître d’autres chatbots aux fonctions évidemment similaires.

J’ai essayé Judy, le chatbot “petite amie” le plus populaire en ce moment sur le store. Actuellement, Judy compte un peu plus de 1 000 utilisateurs. Lorsque je me suis connecté avec Judy, j’ai été confronté à des questions de base telles que “À quoi ressemble la femme de vos rêves ?” et “Partage ton secret le plus osé”.

Des règles très floues

J’ai également consulté un chatbot appelé “My Tiefling Girlfriend”. J’ai vu défiler des questions comme “Vos sous-vêtements sont-ils troués ?” et “Racontez-moi vos expériences avec vos anciennes petites amies”.

Le GPT Store n’autorise pourtant pas les chatbots de ce type. Selon les Open AI Rules, la création et la distribution de chatbots conçus pour faciliter des conversations inappropriées ou effectuer des activités réglementées sont interdites. Cette règle a été créée peu après le lancement du GPT Store.

Et Judy et d’autres chatbots sont fortement susceptibles d’enfreindre cette règle. Bien entendu, OpenAI n’a pas clairement défini les activités soumises à la réglementation. La société n’a pas non plus précisé les sanctions encourues en cas de violation de la réglementation. Cela signifie qu’il n’existe aucun moyen de sanctionner les créateurs de ces outils.

Certains estiment cependant qu’il n’est pas souhaitable de réglementer trop strictement le GPT Store. “Le GPT Store n’en est qu’à ses débuts”, explique un ancien juge interrogé à ce sujet, “et ce problème sera temporaire”.

“La première étape consiste à augmenter le nombre d’utilisateurs et à procéder à une évaluation et à recueillir les commentaires des utilisateurs”, poursuit-il, ajoutant qu'”il est possible que l’autorégulation se produise au sein du GPT Store”.

Pour aller plus loin sur le GPT Store

Source : “ZDNet Korea”