Le succès de ChatGPT va t-il enfoncer l’IA dans un monde de secrets ?
Le programme d’intelligence artificielle le plus important au monde à l’heure actuelle provient d’une entreprise qui, contrairement à beaucoup de ses pairs, ne publie pas son code source.
ChatGPT, créé par OpenAI, n’est pas disponible sur GitHub. Les sources de ChatGPT, et les programmes GPT ne sont pas non plus aisément accessibles. Et mardi de cette semaine, l’entreprise a franchi une étape importante en refusant même de divulguer les détails techniques de la dernière version de son moteur, GPT-4.
Le manque de transparence de ChatGPT et de GPT-4 constitue une rupture avec la pratique courante dans le domaine de l’apprentissage profond (Deep Learning). Car les chercheurs en IA, tant dans les universités que dans les entreprises, ont eu tendance jusqu’alors à publier leur code, en suivant la tradition des logiciels libres.
publicité
La nature fermée de ChatGPT pourrait devenir la norme en matière d’IA
La nature fermée de ChatGPT pourrait devenir la norme en matière d’IA et avoir des implications éthiques, avertit le pionnier de l’IA Yoshua Bengio, directeur scientifique de l’institut canadien MILA pour l’IA. “Le mode de pensée académique des chercheurs qui étaient dans les universités et qui sont passés à l’industrie a changé la culture pour apporter plus d’esprit open source, de partage et de collaboration”, dit-il.
“Mais les pressions des marchés vont probablement pousser dans une direction différente, a ajouté Bengio, vers le secret. Ce qui est mauvais pour des raisons éthiques, mais aussi pour le progrès technologique”.
M. Bengio a été invité à participer à une conférence par the Collective[i] Forecast, qui se présente comme “une plateforme d’intelligence artificielle conçue pour optimiser les ventes B2B”. A la question de savoir s’il était encore possible pour les chercheurs d’avoir un cadre éthique dans la recherche sur l’IA, compte tenu de l’énorme potentiel commercial de ChatGPT, M. Bengio a dit qu’ils “continueront à faire de la science ouverte et à partager leur travail, car cela fait partie de leur modèle”.
La publication d’articles de recherche est primordiale
Il est moins évident, selon lui, que la recherche industrielle s’en tienne à la cela. D’une part la recherche en entreprise était “beaucoup plus secrète” avant que l’IA ne pointe le bout de son nez, a déclaré M. Bengio. “Et je me demande en regardant la ruée vers l’or qui est susceptible de se produire dans l’IA, suite au succès de ChatGPT, si nous allons conserver cette culture ouverte dans l’industrie ?”
La publication d’articles de recherche est primordiale, a déclaré M. Bengio, car l’IA progresse grâce à un effort collectif “de pollinisation croisée entre les laboratoires”.
“Ce sont des systèmes compliqués”, a déclaré M. Bengio à propos des grands modèles de langage tels que le GPT-4. “Nous construisons notre code à partir du code des autres, et nous construisons également à partir des idées qui sont écrites et évaluées dans des articles scientifiques partout dans le monde – nous nous appuyons sur les progrès des uns et des autres. Il y a des brevets, mais, en réalité, ce qui compte, c’est ce que l’on trouve dans ces articles”.
Faire prendre conscience au monde entier des promesses et des risques de l’IA
Les petites entreprises, a observé M. Bengio, sont généralement plus disposées à prendre des risques avec des logiciels non testés, car “c’est le jeu des affaires”. Il faisait allusion à des programmes tels que ChatGPT qui, dans certains cas, ont produit des résultats que certains utilisateurs ont jugés “troublants”, suggérant qu’ils n’étaient pas tout à fait au point.
“Mais aujourd’hui, des entreprises comme Google, Microsoft et d’autres se sentent obligées de se lancer dans la course au secret”, a-t-il ajouté. “L’une des préoccupations est donc de savoir s’ils vont faire aussi attention à ce qu’ils diffusent”.
Yann LeCun, qui a reçu avec Bengio le prix Turing en 2019 pour ses travaux sur l’IA, exprime des préoccupations similaires. Dans un tweet du 17 février, LeCun, qui est scientifique en chef pour l’IA chez Meta, a écrit que Facebook AI Research a joué un rôle clé dans l’ouverture de la recherche et du développement en matière d’IA. “D’autres ont suivi” dit-il aussi. “Du moins pendant un certain temps. Aujourd’hui, OpenAI, DeepMind, & peut-être même Google publient et open-sourcent clairement moins. Quelles seront les conséquences sur les progrès de la science et de la technologie de l’IA ?”
Selon M. Bengio, la publication de ChatGPT peut avoir un effet positif en faisant prendre conscience au monde entier des promesses et des risques de l’IA. “Ce que j’apprécie dans le cirque médiatique autour de ChatGPT, c’est qu’il s’agit d’une sonnette d’alarme”, a déclaré Bengio. “Je pense que les gens ont vu les progrès de l’IA au cours des années précédentes et que de nombreuses entreprises et de nombreux gouvernements ont pensé que quelque chose était en train de se passer et que les techniciens faisaient leur travail, sans se rendre compte que des systèmes très puissants étaient sur le point de voir le jour”.
Source : “ZDNet.com”
