Tik Tok ne lit pas vos pensées, il les crée
Tik Tok ne lit pas dans les pensées, mais le New York Times voudrait vous faire croire le contraire.
Dans un article du 5 décembre, est décrit une fuite de document que le Times a obtenu qui révèle les algorithmes censés être utilisés pour stimuler l’engagement sur Tik Tok. Bien qu’il y ait déjà eu des discussions sur les algorithmes de Tik Tok, l’article affirme que le document divulgué “offre un nouveau niveau de détail sur le fonctionnement de l’algorithme”.
L’article comporte plusieurs omissions. L’une d’entre elles est l’absence d’explication sur la manière et la raison pour laquelle l’algorithme conduit à une consommation particulière de contenu. Si l’algorithme semble attribuer des notes aux vidéos en fonction de paramètres tels que les “j’aime”, les commentaires et le temps de lecture, il n’est pas question de la fonction que la vidéo cherche à optimiser, comme l’engagement total (heures passées), par exemple, ou la diffusion totale du contenu vidéo, sa qualité “virale”.
Plus révélateur encore, l’article du Times utilise un langage trompeur commun dans les discussions médiatiques sur l’intelligence artificielle, attribuant des choses telles que l'”esprit” et le désir à ce qui n’est qu’une simple boucle de rétroaction technique.
Le titre de l’article, “How TikTok Reads Your Mind”, est suivi de références à la manière dont l’algorithme détecte l’intention des gens :
Le document offre un nouveau niveau de détail sur l’application vidéo, fournissant un aperçu révélateur à la fois du noyau mathématique de l’application et de la compréhension de la nature humaine par l’entreprise – nos tendances à l’ennui, notre sensibilité aux signaux culturels – qui aident à expliquer pourquoi il est si difficile d’y renoncer.
Cependant, rien sur la nature humaine n’est révélé dans la discussion de l’algorithme en question. L’algorithme, basé sur le document, semble être un calcul très simple de facteurs comme suit :
Plike X Vlike + Pcomment X Vcomment + Eplaytime X Vplaytime + Pplay X Vplay
Les expressions “like”, “comment”, “playtime” et “lu ou non” sont vraisemblablement des références aux différents paramètres attribués aux vidéos. L’article n’explique pas le “P”, le “V” ou le “E”, bien qu’il soit sous-entendu dans l’article que P représente une prédiction “pilotée par l’apprentissage automatique”, sans plus de précision.
En tant que tel, l’algorithme résume les métriques prédites du contenu, indépendamment de la mentalité humaine.
La société d’intelligence artificielle DeepLearning.AI, fondée par le chercheur Andrew Ng, a publié la semaine dernière l’article dans la lettre d’information de la société, TheBatch. L’article suggère que le “V” pourrait signifier “valeur”, c’est-à-dire un poids appliqué à chacune des mesures en fonction de leur importance dans le score final.
Organigramme d’un prétendu algorithme de recommandations utilisé par Tik Tok, tel que reproduit par le New York Times à partir d’un document interne.
Malgré les omissions, il est clair que le système ne prédit pas la mentalité, il met vraisemblablement en correspondance des éléments de contenu avec des résultats prédits en termes de visionnages et/ou d’engagement probables.
Présumer qu’il existe un esprit dans l’utilisateur qui exprime ses préférences en cliquant, comme l’article, est une conjecture qui peut ne pas être étayée par les faits. En termes statistiques, le fait qu’une machine puisse lire l’esprit d’un utilisateur impliquerait la notion d’un “antérieur” : quelque chose qui existe avant une mesure. Cependant, ce qui est révélé comme un esprit, sous la forme d’une préférence exprimée, est en réalité la notion statistique opposée, un “postérieur”, quelque chose qui n’existe qu’après la mesure.
Il semble plus probable que l’esprit soit quelque chose de déduit après coup, si tant est qu’il ait un sens. Considérons le système qui constitue Tik Tok. Les utilisateurs peuvent télécharger et visionner diverses vidéos de format court. Au fur et à mesure que les utilisateurs soumettent des vidéos et les consomment, d’autres vidéos de ce type leur sont présentées. Dans une mer de vidéos, un individu clique ou ne clique pas, s’engage ou ne s’engage pas.
Quelle que soit la mentalité ou les émotions de l’utilisateur, elles ne sont pas pertinentes, car le système ne demande pas d’idées volontaires. On demande plutôt à l’utilisateur de répondre à une série limitée de choix, et le système s’améliore de plus en plus, vraisemblablement, pour stimuler cette activité de manière répétitive, ce qui conduit à un nombre de plus en plus élevé d’utilisateurs actifs quotidiens qui, selon le Times, est maintenant de l’ordre d’un milliard et devrait atteindre 1,5 milliard en 2022.
Tout cela suggère que Tik Tok est au mieux une machine comportementale très efficace, une machine à façonner le comportement sur Tik Tok, plutôt qu’un dispositif de lecture des pensées.
En poussant l’analyse plus loin, les études sur Tik Tok dans la littérature académique suggèrent une vision très mitigée de l’algorithme à l’œuvre.
Dans certains cas, l’algorithme de l’entreprise ne fonctionne pas seulement pour propager des choses qui pourraient être populaires, mais aussi pour donner une exposition à des choses qui pourraient ne pas être aussi populaires.
Par exemple, deux chercheurs de Carnegie-Mellon, Daniel Le Compte et Daniel Klug, ont interviewé cette année des militants qui utilisent Tik Tok pour présenter des vidéos destinées à attirer l’attention sur des causes sociales. Ils ont rapporté que les activistes ont exprimé une préférence pour Tik Tok par rapport aux autres médias sociaux parce que leurs vidéos étaient plus largement visionnées que sur les autres plateformes :
Certains participants ont noté que l’utilisation de TikTok aide à faire passer leur message au-delà de leur propre “cercle” : “Certains participants ont fait remarquer que l’utilisation de TikTok les aidait à diffuser leur message au-delà de leur propre “cercle” : “J’ai donc pu cibler mon public plutôt que, euh, Facebook, où il n’y a que des amis d’amis ou des membres de la famille que l’on rencontre dans la vie réelle.
Si Tik Tok peut faire circuler des choses qui vont au-delà de ce pour quoi une personne exprime une préférence, il semble également vrai que l’activité de Tik Tok se concentre sur des choses que des groupes de personnes approuvent en grand nombre, indépendamment de ce qu’un individu peut ressentir ou penser à leur sujet.
Une étude réalisée en 2019 par des chercheurs de l’Université de technologie électronique de Guilin, en Chine, et de l’Université d’Oslo, en Norvège, a examiné le nombre de vues et d’appréciations des vidéos Tik Tok. Les auteurs ont conclu que la plupart de ce qui est diffusé est ce qui a été “aimé” par les utilisateurs :
En particulier, le nombre de vues et le nombre d’appréciations ont un coefficient de corrélation très élevé de 0,91, ce qui signifie qu’une vidéo qui est populaire en termes de nombre de vues est très probablement populaire en termes de nombre d’appréciations et vice versa.
Encore une fois, le fait de montrer continuellement aux utilisateurs de plus en plus de choses qu’on leur a déjà montrées et sur lesquelles ils ont cliqué est une question de boucle de rétroaction technique, et non un cas de lecture des pensées.
Une troisième étude, réalisée cette année par des chercheurs de l’université de Boston, de l’université de Binghamton et de l’University College de Londres, amène à se demander si le “moteur” de recommandation de Tik Tok fait vraiment quelque chose. L’étude a examiné 400 vidéos Tik Tok dans le but de “comprendre les indicateurs permettant de rendre une courte vidéo virale”.
Les auteurs ont étiqueté les vidéos en fonction de dix facteurs différents susceptibles d’affecter la virulence, ou, comme ils l’appellent, la “viralité”, c’est-à-dire la propension d’une vidéo à être “aimée” par les utilisateurs. Ces facteurs allaient du fait que le créateur de la vidéo était “populaire”, c’est-à-dire qu’il avait un grand nombre d’adeptes, au style de la vidéo, comme l’utilisation de la fonction “duos” dans Tik Tok pour remixer la piste de danse de quelqu’un d’autre, et au contenu émotionnel, entre autres.
Les auteurs ont également cherché à mesurer le rôle de l’algorithme de recommandation à côté de ces autres facteurs. Pour ce faire, ils ont noté dans quelle mesure les vidéos utilisaient les hashtags pertinents pour leur promotion, et depuis combien de temps une vidéo était dans le système, étant donné que les vidéos virales ont tendance à le devenir peu de temps après leur mise en ligne.
Les auteurs ont ensuite utilisé tous ces facteurs dans une variété de modèles d’apprentissage automatique et de statistiques très simples qui peuvent classer les choses, notamment Random Forest, Support Vector Machines, Logistic Regression, Gaussian Bayesian et Decision Trees.
Le résultat ? Leurs classificateurs, à des degrés divers, ont pu “identifier les caractéristiques les plus importantes qui permettent de distinguer les vidéos virales des vidéos non virales”. Le facteur principal, ont-ils constaté, est la popularité du créateur. Le deuxième facteur le plus important était la présence ou non de gros plans dans la vidéo, une conclusion qui “correspond à des études antérieures sur les mèmes d’images suggérant que les mèmes très viraux sont plus susceptibles d’utiliser une échelle de gros plans ou de plans moyens”.
Ainsi, la popularité renforce la popularité, et les gens réagissent aux gros plans. Rien de tout cela n’est une lecture des pensées. Pendant ce temps, le système de recommandation, ils ont trouvé, avait la valeur la plus faible comme un prédicteur de la viralité.
“Les caractéristiques de RH2 (système de recommandation) ont la plus faible AUC [aire sous la courbe] parmi les trois RH [hypothèses de recherche], aussi faible que 0,71”, écrivent-ils. “En fait, la précision obtenue sur ces caractéristiques est également assez faible (0,56), ce qui suggère qu’elles ne sont pas un bon prédicteur de la viralité d’une vidéo.”
Les auteurs notent également, de manière anecdotique, la popularité des vidéos de chats.
Les études suggèrent donc que Tik Tok peut chercher à imposer certaines vidéos à ses utilisateurs sans tenir compte de leur désir ou de leur mentalité, mais qu’une grande partie de l’activité de Tik Tok est un concours de popularité et une mentalité de troupeau assez évidents. Rien de tout cela n’équivaut à une lecture des pensées.
Au contraire, les recherches suggèrent que Tik Tok peut façonner les attitudes mentales en renforçant les tendances dominantes du comportement de groupe, par exemple en répondant aux “créateurs” populaires qui dominent déjà la consommation de médias.
En d’autres termes, Tik Tok joue un rôle plus important dans la création de mentalités que dans la lecture des esprits.
Plutôt que de spéculer sur la lecture des esprits, il convient de garder à l’esprit certains aspects fondamentaux des médias sociaux, dont Tik Tok, qui n’ont rien à voir avec les esprits ou les mentalités.
Premièrement, les activités sur les médias sociaux pourraient probablement être prises en charge par des machines. Regarder des vidéos et les “aimer” sont des activités qui relèvent bien de l’automatisation des logiciels. Par conséquent, l’idée que quelque chose doit avoir un esprit pour participer n’est pas pertinente.
Deuxièmement, les médias sociaux sont une machine conçue pour produire un signal clair dans le bruit. La préférence, l’intérêt ou la mentalité de chacun n’ont rien à voir avec l’objectif de la machine, qui est de classer les comportements dans des catégories claires.
Enfin, aucun individu ne possède une identité ou une mentalité sur les médias sociaux. Ce que l’on appelle sa personnalité, son esprit, son identité, ne sont que des illusions, la conséquence d’un nom attaché à des activités qui sont stockées dans une base de données.
À toutes fins utiles, les gens n’existent pas sur les médias sociaux, même s’ils passent du temps – beaucoup de temps – à les utiliser. Par conséquent, pas de personne, pas d’esprit.
Source : “ZDNet.com”
