Je reposte ici un billet de blog que j’ai écrit sur le blog d’Ethique Sphère :
Le monde de la recommandation [Réflexion faite]
Pinterest, Netflix, Instagram, TikTok, Facebook, Twitter, ont tous un point commun : lequel ?
Ce sont des plateformes qui possèdent un algorithme et qui reposent désormais sur la recommandation alors même qu’au départ, chacune de ces applications n’était pas aussi développée du point de vue de ce phénomène technologique. Mais vous allez me dire : qu’y a-t-il de mauvais là-dedans ?
La recommandation par algorithme a au départ pour objectif l’amélioration des performances de certaines actions lors de l’utilisation : baisser la durée de présence sur un site pour aller plus efficacement au produit et consommer, améliorer le panier moyen et raccourcir les délais de recherches pour aller d’un point A à un point B sur internet, etc.
Tout cela a été automatisé pour vous mais probablement que vous ne vous en êtes pas rendu compte car l’application semble être votre deuxième cerveau. L’application SAIT ce que vous aimez et ce que vous n’aimerez pas. Mais j’ai trouvé plusieurs biais gênants à ces recommandations :
– L’algorithme User-based est un peu l’équivalent du bouche à oreille par exemple, plus des personnes suivent les mêmes personnes ou les mêmes marques, plus ces personnes et marques vous serons recommandées dès lors que vous en aimez 2 ou 3 de semblables. LinkedIn fonctionne sur ce schéma grâce au système de réseau et vous place même dans une hiérarchie verticale du réseau. Cet algorithme pose problème parce qu’il est basé sur des recommandations qui vous placent dans un groupe qui ne vous laissera jamais aller voir ceux et celles qui ne vous ressemblent pas. Vous allez me dire que c’est ce que vous voulez, sauf que rester dans un seul groupe sans opinions et goûts différents revient à manquer d’analyse pour appréhender le monde et cela pousse les gens à être moins tolérants envers les opinions divergentes et les différences idéologiques ou conceptuelles. Vous restez donc coincé.e.s dans une centralité qui ne vous fait jamais aller voir à la marge de votre propre centre, vous ne faites pas de pas de côté, vous ne décentrez pas le regard.
Vous êtes comme une saucisse dans un hot dog.
User-based
– d’un autre côté il y a les recommandations Item-based qui posent bien plus de problèmes car le premier critère de ressemblance identifié ici n’est plus basé sur les utilisateurs mais sur la ressemblance esthétique ou physique (couleur, style, tendance). C’est ce qui amène à avoir des fils Instagram monotones, entièrement faits de photos d’influenceuses blanches et bronzées en maillot de bain arborant une palette de maquillage ou bien un fil uniquement composé d’influenceurs cultivés penchés sur des livres ou sur leur tablette (devinez quel est le produit ?).
Quand vous commencez à utiliser une application comme Twitter ou Instagram, l’algorithme vous propose d’abord un User-based algorithm parce que la plateforme ne sait pas encore qui vous êtes (à part votre âge et si vous êtes un homme, une femme ou non-genré). Le site vous suggère alors de suivre les 100 comptes les plus suivis et probablement que parmi ceux-là vous trouvez Lady Gaga, Reuters, Bill Gates, Elon Musk et Beyoncé. Par la suite, plus vous utiliserez l’application, plus on vous enverra vers du contenu semblable au vôtre d’un point de vue physique (même type de photographie, de textes ou de liens partagés, etc.). Si comme moi vous partagez beaucoup de livres et de plantes vous savez ce qui vous arrivera…
– Ajoutez à cela le content-based qui est une recommandation fondée sur la ressemblance sans prise en compte de l’utilisateur. Par exemple si vous faites une recherche par mots clés, c’est le contenu qui compte. Les hashtags et le SEO (Search Engine Optimization) jouent beaucoup dans tout ce processus indolore. Si vous avez aimez des vidéos de chatons, l’algorithme ne vous montrera pas que des vidéos de chatons mais aussi des gifs, des images fixes et du texte concernant nos amis félins.
Le monde de la recommandation n’est pas franchement bon pour le cerveau. Si je prends l’exemple de ce que je fais comme travail de recherche pour ma thèse, je m’attends à ce que le système n’exclut aucun contenu pour moi, car tout est important et c’est ensuite à moi de faire le tri par analyse.
Comment vous devriez penser
Si ma thèse était basée sur un système de recommandations User-item-content based, ma thèse ressemblerait à toutes les autres thèses, elle aurait un biais subjectif, et elle serait critiquable parce qu’elle reposerait sur un contenu qui ne met jamais en lumière les paradoxes et les contradictions.
Un monde sans contradiction… c’est pas banal. Comme le produit, vous le savez, c’est vous, l’algorithme va tout faire pour vous simplifier le chemin (et vous simplifier la vie apparemment).
L’algorithme de recommandation finira toujours par choisir le chemin le plus direct et simple vers un produit et vous empêchera de trop tergiverser et de prendre des routes de traverse, même si ce produit ne vous correspond pas personnellement, mais qu’il correspond à la majorité des consommateurs et consommatrices sur le même site.
Hop. Direct au panier.
C’est comme cela qu’on se retrouve à sans cesse regarder la même chose sur Netflix ou YouTube. C’est aussi pour cela que l’algorithme fait de très grosses erreurs.
Comme je le fais souvent remarquer, ma page YouTube pense que je suis plutôt genrée masculine parce qu’elle me propose du contenu sur des voitures de courses, des jeux vidéo que je déteste, ou des commentaires de match de foot, tout ça parce que je suis beaucoup de contenu geek (codeurs, youtubeurs tech masculins, twitcheurs et gameurs, etc.).
L’un des pires modèles de recommandation reste Amazon. Ce dernier est centré sur le nombre d’avis déposés pour un produit ou sur du sponsoring (annonces payantes). Amazon a permis à des sites web comme TripAdvisor ou Airbnb de classer les produits selon le nombre d’avis déposés (négatifs ou positifs). Un avis, en soi, c’est informatif, sauf que sur internet cela a un effet pervers : le nombre de faux avis a bondi depuis des années, on ne peut même plus se fier aux avis vérifiés. De la même manière que vous pouvez acheter des followers ou des likes, beaucoup de vendeurs ont recours à l’achat d’avis. C’est un vrai marché de la recommandation.
Finalement, comment sortir de ce cercle vicieux ? Paramétrez vos options de confidentialité à zéro. Empêchez l’algorithme de retenir ce que vous préférez. Lisez les avis mais soyez vigilants et croisez les sources. Nettoyez vos préférences et vos cookies. Quand vous allez sur l’application YouTube ou Netflix, ne regardez pas vos fils de recommandations mais les fils d’actualités ou passez par la barre de recherche directement pour rester dans l’intentionnalité et la conscientisation de sa recherche.
Si vous êtes sur Instagram et Twitter, ne regardez pas non plus la page recommandation, concentrez-vous sur votre propre audience ou vos propres connaissances.
Il y a des applications ou cela ne fonctionnera pas, par exemple Tiktok mais vous pouvez toujours faire la démarche de vous désabonner et de supprimer l’application 😉
Passez par des articles de comparatifs, des articles de blog qui vous font des recommandations, passez par le vrai bouche à oreille, passez par des livres, faites des choix sans algorithmes !
– Pour Éthique Sphère
Laisser un commentaire