Comment ça marche · L'IA · Recommander · module en construction

Les IA qui recommandent

Mis à jour le . Ce sujet évolue vite (procédures européennes contre les plateformes, recherche sur les effets) : vérifie s'il y a du nouveau depuis cette date.

La vidéo suivante, le morceau d'après, l'article en haut du fil : quelqu'un a choisi pour toi. Ce quelqu'un est un programme, qui optimise un objectif fixé par une entreprise. Note des vidéos, regarde le modèle découvrir des goûts cachés, change ce qu'il optimise, et observe les boucles qu'il peut créer.

Choisis ton niveau et ta façon de lire : tu peux en changer à tout moment.

Étape 0 : Les gens qui te ressemblent

Le système ne sait rien des vidéos : ni leur sujet, ni leur contenu. Il sait seulement qui a donné quelle note à quoi. Pour te recommander quelque chose, il cherche les personnes qui ont noté comme toi les vidéos que vous avez toutes les deux vues, puis regarde ce qu'elles ont aimé d'autre. Attention : deux personnes qui n'ont que deux vidéos en commun peuvent sembler identiques par hasard.

🟢 Découverte

Note quelques vidéos. Le système cherche les personnes qui ont noté comme toi, et te propose ce qu'elles ont aimé. Il ne sait rien du contenu des vidéos.

🟡 Curieux

C'est le filtrage collaboratifFiltrage collaboratif — Méthode de recommandation fondée sur les goûts d'autres personnes : on te propose ce qu'ont aimé celles et ceux qui ont aimé les mêmes choses que toi, sans analyser le contenu lui-même. : « les personnes qui ont aimé ceci ont aussi aimé cela ». Il marche sans comprendre les vidéos, mais il a besoin de beaucoup de notes. Une nouvelle vidéo que personne n'a encore vue ne peut pas être recommandée : c'est le problème du « démarrage à froid ».

🔴 Ingénieur

La ressemblance est la corrélation de Pearson des notes sur les vidéos vues par les deux personnes. La note prédite est ta moyenne, corrigée par la moyenne pondérée des écarts des 3 personnes les plus proches. Avec deux vidéos seulement en commun, la corrélation vaut souvent ±1 par hasard : les vrais systèmes pénalisent ces ressemblances peu sûres.

Un peu d'histoire

En 1992, chez Xerox PARC, le système Tapestry laisse chaque membre d'une équipe annoter les messages lus ; les filtres des autres s'en servent. Ses auteurs appellent cela « filtrage collaboratif » : des gens qui s'aident à trier en notant ce qu'ils lisent. En 1994, GroupLens (MIT et université du Minnesota, avec Paul Resnick, John Riedl et leurs collègues) calcule automatiquement des notes prédites pour les messages des forums Usenet, en partant d'une idée simple : les personnes qui étaient d'accord hier le seront probablement demain.

Au MIT Media Lab, Pattie Maes et Upendra Shardanand lancent Ringo, ouvert au public le 1er juillet 1994. On lui écrit par e-mail, et il recommande des albums et des artistes. Plus de 2 000 personnes l'ont utilisé. En 2003, Amazon décrit sa variante, qui compare les produits entre eux plutôt que les client·es : « les gens qui ont acheté ceci ont aussi acheté cela ».

Idées reçues

« Le système sait de quoi parle la vidéo. » Pas forcément. Le filtrage collaboratif ne regarde que les notes et les clics. Les plateformes y ajoutent aujourd'hui des informations sur les contenus (sons, hashtags, légendes), mais ce qui compte le plus, selon elles, reste ce que les gens font.

Étape 1 : Des goûts cachés

On place chaque vidéo et chaque personne sur une carte, au hasard. La note prédite dépend de leur position : une personne aime les vidéos qui sont « dans sa direction ». À chaque erreur, on déplace un peu tout le monde. Après l'entraînement, les vidéos de cuisine, de sciences et de musique se regroupent d'un côté, le sport, les jeux et l'humour de l'autre : le modèle a découvert seul des « goûts cachés », à partir des notes. C'est la méthode qui a dominé le prix Netflix (2006-2009).

🟢 Découverte

Le modèle place chaque vidéo et chaque personne sur une carte, puis les déplace pour que les notes prédites ressemblent aux vraies. Entraîne-le et regarde les vidéos se ranger.

🟡 Curieux

Personne ne lui a dit qu'il existe de la cuisine ou du sport : il découvre des « goûts cachés » dans les notes. Les plateformes utilisent des centaines de ces dimensions, et ajoutent tout ce qu'elles savent : ce que tu regardes jusqu'au bout, ce que tu passes, l'heure, l'appareil.

🔴 Ingénieur

Factorisation de matrice : note ≈ μ + bu + bi + pu · qi, avec des vecteurs p et q de dimension 2, appris par descente de gradient stochastique avec régularisation. La matrice des notes, presque vide, est approchée par le produit de deux matrices fines. Les systèmes actuels utilisent des réseaux de neurones, mais l'idée des « plongements » est la même.

Un peu d'histoire

En 2006, Netflix publie plus de 100 millions de notes de films, données par environ 500 000 abonné·es rendu·es anonymes, et promet un million de dollars à qui réduira de 10 % l'erreur de son propre algorithme. Plus de 48 000 équipes de 182 pays téléchargent les données. Le prix est remis le 21 septembre 2009 à l'équipe BellKor's Pragmatic Chaos, qui mélange plus de cent méthodes ; au cœur de la solution, la factorisation de matrice, défendue notamment par Yehuda Koren.

Mais deux chercheurs, Arvind Narayanan et Vitaly Shmatikov, montrent que ces données « anonymes » ne le sont pas : avec huit notes et leurs dates approximatives, on reconnaît 99 % des abonné·es. En croisant avec des critiques publiées sous leur nom sur un autre site, ils retrouvent des personnes et devinent leurs opinions politiques. Après une action en justice et des échanges avec l'autorité américaine de protection des consommateur·rices (FTC), Netflix renonce en 2010 à un second concours.

Idées reçues

« Mes notes de films, ce n'est pas une donnée personnelle. » Le prix Netflix a montré le contraire : quelques notes et leurs dates suffisent souvent à reconnaître quelqu'un, et elles en disent long sur ses goûts et ses opinions.

Étape 2 : Ce qu'on optimise

Une plateforme doit choisir ce qu'elle cherche à maximiser : le plaisir que tu dis prendre, le nombre de clics, le temps passé… Dans cette simulation, on suppose que les vidéos qui misent sur l'émotion forte retiennent un peu plus longtemps, même quand elles plaisent moins. Si l'on classe le fil pour maximiser le temps passé, ces vidéos montent en tête, même chez quelqu'un qui préfère la cuisine et les sciences. Le choix de l'objectif change ce que l'on voit.

🟢 Découverte

Un système de recommandation ne cherche pas « ce qui est bien pour toi ». Il maximise un objectif choisi par l'entreprise. Fais glisser le curseur et regarde ton fil changer.

🟡 Curieux

Ce qui se mesure facilement (clics, temps passé, partages) devient l'objectif, même si ce n'est qu'une approximation de ce qu'on veut vraiment. Une vidéo peut retenir l'attention sans faire plaisir. Les plateformes ajustent régulièrement leurs objectifs, et disent chercher un équilibre.

🔴 Ingénieur

Dans la simulation, score = w · temps + (1 − w) · satisfaction, avec des modèles inventés des deux. Dans la réalité, le classement combine plusieurs prédictions (probabilité de clic, durée de visionnage, de partage, de signalement…) pondérées par l'entreprise. Ces pondérations sont rarement publiques.

Un peu d'histoire

En 2016, des ingénieurs de YouTube expliquent que leur modèle classe les vidéos selon le temps de visionnage attendu, et non selon la probabilité de clic : classer par clics favorise les vidéos trompeuses qu'on ne regarde pas jusqu'au bout, les « pièges à clics ». En 2021, YouTube dit tenir compte aussi de sondages (« cette vidéo valait-elle le temps passé ? ») et avoir réduit en 2019 la recommandation de contenus « limites ».

En janvier 2018, Facebook annonce favoriser les messages qui suscitent des « interactions significatives » entre les gens. En 2021, le Wall Street Journal publie des documents internes : un « j'aime » valait 1 point, une réaction 5, un commentaire ou un partage 30, et une note interne parle d'« effets secondaires malsains » sur l'actualité et la politique. Pour la lanceuse d'alerte Frances Haugen, ces choix « attisent la division ». Meta répond que le journal a choisi des citations hors contexte et que le classement n'est pas la source des divisions du monde.

Chez Netflix, environ 80 % des heures regardées viennent d'une recommandation, selon un article de l'entreprise (2015), qui estime qu'elles lui évitent plus d'un milliard de dollars de désabonnements par an.

Idées reçues

« L'algorithme veut nous rendre accros. » Un programme ne veut rien : il maximise l'objectif chiffré qu'on lui a donné. C'est le choix de cet objectif, fait par l'entreprise, qui compte, et c'est lui que les autorités examinent.

Étape 3 : La boucle de popularité

Douze morceaux, de qualités voisines (le n° 1 est un peu meilleur que le n° 2, et ainsi de suite). Quand chaque auditeur choisit sans voir ce que les autres écoutent, l'un des meilleurs morceaux gagne presque toujours, et les écarts restent modérés. Quand le classement des plus écoutés est affiché et influence les choix, les premiers succès attirent encore plus d'écoutes : les écarts deviennent énormes, et le gagnant change d'une fois à l'autre, selon les hasards du début.

🟢 Découverte

Quand on montre aux gens ce qui est déjà populaire, ça le rend encore plus populaire. Compare deux mondes : avec et sans classement visible.

🟡 Curieux

Un succès précoce, même dû au hasard, attire plus d'écoutes, donc plus de recommandations, donc plus d'écoutes. Les écarts se creusent, et ce qui gagne dépend en partie de la chance. Les systèmes de recommandation entraînés sur ce que les gens ont déjà cliqué peuvent renforcer ces boucles.

🔴 Ingénieur

Simulation : chaque auditeur choisit un morceau avec une probabilité proportionnelle à sa qualité, mélangée (à 95 %) avec sa part des écoutes passées. L'inégalité est mesurée par l'indice de Gini (0 : tous égaux ; 1 : un seul prend tout).

Un peu d'histoire

En 2006, les sociologues Matthew Salganik, Peter Dodds et Duncan Watts créent « MusicLab », un faux site de musique : 14 341 participant·es écoutent et téléchargent des chansons inconnues. Certain·es voient combien de fois chaque chanson a été téléchargée, d'autres non, et chaque groupe forme un « monde » séparé. Résultat : plus l'influence sociale est forte, plus le succès est inégal et imprévisible. Les meilleures chansons font rarement un flop, les pires rarement un tube, mais entre les deux, tout est possible.

MusicLab n'est pas un système de recommandation, mais il montre le mécanisme qu'un tel système peut amplifier. Des chercheur·ses parlent de « biais de popularité » : ce qui a déjà été beaucoup noté reçoit beaucoup d'exposition, et les goûts minoritaires sont moins bien servis.

Idées reçues

« Si c'est en tête, c'est que c'est le meilleur. » Pas forcément : un classement mesure aussi ce qui a eu de la chance au début, et ce que le classement lui-même a déjà mis en avant.

Étape 4 : Une bulle autour de toi ?

🟢 Découverte

Si le fil ne te montre que ce qui te ressemble, finis-tu enfermé·e dans une bulle de filtreBulle de filtre — Expression d'Eli Pariser (2011) : à force de personnaliser ce qu'elles montrent, les plateformes ne nous présenteraient que ce qui nous ressemble. Les recherches discutent de l'ampleur de l'effet et de la part de l'algorithme par rapport à nos propres choix. ? La question est sérieuse, et les recherches ne donnent pas une réponse simple. Elles distinguent ce que l'algorithme choisit, ce que nous choisissons nous-mêmes, et l'effet sur nos opinions.

🟡 Curieux

L'expression vient du militant américain Eli Pariser (2011). Sur Facebook, plusieurs grandes études trouvent que nos propres choix (amis, clics) limitent la diversité de ce qu'on lit plus que l'algorithme (2015). En 2023, des expériences sur plusieurs dizaines de milliers de volontaires, pendant l'élection américaine de 2020, ont remplacé le fil classé par un fil chronologique, ou réduit les contenus « de son camp » : sur trois mois, aucun effet mesurable sur la polarisation. Mais une autre étude du même projet montre une forte séparation des informations politiques selon le camp, et la plupart des fausses informations repérées circulent dans un coin lu presque uniquement par des conservateur·rices.

Ces études ont des limites : elles ont été menées avec Meta, qui fournissait les données (dans Science, le politiste Michael W. Wagner parle d'« indépendance sur autorisation ») ; elles portent sur les États-Unis et sur trois mois ; et des chercheur·ses ont relevé que Facebook avait changé son algorithme en urgence pendant l'étude. Sur YouTube, une équipe dont fait partie l'informaticien brésilien Virgílio Almeida (université fédérale du Minas Gerais) a observé en 2019 des glissements de public vers des chaînes de plus en plus extrêmes ; des études plus récentes trouvent que, depuis les changements de 2019, les recommandations seules poussent plutôt vers des contenus moins partisans, et que les contenus extrémistes sont surtout recherchés par un petit groupe déjà convaincu.

🔴 Ingénieur

Mesurer l'effet d'un algorithme est difficile : on ne peut pas comparer la même personne avec et sans lui. D'où les expériences contrôlées (fil modifié pour un groupe tiré au sort, comme en 2023) et les « robots contrefactuels » : des comptes automatiques qui suivent exactement les recommandations, comparés à des comptes qui imitent un vrai historique (YouTube, 2024). Chaque méthode a ses angles morts : durée courte, volontaires, accès accordé par l'entreprise, algorithme qui change entre deux études.

Un peu d'histoire

Recommandation et santé mentale des jeunes : le débat n'est pas tranché. En mai 2023, le médecin-chef des États-Unis estime qu'on ne peut pas conclure que les réseaux sociaux sont suffisamment sûrs pour les enfants. D'autres chercheuses et chercheurs, comme Candice Odgers ou Amy Orben et Andrew Przybylski, trouvent surtout des liens faibles : chez plus de 350 000 jeunes, l'usage du numérique expliquerait au plus 0,4 % des différences de bien-être, et ce sont peut-être les jeunes qui vont déjà mal qui utilisent davantage ces plateformes.

En France, la commission « Enfants et écrans » (avril 2024) présente les deux camps. Elle juge les réseaux sociaux un facteur de risque supplémentaire chez les jeunes déjà vulnérables, rappelle que l'« addiction aux écrans » n'est pas reconnue comme telle par la science, et demande que les risques d'enfermement des « bulles algorithmiques » soient davantage pris en compte.

Qui décide ?

En Europe, le règlement sur les services numériques (DSA, 2022) encadre les recommandations :

  • toute plateforme doit expliquer, « dans un langage simple et compréhensible », les principaux critères de ses recommandations, et les options pour les modifier (art. 27) ;
  • elle doit protéger les mineur·es, et ne peut pas leur montrer de publicité fondée sur le profilage (art. 28) ;
  • les très grandes plateformes doivent proposer au moins une option « qui ne repose pas sur du profilage » (art. 38), et évaluer les risques liés à la conception de leurs recommandations (art. 34 et 35).

État au 16 octobre 2026. La Commission européenne a publié des conclusions préliminaires sur la « conception addictive » de TikTok (6 février 2026), puis d'Instagram et de Facebook (10 juillet 2026), en visant notamment leurs systèmes de recommandation très personnalisés. Les entreprises peuvent répondre : aucune décision finale n'a été prise.

En France, la loi du 7 juillet 2023 sur la « majorité numérique » n'a jamais été appliquée : la Commission européenne l'a jugée contraire au droit de l'Union. En 2026, le Parlement a voté l'interdiction des réseaux sociaux avant 15 ans, mais le Conseil constitutionnel a censuré cet article le 14 août 2026 (atteinte disproportionnée à la liberté d'expression, vérification d'âge sans garanties suffisantes pour la vie privée). Les associations de défense des libertés, comme La Quadrature du Net, s'opposaient à cette interdiction ; ses partisan·es y voyaient une protection nécessaire. Le gouvernement prépare une nouvelle rédaction.

Idées reçues

« Les bulles de filtre, c'est prouvé » / « C'est un mythe. » Ni l'un ni l'autre. La séparation des informations selon les opinions existe ; ce qu'on discute, c'est la part de l'algorithme et son effet sur ce que pensent les gens. Les études récentes trouvent peu d'effet de l'algorithme seul, sur des périodes courtes et surtout aux États-Unis.

Reprendre la main

Tu ne peux pas lire le code des plateformes, mais tu peux agir sur ce qu'elles savent de toi et sur ce qu'elles optimisent.

Ce que tu peux fairePourquoi ça marche
Choisir le fil « non personnalisé » ou « abonnements » quand il existeEn Europe, les très grandes plateformes doivent proposer une option sans profilage (DSA, art. 38). Chez TikTok, selon l'entreprise, ce fil montre des vidéos populaires près de chez toi et dans le monde, et le fil des abonnements est chronologique.
Lire « Pourquoi je vois ceci ? » et les conditionsLes plateformes doivent expliquer les principaux critères de leurs recommandations (art. 27). Ce sont leurs explications : elles disent ce qu'elles veulent bien dire.
Mettre en pause ou effacer ton historiqueLe filtrage collaboratif se nourrit de ce que tu regardes. YouTube permet de suspendre, modifier ou supprimer l'historique de visionnage et de recherche.
Signaler « pas intéressé·e », chercher toi-même, t'abonnerSelon TikTok (2020), aimer, partager, suivre et regarder jusqu'au bout sont les signaux qui comptent le plus. Tes gestes sont le seul « réglage » que le modèle voit.

Les recommandations reproduisent aussi les déséquilibres de leurs données. En 2021, Andrés Ferraro, Xavier Serra et Christine Bauer ont étudié un algorithme classique de recommandation musicale, sur les écoutes publiques du site Last.fm : un quart des artistes écouté·es étaient des femmes, et la première femme n'apparaissait en moyenne qu'en 7e ou 8e position des recommandations. En simulation, faire remonter un peu les artistes femmes suffisait à inverser la boucle : l'algorithme se mettait à les recommander de lui-même. Ce qu'on optimise, et pour qui, reste un choix.