Comment ça marche · L'IA · module en construction

Les IA qui classent

Mis à jour le . Ce sujet évolue vite (calendrier du règlement européen sur l’IA) : vérifie s'il y a du nouveau depuis cette date.

Spam ou pas ? Fraude ou pas ? Candidature retenue ou non ? Beaucoup d'IA ne font qu'une chose : ranger des cas dans des cases. Entraîne toi-même un filtre anti-spam, puis regarde ce qui change quand ce qu'on classe, ce sont des personnes.

Choisis ton niveau et ta façon de lire : tu peux en changer à tout moment.

Étape 0 : Trier, c'est décider

Six courriels à trier, spam ou normal :

  • Un cadeau vous attend (de [email protected]) : « Cliquez ici pour recevoir votre cadeau gratuit, offre limitée. » — réponse : spam. Un cadeau gratuit, « cliquez ici », une offre limitée : tous les signaux classiques.
  • Votre relevé de compte (de [email protected]) : « Votre relevé du mois est disponible dans votre espace. Nous ne vous demanderons jamais votre mot de passe. » — réponse : normal. Une vraie banque peut écrire, et parler de mot de passe… pour dire qu’elle ne le demandera jamais.
  • Proposition de partenariat (de [email protected]) : « Bonjour, nous aimerions vous présenter une opportunité d’affaires. Pouvez-vous répondre à ce message ? » — réponse : spam. Pas de lien, pas d’argent, un ton poli : mais un inconnu qui propose une « opportunité d’affaires ». Les spams les plus habiles ressemblent à de vrais messages.
  • Votre colis arrive demain (de [email protected]) : « Votre colis sera livré demain entre 8 h et 12 h. Aucun frais à payer. » — réponse : normal. Un colis, une livraison… mais aucun frais à payer et aucun lien : c’est un vrai transporteur.
  • Compte suspendu (de [email protected]) : « Confirmez votre mot de passe et votre carte bancaire via ce lien, urgent. » — réponse : spam. Urgence, mot de passe, carte bancaire, lien : c’est de l’hameçonnage (phishing), un spam qui vole des informations.
  • Gagné ! (de [email protected]) : « On a gagné le match hier soir ! Tu viens fêter ça samedi ? » — réponse : normal. Le mot « urgence » ne suffit pas : c’est un collègue, dans tes contacts, qui demande une relecture.

🟢 Découverte

Avant de laisser une machine trier, trie toi-même. Pour chaque courriel, tu cherches des indices : qui écrit, ce qu'on te demande, le ton du message.

🟡 Curieux

Un classeur fait la même chose : il reçoit un cas, regarde des indices (on dit des « caractéristiques ») et le range dans une catégorie. Les catégories sont fixées à l'avance par des humains ; la machine apprend seulement à y ranger les cas, à partir d'exemples déjà triés. C'est de l'apprentissage supervisé. Le tri du spam est un gros travail : selon l'éditeur de sécurité Kaspersky, environ 45 % des courriels envoyés dans le monde en 2025 étaient du spam (une estimation d'entreprise privée, d'après ses propres capteurs).

🔴 Ingénieur

Formellement, un classeur est une fonction qui associe à un vecteur de caractéristiques une étiquette parmi un ensemble fini. Ici, deux étiquettes (classement binaire). Les caractéristiques d'un courriel peuvent être ses mots, son expéditeur, ses liens, ou des nombres appris par un réseau de neurones.

Un peu d'histoire

Le mot vient d'un sketch des Monty Python (BBC, 1970) : dans un café, presque tous les plats contiennent du Spam, une viande en conserve, et un chœur répète le mot jusqu'à couvrir la conversation. Les internautes l'ont repris pour les messages répétés à l'excès ; le dictionnaire Merriam-Webster en relève le premier emploi en ce sens en 1990.

Le plus ancien envoi publicitaire de masse connu sur un réseau date de mai 1978 : l'entreprise DEC invite plusieurs centaines d'utilisateurs de l'ARPANET à présenter un ordinateur. Le responsable du réseau y voit « une violation flagrante » de son usage. En 1994, la publicité de deux avocats, Canter et Siegel, envoyée sur Usenet, devient la plus célèbre des premières affaires de spam.

Étape 1 : Compter les mots

Le filtre a lu 24 courriels déjà triés (12 spams). Pour chaque mot, il a compté dans combien de spams et de courriels normaux il apparaît. « cliquez », par exemple, est huit fois plus fréquent dans ses spams : il pousse fortement vers « spam ». « réunion » pousse dans l'autre sens. Pour un nouveau courriel, il combine les indices de tous les mots et obtient une probabilité de spam.

🟢 Découverte

Ce filtre a lu 24 courriels déjà triés. Il a compté les mots de chaque catégorie. Écris un message : il te dit s'il y croit, et quels mots ont pesé. Tu peux aussi lui apprendre de nouveaux exemples.

🟡 Curieux

C'est un classifieur bayésien naïfClassifieur bayésien naïf — Méthode de classement qui compte, dans des exemples déjà triés, à quelle fréquence chaque indice (un mot, par exemple) apparaît dans chaque catégorie, puis combine ces indices avec la règle de Bayes. « Naïf » parce qu'il fait comme si les indices étaient indépendants les uns des autres.. Chaque mot apporte un indice : « cliquez » est huit fois plus fréquent dans ses spams que dans ses courriels normaux. Le filtre multiplie tous les indices. « Naïf », parce qu'il fait comme si les mots étaient indépendants : il ignore leur ordre et ne comprend pas la négation.

🔴 Ingénieur

Règle de Bayes : P(spam | mots) ∝ P(spam) × ∏ P(mot | spam). Chaque P(mot | spam) est estimée en comptant, avec un lissage de Laplace (+1) pour qu'un mot jamais vu ne donne pas une probabilité nulle. On additionne des logarithmes au lieu de multiplier, pour éviter des nombres trop petits. Les filtres modernes combinent ces indices avec bien d'autres : réputation de l'expéditeur, signatures techniques, réseaux de neurones.

Un peu d'histoire

La règle de Bayes porte le nom du pasteur anglais Thomas Bayes, mort en 1761. Son ami Richard Price fait publier son essai après sa mort, dans le volume de 1763 de la Royal Society. Le Français Pierre-Simon Laplace énonce la règle de façon générale en 1774, indépendamment, et c'est surtout sa version qu'on utilise. Laplace reconnaît lui-même l'antériorité de Bayes.

En 1961, M. E. Maron classe déjà des documents par probabilités, à partir de mots indices. En 1972, Karen Spärck Jones, à Cambridge, montre qu'un mot rare en dit plus qu'un mot fréquent, et le pèse davantage : cette pondération est encore au cœur des moteurs de recherche. Elle avait pour devise : « l'informatique est trop importante pour être laissée aux hommes ».

En 1998, Mehran Sahami, Susan Dumais, David Heckerman et Eric Horvitz, de Stanford et Microsoft Research, appliquent un classifieur bayésien naïf au courrier indésirable. En 2002, l'essai « A Plan for Spam » de Paul Graham fait connaître l'idée au grand public et aux logiciels libres.

Vérifie toi-même

Clique sur « Une vraie banque » : le filtre la soupçonne, à cause de « mot de passe ». Puis apprends-lui ce message comme normal, et réessaie.

Idées reçues

« Paul Graham a inventé le filtre anti-spam bayésien. » Il l'a popularisé et simplifié en 2002 ; l'équipe de Sahami et Dumais l'avait publié quatre ans plus tôt. Et la règle elle-même ne vient pas du seul Bayes : Laplace l'a généralisée.

Étape 2 : Le seuil : quelle erreur préfères-tu ?

Le filtre donne à chaque courriel une probabilité d'être un spam. Il faut choisir un seuil : au-dessus, le courriel part dans les indésirables. Avec un seuil bas, presque tous les spams sont bloqués, mais de vrais courriels aussi (faux positifs). Avec un seuil haut, on ne perd plus de vrais courriels, mais des spams passent (faux négatifs). Sur nos 24 courriels d'examen, à 50 % : 12 spams bloqués sur 12, mais 4 courriels normaux perdus ; à 99 % : aucun courriel normal perdu, mais 3 spams qui passent.

🟢 Découverte

Le filtre ne dit pas « spam » ou « pas spam » : il donne une probabilité. C'est à nous de choisir à partir de quand on bloque. Déplace le seuil et regarde les deux sortes d'erreurs.

🟡 Curieux

Un spam qui passe est un faux négatifFaux positif, faux négatif — Les deux erreurs d'un classement oui/non. Faux positif : le système dit « oui » à tort (un vrai courriel classé spam). Faux négatif : il dit « non » à tort (un spam qui passe). Baisser l'une fait souvent monter l'autre. ; un vrai courriel perdu dans les indésirables est un faux positif. On ne peut presque jamais supprimer les deux : baisser l'une fait monter l'autre. Le bon réglage dépend de ce que coûte chaque erreur. Pour un filtre anti-spam, perdre une convocation coûte plus cher que lire une publicité.

🔴 Ingénieur

Le tableau est la matrice de confusion. On en tire la sensibilité (part des spams bloqués) et la spécificité (part des vrais courriels reçus). En faisant varier le seuil de 0 à 1, on trace la courbe ROC : sensibilité contre taux de faux positifs. L'aire sous cette courbe résume la qualité du classeur, tous seuils confondus.

Un peu d'histoire

En 1998, l'équipe de Sahami et Dumais ne classait un courriel en spam que si la probabilité dépassait 99,9 %, parce que « perdre un courriel légitime coûte bien plus cher » que laisser passer un spam. Sur la vraie boîte d'un utilisateur, leur filtre a bloqué 36 spams sur 45, laissé passer 9 spams et bloqué à tort 3 courriels légitimes sur 177.

En 1947, le statisticien Jacob Yerushalmy, qui étudie la lecture des radiographies contre la tuberculose, définit clairement la sensibilité et la spécificité d'un test. La courbe ROC vient d'ailleurs : de la théorie de la détection du signal, née des recherches sur le radar pendant et après la Seconde Guerre mondiale (repérer un vrai écho au milieu du bruit), puis reprise en psychologie et en médecine.

Étape 3 : Un arbre qui s'explique

Un arbre de décision apprend à trier les 24 courriels d'entraînement en se posant des questions simples. Il choisit tout seul la question qui sépare le mieux les exemples. Ici, il trouve un raccourci : tous les courriels normaux de l'entraînement venaient de contacts connus. Il apprend donc « inconnu = spam », et se trompe sur le relevé d'une vraie banque, la promotion d'une librairie et l'avis d'un transporteur. Sans cette question, il apprend « argent ou lien = spam », et se trompe autrement. Dans les deux cas, on peut lire son raisonnement : c'est l'avantage des arbres.

🟢 Découverte

Un arbre de décision classe en posant des questions, l'une après l'autre. Il choisit seul ses questions, à partir des exemples. Son avantage : on peut lire tout son raisonnement.

🟡 Curieux

Ici, l'arbre a trouvé un raccourci : dans ses exemples, tous les courriels normaux venaient de contacts connus. Il a donc appris « inconnu = spam ». Parfait sur l'entraînement, faux dans la vraie vie. Les IA prennent souvent ce genre de raccourci ; avec un arbre, on le voit tout de suite.

🔴 Ingénieur

À chaque nœud, l'algorithme ID3 choisit la question qui fait le plus baisser l'entropie (le « désordre » des étiquettes). Pour un réseau de neurones, des millions de poids rendent ce raisonnement illisible : on parle de boîte noire, et l'on essaie après coup de l'expliquer, avec des méthodes qui restent des approximations.

Un peu d'histoire

En 1966, Earl Hunt et ses collègues décrivent le Concept Learning System, qui apprend des concepts sous forme d'arbre. L'informaticien J. Ross Quinlan, basé en Australie, met au point ID3 en 1978, avec Donald Michie, pour décider si une position de fin de partie d'échecs est perdue ; il le publie en 1986, puis crée C4.5. En parallèle, quatre statisticiens américains, Leo Breiman, Jerome Friedman, Richard Olshen et Charles Stone, publient en 1984 la méthode CART. Plus tard, Breiman et Adele Cutler développent les forêts aléatoires, qui font voter des centaines d'arbres.

En 2019, l'informaticienne Cynthia Rudin appelle à cesser d'expliquer après coup des boîtes noires pour les décisions graves, et à utiliser des modèles interprétables dès le départ.

Idées reçues

« Plus une IA est précise, mieux c'est. » Une IA peut obtenir un score parfait pour une mauvaise raison (un raccourci présent dans ses exemples). Sans comprendre comment elle décide, on ne le découvre qu'une fois l'erreur commise.

Étape 4 : Quand on classe des personnes

Une entreprise entraîne une IA sur 300 décisions de recrutement passées. Autrefois, on écartait presque toujours les candidatures avec une interruption de carrière, qui concernent bien plus de femmes (congé parental). Résultat : parmi des candidatures également qualifiées (diplôme et expérience), l'IA retient environ 94 % des hommes mais seulement 57 % des femmes. Retirer la colonne « genre » ne change rien : l'interruption de carrière sert de « variable indirecte ». Il faut comprendre d'où vient le biais pour le corriger.

🟢 Découverte

Une entreprise veut trier les candidatures automatiquement. Elle entraîne une IA sur ses décisions passées. Mais le passé avait ses préjugés : l'IA les apprend. Essaie de retirer la colonne « genre ».

🟡 Curieux

Retirer le genre ne suffit pas : l'interruption de carrière, bien plus fréquente chez les femmes après un congé parental, transmet le même biais. On parle de variable indirecte (ou « proxy »). Le code postal, le prénom ou le club de sport peuvent jouer ce rôle pour d'autres discriminations.

🔴 Ingénieur

Pour détecter le problème, on compare les taux de sélection entre groupes, à qualification égale. Plusieurs définitions de l'équité existent (mêmes taux, mêmes erreurs pour chaque groupe…) et elles ne peuvent en général pas être satisfaites toutes en même temps : le choix est politique autant que technique.

Un peu d'histoire

Aux Pays-Bas, l'administration fiscale a utilisé à partir de 2013 un système qui désignait automatiquement les demandes d'allocation de garde d'enfants « à risque ». La nationalité (néerlandaise ou non) faisait partie des indicateurs. Des dizaines de milliers de familles, surtout modestes, ont été accusées à tort de fraude, selon Amnesty International. Une commission parlementaire a parlé d'« injustice sans précédent » ; le gouvernement a démissionné en janvier 2021, et l'autorité néerlandaise de protection des données a infligé une amende de 2,75 millions d'euros pour usage « discriminatoire » de la nationalité.

Au Royaume-Uni, en 2020, les examens sont annulés à cause de la pandémie. Le régulateur Ofqual calcule les notes avec un modèle qui ajuste celles proposées par les enseignants selon les résultats passés de chaque établissement, pour éviter une inflation des notes. Environ 39 % des notes de A level sont abaissées. Après la contestation, le gouvernement et Ofqual décident, le 17 août, de retenir la plus haute des deux notes.

Qui décide ?

En Europe, le RGPD (article 22) donne le droit « de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé » qui affecte significativement la personne, sauf exceptions (contrat, loi, consentement explicite), avec alors le droit d'obtenir une intervention humaine et de contester. Il cite lui-même l'exemple « des pratiques de recrutement en ligne sans aucune intervention humaine ».

En 2023, la Cour de justice de l'Union européenne a jugé, à propos d'un score de crédit (affaire SCHUFA), qu'un simple score est déjà une décision automatisée s'il joue un rôle déterminant. Le règlement européen sur l'IA classe les systèmes qui servent à « analyser et filtrer les candidatures et évaluer les candidats » parmi les systèmes à haut risque ; leurs obligations s'appliquent à partir du 2 décembre 2027. En France, le Défenseur des droits et la CNIL ont alerté dès 2020 sur les algorithmes qui automatisent les discriminations, notamment dans le recrutement.

Idées reçues

« Il suffit de ne pas donner le genre (ou l'origine) à l'IA pour qu'elle soit juste. » D'autres colonnes peuvent porter la même information : c'est ce que montre l'animation.

Qui te classe, et dans quelle case ?

Des classeurs prennent chaque jour des décisions à ton sujet. Pour chacun, deux questions : que coûte une erreur, et qui peut la corriger ?

ClassementFaux positifFaux négatif
Filtre anti-spamUn vrai courriel perduUne publicité ou un hameçonnage reçu
Paiement suspectTa carte bloquée à tortUne fraude qui passe
Tri de CVUn entretien inutileUne personne compétente écartée
Contrôle des aides socialesUne famille contrôlée sans raisonUne fraude non détectée
Dépistage médicalUne inquiétude et des examens en plusUne maladie non vue

Pour voir comment ces machines apprennent leurs critères, va voir « Comment apprend une machine ».