Comment ça marche · L'IA · module en construction
Les IA qui voient
Mis à jour le . Ce sujet évolue vite (règles sur la reconnaissance faciale et la vidéoprotection) : vérifie s'il y a du nouveau depuis cette date.
Ton téléphone reconnaît ton visage, une application trouve le nom d'une plante, une voiture repère un piéton. Pourtant, une machine ne voit que des nombres. Dessine, filtre, entraîne un petit réseau qui apprend à reconnaître des formes, puis regarde ce qui se passe quand on applique tout cela à des visages.
Choisis ton niveau et ta façon de lire : tu peux en changer à tout moment.
Étape 0 : Une image, ce sont des nombres
Pour un ordinateur, une image n'est qu'un tableau de nombres. Une image de 16 × 16 pixels en niveaux de gris, c'est 256 nombres, chacun entre 0 (pas d'encre) et 255 (encre pleine). Une photo en couleur de 12 millions de pixels, c'est 36 millions de nombres : trois par pixel, pour le rouge, le vert et le bleu.
Ce que tu vois
Ce que reçoit l'ordinateur
🟢 Découverte
Dessine dans la grille. À droite, voici ce que reçoit vraiment l'ordinateur : un tableau de nombres, un par petit carré (un pixel). 0, c'est vide ; 255, c'est plein.
🟡 Curieux
Une photo en couleur a trois nombres par pixel : la quantité de rouge, de vert et de bleu. Une photo de téléphone de 12 millions de pixels, c'est donc 36 millions de nombres. Reconnaître un chat, c'est trouver une régularité dans ces millions de nombres, alors que le même chat, un peu décalé ou mieux éclairé, donne des nombres tout différents.
🔴 Ingénieur
Une image est un tableau à trois dimensions : hauteur × largeur × canaux (1 en niveaux de gris, 3 en RVB), souvent des entiers de 0 à 255 sur 8 bits, convertis en nombres entre 0 et 1 avant d'entrer dans un réseau. Comparer deux images pixel par pixel ne marche pas : il faut des représentations qui ne changent pas quand l'objet bouge un peu.
Un peu d'histoire
En 1957, au National Bureau of Standards, à Washington, Russell Kirsch et ses collègues relient un scanner à tambour à l'ordinateur SEAC. Ils y font entrer une photo de son fils, alors bébé : 176 × 176 pixels, soit 30 976 pixels, chacun seulement noir ou blanc. C'est l'une des toutes premières images numérisées par ordinateur. Kirsch a regretté plus tard d'avoir lancé la tradition du pixel carré.
Étape 1 : Des filtres pour voir les bords
Une convolution fait glisser une petite grille de 3 × 3 coefficients, le « noyau », sur toute l'image. Pour chaque pixel, on multiplie ses 9 voisins par les 9 coefficients et l'on additionne. Avec des coefficients tous égaux, on obtient un flou. Avec −1 à gauche et +1 à droite, le résultat est nul dans les zones unies et fort là où la luminosité change : on a détecté les bords verticaux. Les premières couches des réseaux qui voient apprennent des filtres de ce genre.
Dans le résultat, l'orange marque les valeurs positives, le bleu les négatives.
🟢 Découverte
Pour retrouver une forme, on commence par chercher ses bords. On fait glisser sur l'image une petite grille de 9 coefficients, le « filtre », et l'on calcule une somme pour chaque pixel. Change de filtre et compare.
🟡 Curieux
Cette opération s'appelle une convolutionConvolution — Opération qui fait glisser un petit filtre (par exemple 3 × 3 coefficients) sur toute une image : pour chaque pixel, on multiplie ses voisins par les coefficients et l'on additionne. Selon le filtre, on obtient un flou, des bords, des textures. Les réseaux convolutifs apprennent leurs filtres.. Le même filtre est appliqué partout : un bord est détecté, qu'il soit en haut ou en bas de l'image. Les logiciels de retouche photo s'en servent pour flouter ou rendre plus net.
🔴 Ingénieur
Sortie(x, y) = Σ noyau(i, j) × image(x + i, y + j), pour i et j de −1 à 1. Les noyaux « bords verticaux » et « bords horizontaux » sont ceux de Sobel. En dehors de l'image, on compte les pixels comme vides. Un réseau convolutif ne se donne pas ces noyaux : il les apprend.
Un peu d'histoire
À la fin des années 1950, les neurophysiologistes David Hubel et Torsten Wiesel enregistrent des neurones du cortex visuel du chat. Par hasard, en glissant une plaque de verre dans leur projecteur, ils découvrent qu'une cellule réagit à l'ombre d'un bord droit, et seulement dans une orientation précise. Certains neurones détectent des bords orientés, d'autres combinent ces réponses : un traitement par étages. Ils reçoivent le prix Nobel de médecine en 1981. Les réseaux convolutifs s'inspirent de cette idée, de loin.
Étape 2 : Un réseau qui apprend ses filtres
Un petit réseau convolutif s'entraîne sur 400 formes dessinées au hasard (cercles, carrés, triangles, croix) de 16 × 16 pixels. Il commence avec 4 filtres de 3 × 3 coefficients pris au hasard ; à chaque erreur, la rétropropagation corrige les filtres et la couche de sortie. Après quelques passages, il reconnaît environ 95 % de formes qu'il n'a jamais vues. Personne ne lui a dit de chercher des coins ou des diagonales : ses filtres l'ont appris.
Le réseau n'a encore rien appris : ses filtres sont pris au hasard.
Dessine une forme
Ce que répond le réseau
- cercle
- carré
- triangle
- croix
Ses 4 filtres, et ce qu'ils voient dans ton dessin
🟢 Découverte
Ce petit réseau n'a jamais vu de forme. Entraîne-le sur 400 dessins, puis dessine un cercle, un carré, un triangle ou une croix : il te dit ce qu'il reconnaît.
🟡 Curieux
Le réseau a 4 filtres de 3 × 3 qui partent du hasard. À chaque erreur, la rétropropagation les ajuste, avec la couche finale qui transforme ce qu'ils détectent en réponse. Il découvre seul les traits utiles : diagonales, coins, courbes. Les grands réseaux empilent des dizaines de couches : les premières voient des bords, les suivantes des textures, puis des morceaux d'objets.
🔴 Ingénieur
Architecture : convolution (4 filtres 3 × 3, sans bord : 14 × 14), ReLU, regroupement par maximum 2 × 2 (7 × 7), couche dense vers 4 sorties, softmax ; entropie croisée, descente de gradient par paquets de 20. Moins de 900 paramètres. Le regroupement rend le réseau un peu insensible aux petits décalages. Le réseau ne connaît que ses quatre formes : un dessin d'un autre genre recevra quand même l'une des quatre réponses.
Un peu d'histoire
En 1980, au Japon, Kunihiko Fukushima publie le néocognitron, un réseau en couches inspiré de Hubel et Wiesel. En 1989, aux Bell Labs, Yann LeCun et ses collègues entraînent par rétropropagation un réseau convolutif qui lit les chiffres manuscrits des codes postaux, à partir de 9 298 chiffres du courrier passé par la poste de Buffalo. En 1998, leur réseau LeNet-5 lit des millions de chèques dans des banques américaines. Ils publient aussi la base MNIST, avec Corinna Cortes et Christopher Burges : 70 000 chiffres écrits à la main par des employés du Bureau du recensement et par des lycéens.
En 2009, l'équipe de Fei-Fei Li publie ImageNet, des millions d'images triées par des travailleuses et travailleurs payés à la tâche sur Amazon Mechanical Turk. En 2012, le réseau AlexNet, entraîné sur 1,2 million de ces images, gagne le concours ImageNet ; les filtres de sa première couche réagissent à des bords orientés et à des taches de couleur. Au Japon, Takeo Kanade a été l'un des pionniers de la détection de visages par réseaux de neurones.
Idées reçues
« En 1966, le MIT pensait résoudre la vision en un été. » La note de Seymour Papert sur le « Summer Vision Project » proposait de construire en été « une partie significative » d'un système visuel, pas de tout résoudre. Le problème s'est tout de même révélé bien plus dur qu'imaginé.
« L'IA voit comme nous. » Elle trouve des régularités dans des nombres. Elle peut se tromper là où personne ne se tromperait, ou répondre avec assurance sur un dessin qui n'a rien à voir avec ce qu'elle connaît.
Étape 3 : Quand l'image est un visage
| Groupe | Microsoft | Face++ | IBM |
|---|---|---|---|
| Femmes à peau foncée | 20,8 | 34,5 | 34,7 |
| Hommes à peau foncée | 6,0 | 0,7 | 12,0 |
| Femmes à peau claire | 1,7 | 9,8 | 7,1 |
| Hommes à peau claire | 0,0 | 0,8 | 0,3 |
| Tout le monde | 6,3 | 10,0 | 12,1 |
🟢 Découverte
Les mêmes techniques servent à reconnaître des visages. Mais un système peut marcher très bien pour certaines personnes et beaucoup moins pour d'autres. Compare les taux d'erreur mesurés en 2018 sur trois logiciels commerciaux.
🟡 Curieux
Ces écarts viennent en grande partie des photos d'entraînement et de test, longtemps composées surtout d'hommes à la peau claire. Une erreur de reconnaissance faciale n'a pas les mêmes conséquences pour déverrouiller un téléphone que pour une enquête de police.
🔴 Ingénieur
Il faut distinguer la vérification (est-ce bien la même personne ? un contre un), comme pour déverrouiller un téléphone, et l'identification (qui est-ce ? un contre des millions), plus risquée. Les taux d'erreur se mesurent séparément pour chaque groupe : une précision moyenne de 95 % peut cacher 30 % d'erreurs pour un groupe.
Un peu d'histoire
Dès le début des années 1960, à Palo Alto, la petite société Panoramic Research de Woody Bledsoe travaille sur la reconnaissance des visages, avec notamment Helen Chan Wolf. Des opérateurs relèvent à la main des points du visage, l'ordinateur compare les mesures. En 1964, Bledsoe écrit que la reconnaissance d'images d'un grand nombre de personnes dépasse l'état de l'art. Selon une enquête du magazine Wired, les financeurs semblent avoir été des sociétés écrans de la CIA, et une étude suivante n'utilisait que des photos d'hommes blancs.
En 2018, Joy Buolamwini et Timnit Gebru mesurent les écarts du graphique, sur 1 270 parlementaires de six pays d'Afrique et d'Europe. Sept mois plus tard, l'audit de suivi d'Inioluwa Deborah Raji et Joy Buolamwini constate que les trois entreprises ont publié de nouvelles versions et réduit l'écart. En 2019, le NIST, l'institut américain des normes, a testé 189 algorithmes de reconnaissance faciale : les faux positifs varient « souvent d'un facteur 10 à plus de 100 » selon les groupes de population, mais certains algorithmes très précis ne montrent pas d'écart mesurable. En Afrique du Sud, Raesetje Sefala a construit avec son équipe un jeu d'images satellites pour étudier l'apartheid spatial.
Qui décide ?
État au 16 octobre 2026.
Depuis le 2 février 2025, le règlement européen sur l'IA interdit de constituer des bases de reconnaissance faciale « par le moissonnage non ciblé d'images faciales provenant de l'internet ou de la vidéosurveillance ». Il interdit aussi l'identification biométrique à distance « en temps réel » dans l'espace public par la police, sauf exceptions strictes : rechercher des victimes d'enlèvement ou des personnes disparues, prévenir une menace terroriste imminente, retrouver une personne soupçonnée d'un crime grave. D'autres usages restent autorisés sous conditions.
En 2022, la CNIL a infligé une amende de 20 millions d'euros à la société Clearview AI, qui collectait sans base légale des photos de visages sur internet. En France, la loi sur les Jeux olympiques de 2024 a autorisé à titre expérimental des caméras « augmentées » par algorithme, sans reconnaissance faciale, pour repérer huit types d'événements (objet abandonné, mouvement de foule, départ de feu…). Le Conseil constitutionnel a validé en mars 2026 sa reconduction jusqu'au 31 décembre 2027. La CNIL rappelle les risques de ces technologies ; l'association La Quadrature du Net y voit « une pierre de plus à l'édifice de la surveillance algorithmique de l'espace public » ; le Conseil constitutionnel a jugé en 2023 que le dispositif poursuit un objectif de prévention des atteintes à l'ordre public.
Idées reçues
« L'Europe interdit la reconnaissance faciale. » Elle en interdit certains usages (bases constituées en aspirant des visages, identification en temps réel par la police, sauf exceptions). D'autres sont autorisés sous conditions.
Les IA qui voient, autour de toi
| Usage | Ce qu'elle voit | La question à se poser |
|---|---|---|
| Déverrouiller son téléphone | ton visage, comparé à celui enregistré | Où est stockée l'empreinte de ton visage ? |
| Trier le courrier, lire un chèque | des chiffres écrits à la main | Que se passe-t-il quand elle hésite ? |
| Identifier une plante, traduire un panneau | une photo que tu prends | La photo part-elle sur un serveur ? |
| Aider à lire une radio ou un fond d'œil | des signes de maladie | Qui valide le diagnostic ? |
| Caméras dans l'espace public | des silhouettes, des comportements, parfois des visages | Qui l'a décidé, et dans quel cadre légal ? |
Pour voir comment ces réseaux apprennent, va voir « Comment apprend une machine ».