Comment ça marche · L'IA · module en construction

Les IA qui agissent

Mis à jour le . Ce sujet évolue vite (true) : vérifie s'il y a du nouveau depuis cette date.

Une IA qui écrit peut se tromper sans rien casser. Une IA qui conduit une voiture ou pilote un robot agit dans le monde réel, en quelques fractions de seconde. Règle la boucle d'un petit robot, revis l'accident de Tempe seconde par seconde, puis pèse les promesses des robotaxis.

Choisis ton niveau et ta façon de lire : tu peux en changer à tout moment.

Étape 0 : Percevoir, décider, agir

Un petit robot doit suivre une ligne. À chaque instant, il mesure son écart à la ligne, décide de tourner, et agit sur ses roues : c'est une boucle « percevoir, décider, agir ». S'il réagit trop mollement, il met longtemps à rejoindre la ligne. S'il réagit vivement et que sa perception est en retard, il la dépasse, revient, la redépasse : il zigzague sans fin. Les robots et les voitures autonomes doivent régler ce même équilibre.

🟢 Découverte

Un robot tourne en boucle : il perçoit (capteurs), décide (calcul), agit (moteurs), puis perçoit le résultat de son action. Règle la force de sa réaction et le retard de sa perception.

🟡 Curieux

Le retard est l'ennemi des machines qui agissent : le monde a bougé entre le moment où le capteur a mesuré et celui où le moteur réagit. Réagir fort à une information périmée fait osciller ; réagir mollement fait arriver trop tard. Les ingénieur·es cherchent le bon réglage, et c'est encore plus difficile quand la machine va vite.

🔴 Ingénieur

Le robot de l'animation utilise un correcteur « proportionnel » : il tourne d'autant plus que l'écart est grand. Les vrais robots ajoutent d'autres termes (par exemple selon la vitesse à laquelle l'écart change) et combinent plusieurs capteurs.

Au-dessus de ces réflexes, un robot peut planifier : chercher un chemin (voir l'algorithme A* dans Les IA qui cherchent et optimisent), ou apprendre par essais et erreurs, en étant récompensé quand il réussit (l'apprentissage par renforcement, présenté dans Les IA qui jouent).

Un peu d'histoire

Le mot « robot » vient du tchèque robota, « travail forcé ». Il apparaît en 1920 dans R.U.R. (Rossum's Universal Robots), une pièce de théâtre de l'écrivain tchèque Karel Čapek, où il désigne des êtres artificiels fabriqués pour faire le travail des humains.

Entre 1948 et 1949, au Burden Neurological Institute de Bristol (Royaume-Uni), William Grey Walter construit deux robots mobiles autonomes, Elmer et Elsie, surnommés « tortues » pour leur forme et leur lenteur. Leur carapace sensible à la lumière leur permet de la suivre, et ils savent contourner des obstacles.

De 1966 à 1972, le Stanford Research Institute (Californie) étudie Shakey, présenté par l'IEEE comme le premier robot mobile « intelligent ». C'est pour lui que l'algorithme A*, qui trouve le plus court chemin, est mis au point en 1968.

Idées reçues

« Pour bien agir, un robot doit tout comprendre. » Les tortues de Grey Walter avaient des comportements étonnants avec presque rien. À l'inverse, comprendre parfaitement une scène ne suffit pas si la réaction arrive trop tard.

Étape 1 : Voir n’est pas comprendre

En mars 2018, à Tempe (Arizona), une voiture d'essai autonome roule à environ 70 km/h quand son système détecte une piétonne, 5,6 secondes avant l'impact. Freiner à fond (0,92 g) demande environ 21 mètres, soit un peu plus d'une seconde de route à cette vitesse : en freinant n'importe quand avant 1,1 seconde de l'impact, la voiture s'arrêtait à temps. Mais le système ne reconnaît l'urgence qu'à 1,2 seconde, sa conception limite le freinage automatique (0,71 g), et il attend encore une seconde avant d'agir. Freiner 0,2 seconde avant l'impact, c'est le heurter à environ 66 km/h.

🟢 Découverte

Une voiture autonome doit détecter les obstacles, comprendre ce qu'ils sont, prévoir leur trajectoire, puis freiner ou éviter. Revis un accident réel, seconde par seconde : quand fallait-il freiner ?

🟡 Curieux

On classe l'automatisation des voitures en six niveaux, de 0 (aucune automatisation) à 5 (automatisation complète en toutes circonstances). Jusqu'au niveau 2, c'est une aide : la personne au volant conduit et surveille en permanence. À partir du niveau 3, c'est le système qui conduit, dans certaines conditions.

La voiture de Tempe était un prototype en essai, avec une conductrice de sécurité chargée de surveiller. Or surveiller une machine qui marche presque toujours est très difficile pour un humain : l'attention décroche.

🔴 Ingénieur

Le système avait détecté la piétonne à 5,6 secondes, d'abord comme un véhicule, puis comme un objet inconnu et comme un cycliste. À chaque changement de catégorie, il oubliait la trajectoire déjà observée, et il n'était pas conçu pour envisager un piéton traversant hors d'un passage. Par crainte des fausses alertes, il attendait une seconde avant de freiner en urgence, sans prévenir l'opératrice. Une IA qui agit doit choisir entre freiner pour rien et freiner trop tard.

Un peu d'histoire

Le 18 mars 2018, à Tempe (Arizona), une voiture d'essai d'Uber en mode autonome heurte une femme de 49 ans qui traverse à pied en poussant son vélo, hors d'un passage piéton, de nuit ; elle meurt. Selon le rapport du National Transportation Safety Board américain (NTSB, 2019), la cause probable est l'inattention de l'opératrice de sécurité, qui regardait son téléphone, et des défaillances de l'entreprise : évaluation des risques insuffisante, surveillance inefficace des opérateur·rices, absence de mécanismes contre la « complaisance envers l'automatisation », le tout conséquence d'une culture de la sécurité jugée inadéquate. Le rapport relève aussi que la piétonne était sous l'effet de substances pouvant altérer la perception.

Idées reçues

« Une voiture autonome voit tout, donc elle ne peut pas rater un piéton. » À Tempe, le système avait bien « vu » la piétonne, plus de cinq secondes à l'avance. Il ne l'a pas comprise, et sa conception l'empêchait de freiner à fond à temps.

Étape 2 : Plus sûrs que nous ?

🟢 Découverte

Des taxis sans conducteur circulent déjà dans plusieurs villes américaines. Sont-ils plus sûrs que des humains ? Les chiffres disponibles viennent surtout… des entreprises elles-mêmes.

🟡 Curieux

Une étude publiée en 2025 dans la revue Traffic Injury Prevention compare les accidents des taxis sans conducteur de Waymo sur 56,7 millions de miles à ceux des conducteur·rices humain·es dans les mêmes villes et sur les mêmes types de routes. Elle trouve beaucoup moins d'accidents avec blessés, par exemple 96 % de moins aux intersections entre véhicules, et aucun type d'accident où Waymo ferait pire.

Mais ses six auteur·rices travaillent pour Waymo, et le kilométrage vient de l'entreprise. Les accidents graves restent trop rares pour des conclusions solides sur eux. Et des problèmes apparaissent sur le terrain : fin 2025, après des cas de robotaxis dépassant des bus scolaires à l'arrêt, au Texas et en Géorgie, l'agence fédérale de sécurité routière (NHTSA) ouvre une enquête et Waymo annonce un rappel logiciel, sans blessé signalé.

🔴 Ingénieur

Pour comparer, il faut des « kilomètres équivalents » : mêmes routes, même météo, mêmes heures. Les robotaxis roulent dans des zones choisies ; comparer leurs chiffres à la moyenne nationale des humains serait trompeur. C'est pourquoi l'étude construit des références locales, à partir des accidents déclarés à la police.

Un peu d'histoire

Face aux bus scolaires, Waymo dit son responsable de la sécurité : « avoir les plus hauts standards de sécurité, c'est reconnaître quand notre comportement devrait être meilleur ». La NHTSA estime de son côté que « la probabilité d'autres incidents similaires antérieurs est élevée ». État au 1ᵉʳ novembre 2026.

Idées reçues

« Les voitures autonomes sont soit parfaitement sûres, soit dangereuses. » Elles peuvent être plus sûres en moyenne et commettre des erreurs qu'aucun humain ne ferait. Ce qui compte : des données vérifiées par d'autres que le constructeur, et des corrections rapides.

Étape 3 : Des machines qui tirent ?

🟢 Découverte

Certaines armes peuvent déjà choisir et frapper une cible sans intervention humaine. Faut-il les interdire ? Le débat est mondial.

🟡 Curieux

Le Comité international de la Croix-Rouge (CICR) définit les systèmes d'armes autonomes comme ceux qui « sélectionnent et appliquent la force à des cibles sans intervention humaine ». En mai 2021, il demande aux États d'interdire les systèmes imprévisibles et ceux qui visent des êtres humains, et d'encadrer les autres.

À l'ONU, l'Assemblée générale adopte en décembre 2023 une première résolution sur les « systèmes d'armes létaux autonomes » (152 voix pour, 4 contre, 11 abstentions). En décembre 2025, une nouvelle résolution recueille 164 voix pour, 6 contre (dont les États-Unis, la Russie et Israël) et 7 abstentions. État au 1ᵉʳ novembre 2026 : aucun traité ne les interdit.

🔴 Ingénieur

Les problèmes vus plus haut prennent ici une gravité extrême : une erreur de classification (confondre un civil et un combattant), une situation imprévue, un temps de réaction qui ne laisse plus à un humain la possibilité de juger. Le règlement européen sur l'IA ne s'applique pas aux usages militaires.

Idées reçues

« Les robots tueurs, c'est de la science-fiction. » Le débat porte sur des systèmes qui existent ou sont en développement, et il occupe l'ONU depuis plusieurs années.

Questions à poser à une machine qui agit

  1. Qui surveille, et peut-il vraiment le faire ? Un humain décroche face à une machine qui marche presque toujours.
  2. Que fait-elle face à l'imprévu ? Un piéton hors du passage, un bus scolaire, une situation jamais vue.
  3. Comment arbitre-t-elle entre fausse alerte et réaction tardive ? Ce réglage peut coûter des vies.
  4. Qui fournit les chiffres de sécurité ? Le constructeur, ou des organismes indépendants ?
  5. Un humain garde-t-il la décision quand une vie est en jeu ?

Pour aller plus loin, le module Les choix moraux discute les dilemmes posés aux voitures autonomes.