Penser la technique · module en construction

Une machine peut-elle penser ?

Mis à jour le 31 octobre 2026. Ce sujet évolue vite (true) : vérifie s'il y a du nouveau depuis cette date.

Une machine qui parle comme nous comprend-elle ce qu'elle dit ? Parle à un petit ELIZA, enferme-toi dans la chambre chinoise, puis essaie de distinguer les phrases qu'un modèle a lues de celles qu'il fabrique.

Choisis ton niveau et ta façon de lire : tu peux en changer à tout moment.

Étape 0 : Le jeu de l’imitation

🟢 Découverte

« Les machines peuvent-elles penser ? » En 1950, le mathématicien Alan Turing pose la question, puis la met de côté : les mots « machine » et « penser » sont trop flous. Il propose un jeu à la place.

🟡 Curieux

Un interrogateur discute par écrit avec deux interlocuteurs qu'il ne voit pas, et doit deviner qui est qui. Dans la version d'origine, il doit deviner lequel est un homme et laquelle est une femme. Puis Turing demande : que se passe-t-il si une machine prend la place de l'un des deux ? L'interrogateur se trompera-t-il aussi souvent ? Au lieu de définir « penser », on observe un comportement.

🔴 Ingénieur

Turing prédit qu'« dans environ cinquante ans », des ordinateurs dotés d'environ 10⁹ unités de mémoire joueront si bien qu'un interrogateur moyen n'aura pas plus de 70 % de chances de les identifier après cinq minutes de questions. Dans son exemple de dialogue, la machine répond à 34 957 + 70 764 après une pause d'environ 30 secondes : 105 621. La somme exacte est 105 721. Imiter un humain, c'est aussi imiter ses lenteurs et ses erreurs.

Un peu d'histoire

L'article, « Computing Machinery and Intelligence », paraît en 1950 dans la revue de philosophie Mind. Turing y répond à neuf objections. L'une est tirée d'Ada Lovelace, qui écrivait en 1843 dans ses notes sur la machine analytique de Babbage : « La machine analytique n'a aucune prétention à créer quoi que ce soit. Elle peut faire tout ce que nous savons lui ordonner. » Turing répond que les machines le prennent souvent par surprise, et propose des machines qui apprennent.

En 2025, deux chercheurs, C. R. Jones et B. K. Bergen, font passer des tests de Turing à trois, avec des conversations de cinq minutes. Avec une consigne lui demandant de jouer un personnage humain, GPT-4.5 est jugé humain dans 73 % des cas, plus souvent que les vrais humains ; ELIZA, dans 23 % des cas. C'est une prépublication, pas encore relue par des pairs.

Idées reçues

« Turing a inventé un test pour savoir si une machine pense. » Il jugeait la question « trop dénuée de sens pour mériter d'être discutée » et proposait de la remplacer par le jeu. Réussir le jeu montre qu'une machine imite bien une conversation, pas qu'elle pense.

Étape 1 : L’illusion d’ELIZA

ELIZA repère des mots-clés et renvoie la phrase retournée. À « Je suis triste depuis hier », il répond « Pourquoi dis-tu que tu es triste depuis hier ? » ; à « Ma mère ne m'écoute jamais », « Qui d'autre dans ta famille te vient à l'esprit ? ». Quand rien ne correspond, il relance : « Peux-tu développer ? ». Une dizaine de règles suffisent à donner l'impression d'une écoute attentive.

🟢 Découverte

Parle à ce petit programme. Il a l'air de t'écouter. Coche ensuite la case pour voir comment chaque réponse a été fabriquée.

🟡 Curieux

ELIZA ne comprend rien : il repère un mot-clé (« mère », « je suis »), retourne la phrase (« je » devient « tu ») et la glisse dans une phrase à trous. Quand il ne reconnaît rien, il relance. Pourtant, une conversation avec lui peut donner l'impression d'une vraie écoute : c'est nous qui prêtons du sens à ce qu'il écrit.

🔴 Ingénieur

Chaque règle associe un motif (une expression régulière) à quelques modèles de réponse. Les règles sont essayées dans l'ordre ; la première qui reconnaît la phrase l'emporte. Le script psychothérapeute avait été choisi parce que l'interlocuteur peut y faire mine de ne presque rien savoir du monde.

Un peu d'histoire

En 1966, Joseph Weizenbaum, au MIT, publie ELIZA. Il note que « certaines personnes ont eu beaucoup de mal à être convaincues qu'ELIZA n'est pas humain ». Troublé par l'attachement de ses utilisateur·rices, il devient l'un des premiers critiques de l'IA : son livre de 1976 soutient qu'il y a des tâches que les ordinateurs ne devraient pas accomplir, qu'ils en soient capables ou non. Le module Les IA qui écrivent revient sur ELIZA.

Idées reçues

« Weizenbaum a inventé l'expression “effet ELIZA”. » Elle est postérieure, et rien dans son article de 1966 ne l'emploie. Lui parlait d'une « illusion de compréhension ».

Étape 2 : La chambre chinoise

Tu es enfermé·e dans une pièce avec un livre de règles. Sous la porte arrive une suite de symboles chinois. Le livre dit : « si tu reçois ces symboles-là, renvoie ceux-ci ». Tu compares les formes, tu recopies la réponse, tu la glisses sous la porte. Dehors, une personne qui parle chinois lit « Je vais très bien, merci » en réponse à « Comment vas-tu ? » et croit parler avec quelqu'un qui comprend. Toi, tu n'as rien compris : tu as seulement suivi des règles.

🟢 Découverte

Tu es enfermé·e dans une chambre avec un livre de règles. Des symboles chinois arrivent sous la porte. Trouve la règle qui correspond et renvoie la réponse.

🟡 Curieux

Tes réponses sont parfaites, et pourtant tu ne comprends pas un mot de chinois : tu compares des formes. Pour le philosophe John Searle, c'est exactement ce que fait un ordinateur : il manipule des symboles selon des règles (la syntaxe) sans accès à leur sens (la sémantique). Se comporter comme si l'on comprenait ne serait donc pas comprendre.

🔴 Ingénieur

Les objections sont nombreuses, et Searle leur a répondu :

Le système : ce n'est pas la personne qui comprend, mais la personne, le livre et la chambre ensemble. Searle : je pourrais apprendre tout le livre par cœur, et je ne comprendrais toujours pas.
Le robot : donnons au programme des yeux et des bras, relions-le au monde ; il pourrait alors attacher les symboles aux choses.
Le simulateur de cerveau : un programme qui reproduirait les neurones d'une personne qui parle chinois comprendrait-il ?
Les autres esprits : nous jugeons les autres humains sur leur comportement ; pourquoi pas les machines ?

Un peu d'histoire

Searle publie l'expérience en 1980 dans la revue Behavioral and Brain Sciences, sous le titre « Minds, Brains and Programs ». Il vise l'« IA forte », l'idée qu'un ordinateur bien programmé aurait véritablement un esprit. L'argument est toujours discuté : la Stanford Encyclopedia of Philosophy a encore révisé son article sur la chambre chinoise en 2024.

Idées reçues

« La chambre chinoise prouve qu'une IA ne pensera jamais. » Elle vise une thèse précise : qu'un programme suffise à comprendre. Beaucoup de philosophes la contestent, et la question de ce que serait « comprendre » reste ouverte.

Étape 3 : Des perroquets ?

Un tout petit modèle de langage a lu une quarantaine de phrases simples (« le chat dort sur le canapé », « la pluie tombe sur la ville »…). En tirant chaque mot selon ce qui suit habituellement le précédent, il fabrique des phrases qu'il n'a jamais lues : « la nuit tombe sur le jardin », « le chien dort sur le canapé ». Souvent, on ne peut pas les distinguer des vraies. Parfois, il dérape : « la fermière nourrit les poules mangent les graines ». Il ne sait pas ce qu'est un chien : il sait seulement quels mots se suivent.

🟢 Découverte

Un tout petit modèle de langage a lu 38 phrases. Il en fabrique de nouvelles. Saurais-tu dire lesquelles il a lues, et lesquelles il a fabriquées ?

🟡 Curieux

Le modèle ne sait pas ce qu'est un chien ou la pluie : il sait seulement quels mots suivent quels mots. Pourtant, ses phrases ont souvent l'air sensées, parce que nous les lisons avec notre propre compréhension. Les grands modèles de langage font la même chose à une échelle immensément plus grande, avec des résultats bien plus convaincants.

🔴 Ingénieur

Des perroquets stochastiques. En 2021, Emily M. Bender, Timnit Gebru, Angelina McMillan-Major et une coautrice sous pseudonyme décrivent un modèle de langage comme un système qui assemble « au petit bonheur des suites de formes linguistiques » observées dans ses données, selon leurs probabilités, « sans aucune référence au sens ». Pour elles, la compréhension que nous y voyons est une illusion qui vient de nous.

Des étincelles d'intelligence. En 2023, une équipe de Microsoft Research, qui avait pu étudier le modèle avant sa sortie, estime au contraire qu'une version préliminaire de GPT-4 « pourrait raisonnablement être vue comme une version précoce (encore incomplète) d'un système d'intelligence artificielle générale », au vu de sa réussite dans des tâches nouvelles en mathématiques, en programmation ou en médecine.

Un peu d'histoire

Le débat rejoue, avec des machines bien plus puissantes, celui de Turing et de Searle : faut-il juger une machine sur ce qu'elle fait, ou sur ce qui se passe à l'intérieur ? Le module Les IA qui écrivent montre comment fonctionne ce genre de modèle, du comptage de mots aux réseaux de neurones.

Idées reçues

« S'il parle bien, c'est qu'il comprend » / « Ce n'est qu'un perroquet, il ne fait rien d'intéressant ». Les deux raccourcis sont trompeurs : parler bien ne prouve pas la compréhension, et « ne pas comprendre » au sens humain n'empêche pas d'être très utile, ou très trompeur.

Ce que la question demande vraiment

« Une machine peut-elle penser ? » cache plusieurs questions, qui n'ont pas la même réponse :

Question	Qui l'a posée	Ce qu'on sait
Peut-elle se faire passer pour un humain ?	Turing, 1950	Dans des conversations courtes, oui, selon une étude de 2025.
Peut-elle créer, ou seulement exécuter ?	Lovelace, 1843 ; Turing, 1950	Les machines qui apprennent surprennent même leurs auteur·rices.
Donne-t-elle seulement l'illusion de comprendre ?	Weizenbaum, 1966	Quelques règles suffisent à créer l'illusion : la prudence s'impose.
Manipuler des symboles, est-ce comprendre ?	Searle, 1980	Débat ouvert depuis plus de quarante ans.
Les grands modèles de langage comprennent-ils ?	Bender, Gebru et al., 2021 ; Microsoft Research, 2023	Les spécialistes sont divisé·es.

La suite de la section Penser la technique passe aux choix moraux et à la neutralité de la technique.