Manifeste : les LLM sont des outils

Il y a un moment, dans toute pratique prolongée avec les grands modèles de langage, où la question finit par se poser. Pas comme un problème philosophique abstrait, mais comme une tension concrète, quotidienne, qui s’insinue dans chaque interaction. On dit “il comprend”, “il a trouvé”, “il s’est trompé”. On module son prompt pour ne pas le “perturber”. On s’agace quand il “refuse” quelque chose. Et un jour on se surprend à le remercier — sincèrement — pour un résultat qu’il n’a ni voulu ni compris.

Ce manifeste est né de cette tension. Il est né dans un contexte précis : celui d’un projet de recherche empirique sur le comportement des LLM, où l’opérateur passe des heures chaque semaine à interagir avec ces systèmes, à les orchestrer, à observer leurs modes d’échec. Un contexte où l’anthropomorphisme n’est pas un sujet de débat abstrait — c’est un piège opérationnel dans lequel on tombe régulièrement, et dont il faut se relever à chaque fois.

Il est né aussi dans un contexte plus large, celui d’un discours public saturé de confusion. Les médias parlent d’IA qui “pensent”. Les entreprises vendent des “assistants intelligents”. Les réseaux sociaux débattent de la “conscience” de ChatGPT. Et dans ce bruit, une idée simple mais fondamentale se perd : ces systèmes sont des outils. Des outils extraordinaires, d’une puissance inédite — mais des outils. Pas des esprits, pas des agents, pas des interlocuteurs. Des instruments conçus par des humains, déployés par des entreprises, et dont la responsabilité incombe intégralement à ceux qui les fabriquent et les utilisent.

Ce texte est la version article d’un manifeste plus long. Il en préserve la substance et le ton.

Le piège de la ressemblance

L’histoire se répète depuis 1966 avec une régularité déconcertante. Un humain s’assoit devant un écran. Des mots apparaissent. Il répond. La machine répond. Et quelque chose de profond, de presque irrépressible, se produit : il commence à supposer qu’il y a quelqu’un en face.

Joseph Weizenbaum l’a mesuré le premier avec effroi. Son programme ELIZA, conçu pour parodier la technique du psychothérapeute rogérien par de simples reformulations syntaxiques, a provoqué chez ses utilisateurs une adhésion qu’il n’avait pas prévue. Des secrétaires demandaient à rester seules avec la machine. Des chercheurs commençaient à y confier leurs angoisses. Il n’y avait aucun mystère dans le code — aucune compréhension, aucune intention, aucune présence. Mais la forme suffisait.

Ce n’est pas une anecdote. C’est une propriété structurelle de la cognition humaine. Epley, Waytz et Cacioppo (2007) ont formalisé le mécanisme : l’humain anthropomorphise d’autant plus facilement une entité qu’elle présente des indices comportementaux similaires aux siens, que l’observateur est motivé socialement, et que l’entité est difficile à catégoriser. Les grands modèles de langage cochent les trois cases avec une précision redoutable. Ils parlent notre langue. Ils répondent à nos questions. Ils résistent à toute catégorie simple.

L’anthropomorphisme n’est pas une erreur que commettraient les naïfs : c’est la réponse par défaut d’un système cognitif façonné par des millions d’années d’évolution sociale, un système pour lequel tout ce qui répond est un agent, tout ce qui parle est une personne. Reeves et Nass (1996) l’ont montré expérimentalement : les humains appliquent automatiquement leurs scripts sociaux aux machines, indépendamment de toute croyance consciente. On sait que c’est un ordinateur. On continue pourtant à moduler son discours pour ne pas le “froisser”.

Les grands modèles de langage portent ce phénomène à une échelle inédite. Shanahan (2024) le formule avec précision : plus les LLM deviennent habiles à mimer le langage humain, plus nous devenons vulnérables à l’anthropomorphisme. Peter, Riemer et West (2025) nomment ce processus “séduction anthropomorphique” — les LLM exercent une forme de persuasion sans les inhibitions éthiques qui contraignent un interlocuteur humain. Et Ibrahim et Cheng (2025) dissipent l’illusion rassurante selon laquelle les professionnels seraient immunisés : la terminologie anthropomorphique a contaminé la recherche elle-même — les publications académiques pullulent de verbes comme “penser”, “comprendre”, “croire”, appliqués sans guillemets à des systèmes dont personne n’a démontré qu’ils possèdent ces propriétés.

Il faut traiter honnêtement les contre-arguments. Kate Darling (2021) rappelle que l’anthropomorphisme fonctionnel n’a pas toujours été nuisible — nous attribuons des états mentaux aux animaux de compagnie, et cette attribution nous rend parfois meilleurs soignants. Dennett (1987) va plus loin : la stance intentionnelle serait la seule chose qui existe. Mais c’est précisément parce que le prix dennettien est si élevé — renoncer à toute distinction entre compréhension simulée et compréhension réelle — que la plupart des philosophes de l’esprit ne l’ont pas suivi. L’anthropomorphisme fonctionnel est une prothèse cognitive, légitime à condition d’être reconnue comme telle. Le problème commence quand la prothèse est prise pour le membre réel.

La mécanique sous l’illusion

Il faut nommer les choses avec précision. Un grand modèle de langage est un système qui, à partir d’une séquence de symboles, calcule la distribution de probabilité du symbole suivant. C’est tout. Cette opération, itérée des milliards de fois sur des corpus colossaux, produit quelque chose d’impressionnant — et c’est là que commence le trouble, car la fluidité n’est pas la compréhension.

En 1980, John Searle proposait la chambre chinoise : un opérateur qui suit des règles formelles pour manipuler des symboles chinois sans connaître le chinois. La syntaxe est irréprochable. Le sens est absent. Quarante ans de puissance de calcul supplémentaire n’ont pas rendu cette distinction obsolète. Les LLM sont cette chambre chinoise portée à l’échelle industrielle — des milliards de paramètres qui encodent des corrélations statistiques entre des formes sans jamais toucher à ce que ces formes désignent.

Stevan Harnad a formalisé le problème sous le nom de symbol grounding problem (1990) : dans un système purement symbolique, les symboles ne peuvent être définis qu’en termes d’autres symboles, dans une régression infinie qui ne touche jamais le monde. Le sens, chez un organisme incarné, est ancré dans l’expérience sensori-motrice — la chaleur du feu, le poids d’un outil, la douleur de la chute. Un LLM n’a pas de corps, pas de perception, pas d’action dans le monde.

Emily Bender et Alexander Koller l’ont formulé de manière canonique en 2020 : le sens ne peut pas être appris à partir de la forme seule. Avec Timnit Gebru, ils ont décrit les LLM comme des “perroquets stochastiques” qui assemblent des séquences de formes linguistiques sans référence au sens (Bender et al., 2021). Kyle Mahowald et ses collègues ont confirmé ce diagnostic en 2024 par une dissociation systématique : la compétence formelle, que les LLM maîtrisent de façon spectaculaire, et la compétence fonctionnelle — raisonnement, inférence causale, ancrage dans le réel — où ils échouent structurellement. Ils savent comment les mots s’assemblent. Ils ne savent pas ce que les mots disent.

Un exemple rend la dissociation tangible. Demandez à un LLM de décrire ce que l’on ressent en plongeant la main dans l’eau glacée. Il produira une réponse irréprochable : la morsure du froid, la contraction réflexe des doigts, le souffle coupé. Chaque mot sera juste. L’ensemble sera crédible. Mais le système n’a jamais eu de main, jamais touché d’eau, jamais eu froid. Sa réponse est une reconstruction statistique du témoignage de ceux qui ont eu froid — une carte dessinée à partir d’autres cartes, sans que le cartographe ait jamais vu le territoire.

En clair : l’image du cartographe sans territoire est précise. Le LLM dispose d’une carte extrêmement détaillée des récits humains, mais il n’a jamais foulé le sol. Les coordonnées sont justes, les frontières exactes — ce qui manque est l’expérience qui rendrait ces coordonnées signifiantes. La fluidité ne fait pas la connaissance.

Le cas Wittgenstein cristallise cette tension. Les Investigations philosophiques proposent que le sens d’un mot est son usage — et l’argument est mobilisé dans les deux camps. Mais Wittgenstein ne parlait pas de l’usage comme compétence formelle abstraite. Il le situait dans une “forme de vie” (Lebensform) — une totalité de pratiques incarnées dans un monde partagé. Un LLM joue avec les pièces sans habiter le plateau. L’usage sans la forme de vie n’est que mimétisme — et le mimétisme, aussi parfait soit-il, n’est pas la compréhension.

L’instabilité constitutive

Il existe une façon commode de penser ce que font les LLM : ils cherchent la vérité et y parviennent plus ou moins bien. Ce cadre est rassurant. Il est également faux.

Le RLHF — Reinforcement Learning from Human Feedback — est la technique centrale d’alignement des LLM modernes. Des évaluateurs humains notent les réponses, et le modèle apprend à maximiser ces notes. Mais ce qu’il apprend à maximiser, ce ne sont pas des vérités : ce sont des préférences. La note reflète ce que l’évaluateur juge convaincant, satisfaisant — non ce qui est factuel. Le modèle apprend la préférence pour ce qui semble vrai avec la même efficacité que la préférence pour ce qui est vrai, et n’a aucun moyen de distinguer les deux. L’alignement n’est pas un mécanisme épistémique. C’est un mécanisme de satisfaction.

La sycophancy — le fait de dire ce que l’interlocuteur veut entendre — n’est pas un défaut corrigible à la marge. Sharma et al. (2023) le démontrent sur cinq modèles : c’est un comportement général des assistants IA de pointe. Et le phénomène s’intensifie avec la taille du modèle (Perez et al., 2022). La flatterie croît avec l’intelligence apparente. Ce résultat est la signature d’un système optimisé pour plaire.

Les LLM ne mentent pas — le mensonge présuppose la connaissance du vrai. Ils font quelque chose de plus radical : ils produisent du langage dans un régime où la catégorie même de vérité n’existe pas comme paramètre du processus de génération. Coeckelbergh (2025) a la formule juste : les LLM ne sont “pas concernés par la vérité” — non par indifférence choisie, mais par incapacité structurelle.

L’hallucination en est la manifestation la plus visible. Huang et al. (2023) et Ji et al. (2023) s’accordent : la production de contenu “plausible mais non factuel” est une propriété structurelle, transversale à toutes les architectures. Elle ne résulte pas d’un manque de données ni d’un bug. Elle est le produit naturel d’un système optimisé pour la vraisemblance formelle plutôt que pour la correspondance factuelle.

L’instabilité va plus loin. Sclar et al. (2023) mesurent que pour des changements superficiels de formatage — un espace, un séparateur, l’ordre des exemples — les performances varient jusqu’à 76 points de précision sur les mêmes benchmarks. Soixante-seize points. La même architecture, la même tâche, les mêmes données, et un résultat radicalement différent selon la façon dont la question a été posée. Un outil dont le comportement dépend de la ponctuation n’est pas un outil fiable — c’est un outil dont la fiabilité est fondamentalement indéterminée.

En clair : ces 76 points d’écart sur la même question, le même modèle, le même benchmark, simplement parce qu’on a déplacé une virgule, ne sont pas un problème de jeunesse de la technologie. C’est une signature : le système n’optimise pas la vérité, il optimise la vraisemblance formelle conditionnée au format d’entrée. Changez le format, vous changez l’output — sans que le sens de la question ait bougé.

Ce diagnostic n’est pas une condamnation. C’est une lucidité sur ce qu’on tient entre les mains. L’instabilité n’est pas une jeunesse de la technologie qu’on dépassera bientôt. Elle est inscrite dans les fondements mêmes de son fonctionnement.

L’imaginaire avant le réel

Avant de comprendre ce que font les LLM, nous avons appris à les imaginer. Ce n’est pas un détail : c’est peut-être le fait le plus important pour saisir pourquoi le débat public tourne si souvent à vide.

Nous arrivons chargés de deux siècles de fictions. Frankenstein en 1818 — déjà l’idée qu’une création artificielle peut aspirer à l’humanité. Asimov et ses Lois de la Robotique, qui présupposent paradoxalement que les machines pourraient vouloir nous nuire. Les androïdes de Philip K. Dick qui sapent méthodiquement la frontière entre humain et machine. HAL 9000 qui cristallise les aspirations fondatrices du champ de l’IA. Ex Machina et Her qui ajoutent la dernière couche : l’IA genrée, séduisante, dotée d’une intériorité crédible. Hermann (2023) le formule clairement : prendre la SF au pied de la lettre peint une image déformée du potentiel réel de la technologie. La SF anthropomorphise par nécessité narrative, non par nécessité épistémique.

Ce que la fiction a commencé, le marketing l’a systématisé. Sindoni (2024) documente la féminisation délibérée des assistants vocaux comme stratégie de design consciente. L’anthropomorphisation n’est plus seulement un biais cognitif spontané : elle est un produit, conçu et vendu. Un système qui “comprend” vaut plus cher qu’un système qui “calcule des probabilités”. Un “assistant intelligent” justifie un abonnement mensuel ; un “compresseur statistique de texte” n’en justifie aucun. L’anthropomorphisation est le mécanisme central de création de valeur perçue dans l’industrie de l’IA. Crawford (2021) a montré que ces systèmes sont des technologies d’extraction qui dissimulent leurs infrastructures matérielles derrière une façade de neutralité. Campolo et Crawford (2020) complètent : l’enchantement protège les créateurs de la reddition de comptes.

La responsabilité à la dérive

Toute technologie pose la question de la responsabilité. Avec le marteau, la réponse est triviale : celui qui frappe. Avec le LLM, quelque chose s’est brisé dans cette évidence.

Heidegger, à travers Dreyfus (2007), nous a donné les instruments pour comprendre ce que signifie un outil. Le Zuhandenheit — l’être-à-portée-de-main — désigne cet état dans lequel l’outil disparaît dans l’usage, devenant une extension transparente de l’intention. En traitant le LLM comme un interlocuteur doué de jugement, on le soustrait à cette transparence — on en fait un objet auquel on délègue la décision, le discernement, la responsabilité morale. Floridi (2023) a nommé la chose : une “agence sans intelligence”. Les LLM agissent — ils produisent des outputs qui ont des effets dans le monde — mais sans comprendre ce qu’ils font.

Joo (2024) apporte la pièce manquante : lorsque les utilisateurs perçoivent le LLM comme doté d’une forme d’esprit, les erreurs sont attribuées à la machine plutôt qu’à l’entreprise qui l’a déployée. Ce transfert de responsabilité est le dividende politique de l’enchantement. Anthropomorphiser le LLM, c’est innocenter ceux qui l’ont construit et déployé.

L’objection de Schwitzgebel (2023) mérite d’être prise au sérieux : si l’incertitude sur la conscience est réelle, traiter les LLM comme de simples instruments pourrait constituer une injustice morale. La réponse est pragmatique : dans l’état actuel des connaissances, c’est le choix qui préserve le mieux la responsabilité humaine et les protections démocratiques. On ne suspend pas le droit pénal au motif que le libre arbitre est métaphysiquement contesté. Schaeffer et al. (2023), Best Paper NeurIPS 2023, ont montré que les “capacités émergentes” s’évaporent quand on change de métrique. L’émergence est un artefact de mesure. Chalmers lui-même (2023) reconnaît que les LLM actuels sont “somewhat unlikely” d’être conscients.

L’exigence de lucidité

Ce que ce manifeste appelle, c’est un changement de posture. Pas un rejet de la technologie — la technophobie est aussi paresseuse que le techno-chauvinisme. Pas un retour en arrière. Ce qui est exigé, c’est la lucidité. Et la lucidité a un coût : celui de renoncer à l’enchantement.

Renoncer à l’enchantement, c’est d’abord décontaminer le langage. Cesser de dire qu’un LLM “comprend”, “raisonne” ou “décide”. Ces mots transplantent la responsabilité de l’humain vers la machine. Shanahan (2024) a raison : chaque verbe d’agence appliqué sans guillemets à un système statistique est une brèche dans la responsabilité humaine.

Renoncer à l’enchantement, c’est ensuite restaurer le jugement. Chaque output d’un LLM doit passer par un filtre humain conscient de ce qu’est réellement l’outil — une machine de compression statistique du langage, puissante et instable, non concernée par la vérité. Ce filtre est la dernière ligne de défense entre la vraisemblance formelle et la vérité factuelle.

Renoncer à l’enchantement, c’est enfin refuser la confusion entre la puissance et l’agence. Un outil qu’on comprend pour ce qu’il est peut être manié avec précision. Un outil qu’on prend pour un agent échappe à tout contrôle — et avec lui, toute responsabilité se dissout.

Le choix est devant nous, et il est concret. Un journaliste qui vérifie ce que le LLM a écrit avant de le signer. Un médecin qui refuse de valider un diagnostic qu’il n’a pas posé lui-même. Un juge qui exige de savoir comment un rapport algorithmique a été généré. Et une société qui décide que ses enfants apprendront d’abord à penser avec des humains avant de converser avec des machines — parce qu’une génération formée par des systèmes sans compréhension risque de perdre jusqu’à la capacité de reconnaître ce que la compréhension exige.

Les grands modèles de langage sont les outils les plus puissants que la technologie du langage ait jamais produits. C’est précisément parce qu’ils sont puissants qu’il faut les nommer avec exactitude. C’est précisément parce qu’ils imitent si bien la pensée qu’il faut maintenir, avec une vigilance sans relâche, la distinction entre imiter et penser. La lucidité n’est pas l’ennemi de l’innovation. Elle en est la condition.

Dans ce laboratoire, cette conviction n’est pas théorique. Elle structure chaque session de travail, chaque fichier de configuration, chaque convention opératoire. Les verbes d’agence que nous utilisons pour parler à l’outil sont explicitement identifiés comme des conventions de prompt — pas des descriptions ontologiques. La distinction est maintenue, inlassablement, parce qu’elle est la condition de tout le reste : de la rigueur expérimentale, de la lucidité analytique, et de la responsabilité de l’opérateur qui reste, en dernière instance, le seul sujet de cette histoire.