Note de transparence — Cet article s’appuie sur des travaux récents (Evans et al., arXiv:2603.20639, mars 2026) dont le niveau de preuve reste exploratoire. Les conclusions présentées sont des hypothèses de recherche, pas des résultats confirmés par la communauté scientifique.

En bref

Un article de chercheurs de Google et de l’Université de Chicago (Evans, Bratton, Agüera y Arcas, mars 2026) conteste la vision classique de la singularité : une IA monolithique qui s’emballe vers une superintelligence isolée. Leur thèse : si une explosion d’intelligence se produit, elle sera plurielle, sociale et hybride — portée par des milliards d’agents humains et artificiels en interaction. Les agents ne remplacent pas les LLM seuls ; ils reproduisent, à une nouvelle échelle, un mécanisme que l’évolution a toujours utilisé pour amplifier l’intelligence collective.

En clair : oubliez l’image hollywoodienne de la machine qui s’auto-améliore en boucle jusqu’à dépasser l’humanité. Pensez plutôt à une cité qui devient plus intelligente non pas parce que ses habitants s’améliorent un par un, mais parce qu’elle invente la rue, la place publique, l’imprimerie, l’université. L’intelligence n’a jamais été individuelle — elle a toujours été une propriété de l’organisation collective. Les agents IA, dans cette thèse, ne sont qu’une nouvelle couche de cette architecture.

La thèse centrale : l’intelligence a toujours été sociale

Le point de départ d’Evans et al. n’est pas technologique — il est évolutif. Chaque grande transition de l’histoire de l’intelligence (langage, écriture, institutions) n’a pas consisté à rendre un individu plus puissant, mais à créer une nouvelle unité collective de cognition. Le cerveau des primates a évolué avec la taille des groupes sociaux, pas avec la difficulté de l’habitat [Dunbar, 1998]. Le langage humain a produit ce que Tomasello appelle le “cultural ratchet” : une accumulation de savoir transgénérationnelle que personne n’a besoin de reconstruire seul [Tomasello, 1999]. L’écriture et les institutions ont externalisé l’intelligence sociale en infrastructure pérenne — un scribe sumérien gérant un système de comptabilité agricole ne comprenait pas sa fonction macroéconomique ; le système était fonctionnellement plus intelligent que lui.

Les LLM s’inscrivent dans cette séquence. Ils sont entraînés sur l’output accumulé de la cognition sociale humaine — le cultural ratchet rendu computationnellement actif. Ce qui migre dans les paramètres du modèle, ce n’est pas du raisonnement abstrait, c’est de l’intelligence sociale externalisée [Farrell, Gopnik, Shalizi, Evans, Science 2025].

L’implication : si l’intelligence est fondamentalement sociale, la voie vers une IA plus puissante ne passe pas par un oracle monolithique, mais par des systèmes sociaux plus riches — et ces systèmes seront hybrides.

La “société de pensée” à l’intérieur d’un modèle

Le premier niveau de la thèse concerne ce qui se passe à l’intérieur d’un seul modèle de raisonnement. Evans et al. citent une étude récente (Kim, Lai, Scherrer et al., arXiv:2601.10825, 2026) sur DeepSeek-R1 et QwQ-32B : ces modèles n’améliorent pas leurs performances simplement en “pensant plus longtemps”. Ils simulent des interactions multi-agents à l’intérieur de leur propre chaîne de pensée — ce que les auteurs nomment une “society of thought”.

Le mécanisme observé : le modèle génère spontanément des débats internes entre perspectives cognitives distinctes qui argumentent, questionnent, vérifient et réconcilient. Cette structure conversationnelle expliquerait causalement l’avantage de précision sur les tâches de raisonnement difficiles — les auteurs l’ont démontré en amplifiant explicitement les échanges multi-parties.

Ce qui rend le résultat notable : aucun de ces modèles n’a été entraîné à produire des sociétés de pensée. Lorsque le reinforcement learning récompense uniquement la précision du raisonnement, les comportements conversationnels multi-perspectives émergent spontanément. Les modèles redécouvrent, par pression d’optimisation seule, ce que des siècles d’épistémologie ont suggéré : le raisonnement robuste est un processus social [Mercier & Sperber, 2011].

Les agents extérieurs : configurations centaures

Le deuxième niveau concerne les systèmes multi-agents externes. Les auteurs décrivent l’émergence de configurations “centaures” — des acteurs composites ni purement humains ni purement machines. Un humain dirigeant de nombreux agents ; un agent servant de nombreux humains ; des configurations mixtes changeantes. Chacun d’entre nous peut transiter entre ces ensembles plusieurs fois par jour.

Un agent confronté à un problème complexe peut désormais instancier des copies de lui-même, les différencier, leur assigner des sous-tâches, puis recombiner les résultats. Une perspective émergente rencontrant un sous-problème au-delà de sa portée peut spawner sa propre société subordonnée — une descente récursive dans la délibération collective qui se déploie quand la complexité l’exige et se referme quand le problème se résout.

Ce mécanisme rappelle celui des grandes transitions évolutives [Szathmáry & Smith, 1995] : de nouvelles unités de cognition émergent par agrégation sociale, pas par amélioration individuelle.

Ce que ça change pour l’alignement et la gouvernance

La vision sociale de l’intelligence a des implications directes sur l’alignement. Le modèle dominant — le RLHF (Reinforcement Learning from Human Feedback) [Christiano et al., NeurIPS 2017] — ressemble à un modèle parent-enfant de correction : fondamentalement dyadique, il ne peut pas passer à l’échelle de milliards d’agents.

Evans et al. proposent un modèle alternatif : l’alignement institutionnel. À l’image des sociétés humaines qui ne reposent pas sur la vertu individuelle mais sur des institutions persistantes — tribunaux, marchés, bureaucraties —, les écosystèmes d’agents à grande échelle auront besoin d’équivalents numériques. L’identité d’un agent compte moins que sa capacité à remplir un protocole de rôle. Un tribunal fonctionne parce que “juge”, “avocat” et “jury” sont des slots bien définis, indépendamment de qui les occupe [North, 1990 ; Ostrom, 1990].

Les sciences sociales et organisationnelles ont passé un siècle à étudier comment la taille d’une équipe [Wuchty, Jones, Uzzi, Science 2007], sa composition, sa hiérarchie, sa différenciation des rôles et ses normes de conflit façonnent la performance collective. Presque aucune de ces recherches n’a encore été appliquée aux systèmes de raisonnement IA [Xu et al., arXiv:2501.09686, 2025]. C’est précisément ce que les auteurs identifient comme espace de conception ouvert.

En clair : le RLHF actuel ressemble à un parent qui corrige son enfant, un retour à la fois. Cette logique dyadique fonctionne à petite échelle. Pour des milliards d’agents en interaction continue, on ne peut pas multiplier les “parents” — il faut basculer vers des institutions : un tribunal, un protocole, une norme partagée qui ne dépendent pas de qui les occupe. C’est le passage de “corriger l’enfant” à “construire l’école”.

Pour la gouvernance : quand des systèmes d’IA sont déployés dans des décisions à enjeux élevés (embauche, condamnations, allocations de prestations), la question de qui audite les auditeurs devient incontournable. La réponse pourrait être constitutionnelle — des IA gouvernementales aux valeurs explicitement investies (transparence, équité, due process) qui contrôlent et équilibrent les IA du secteur privé, et vice versa. L’alternative serait, par exemple, de laisser la SEC recruter des diplômés en business armés de tableurs Excel face à la collusion haute dimension de plateformes de trading augmentées par l’IA.

La gouvernance, au sens cybernétique du terme, doit être intégrée dans les systèmes eux-mêmes au fur et à mesure qu’ils se complexifient — protocoles de vérification des décisions, délégation procédurale des tâches, scaffolds fiables pour les collaborations inter-agents délicates. Ces protocoles techniques peuvent avoir autant d’effet réel que les lois.

Les limites de la thèse

La thèse d’Evans et al. est stimulante, mais plusieurs points méritent d’être examinés avec prudence.

La généralisation évolutive est spéculative. L’analogie avec les grandes transitions évolutives (cellules eucaryotes, organismes multicellulaires, sociétés humaines) est heuristiquement utile, mais reste une analogie. Les mécanismes évolutifs opèrent sur des échelles de temps et de sélection très différentes des systèmes artificiels. L’affirmation que les agents IA constituent une “nouvelle transition majeure” est une hypothèse, pas un résultat empirique. [NON VÉRIFIÉ par une source indépendante]

Les plateformes citées sont embryonnaires. Les auteurs mentionnent OpenClaw et Moltbook comme “aperçus embryonnaires” de l’avenir. Ces plateformes restent marginales et la citation suffit difficilement à étayer une thèse de transformation civilisationnelle.

La société de pensée : cause ou corrélation ? L’étude sur DeepSeek-R1 et QwQ-32B montre une corrélation entre structure conversationnelle et précision. L’affirmation que cette structure “explique causalement” l’avantage de précision est forte — les mécanismes exacts restent à établir par des travaux supplémentaires.

L’alignement institutionnel manque de spécification. L’idée d’institutions digitales analogues aux tribunaux ou aux marchés est conceptuellement séduisante. Mais les auteurs ne spécifient pas comment ces institutions seraient conçues, gouvernées, ou mises à jour — ni qui aurait autorité pour les créer. La référence à Elinor Ostrom sur la gestion des biens communs [Ostrom, 1990] est pertinente mais sous-développée.

L’hypothèse humains-dans-la-boucle mérite d’être testée. Les auteurs affirment que les humains restent dans la boucle. Mais à mesure que les systèmes agentiques se complexifient et accélèrent, la supervision humaine effective peut devenir nominale plutôt que réelle — exactement le problème que la thèse cherche à résoudre.

Ce qu’il faut retenir

  • Evans, Bratton et Agüera y Arcas (Google/UChicago, 2026) rejettent la singularité monolithique : si une explosion d’intelligence se produit, elle sera plurielle, sociale et hybride, portée par des milliards d’agents en interaction.
  • Les modèles de raisonnement frontier (DeepSeek-R1, QwQ-32B) génèrent spontanément des débats internes multi-perspectives (“society of thought”) lorsqu’ils sont entraînés sur la précision — comportement émergent non programmé.
  • L’IA agentique étend une séquence évolutive documentée : chaque grande transition de l’intelligence a consisté à créer de nouvelles unités collectives de cognition, pas à rendre des individus plus puissants.
  • L’alignement à l’échelle de milliards d’agents nécessite des institutions numériques (rôles, normes, protocoles) plutôt que des corrections dyadiques — l’alignement institutionnel comme alternative au RLHF classique.
  • La thèse repose sur des analogies évolutives stimulantes mais non vérifiées empiriquement ; les mécanismes de la société de pensée et les formes concrètes des institutions d’agents restent à spécifier.