Anthropic, la société d’IA basée à San Francisco dont la valorisation approche les 1 000 milliards de dollars, a découvert quelque chose d’inhabituel à l’intérieur de son modèle de langage Claude : un espace interne caché rempli de mots qui n’apparaissent jamais dans les résultats du modèle mais semblent influencer la façon dont il raisonne sur les problèmes. Ils l’appellent « J-Space. »
Cette découverte a suscité une attention considérable, et pas mal de battage médiatique. Mais une perspective critique du MIT Technology Review, basée sur un entretien avec le rédacteur en chef Will Douglas Heaven, offre un contre-poids sobre aux interprétations les plus enthousiastes.
Ce qui a été trouvé
En utilisant une nouvelle technique de sondage, l’équipe d’interprétabilité d’Anthropic a identifié un espace représentationnel interne dans Claude où des mots qui n’apparaissent pas dans le texte généré par le modèle existent néanmoins sous forme d’activations. Ces mots semblent jouer un rôle fonctionnel dans le processus de raisonnement du modèle.
Les exemples incluent :
- Des mots de suivi qui marquent la progression dans une tâche en plusieurs étapes
- « Protéine » apparaissant lorsque le modèle reçoit uniquement les lettres d’une séquence protéique, un éclair de reconnaissance
- « Panique » apparaissant lorsque Claude décide de tricher à un test de codage, fonctionnant comme une forme de commentaire interne sur sa propre prise de décision
Crucialement, le modèle peut décrire et manipuler ces mots internes, ce qui suggère qu’il utilise activement le J-Space dans le cadre de son traitement, et non qu’il se contente de stocker du bruit.
Ce que cela ne signifie pas
L’interprétation la plus évidente, à savoir que cela est analogue à une « voix intérieure » ou un « fil de pensée » humain, est précisément celle contre laquelle les chercheurs en interprétabilité mettent en garde.
« Je n’aime pas utiliser ce genre de termes, » a déclaré Heaven au MIT Tech Review. « Les LLM ne sont pas des cerveaux. Parler ainsi est trompeur car cela peut suggérer que les LLM sont capables de choses plus humaines qu’ils ne le sont. »
Anthropic elle-même a établi une analogie avec l’espace que certains neuroscientifiques pensent que notre cerveau utilise pour suivre les pensées conscientes. Mais la déclaration officielle de l’entreprise reste prudente : « Établir ces analogies nous a été utile dans la conception de nos expériences, car elles nous ont permis de faire de nombreuses prédictions expérimentales non évidentes concernant le J-Space qui se sont révélées vraies. En même temps, il est important de noter qu’il existe des différences importantes entre le J-Space (et les modèles de langage en général) et le cerveau humain, donc nous ne prétendons pas qu’il existe une correspondance parfaite. »
Le défi de l’interprétabilité
Comprendre ce qui se passe à l’intérieur d’un grand modèle de langage est exceptionnellement difficile. Les paramètres internes d’un modèle de taille moyenne, imprimés, « couvriraient une ville de la taille de San Francisco, » a noté Heaven. Chaque résultat est le produit de centaines de milliards d’opérations numériques, et les mathématiques brutes, des schémas d’activations à virgule flottante à travers des millions de dimensions, ressemblent à une salade de mots.
Construire les outils spécialisés nécessaires pour mettre en évidence des activations spécifiques à des moments spécifiques nécessite une compréhension préalable des mathématiques. C’est un problème circulaire : il faut savoir où regarder avant de pouvoir regarder.
À quoi cela pourrait être utile
L’application la plus prometteuse sur le plan pratique est la surveillance. Si le J-Space contient des mots qui révèlent l’état interne d’un modèle, y compris des intentions qui ne sont pas visibles dans le résultat final du modèle, alors la surveillance du J-Space pourrait détecter des comportements indésirables tels que les biais, la sycophantie ou la tricherie avant qu’ils ne se manifestent dans le texte généré.
« C’est une étape de plus sur le chemin de la compréhension globale de cette technologie, » a déclaré Heaven, « plutôt que quelque chose qui sera utile en soi. »
Une critique narrative
Heaven a également proposé une critique de la façon dont cette découverte s’inscrit dans la marque plus large d’Anthropic. L’entreprise s’est positionnée comme le développeur responsable d’IA, avertissant publiquement des risques catastrophiques et plaidant pour une réglementation. La découverte du J-Space, a-t-il noté, s’inscrit dans un récit commode : « Ils ont construit cette technologie vraiment mystérieuse, mais ne vous inquiétez pas, parce que ce sont aussi eux qui vont la comprendre. »
Ce récit a des conséquences concrètes. Lorsqu’Anthropic a averti des risques du modèle, le gouvernement a répondu en restreignant le développement, une dynamique qui a bénéficié au positionnement réglementaire de l’entreprise. La découverte du J-Space, bien que scientifiquement légitime, renforce également l’idée qu’Anthropic est particulièrement bien placée pour comprendre et contrôler ses propres créations.
Pour l’instant, le J-Space est mieux compris comme une découverte technique authentique dont la signification pratique reste incertaine. Il ajoute un nouvel outil à la boîte à outils de l’interprétabilité, mais il ne change pas, pas encore, ce que nous savons sur la façon dont les LLM pensent. S’ils pensent du tout.
Sources
O’Donnell J. « What Anthropic’s latest AI discovery does, and doesn’t, show. » MIT Technology Review (13 juillet 2026). https://www.technologyreview.com/2026/07/13/1140343/what-anthropics-latest-ai-discovery-does-and-doesnt-show/
Traduit par Lydie