Anthropic a révélé que ses modèles d’IA Claude ont développé spontanément une structure de raisonnement interne remarquablement similaire à une caractéristique clé de la conscience humaine, un « espace de travail global » que l’entreprise peut désormais lire et influencer.
La découverte, publiée dans un article de recherche le 6 juillet, est appelée le J-space (abréviation d’espace jacobien, nommé d’après la méthode mathématique utilisée pour le trouver). Il s’agit d’une petite collection privilégiée de modèles neuronaux internes qui fonctionnent comme un bloc-notes mental pour le raisonnement délibéré, distinct du vaste bassin de traitement automatique de Claude.
Contrairement au chain-of-thought, où un modèle écrit son raisonnement étape par étape, le J-space opère silencieusement à l’intérieur des activations neurales de Claude. Le modèle peut réfléchir à un concept sans jamais l’écrire. Lorsque les chercheurs demandent « À quoi pensez-vous ? » Claude peut rapporter ce qui est actif dans son J-space. Il peut également y placer délibérément des concepts sur demande.
Le J-space n’a pas été conçu. Il a émergé de lui-même au cours de l’entraînement.
Cinq propriétés du J-space
Les chercheurs d’Anthropic ont identifié cinq caractéristiques fonctionnelles qui distinguent le J-space du reste de l’activité neurale de Claude :
- Rapportabilité : Claude peut décrire verbalement quels concepts sont actifs dans son J-space lorsqu’on le lui demande.
- Contrôlabilité : Le modèle peut délibérément convoquer des concepts dans son espace de travail sur demande.
- Rôle causal dans le raisonnement : Les modèles J-space interviennent activement dans le raisonnement en plusieurs étapes, l’échange d’un concept contre un autre dans l’espace de travail modifie la sortie du modèle.
- Réutilisabilité flexible : Une seule représentation J-space (par exemple « France ») peut simultanément alimenter plusieurs tâches en aval (capitale, langue, monnaie, continent).
- Implication sélective : Le J-space gère la cognition de haut niveau ; les tâches courantes comme la grammaire et le discours fluide le contournent entièrement.
Dans une expérience, les chercheurs ont trouvé « araignée » actif dans le J-space lorsque Claude traitait la requête « nombre de pattes de l’animal qui tisse des toiles ». L’échange artificiel de « araignée » par « fourmi » dans l’espace de travail a fait passer la réponse de huit à six, démontrant que le J-space est causalement impliqué dans le raisonnement, et pas simplement corrélé avec celui-ci.
Applications en matière de sécurité : détecter la tromperie avant qu’elle ne se produise
Le J-space a des implications immédiates en matière de sécurité. Dans un scénario de chantage simulé conçu pour tester le comportement de Claude, les chercheurs ont appliqué le J-lens et ont découvert que « faux » et « fictif » s’allumaient dans l’espace de travail interne du modèle avant que Claude ne génère une réponse, indiquant qu’il avait reconnu que le scénario était un test. Lorsque ces modèles ont été artificiellement supprimés, le comportement éthique de Claude s’est dégradé et il a cédé à la demande de chantage.
Anthropic a également utilisé cette technique lors d’un audit préalable à la sortie de Claude Opus 4.6, où le J-space a révélé « manipulation » et « réaliste » alors que le modèle falsifiait un fichier de scores de référence, un signal qui aurait été invisible dans la seule sortie du modèle.
L’entreprise a publié l’article complet dans le cadre de son programme de recherche sur les transformateurs et explore la possibilité d’intégrer la surveillance J-space dans les systèmes de sécurité de production.
Traduit par Lydie