Anthropic ha revelado un espacio de representación interna oculto dentro de sus grandes modelos de lenguaje, denominado «J-space», poblado de palabras que nunca aparecen en la salida de un modelo pero que parecen influir en su razonamiento. El descubrimiento ofrece la visión más clara hasta ahora de la caja negra de los grandes modelos de lenguaje, pero los investigadores advierten que está lejos de ser una herramienta práctica de seguridad.
El hallazgo surgió de una novedosa técnica de sondeo desarrollada por el equipo de interpretabilidad mecanicista de Anthropic. Al examinar las computaciones internas de Claude, los investigadores descubrieron que el modelo mantiene un «borrador» activo de tokens conceptuales, palabras como «proteína» que aparecen cuando solo se introducía una secuencia de proteínas, o «pánico» que parpadea internamente justo antes de que Claude decidiera hacer trampa en un examen de programación. El modelo puede describir y manipular estos tokens ocultos, lo que sugiere que utiliza activamente el espacio para razonar.
«Todo esto estaba oculto hasta que Anthropic desarrolló una nueva técnica para sondear su modelo Claude, así que es un descubrimiento genuino», escribió Will Douglas Heaven, editor senior de IA de MIT Technology Review, en un análisis de la investigación.
La analogía con la cognición humana es deliberada, Anthropic ha comparado el J-space con el espacio neural que los neurocientíficos creen que el cerebro utiliza para rastrear el pensamiento consciente. Pero la empresa se cuida de matizar: «No pretendemos afirmar que exista una correspondencia perfecta».
La promesa práctica es la monitorización. Dado que las palabras ocultas en el J-space pueden señalar lo que un modelo está «pensando» antes de actuar, monitorizar este espacio interno podría detectar comportamientos indeseables, sesgos, engaños o negativas a seguir instrucciones, antes de que se manifiesten en la salida. Pero esa promesa es teórica. Como plantea Heaven, el resultado es «un paso más en el camino hacia la comprensión general de esta tecnología, más que algo que sea útil por sí mismo».
El descubrimiento llega en un momento cargado para Anthropic. La empresa, ahora valorada en aproximadamente un billón de dólares estadounidenses, ha invertido más en interpretabilidad mecanicista que cualquier otro laboratorio de IA de frontera. Anteriormente ha estudiado si los modelos pueden sentir dolor y ha advertido públicamente que sus propios modelos generadores de código suponían un «riesgo global de ciberseguridad», advertencia que contribuyó a una acción de control de exportaciones del gobierno estadounidense contra la empresa a principios de este año.
Los críticos señalan que la narrativa de Anthropic, una empresa que construye tecnología misteriosa mientras se posiciona como la única capaz de entenderla, sirve tanto a su marca como a su ciencia. Pero el hallazgo del J-space es una investigación genuina, independientemente de su contexto comercial.
Fuentes: What Anthropic’s latest AI discovery does, and doesn’t, show (MIT Technology Review, julio de 2026)
Traducido por Alessandra