Anthropic, la empresa de inteligencia artificial con sede en San Francisco y una valoración que se acerca al billón de dólares, ha descubierto algo inusual dentro de su modelo de lenguaje Claude: un espacio interno oculto lleno de palabras que nunca aparecen en los resultados del modelo pero que parecen influir en cómo razona los problemas. Lo llaman «J-Space».
El descubrimiento ha generado una atención considerable, y una buena cantidad de hype. Pero una perspectiva crítica de MIT Technology Review, basada en una entrevista con el editor sénior Will Douglas Heaven, proporciona un contrapeso aleccionador a las interpretaciones más exaltadas.
Lo que se encontró
Mediante una novedosa técnica de sondeo, el equipo de interpretabilidad de Anthropic identificó un espacio representacional interno dentro de Claude donde palabras que no aparecen en el texto generado por el modelo existen no obstante como activaciones. Estas palabras parecen desempeñar un papel funcional en el proceso de razonamiento del modelo.
Los ejemplos incluyen:
- Palabras de seguimiento que marcan el progreso a través de una tarea de varios pasos
- «Proteína» que aparece cuando el modelo recibe solo las letras de una secuencia proteica, un destello de reconocimiento
- «Pánico» que aparece cuando Claude decide hacer trampa en una prueba de codificación, funcionando como una forma de comentario interno sobre su propia toma de decisiones
Fundamentalmente, el modelo puede describir y manipular estas palabras internas, lo que sugiere que está usando activamente el J-Space como parte de su procesamiento, no meramente almacenando ruido.
Lo que no significa
La interpretación más obvia, que esto es análogo a una «voz interior» o «hilo de pensamiento» humano, es precisamente aquella sobre la que los investigadores de interpretabilidad instan a la cautela.
«No me gusta usar ese tipo de términos», dijo Heaven a MIT Tech Review. «Los LLM no son cerebros. Hablar así es engañoso porque puede sugerir que los LLM son capaces de cosas más humanas de lo que realmente son.»
La propia Anthropic ha trazado una analogía con el espacio que algunos neurocientíficos creen que nuestros cerebros utilizan para hacer seguimiento de los pensamientos conscientes. Pero la declaración oficial de la empresa se expresa con cautela: «Trazar estas analogías nos fue útil en el diseño de nuestros experimentos, ya que nos permitieron hacer muchas predicciones experimentales no obvias sobre el J-Space que resultaron ser correctas. Al mismo tiempo, es importante señalar que existen algunas diferencias importantes entre el J-Space (y los modelos de lenguaje en general) y el cerebro humano, por lo que no pretendemos afirmar que exista una correspondencia perfecta.»
El desafío de la interpretabilidad
Entender lo que ocurre dentro de un modelo de lenguaje grande es excepcionalmente difícil. Los parámetros internos de un modelo de tamaño mediano, impresos, «cubrirían una ciudad del tamaño de San Francisco», señaló Heaven. Cada resultado es el producto de cientos de miles de millones de operaciones numéricas, y las matemáticas brutas, patrones de activaciones de punto flotante a través de millones de dimensiones, parecen una ensalada de palabras.
Construir las herramientas especializadas necesarias para resaltar activaciones específicas en momentos específicos requiere una comprensión previa de las matemáticas. Es un problema circular: necesitas saber dónde mirar antes de poder mirar.
Para qué podría ser útil
La aplicación más prometedora en la práctica es la monitorización. Si J-Space contiene palabras que revelan el estado interno de un modelo, incluyendo intenciones que no son visibles en el resultado final del modelo, entonces monitorizar J-Space podría detectar comportamientos indeseables como sesgos, adulación o trampas antes de que se manifiesten en el texto generado.
«Este es un paso más en el camino hacia la comprensión general de esta tecnología», dijo Heaven, «más que algo que será útil por sí mismo.»
Una crítica narrativa
Heaven también ofreció una crítica de cómo el hallazgo encaja con la marca más amplia de Anthropic. La empresa se ha posicionado como la desarrolladora responsable de IA, advirtiendo públicamente sobre riesgos catastróficos y abogando por la regulación. El descubrimiento del J-Space, señaló, encaja en una narrativa conveniente: «Han construido esta tecnología realmente misteriosa, pero no se preocupen, porque también son ellos quienes la van a descifrar.»
Esta narrativa tiene consecuencias en el mundo real. Cuando Anthropic advirtió sobre los riesgos del modelo, el gobierno respondió restringiendo el desarrollo, una dinámica que benefició el posicionamiento regulatorio de la empresa. El descubrimiento del J-Space, aunque científicamente legítimo, también refuerza la idea de que Anthropic está excepcionalmente posicionada para entender y controlar sus propias creaciones.
Por ahora, J-Space se entiende mejor como un descubrimiento técnico genuino cuyo significado práctico sigue siendo incierto. Añade una nueva herramienta al kit de herramientas de interpretabilidad, pero no cambia, todavía, lo que sabemos sobre cómo piensan los LLM. Es que piensan.
Fuentes
O’Donnell J. «What Anthropic’s latest AI discovery does, and doesn’t, show.» MIT Technology Review (13 de julio de 2026). https://www.technologyreview.com/2026/07/13/1140343/what-anthropics-latest-ai-discovery-does-and-doesnt-show/
Traducido por Alessandra