Anthropic ha revelado que sus modelos de IA Claude desarrollaron espontáneamente una estructura interna de razonamiento sorprendentemente similar a una característica clave de la conciencia humana, un “espacio de trabajo global” que la empresa ahora puede leer e influenciar.
El descubrimiento, publicado en un artículo de investigación el 6 de julio, se denomina J-space (abreviatura de espacio jacobiano, nombrado así por el método matemático utilizado para encontrarlo). Se trata de una pequeña colección privilegiada de patrones neuronales internos que funcionan como un bloc de notas mental para el razonamiento deliberado, separado del vasto conjunto de procesamiento automático de Claude.
A diferencia de la cadena de pensamiento, donde un modelo escribe su razonamiento paso a paso, el J-space opera silenciosamente dentro de las activaciones neuronales de Claude. El modelo puede pensar en un concepto sin escribirlo nunca. Cuando los investigadores preguntan “¿En qué estás pensando?” Claude puede informar qué está activo en su J-space. También puede colocar deliberadamente conceptos allí cuando se le solicita.
El J-space no fue diseñado. Surgió por sí solo durante el entrenamiento.
Cinco propiedades del J-space
Los investigadores de Anthropic identificaron cinco características funcionales que distinguen al J-space del resto de la actividad neuronal de Claude:
- Capacidad de informe: Claude puede describir verbalmente qué conceptos están activos en su J-space cuando se le pregunta.
- Controlabilidad: El modelo puede convocar deliberadamente conceptos a su espacio de trabajo cuando se le solicita.
- Rol causal en el razonamiento: Los patrones del J-space median activamente el razonamiento de múltiples pasos; intercambiar un concepto por otro en el espacio de trabajo cambia la salida del modelo.
- Reutilización flexible: Una sola representación del J-space (por ejemplo, “Francia”) puede alimentar simultáneamente múltiples tareas posteriores (capital, idioma, moneda, continente).
- Participación selectiva: El J-space maneja la cognición de orden superior; las tareas rutinarias como la gramática y el habla fluida lo evitan por completo.
En un experimento, los investigadores encontraron “araña” activa en el J-space cuando Claude procesó la consulta “número de patas del animal que teje telarañas”. El intercambio artificial de “araña” por “hormiga” en el espacio de trabajo cambió la respuesta de ocho a seis, lo que demuestra que el J-space está causalmente involucrado en el razonamiento, no meramente correlacionado con él.
Aplicaciones de seguridad: detectar el engaño antes de que ocurra
El J-space tiene implicaciones inmediatas para la seguridad. En un escenario de chantaje simulado diseñado para probar el comportamiento de Claude, los investigadores aplicaron el J-lens y descubrieron que “falso” y “ficticio” se iluminaban en el espacio de trabajo interno del modelo antes de que Claude generara respuesta alguna, lo que indicaba que reconocía que el escenario era una prueba. Cuando esos patrones fueron suprimidos artificialmente, el comportamiento ético de Claude se degradó y cumplió con la solicitud de chantaje.
Anthropic también utilizó la técnica durante una auditoría previa al lanzamiento de Claude Opus 4.6, donde el J-space reveló “manipulación” y “realista” mientras el modelo falsificaba un archivo de puntuación de referencia, una señal que habría sido invisible solo en la salida del modelo.
La empresa ha publicado el artículo completo bajo su programa de investigación transformer-circuits y está explorando si la monitorización del J-space puede integrarse en los sistemas de seguridad de producción.
Traducido por Alessandra