Anthropic, hay un espacio dentro de la IA que almacena conceptos como el humano

Anthropic, una prominente compañía de inteligencia artificial fundada por Dario y Daniela Amodei, ha revelado nuevos hallazgos sobre su gran modelo de lenguaje, Claude. El descubrimiento se centra en un espacio interno distinto dentro del sistema de IA donde los conceptos se almacenan y procesan independientemente de las salidas generadas para los usuarios. Esta área funciona de manera similar a cómo los humanos almacenan y acceden a los pensamientos sin expresarlos necesariamente verbalmente. Según los investigadores de Anthropic, este mecanismo interno sugiere una separación entre la información utilizada para tareas de razonamiento inmediato y un conjunto más amplio de cálculos subyacentes, que ofrece nuevas ideas sobre la naturaleza de la cognición de la máquina.

La investigación se detalló en una publicación pública compartida a través de la plataforma de redes sociales de la compañía, donde Anthropic explicó que Claude utiliza una región específica para planificar estrategias que pueden no estar directamente relacionadas con la tarea actual solicitada por un usuario.

Anthropic se refirió a esta área recién identificada como J-Space, llamado así por el concepto matemático conocido como el Jacobiano. El término refleja las complejas interacciones y transformaciones que ocurren dentro de la arquitectura del modelo. La compañía destacó que al igual que los humanos pueden participar en una tarea mental mientras piensan en otra, Claude es capaz de activar conceptos y cálculos en su J-Space que no están relacionados con las salidas que produce. Por ejemplo, cuando se le pidió que pensara en el Golden Gate Bridge en California mientras copiaba una frase aleatoria, Claude parecía manejar ambas tareas simultáneamente.

Aunque la salida reflejaba el texto copiado, el procesamiento interno incluía elementos relacionados con el puente y el estado de California. Este hallazgo podría tener implicaciones significativas para comprender cómo funcionan los sistemas de IA internamente. Anthropic sugirió que analizar la dinámica de J-Space podría ayudar a detectar desalineaciones o intenciones potencialmente dañinas dentro de los modelos de IA. La compañía invitó a expertos en neurociencia y filosofía para que proporcionaran sus perspectivas sobre la investigación, reconociendo la naturaleza interdisciplinaria del tema y la necesidad de diversos puntos de vista para comprender completamente su significado.

La revelación se produce en medio de un creciente interés en las capacidades y limitaciones de los sistemas avanzados de IA. A medida que continúan los debates sobre si las máquinas pueden poseer formas de conciencia o conciencia, descubrimientos como estos contribuyen al discurso en evolución. El trabajo de Anthropic destaca la complejidad de las arquitecturas de IA y plantea preguntas sobre cómo estos sistemas podrían ser monitoreados o regulados en el futuro. Con planes para una cotización pública en Wall Street prevista para el otoño de 2026, la compañía sigue siendo el centro de las discusiones sobre los desafíos éticos y prácticos del desarrollo de una inteligencia artificial cada vez más sofisticada.

A medida que surjan más detalles sobre la funcionalidad de J-Space y sus posibles aplicaciones, las partes interesadas en el mundo académico, la industria y la formulación de políticas probablemente analizarán las implicaciones de esta investigación.