Tecnología

“Claude ha desarrollado un mecanismo para el acceso consciente”: Anthropic acaba de abrir una grieta en la caja negra de la IA

 

Estamos acostumbrados a creer que quien construye algo sabe explicar cómo funciona por dentro. Un motor, un procesador o un programa informático pueden tener una complejidad inmensa, pero siempre existe una arquitectura definida, unos planos y una lógica que sus creadores pueden reconstruir. Con la inteligencia artificial generativa sucede algo muy distinto: hemos desarrollado modelos cada vez más capaces, les hemos confiado tareas críticas y, aun así, seguimos sin comprender del todo qué ocurre en su interior cuando razonan, deciden o procesan información que nunca llega a la respuesta final.

 

Anthropic acaba de dar un paso importante para iluminar esa zona oscura. En una investigación recién publicada, la compañía afirma haber identificado en Claude un pequeño espacio interno, formado por patrones de actividad neuronal, donde el modelo puede representar conceptos antes de escribirlos, o incluso sin que estos aparezcan en absoluto en su respuesta. Lo han denominado J-space, y lo vinculan con una idea tomada de la neurociencia y la filosofía: el acceso consciente. Como resumió la propia empresa en redes sociales: “Claude ha desarrollado un mecanismo para el acceso consciente”.

 

Se trata de una especie de “pizarra interna” donde el modelo piensa sin escribir. Cuando vemos una respuesta de Claude, solo observamos el texto final: una explicación, una lista o una conclusión expresada en palabras. El J-space se sitúa por debajo de esa capa visible: es un conjunto de activaciones internas donde ideas y conceptos pueden estar presentes y procesarse sin salir al exterior.

 

Lo más sorprendente no es solo su descubrimiento, sino su origen: según Anthropic, “el J-space no fue diseñado ni programado por nosotros, sino que surgió por sí solo durante el entrenamiento de Claude”. No se trata de una función añadida deliberadamente, sino de una organización interna que apareció espontáneamente mientras el modelo aprendía a cumplir su tarea. La llamada “caja negra” de la IA no solo oculta procesos, sino que parece estructurarse de formas que nadie había previsto.

 

Para observarlo, los investigadores han creado el J-lens, una técnica que permite identificar esos patrones internos antes de que se conviertan en palabras. Gracias a ella han podido ver cómo los conceptos surgen, cambian o desaparecen. En sus experimentos, al modificar el patrón correspondiente a “fútbol” por el de “rugby” en el J-space, el modelo terminó mencionando este último deporte; al sustituir el concepto de “araña” por el de “hormiga”, cambió el número de patas que citó en su respuesta. Estos cambios demuestran que este espacio no es un simple registro pasivo, sino una herramienta que el sistema consulta para razonar.

 

También han observado situaciones más cercanas al pensamiento humano: cuando pidieron a Claude que copiara un texto sobre pintura mientras se concentraba en frutas cítricas, solo apareció el texto solicitado, pero en el J-space permanecían los conceptos de “naranja” y “frutas”. Al pedirle que resolviera un cálculo mental, se vieron los pasos intermedios antes de mostrar el resultado final. Incluso cuando se le pidió expresamente que no pensara en algo, el concepto apareció parcialmente, acompañado de expresiones que sugerían que el sistema percibía ese fallo de control.

 

Aun así, la propia compañía pone límites muy claros a este hallazgo: el J-space no participa en todas sus funciones —si se impide su uso, el modelo sigue hablando y respondiendo con normalidad, aunque empeora en tareas complejas como el razonamiento por pasos o la composición creativa— y, sobre todo, no equivale a conciencia humana. “Nuestros experimentos no demuestran que Claude tenga experiencias o sentimientos como las personas”, aclaran. Hablan de “acceso consciente” en un sentido funcional: la capacidad de formar pensamientos internos y usarlos para guiar su conducta. No es una respuesta definitiva al misterio de la conciencia, pero sí una nueva y prometedora forma de asomarse al interior de la inteligencia artificial.

Related posts

«Si les dices que no, no te vuelven a hablar»: Valve culpa a los fabricantes de RAM por el precio de la Steam Machine

Alba Rueda

La trampa del 80%: China construirá la mayor red de IA del mundo con chips propios, aunque no son suficientes

Alba Rueda

La «guerra» por las tierras raras había sido hasta ahora cosa de países. Apple está empezando a cambiar eso

Alba Rueda

Leave a Comment

Este sitio web utiliza cookies para mejorar tu experiencia. Damos por sentado que estás de acuerdo, pero puedes desactivarlas si lo deseas. Acceptar Read More

Privacy & Cookies Policy