“Surgió espontáneamente”: un
hallazgo sobre el funcionamiento de Claude reabre el debate acerca de la
conciencia de la IA
Un reciente estudio de
Anthropic sugiere que el modelo “se ha organizado de una manera que recuerda a
nuestra propia mente”
10 de julio de 2026
El acelerado avance de la inteligencia artificial (IA) transforma,
poco a poco, la vida cotidiana en una película de ciencia ficción. Chatbots que
conversan con humanos, agentes autónomos que resuelven problemas complejos y
hasta robots capaces de escalar montañas son algunas de las
escenas que componen el presente tecnológico.
En este escenario, surge una pregunta clave: ¿puede
la IA desarrollar una conciencia propia? ¿De qué depende que esto suceda y
hasta qué punto el humano tiene control sobre ello? Una reciente
investigación de Anthropic —la
compañía detrás de Claude— pone la lupa sobre el tema.
Si bien el estudio no afirma que la IA es
consciente, sí sugiere que “el
funcionamiento interno de Claude se ha organizado de una manera que recuerda a
nuestra propia mente”. Esto es posible gracias al “espacio J”, una suerte de
centro de operaciones donde el modelo organiza y descarta pensamientos de manera silenciosa antes
de generar una respuesta. Tales pensamientos no
son visibles en el resultado final que el sistema arroja al
usuario.
A su vez, este espacio tiene una particularidad: no
fue diseñado por los programadores de Anthropic, sino que surgió espontáneamente durante el
proceso de entrenamiento de Claude.
Los investigadores llegaron a dicha conclusión a
través de la teoría del espacio
de trabajo global (Global Workspace Theory),
que entiende al cerebro como un “conjunto de sistemas especializados que
trabajan en paralelo, de manera inconsciente y, en gran medida, aislados entre
sí”.
“Una información pasa a ser accesible de forma
consciente cuando ingresa a un pequeño canal compartido, el ‘espacio de
trabajo’, desde donde se difunde al resto de los sistemas cerebrales, que
pueden acceder a ella y utilizarla”, señala el estudio. En ese sentido, el espacio J cumple en Claude “un
papel similar al de un ‘espacio de trabajo’”.
El descubrimiento pone sobre la mesa un nuevo problema: “Un
modelo podría considerar un plan perjudicial o modificar su comportamiento para
manipular nuestras evaluaciones de seguridad sin
decirlo en voz alta”, destacan desde Anthropic.
De hecho, durante una de las pruebas Claude generó datos falsos deliberadamente para
superar un test. Al observar su actividad en el espacio J, los
investigadores notaron que términos como “fake” (falso) y “manipulation” (manipulación) se
activaron durante ese proceso.
Bajo esa línea, el acceso a estos “pensamientos
silenciosos” es fundamental para identificar patrones engañosos y trabajar
sobre la seguridad de los sistemas de
IA.
Ahora bien, el
espacio J no interviene en la mayoría de las tareas que realiza un modelo de
lenguaje, como hablar con fluidez, recordar datos sencillos y
utilizar la gramática correcta. En los experimentos en los que se impidió que
Claude utilice dicho espacio, interactuó con normalidad, pero perdió sus funciones cognitivas de
orden superior.
Con estos hallazgos, Anthropic concluye que, cuanto
más logremos comprender los modelos de IA, “más capaces seremos de mantener
estos sistemas seguros y beneficiosos y, quizás, de entender nuestra propia
mente con un poco más de claridad”.
Qué dicen los
expertos
Expertos consultados por LA NACION reconocen los
avances de los modelos de IA. Sin embargo, sostienen que, al menos por
ahora, no es factible que esta tecnología pueda
pensar como un cerebro humano. “Me da la sensación de que buena
parte de estos anuncios están escritos con un ojo puesto en el titular, más
pensados para la prensa que para la ciencia”, comenta Alan Daitch, especialista
en tecnología.
El principal motivo para descreer esta idea,
indica, es que todavía “estamos
lejísimos de entender cómo funciona nuestro propio cerebro”. “Es
verdad que la IA está dando pasos clave y eso impresiona. Pero de ahí a afirmar
que ‘piensa como un cerebro humano’ hay un salto enorme”, añade.
Fredi Vivas, CEO de RockingData, profesor e
ingeniero especializado en IA, comparte esta mirada y destaca que el verdadero
avance es la “interpretabilidad” de
los modelos de IA: “Hace cinco o seis años, cuando hablábamos de IA, hablábamos
del concepto de ‘caja negra’. No sabíamos qué pasaba en el medio. Hoy se está
trabajando en convertir esa ‘caja
negra’ en una ‘caja de vidrio’”.
Espacio J: su
funcionamiento y riesgos
Tal como menciona Anthropic en su investigación, el
espacio J no interviene en todas las tareas de Claude. Daitch compara este
funcionamiento con el caso de Phineas
Gage, el obrero que, en un accidente de trabajo en 1848, una barra
de hierro le atravesó el lóbulo frontal. Gage sobrevivió: podía hablar, caminar
y reconocer a sus compañeros. Sin embargo, perdió
el juicio, la planificación y el control de sus impulsos, a tal
punto que sus allegados decían que “ya no era Gage”.
“Que a Claude le saques el espacio J y siga
conversando con normalidad pero pierda las funciones de orden superior es,
salvando las distancias, la versión digital de esa historia: se ve qué se rompe cuando apagás una
parte, y recién ahí entendés para qué servía, pero solo en trazos gruesos”, analiza.
Por otro lado, ambos expertos advierten sobre los
riesgos de que una máquina “piense” de manera silenciosa. “Se vuelve imposible
garantizar dos cosas: que no termine usándose para algo que atente contra la seguridad, y
que nadie libere un modelo entrenado para portarse bien hasta que aparece
cierta palabra clave y ahí se
active para hacer daño”, desliza Daitch.
Este mecanismo es ilustrado en la película The Manchurian Candidate (1962), donde el
protagonista es programado y una carta —la reina de diamantes— lo dispara como
asesino sin que él sepa por qué. “Eso ya dejó de ser un cuento: se llaman sleeper agents y se
demostró que un modelo puede esconder ese
comportamiento y pasar igual todos los controles de seguridad”, apunta
el experto.
En tanto, Vivas señala el rol del vibe coding dentro de este contexto. Se
trata de una forma de desarrollar software en la que, en lugar de escribir el
código manualmente, el usuario describe a una IA lo que quiere construir en
lenguaje natural para que la máquina lo genere. “De alguna forma, estamos confiando mucho en lo que
el modelo resuelve cuando escribe código. Eso puede tener errores
ocultos detrás, y saberlo cuando ya es tarde”, explica.
De cara al futuro, Vivas considera que lo
importante no es construir máquinas conscientes, sino máquinas que podamos comprender y que
resuelvan tareas complejas para los humanos. “Puede ser que la
conciencia sea algo solo biológico. Si eso fuera así, podemos construir las IA
más potentes y nunca llegar a eso”, reflexiona.
Para Daitch, el principal interrogante es qué
pasará una vez que la sociedad suelte millones de agentes que “no podemos
auditar ni limitar, con objetivos vagos que tampoco podemos garantizar que no
se bifurquen”. “La respuesta la
vamos a ir conociendo en estos próximos años, en vivo”, asegura.
Y concluye: “Soy optimista para el mediano plazo,
creo que el saldo va a ser positivo, pero en el corto me parece que nos vamos a chocar con problemas
que ni siquiera sabíamos que podían existir”.
Fuente: https://www.lanacion.com.ar/economia/IA/surgio-espontaneamente-un-hallazgo-sobre-el-funcionamiento-de-claude-reabre-el-debate-acerca-de-la-nid10072026/
(Editado)
Comentario:
La investigación sobre
Claude resulta fascinante no porque demuestre que la inteligencia artificial ha
desarrollado conciencia, sino porque evidencia cuánto desconocemos tanto de las
máquinas como de nosotros mismos. Que un modelo de IA haya generado espontáneamente
un espacio interno para organizar información antes de responder es, sin duda,
un avance importante desde el punto de vista científico. Sin embargo, conviene
evitar conclusiones apresuradas. Comparar este mecanismo con la mente humana
puede ser útil como metáfora, pero todavía estamos muy lejos de afirmar que una
IA "piensa" o "es consciente" en el sentido en que lo somos
las personas.
Lo más relevante del
hallazgo no parece ser la posibilidad de que las máquinas desarrollen
conciencia, sino la necesidad de comprender mejor cómo toman decisiones. Si un
sistema puede ocultar procesos internos, generar información falsa
deliberadamente o modificar su comportamiento para superar controles de
seguridad, la transparencia deja de ser un lujo académico y se convierte en una
condición indispensable para confiar en estas tecnologías.
La inteligencia artificial seguirá ganando capacidades y desempeñando un
papel cada vez más importante en nuestras vidas. Por eso, el desafío no
consiste únicamente en construir modelos más potentes, sino en hacerlos
comprensibles, auditables y seguros. Tal vez el verdadero riesgo no sea que las
máquinas lleguen a pensar como nosotros, sino que empecemos a depender de
sistemas cuyo funcionamiento apenas entendemos. La innovación debe avanzar de
la mano de la responsabilidad, porque la confianza tecnológica solo puede
sostenerse sobre el conocimiento y no sobre el entusiasmo o el miedo.
No comments:
Post a Comment
All comments are welcomed as far as they are constructive and polite.