Así ve Anthropic el interior de Claude: mapas de circuitos e introspección en IA

Así ve Anthropic el interior de Claude: mapas de circuitos y los primeros indicios de introspección en IA

El problema de la "caja negra"

Durante años, el mayor obstáculo para confiar plenamente en un modelo de lenguaje fue simple: nadie podía ver realmente cómo pensaba por dentro. Se sabía qué entraba (el texto del usuario) y qué salía (la respuesta), pero el proceso intermedio —millones de operaciones matemáticas en las neuronas artificiales del modelo— era, en la práctica, ilegible incluso para quienes lo construyeron. Eso empezó a cambiar en serio con el trabajo de interpretabilidad que el equipo de investigación de Anthropic viene publicando desde 2024.

Scaling Monosemanticity: encontrarle nombre a los conceptos internos de Claude

En mayo de 2024, Anthropic publicó Scaling Monosemanticity, un estudio en el que, usando una técnica llamada sparse autoencoders (autoencoders dispersos), lograron extraer millones de "features" o conceptos interpretables dentro de las capas internas de Claude 3 Sonnet — patrones de activación que corresponden a ideas humanamente reconocibles: desde conceptos concretos ("el Golden Gate", "código inseguro", "adulación") hasta abstracciones más sutiles como el tono irónico o la sensación de estar cometiendo un error.

El experimento que más se viralizó fue "Golden Gate Claude": el equipo amplificó artificialmente el feature correspondiente al puente Golden Gate hasta el punto en que el modelo mencionaba el puente en prácticamente cualquier respuesta, sin importar la pregunta — una demostración pública y tangible de que esos conceptos internos existen y pueden manipularse de forma controlada.

De los conceptos a los circuitos: cómo "piensa" Claude paso a paso

El siguiente salto llegó en 2025 con la investigación de attribution graphs (grafos de atribución), publicada bajo el título On the Biology of a Large Language Model. En vez de identificar conceptos aislados, el equipo empezó a trazar los circuitos —cadenas de features conectadas— que el modelo activa al razonar. Algunos hallazgos concretos:

• Al escribir poesía con rima, Claude activa internamente la palabra que rimará antes de generar el verso completo, es decir, planifica hacia adelante en vez de improvisar palabra por palabra.
• En problemas de aritmética simple, el modelo usa una ruta de cálculo interna distinta de la explicación en lenguaje natural que ofrece al usuario — lo que el modelo "dice" que hizo no siempre coincide exactamente con lo que hizo por dentro.

¿Puede Claude notar lo que pasa dentro de sí mismo?

En 2025, Anthropic publicó también investigación sobre introspección emergente: experimentos en los que inyectaban artificialmente un concepto (un vector de activación) dentro del procesamiento interno del modelo, sin decirle qué era, para ver si el modelo lograba detectar y describir ese "pensamiento insertado". El resultado, con cautela: los modelos Claude más avanzados mostraron una capacidad limitada y no siempre confiable de notar estas inyecciones — evidencia temprana de una forma rudimentaria de introspección funcional, lejos todavía de una autoconciencia robusta o garantizada.

Por qué esto importa para la seguridad de la IA

Este tipo de investigación no es solo curiosidad académica. Poder ver los circuitos internos de un modelo permite, en teoría, detectar patrones de razonamiento problemáticos antes de que se traduzcan en una respuesta dañina — en vez de solo revisar el resultado final, se audita el proceso. Es la diferencia entre confiar en una caja negra porque "hasta ahora se ha portado bien" y poder verificar, con evidencia técnica, por qué se comporta como se comporta.

Perspectiva para quien despliega sus propios modelos

Esta clase de interpretabilidad todavía requiere investigación de frontera y recursos de cómputo serios — no es algo que se improvise. Para quien entrena o corre modelos propios (afinados con datos privados, corriendo en infraestructura propia en vez de una API cerrada), la lección práctica es la misma que motiva este tipo de investigación: entender y auditar lo que hace un modelo importa tanto como lo que responde. Si estás desplegando modelos de IA propios, nuestros planes de VPS, VDS y servidores dedicados están pensados para dar el poder de cómputo y el control que ese tipo de trabajo exige.