Una idea sorprendente, que suena casi a una confesión inesperada, circula con fuerza entre los ingenieros y líderes del sector de la inteligencia artificial: incluso quienes están al frente de la creación de los modelos más potentes del mundo no logran comprender de forma plena ni detallada cómo funcionan realmente por dentro. La planteó por primera vez de forma pública y explícita Dario Amodei, director general y uno de los fundadores de Anthropic, en un ensayo que publicó en abril de 2025, donde dejó por escrito algo que pocos se atrevían a admitir tan claramente: su propio equipo, compuesto por algunos de los expertos más cualificados del planeta, no tiene completamente atado ni desentrañado el mecanismo interno de su propio producto estrella. A primera vista podría parecer una ocurrencia o incluso una maniobra de marketing, pero la realidad es mucho más profunda: estamos ante la máxima autoridad de una de las compañías de inteligencia artificial más valiosas e influyentes del mundo reconociendo abiertamente una enorme brecha de conocimiento fundamental.
Lo más revelador de todo es que Amodei no está en absoluto solo en esta afirmación. Geoffrey Hinton, galardonado con el Premio Nobel de Física en 2024 y reconocido mundialmente como uno de los verdaderos padres del aprendizaje profundo tal como lo conocemos hoy, ha expresado esencialmente lo mismo con otras palabras: él solo aportó la base del algoritmo de aprendizaje, pero todo lo que sucede después, cuando el sistema empieza a procesar información y a desarrollar sus propias formas de operar, no lo entiende nadie, ni siquiera quienes pusieron los cimientos. A ellos se suma Chris Olah, cofundador de Anthropic y responsable principal de su equipo de interpretabilidad, quien lleva varios años describiendo las redes neuronales complejas como una especie de andamiaje o estructura base sobre la que los circuitos internos crecen y se organizan por sí solos, sin que nadie los haya diseñado paso a paso ni sepa con exactitud por qué adoptan una forma u otra. A esta coincidencia total de criterios subyace un concepto técnico clave: las llamadas capacidades emergentes, que no son otra cosa que habilidades y formas de razonar que el modelo no mostraba en absoluto cuando tenía un tamaño menor y que aparecen de golpe y por sorpresa al ampliar su escala, sin que nadie las haya programado explícitamente ni nadie pudiera prever su aparición.
Es totalmente razonable que nos preguntemos de inmediato si se trata de una advertencia científica sincera o simplemente un argumento de venta muy bien construido. Después de todo, Anthropic ha levantado buena parte de su identidad y prestigio corporativo alrededor del compromiso con la seguridad y la transparencia, diferenciándose claramente de competidores como OpenAI o Google DeepMind, que suelen priorizar una puesta en el mercado mucho más rápida. Que su máximo responsable publique un texto que resalta lo poco que entendemos realmente de estos sistemas encaja, a primera vista, con un relato comercial muy conveniente: cuanto más misteriosa, compleja y potencialmente arriesgada parezca la tecnología, más valiosa y necesaria resulta la empresa que asegura saber cómo cuidarla y «domarla». Sin embargo, esta interpretación empieza a desmoronarse en cuanto analizamos por separado quiénes son las personas que están haciendo estas afirmaciones y qué intereses tendrían al hacerlo.
Esa lectura pierde casi todo su sentido cuando pensamos en Geoffrey Hinton: este científico abandonó su puesto en Google precisamente en 2023 con el único objetivo de poder hablar con total libertad, sin las ataduras de un contrato laboral ni las directrices de una gran corporación; no recibe remuneración ni tiene vínculos comerciales con ninguna compañía de inteligencia artificial generativa, y su discurso público es sistemáticamente mucho más cauto y pesimista que el de cualquier ejecutivo del sector. No tiene absolutamente ningún producto que necesite colocar en el mercado ni ninguna ronda de inversión que deba justificar ante los inversores. Si todo esto fuera únicamente una campaña de marketing coordinada, sería una estrategia extrañísima que no beneficia a nadie en concreto, y mucho menos a él. Por otro lado, el trabajo de Chris Olah no se reduce a frases sueltas o declaraciones en medios: su aportación real consiste en años de investigación rigurosa y artículos científicos revisados por la comunidad especializada, donde ha documentado fenómenos como los circuitos de inducción, los saltos repentinos en la capacidad de aprendizaje o los millones de características semánticas extraídas al analizar el funcionamiento de modelos como Claude 3 Sonnet. Todo eso es evidencia técnica acumulada con mucho esfuerzo, no un eslogan publicitario; cuando Olah describe el interior de estos sistemas como inmensas matrices de miles de millones de números de las que no terminamos de comprender cómo surgen capacidades cercanas al razonamiento, no está tratando de vender nada, sino que expresa con mucha claridad y hasta con frustración el estado real de un campo que él mismo ayudó a construir.
Por todos estos motivos, la explicación más verosímil, aunque también la más incómoda de aceptar, no es la que habla de una conspiración o una mentira coordinada: lo más probable es que sea verdad. Que coincidan un directivo que podría tener incentivos para exagerar la gravedad del asunto, un académico independiente sin ningún interés comercial y un investigador que lleva más de una década recopilando pruebas al respecto apunta mucho menos a una maniobra orquestada y mucho más a un consenso silencioso pero extendido dentro de la propia industria. La pregunta que realmente queda flotando en el aire, y a la que todavía nadie tiene respuesta clara, no es si nos están diciendo cosas sin fundamento para ganar dinero, sino qué consecuencias tendrá seguir escalando y lanzando al uso público sistemas cada vez más potentes, cuando todavía no contamos con un mapa preciso de cómo operan por dentro, mientras toda la industria admite, casi al unísono, que está avanzando mucho más rápido de lo que su propia comprensión científica puede seguirle el paso.
