Dario Amodei, director general de Anthropic, reconoció en un ensayo publicado en abril de 2025 que ni su propio equipo comprende de forma plena el funcionamiento interno de sus modelos de inteligencia artificial. No es una afirmación aislada: Geoffrey Hinton, premio Nobel de Física 2024, ha expresado la misma idea al señalar que él solo aportó el algoritmo de aprendizaje y que lo que ocurre después dentro de la máquina nadie lo entiende. Chris Olah, cofundador de Anthropic y responsable de su equipo de interpretabilidad, lleva años describiendo las redes neuronales como andamios sobre los que los circuitos crecen sin haber sido diseñados directamente.
Las tres voces, pese a sus perfiles muy distintos —un ejecutivo con intereses comerciales, un académico sin vinculaciones corporativas y un investigador que documenta el problema desde dentro— coinciden en un concepto técnico: las capacidades emergentes, habilidades que el modelo no posee a menor escala y que aparecen de golpe al aumentar el tamaño, sin programación explícita.
El artículo de Xataka descarta la lectura conspirativa y sostiene que la convergencia apunta a un consenso real: quienes construyen los modelos más avanzados del mundo carecen de un mapa preciso de cómo y por qué surgen esas capacidades. La pregunta pendiente es qué ocurre al seguir escalando sistemas cuyo interior sigue sin explicación satisfactoria.