El permiso para no resolver las alucinaciones de la IA

Fuentes: The Permission SlipT4

El columnista Robert X. Cringely, cofundador de 2Brains Inc., sostiene que el ensayo de Dario Amodei Machines of Loving Grace funcionó como una autorización colectiva para que la industria de la inteligencia artificial ignorara el problema de las alucinaciones, confiando en que el simple aumento de escala computacional las eliminaría por sí solo. Esa idea, según Cringely, ha justificado inversiones colosales: Stargate (medio billón de dólares), los hyperscalers (decenas de miles de millones anuales) y el acuerdo Anthropic-Akamai (cerca de dos mil millones más).

El artículo argumenta que esa apuesta es errónea. En 2022, antes de que se consolidara el consenso sobre el escalado, 2Brains afirma haber resuelto las alucinaciones mediante una arquitectura que separa la generación de lenguaje de la recuperación y verificación de hechos, ejecutada en procesadores convencionales. Según la empresa, su sistema duplica la línea base en el benchmark de referencia del sector y, en los casos verificados, no produce datos fabricados.

Cringely plantea dos escenarios para los grandes inversores: que escalar jamás cure las alucinaciones o que solo lo consiga tras reinventar, con gasto ingente, lo que una pequeña compañía ya logró por diseño. En ambos casos, concluye, la promesa central de la industria queda en entredicho y la factura por descubrirlo ya está llegando.