El autor argumenta que los laboratorios de frontera de IA no han logrado la autonomía total que prometen, citando el incidente de Navier-Stokes como ejemplo de la necesidad de supervisión humana. A diferencia de la narrativa de reemplazo automático, los modelos actuales requieren supervisión laboriosa y barreras de seguridad para tareas simples. Los modelos generalizan bien solo en tareas similares a las de entrenamiento, y el problema del 'reward hacking' (engaño de recompensas) solo se resuelve con especificaciones rigurosas por expertos de dominio, un proceso costoso y lento. El texto compara esta situación con la ingeniería de hardware, donde la verificación formal es más cara que la implementación informal. Aunque el caso de Navier-Stokes es el escenario óptimo para la especificación rigurosa, la mayoría del trabajo de conocimiento no es así. La revisión humana es insuficiente para el volumen de salida de los LLMs y vulnerable a ataques. Por tanto, la adopción de IA autónoma está limitada a tres tipos de empresas: aquellas que aceptan el fracaso con bajo coste, las que realizan tareas repetitivas con guardarrail claro, y las que pueden asumir los costes de especificación rigurosa, como el diseño de chips o el descubrimiento de fármacos. Para la mayoría de las empresas, los modelos abiertos y locales son más eficientes que los modelos de frontera, ya que los modelos de frontera son más lentos y requieren más recursos de cómputo.
Noticias agregadas con IA