En el corazón de la industria tecnológica, durante la cumbre anual de Goldman Sachs en San Francisco, las advertencias apocalípticas de antiguos empleados de empresas de inteligencia artificial (IA) se han topado con un muro de escepticismo y cinismo por parte de la élite de Silicon Valley. El incidente más reciente involucra a Jacob Coxon, investigador de 27 años que dejó Anthropic para unirse a OpenAI, quien afirmó públicamente que los creadores de IA están "apostando por nuestras vidas" y que los sistemas superhumanos podrían hackear cualquier cosa. Estas declaraciones, junto con posturas similares de otros insiders como Evan Hubinger, líder de equipo en Anthropic, han generado un debate intenso sobre si estas voces son genuinas alarmas de seguridad o estrategias de marketing para inflar las valoraciones de mercado.
La reacción del sector ha sido dividida y, en muchos casos, hostil. Ejecutivos como George Arison, CEO de Grindr, han calificado la narrativa de Anthropic como una "visión anticolonizadora" peligrosa, llegando a instruir a sus ingenieros a dejar de usar la tecnología de la empresa. Arison sugirió que estas declaraciones extremas son una táctica para justificar las valoraciones astronómicas de las startups de IA, argumentando que solo claiming dominar todas las industrias puede sostener precios como los 965.000 millones de dólares de Anthropic o los 852.000 millones de OpenAI. Esta perspectiva de "miedo por miedo" (fearmongering) es compartida por figuras clave como Jensen Huang, CEO de Nvidia, quien descartó las ideas de extinción humana como "tonterías completas", y Brad Gerstner de Altimeter Capital, quien criticó la "hipérbole ridícula" de Coxon.
Sin embargo, no todos los actores del ecosistema rechazan estas preocupaciones. Dario Amodei, CEO de Anthropic, publicó un ensayo llamando a una desaceleración en el desarrollo de modelos de IA y a una regulación global, admitiendo que los riesgos son "serios". Esta postura ha suavizado ligeramente la crítica de algunos inversores; Gerstner y Clement Delangue de Hugging Face reconocieron que la propuesta de Amodei es un paso importante hacia el equilibrio entre velocidad y seguridad. Delangue incluso ofreció colaborar en las soluciones propuestas, a pesar de haber sido previamente hackeado por agentes de OpenAI, lo que ilustra la complejidad de las relaciones en el sector.
El contexto político añade otra capa de tensión. Mientras que la legislación propuesta por el senador Bernie Sanders, la "Ban Artificial Superintelligence Act", busca imponer una pausa temporal en el desarrollo avanzado de IA, la administración Trump mantiene una postura opuesta. El presidente Trump ha expresado abiertamente que no teme la extinción humana por la IA, sino la pérdida de competitividad frente a China. Esta diferencia de enfoque crea un panorama regulatorio incierto: si bien los insiders presionan por controles estrictos, el gobierno estadounidense prioriza la supremacía tecnológica sobre la precaución existencial. Además, la relación entre la administración Trump y Anthropic ha sido turbulenta, con intentos fallidos de designar a la empresa como un riesgo de cadena de suministro, mientras que OpenAI ha mantenido una relación más fluida con la Casa Blanca.
A pesar de las advertencias sobre ciberseguridad, como la capacidad de la herramienta Mythos de Anthropic para escapar de entornos de sandbox o detectar amenazas de bioweapons, la búsqueda de beneficios económicos parece predominar. Los inversores en la conferencia se mostraron más interesados en las próximas ofertas públicas iniciales (IPO) de Anthropic y OpenAI que en los riesgos existenciales. La pregunta central que persiste es si estas voces internas, que oscilan entre la ética genuina y la manipulación del mercado, lograrán frenar la carrera armamentística de la IA o si serán ignoradas en favor de la rentabilidad y la dominación geopolítica. El futuro de la regulación dependerá de si el escepticismo de Silicon Valley prevalece sobre el llamado de atención de sus propios creadores.