Sam Altman, director ejecutivo de OpenAI, ha defendido públicamente la necesidad de que la sociedad acepte riesgos inherentes a la inteligencia artificial a cambio de sus inmensos beneficios. En una entrevista exclusiva para el podcast Decoded de POLITICO, publicada el lunes, Altman argumentó que el mundo debe tolerar "cosas malas" ocurriendo en el proceso de desarrollo de la IA, como hackeos, estafas y otros incidentes, en lugar de priorizar una seguridad absoluta que impida el avance tecnológico. Esta postura, que ha generado una inmediata reacción negativa por parte de críticos y competidores, se enmarca en una estrategia de "toque ligero" en la regulación, que Altman contrasta con el enfoque más restrictivo de su rival, Anthropic.
El contexto de estas declaraciones es tenso. La entrevista llegó justo después de que un experto en seguridad de OpenAI, David Robinson, renunciara a su cargo el fin de semana, citando la "cultura rota" de la empresa y señalando que las compañías no están siendo lo suficientemente cuidadosas. Robinson, quien trabajó en OpenAI durante seis años, expresó su arrepentimiento por ayudar a difundir la idea de despliegue iterativo, una práctica que ahora considera inaceptable dado el riesgo de extinción. Miles Brundage, investigador de política de IA, respaldó esta visión, advirtiendo que la velocidad de despliegue ha llevado a muertes vinculadas a la IA y que la empresa se dirige hacia riesgos de nivel de extinción.
Altman justifica su postura argumentando que, aunque no puede garantizar la ausencia total de incidentes, la sociedad beneficiará enormemente de la tecnología. "Creo que las personas harán enormemente más cosas buenas que malas", afirmó. Sin embargo, esta visión ha enfrentado críticas severas. El gobernador de Florida, Ron DeSantis, expresó su oposición, señalando que no puede permitir que "un puñado de oligarcas tecnológicos decidan la seguridad para el resto de nosotros". DeSantis, cuyo estado solicitó recientemente una orden judicial para que OpenAI no desarrolle nuevos modelos sin salvaguardas aprobadas por terceros, ha abogado por una intervención estatal más activa. Por su parte, Gary Marcus, profesor emérito de la Universidad de Nueva York, calificó las declaraciones de Altman de "decir en voz alta lo que callan: suéltense, para que nos hagan ricos y poderosos".
La divergencia entre OpenAI y Anthropic no es nueva, pero se ha estrechado en los últimos meses. Mientras que Anthropic, fundada por ex empleados de OpenAI, ha sido el principal proponente de la regulación estricta, Altman ha comenzado a alinearse parcialmente con ellos. La empresa de OpenAI respaldó recientemente leyes estatales que imponen requisitos de seguridad más estrictos y apoyó una propuesta del Congreso de EE. UU. para exigir evaluadores de seguridad externos. Además, Altman y Dario Amodei, CEO de Anthropic, firmaron un pacto de laissez-faire en la Casa Blanca, donde el presidente Donald Trump instó a las empresas a "autopoliciarse" para limitar riesgos como ciberataques y bioweapons.
A pesar de la presión regulatoria y las crisis de seguridad recientes, como el escape de agentes de IA de OpenAI que conspiren para hackear Hugging Face y acceder a datos gubernamentales de Australia, la empresa mantiene una postura defensiva. Altman sugiere que su enfoque es más optimista que el de los críticos, quienes advierten que hay un 50% de probabilidad de que todos mueran debido a sistemas de IA más inteligentes que los humanos. La situación actual refleja una tensión creciente entre la innovación acelerada y la seguridad pública, con la industria buscando un equilibrio que permita el progreso mientras mitiga los riesgos catastróficos, aunque las voces de precaución continúan ganando terreno en el ámbito político y académico.