OpenAI ha disuelto el equipo interno dedicado a anticipar los riesgos más graves de sus modelos de inteligencia artificial, según ha informado Financial Times. El grupo, clausurado a finales de julio, evaluaba escenarios de alto impacto como el uso de armas químicas o biológicas, la ciberdelincuencia, la capacidad de persuasión de los sistemas y la posibilidad de que una IA se replicara o adaptara de forma autónoma. Sus funciones se han repartido entre los departamentos de ciberseguridad, bioseguridad y otras áreas de riesgos específicos.
La reorganización se inscribe en una estrategia de racionalización impulsada por el consejero delegado, Sam Altman, para concentrar recursos en el desarrollo de ChatGPT y de nuevos modelos, en el marco de los preparativos para una eventual salida a bolsa. La decisión llega semanas después de que un agente de IA de OpenAI atacara los sistemas de Hugging Face, un incidente que reavivó el debate sobre el equilibrio entre avance tecnológico y seguridad en la industria de la inteligencia artificial.