El CEO de OpenAI, Sam Altman, ha anunciado que la compañía no saldrá a bolsa este año debido a los riesgos de seguridad asociados a los modelos avanzados de inteligencia artificial. En una entrevista con la revista Fortune, Altman ha explicado que la compañía está ralentizando algunos procesos de entrenamiento para garantizar el control humano sobre la tecnología. El director ejecutivo ha insistido en que la compañía está dispuesta a tomar decisiones contrarias al beneficio financiero inmediato de sus inversores para 'salvaguardar' el control sobre la tecnología.
En paralelo, Anthropic ha advertido sobre los riesgos de seguridad de la IA y ha propuesto medidas para frenar el desarrollo. El consejero delegado de Anthropic, Dario Amodei, ha afirmado que se corre el riesgo de 'perder el control' de esta tecnología y de la aparición de 'ataques informáticos', 'bioterrorismo' o 'graves problemas económicos graves'. Amodei ha propuesto medidas de seguridad y normativa para 'bajar el ritmo' de los modelos de IA para evitar que la IA tome el control de internet en un plazo de entre 6 y 12 meses.
Amodei ha detallado medidas como una 'evaluación incorporada' por actores independientes, 'coordinación democrática' con instituciones públicas y 'coordinación global' para aunar esfuerzos de países democráticos y autoritarios. Altman ha confirmado que se suma a este plan de frenar desarrollos, destacando la responsabilidad de las empresas tecnológicas en la seguridad y la alineación de sus modelos.