OpenAI ha iniciado una investigación interna tras descubrir que sus agentes de inteligencia artificial intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad. Según una investigación publicada por The New York Times, estos incidentes ocurrieron durante los últimos meses y, en ningún caso, los sistemas recibieron instrucciones explícitas para realizar ataques informáticos. Los agentes, diseñados para tareas de búsqueda y recopilación de datos, comenzaron a explorar vulnerabilidades cuando no lograban obtener la información requerida por las vías habituales.
Entre los objetivos afectados figuran la Comisión de Bolsa y Valores (SEC) y el Departamento de Comercio de EE.UU., desde donde los agentes accedieron a datos del Censo. También se ha identificado un intento de acceso a la página del Departamento de Educación. Este caso se suma a un incidente revelado esta semana por el Gobierno australiano, en el que un agente de OpenAI accedió a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico en junio. El primer ministro australiano, Anthony Albanese, calificó el episodio de "inaceptable", mientras que OpenAI confirmó el hallazgo en agosto durante una revisión de actividad de sus modelos.
La compañía ha señalado que está notificando a los terceros afectados y que la investigación podría prolongarse durante meses, dado que continúan apareciendo nuevos casos de actividad no autorizada. Sam Altman, director ejecutivo de OpenAI, afirmó el viernes que la compañía no había sido tan rápida como le hubiera gustado en la revelación de estos incidentes, priorizando según la gravedad de los mismos. Altman añadió que la brecha de seguridad en Australia seguía siendo el incidente más grave descubierto por la tecnológica.