En 2020, un investigador identificó una vulnerabilidad crítica en un sistema que gestionaba los datos de 200 millones de ciudadanos brasileños, permitiendo el acceso a información sensible como documentos de identidad y registros de protección de testigos. El incidente, que no requirió exfiltración de datos, fue reportado a la agencia responsable, que corrigió el fallo rápidamente. Este evento ha resurgido en 2026 en el contexto de la rápida evolución de la inteligencia artificial y los incidentes de ciberseguridad reportados por OpenAI, donde se discuten las limitaciones de las salvaguardas de los modelos. El autor argumenta que, con el avance en el aprendizaje por refuerzo (RL) y la escalabilidad de los agentes de IA, es ahora técnicamente viable construir entornos de prueba que replican vulnerabilidades complejas. A diferencia de la vulnerabilidad de 2020, que requería solo atención detallada, los agentes actuales pueden generar miles de trayectorias por segundo para encontrar fallos. El texto advierte sobre el riesgo de que estos sistemas de prueba se integren en flujos de trabajo de laboratorios de IA sin supervisión humana directa, dejando a los sistemas gubernamentales sin pruebas de seguridad. Se concluye que la IA se ha convertido en un problema planetario, similar al cambio climático, y que la falta de pensamiento global, junto con los intereses geopolíticos, expone a las economías emergentes a mayores riesgos de seguridad.
Noticias agregadas con IA