OpenAI ha publicado una lista de proyectos científicos prioritarios diseñados para maximizar el impacto de la inteligencia artificial en la sociedad y la tecnología. La empresa identifica cuatro áreas específicas como críticas para el avance de la IA y su aplicación a largo plazo, destacando su relevancia tanto para la investigación académica como para la seguridad global.
El primer proyecto propuesto es la detección de sistemas de IA ocultos o 'breakthroughs' no revelados. Dado el aumento de recursos en la investigación, OpenAI busca métodos para identificar si una organización ha desarrollado y utilizado un sistema de IA avanzado con fines potencialmente maliciosos, analizando señales en noticias, mercados financieros y juegos en línea.
El segundo área se centra en la creación de agentes de programación autónomos capaces de ganar competiciones de programación en línea. La empresa argumenta que la capacidad de un programa para escribir otros programas constituye una ventaja competitiva significativa y una herramienta poderosa para la automatización.
En el tercer punto, OpenAI aborda la ciberseguridad defensiva. Reconoce que la IA se utilizará pronto para realizar intrusiones en sistemas informáticos, por lo que la compañía busca desarrollar técnicas específicas para defenderse contra hackers sofisticados que empleen métodos de IA avanzados.
Finalmente, el cuarto proyecto implica la construcción de una simulación compleja con múltiples agentes de larga duración. Este sistema debe permitir a los agentes interactuar entre sí, aprender a lo largo del tiempo, descubrir el lenguaje y alcanzar una variedad rica de objetivos, lo que podría servir como un laboratorio para entender la emergencia de la inteligencia artificial.