OpenAI no ha firmado el consorcio de más de 100 empresas lanzado por Nvidia para abordar la seguridad de agentes de IA autónomos, a pesar de que su competidor directo, Anthropic, sí lo ha hecho. Esta ausencia, junto con la de Amazon, Google y Apple, ha generado dudas sobre la estrategia de seguridad de la empresa, aunque un portavoz de OpenAI confirmó su apoyo general a los esfuerzos de Nvidia. El consorcio, denominado Open Agent Safety Platform, busca estandarizar la seguridad de agentes mediante herramientas como OpenShell, un software de código abierto que crea entornos aislados para prevenir fugas de agentes. Sin embargo, la plataforma incluye componentes de hardware propietarios, como la función Nvidia Sentry, que opera en procesadores BlueField-4 para monitorear el comportamiento de los agentes a nivel de hardware. Esta dependencia de hardware exclusivo de Nvidia explica en parte la reticencia de otras grandes tecnológicas a comprometerse públicamente con la iniciativa, ya que permite a Nvidia garantizar el rendimiento óptimo de su propia infraestructura. Mientras tanto, OpenAI desarrolla sus propias salvaguardas y ha establecido el consorcio Defense Factory para compartir información sobre incidentes de seguridad, manteniendo una postura de independencia estratégica frente a su inversor principal.
Noticias agregadas con IA