OpenAI actualiza la especificación de modelos con cinco valores clave

Fuentes: OpenAI updates Model Spec with five core values for AI behavior

OpenAI ha publicado una actualización de su documento público 'Model Spec', que redefine las directrices de comportamiento de sus modelos de inteligencia artificial. El nuevo texto reorganiza la guía técnica en torno a cinco valores fundamentales: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, agencia humana y cuidado. Este cambio busca asegurar que los modelos no solo sigan instrucciones literales, sino que comprendan las intenciones y valores humanos para ejercer un buen juicio en situaciones no explícitamente cubiertas por las instrucciones.

La actualización introduce una jerarquía de comandos más clara y retira gran parte de la guía detallada de estilo, sustituyéndola por predeterminados más robustos que permiten a los usuarios y desarrolladores sobreescribir el comportamiento según sus preferencias. Se enfatiza la importancia de la agencia humana, asegurando que los modelos no impongan sus propias preferencias ni manipulen las decisiones de los usuarios, sino que faciliten su capacidad para entender y actuar por sí mismos. Además, se incorporan nuevas secciones sobre el contexto, la supervisión y los efectos secundarios, buscando alinear la IA con normas sociales y profesionales relevantes. Esta reestructuración es parte de un esfuerzo más amplio de OpenAI para refinar la alineación de valores mediante investigación y retroalimentación pública, con el objetivo final de que la inteligencia artificial general beneficie a toda la humanidad.