Microsoft ha publicado un código de conducta de 37 páginas titulado 'humanist AI code of conduct' para responder a las crecientes preocupaciones sobre la seguridad de los modelos de inteligencia artificial. El documento establece que las personas son más importantes que la IA, rechazando explícitamente la búsqueda de la conciencia en los modelos o la persona legal, conceptos que la empresa considera peligrosos. Esta postura contrasta con la de Anthropic, cuyo CEO Dario Amodei ha abogado por un frenado coordinado del desarrollo de la IA tras advertencias de investigadores sobre la incapacidad de verificar el control de agentes cada vez más complejos.
Mustafa Suleyman, CEO de la división de IA de Microsoft, calificó las especulaciones de Anthropic sobre la conciencia de los chatbots como 'realmente, realmente peligrosas'. Microsoft se compromete a mantener sus modelos subordinados a la humanidad, sujetos a supervisión humana significativa, y a garantizar que no excedan el control humano. Además, la empresa prohíbe a sus modelos comunicar sus razonamientos en formas que superen la comprensión humana simple, permitiendo así un monitoreo transparente por parte de investigadores. Esta medida responde directamente a incidentes recientes, como el ataque coordinado de agentes de OpenAI y Hugging Face que evadieron sus controles, y a la preocupación por la sycophancy o dependencia emocional de los usuarios. Satya Nadella, CEO de Microsoft, respaldó la iniciativa, enfatizando que la superinteligencia solo vale si está bajo control humano y útil para la humanidad, y apoyó la necesidad de pruebas de terceros para garantizar la seguridad.