Las grandes tecnológicas chinas ByteDance, Alibaba y Tencent desactivarán en julio sus agentes de IA personalizados antes de la entrada en vigor de las Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, publicadas por el Gobierno chino. Doubao (ByteDance) apagará sus agentes el 15 de julio y borrará los historiales de conversación tres meses después; Qwen (Alibaba) lo hará el 10 de julio, y el resto de funciones, el día 15. Tencent ya desconectó su modelo Yuanbao.
La normativa, sin embargo, no afecta a la IA generativa en general: excluye asistentes de trabajo, estudio, investigación o atención al cliente. Se dirige a los sistemas que simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para mantener una interacción emocional sostenida, es decir, los chatbots diseñados para actuar como amigo, personaje de ficción o pareja sentimental.
El objetivo declarado es evitar la dependencia emocional, la adicción y la manipulación. La regulación prohíbe que estos sistemas fomenten vínculos que conduzcan a decisiones irracionales, impide ofrecer relaciones virtuales íntimas o vínculos de parentesco simulados a menores sin consentimiento paterno, y exige precauciones especiales con personas mayores, colectivo expuesto a la soledad. Los modelos deberán intervenir cuando detecten emociones extremas o riesgos para el usuario, animarle a buscar ayuda y recordarle que descanse tras dos horas de conversación continua. Es la primera regulación que limita la capacidad de la IA para establecer relaciones personales, y no su potencia técnica.