China ha puesto en vigor las 'Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial', una normativa que regula los sistemas de IA capaces de simular rasgos humanos en interacciones emocionales. La regulación, que excluye a chatbots de atención al cliente, sistemas de preguntas y respuestas, asistentes laborales y herramientas educativas y de investigación, prohíbe la complacencia excesiva, las prácticas que fomenten la dependencia emocional o la adicción y la manipulación que lleve a decisiones irrazonables. También veta los contenidos que promuevan la autolesión o el suicidio y el maltrato verbal que pueda perjudicar la salud mental.
Los proveedores deberán informar de forma clara de que el interlocutor es una IA, avisar al usuario tras dos horas de uso continuado y obtener el consentimiento de padres o tutores para los menores de 14 años. La norma prohíbe ofrecer a menores servicios de relaciones íntimas virtuales, como familiares o acompañantes virtuales. Gigantes como ByteDance y Alibaba ya han empezado a eliminar o limitar funciones de humanización y personalización de sus chatbots para adaptarse a las nuevas exigencias.