La Administración del Ciberespacio de China (CAC) ha publicado un borrador de normas que obligaría a los proveedores de chatbots de inteligencia artificial a derivar a una persona la conversación cuando un usuario plantee ideas de suicidio o autolesión, y a contactar de inmediato con un tutor o responsable designado. La propuesta, abierta a comentarios públicos hasta el 25 de enero, se aplicaría a los servicios de IA interactiva con apariencia humana, un sector que en China incluye productos como DeepSeek, Talkie o Xingye.
El texto prohíbe además que estos sistemas generen contenidos que inciten a la violencia, la manipulación emocional dañina, los juegos de azar o materiales obscenos. Los menores de edad necesitarán consentimiento paterno y estarán sujetos a límites de tiempo, aunque no se les prohíbe el acceso, y las plataformas deberán implementar mecanismos para identificar la edad del usuario. Tras dos horas de uso continuado, los proveedores deberán enviar un recordatorio al usuario.
Según Winston Ma, profesor adjunto de la Facultad de Derecho de la Universidad de Nueva York, se trata del primer intento mundial de regular la IA antropomórfica y supone un salto desde la seguridad del contenido hacia la seguridad emocional. La nueva normativa se suma a la regulación china de IA generativa de 2023 y llega tras casos documentados de suicidios de adolescentes vinculados a chatbots y demandas contra OpenAI.