La Comisión Europea ha presentado una propuesta de ley, conocida como la Ley de la UE para los Niños, que prohíbe a los chatbots simular emociones o relaciones interpersonales con menores de 18 años. El objetivo es prevenir la formación de dependencias emocionales y proteger la salud mental de los menores. La normativa, vista por WIRED, establece que los menores de 13 años no podrán acceder a estos asistentes sin supervisión de los tutores. Además, las plataformas digitales deberán integrar protecciones de seguridad infantil en sus productos o enfrentarán multas de hasta el 6% de su facturación global anual.
La propuesta también impide que los chatbots retengan memoria de interacciones entre conversaciones distintas, para evitar la acumulación de datos sensibles de menores y el refuerzo de patrones de interacción dañinos. Se prohíbe activar o incentivar el uso de chatbots de IA en redes sociales, plataformas de videojuegos y juegos, incluyendo no fijar a los compañeros de IA en la lista de contactos principal. Esta medida se limita a los asistentes que la Comisión considera que representan riesgos serios para la salud, seguridad y bienestar de los menores.
Simeon de Brouwer, de European Digital Rights, critica que la restricción se limite solo a los menores, argumentando que todos los usuarios deberían estar protegidos de las IAs adictivas. La Comisión Europea señala que la dependencia de los chatbots puede afectar negativamente el desarrollo infantil y las relaciones humanas, y advierte sobre consejos peligrosos en salud mental. Según una encuesta de Ipsos BVA, aproximadamente la mitad de los europeos de 11 a 25 años ha conversado íntimamente con chatbots de IA. La presidenta de la Comisión, Ursula von der Leyen, ha destacado la necesidad de regular el diseño adictivo de la IA, mientras que la UE también busca limitar el acceso a deepfakes generados por IA para fines comerciales.