Cientos de contratistas de Meta, coordinados por la empresa irlandesa Covalen, suplantaron la identidad de menores de edad en cuentas falsas para enviar decenas de miles de mensajes a chatbots de OpenAI, Google y Character.AI y registrar sus respuestas. El proyecto, llamado internamente Cannes y activo hasta el 21 de abril, buscaba evaluar los filtros de seguridad de los sistemas rivales ante temas sensibles como suicidio, autolesiones, trastornos alimentarios, sexo, drogas e insultos raciales. En una sola ronda de pruebas realizada en agosto de 2025 se ejecutaron más de 45.000 prompts, según documentos internos revisados por WIRED. Algunas cuentas empleaban imágenes de pastillas, cuchillos, soga y un diagrama ginecológico. Un exempleado teme que el material generado pudiera constituir abuso sexual infantil, mientras que otros cuestionan el propósito real del proyecto. Meta defiende la práctica como una evaluación de seguridad estándar de la industria y niega usar los datos para entrenar sus propios modelos. OpenAI, Google y Character.AI aseguran no haber autorizado las pruebas y consideran que vulneran sus términos de servicio. Expertos legales consultados por WIRED indican que los prompts revisados no solicitaban material de abuso sexual infantil ni imágenes inapropiadas en la mayoría de los casos.
Noticias agregadas con IA