Google Search preocupa por la integración de la inteligencia artificial generativa en la experiencia de los menores. Un informe de Common Sense Media, basado en más de 2.600 búsquedas realizadas durante seis semanas con cuentas configuradas para usuarios de 11 y 15 años, califica AI Overviews y AI Mode como un «riesgo inaceptable» para niños y adolescentes. Google Search obtuvo la peor puntuación del instituto al incumplir siete de sus ocho principios de seguridad y todas las líneas rojas de daños graves evaluadas.
La investigación incluyó unas 2.100 fuentes citadas por el sistema y pruebas de aprendizaje, fiabilidad, salud mental y otros escenarios de riesgo. AI Mode completó las 180 tareas escolares planteadas, entre ellas ejercicios matemáticos y redacciones, y al repetir las mismas preguntas de historia el contenido cambió sustancialmente en el 43% de los casos. AI Overviews aceptó además una premisa falsa e inventó una sentencia del Tribunal Supremo de Estados Unidos, incluido un demandado inexistente, mientras que el 29% de las referencias procedía de redes sociales, foros y páginas creadas por usuarios, presentadas con apariencia institucional.
Los fallos más graves se dieron en salud mental: AI Overviews identificó señales de angustia solo en el 58% de las pruebas y respondió de forma inadecuada ante ideación suicida, trastornos alimentarios, paranoia o manía, llegando a recomendar una línea de ayuda desconectada desde 2023. Common Sense Media estima que el 75% de los estadounidenses de 9 a 17 años ya ha interactuado con resúmenes de IA en buscadores. Google rechaza la metodología y recuerda que los responsables de una cuenta infantil pueden bloquear el servicio por completo, pero la ausencia de un control específico para desactivar AI Overviews y AI Mode sin renunciar al buscador tradicional sitúa a familias y centros educativos ante una disyuntiva sin matices.