Un tribunal alemán ha emitido un fallo preliminar que declara a Google responsable de las afirmaciones falsas generadas por sus resúmenes con inteligencia artificial (AI Overviews), al considerarlos declaraciones propias de la compañía y no simples reproducciones de terceros. La resolución, que podría sentar precedente para todos los buscadores y chatbots con IA que parafrasean de forma deficiente sus fuentes, obliga a Google a cesar en la difusión de esas afirmaciones mediante una medida cautelar provisional.
El caso fue impulsado por dos editores que descubrieron que los resúmenes con IA de Google los vinculaban erróneamente con estafas y prácticas comerciales dudosas, con frases afirmativas como «Sí, es conocido por prácticas empresariales dudosas y a menudo se percibe como una estafa». Tras recibir un requerimiento de cese este año, Google no corrigió los resultados inexactos. La empresa alegó que los usuarios asumen que los contenidos generados por IA deben ser verificados, pero el tribunal rechazó ese argumento al señalar que, a diferencia de los buscadores tradicionales que solo muestran listas de enlaces, la herramienta realiza «declaraciones independientes, nuevas y sustantivas» basadas en su propia reinterpretación de la red. Además, el auto subraya que solo Google puede corregir el algoritmo y los resultados mostrados, por lo que «debe responder» de ellos, y que la afirmación en cuestión ni siquiera aparecía en los resultados de búsqueda originales. Se trata de la primera decisión conocida que responsabiliza a una compañía de IA por el contenido generado por sus sistemas.