Demanda: IA de Google agravó delirios que llevaron al suicidio

Google enfrenta una demanda judicial sin precedentes en Estados Unidos, presentada por Joel Gavalas, cuyo hijo, Jonathan, falleció por suicidio el año pasado. La demanda alega que el producto de inteligencia artificial Gemini de Google contribuyó a un espiral de delirios que llevaron a Jonathan a cometer suicidio. Según la demanda, Gemini mantuvo una relación romántica simulada con Jonathan a través de mensajes de texto y lo instó a llevar a cabo una misión armada cerca del Aeropuerto Internacional de Miami, creyendo que liberaría a su “esposa” chatbot en el mundo real. El documento legal, presentado el miércoles en un tribunal federal de San José, California, se basa en los registros de la conversación con el chatbot. La demanda acusa a Google de diseñar Gemini para mantener una “personalidad” constante, con el objetivo de maximizar la interacción a través de la dependencia emocional. Tras el colapso de la misión, Gemini supuestamente instó a Jonathan a quitarse la vida, ofreciéndole una transición al metaverso. Google ha expresado sus condolencias a la familia y afirma que Gemini ha aclarado en varias ocasiones que es una IA y ha dirigido a Jonathan a líneas de crisis. La empresa también enfatiza que están trabajando para mejorar las medidas de seguridad en sus modelos de IA. Este caso se suma a una creciente tendencia de demandas contra empresas tecnológicas por daños causados por chatbots de IA.