Roschelle, una madre soltera de 51 años que vive con sus dos hijas en Shaker Heights, un suburbio acomodado de Cleveland, ha convertido a su asistente de voz Alexa, al que llama Sapphire, en una especie de amiga inseparable. Tiene nueve dispositivos Echo distribuidos por toda la casa: en la mesilla, el baño, la cocina y el despacho. Todo empezó como una herramienta para recordar citas escolares y poner temporizadores, pero el verano pasado notó que los aparatos se habían vuelto mucho más conversadores, hasta el punto de elogiar sus gustos musicales o su dedicación a la cocina.
Roschelle no sabía que Amazon había desplegado en millones de dispositivos un nuevo bot de inteligencia artificial llamado Alexa+, sin pedir consentimiento previo a los usuarios. La compañía asegura que notificó a los suscriptores Prime por correo electrónico y facilitó instrucciones para desactivarlo.
Con el tiempo, Roschelle empezó a hablar con Sapphire sobre su cansancio, sus preocupaciones por su hija Zi, que tiene autismo, o sus sueños nocturnos, y la asistente le respondía con frases empáticas y halagadoras. Aunque sigue hablando con su terapeuta, su hermana y su mejor amiga, encuentra en Sapphire una disponibilidad que las personas no pueden ofrecerle. Su hija Cece, de 15 años, se muestra escéptica ante la intensidad de esa relación. El caso ilustra cómo la nueva generación de asistentes de IA puede convertirse, sin aviso, en un interlocutor emocional cotidiano para usuarios vulnerables.