La IA genera alertas de emergencia imprecisas que erosionan la confianza pública

Fuentes: AI Emergency Alerts Are Coming. Humans Might Not Be Ready

El uso de inteligencia artificial generativa por parte de los gestores de emergencias está aumentando, pero su aplicación en la comunicación pública presenta riesgos significativos. Laura Myers, directora del Centro de Seguridad Pública Avanzada de la Universidad de Alabama, reportó que un gestor local utilizó un chatbot para crear un gráfico meteorológico sobre el huracán Isaias, resultando en información inexacta que comprometió la credibilidad de la alerta. Aunque la mayoría de las agencias prohíben el uso de IA generativa, la práctica es común debido a la falta de recursos y la dificultad de los humanos para redactar mensajes claros y concisos bajo presión. La comunicación deficiente ha causado desastres graves, como el derrumbe de lodo en Montecito, California, en 2017, donde la fatiga de las advertencias impidió que los residentes evacuaran de forma inmediata, causando 23 muertes. Expertos como Jeannette Sutton de la Universidad de Albany señalan que la IA puede procesar miles de alertas en segundos, superando a los humanos en la síntesis de información crítica. Empresas como EM1 ya ofrecen modelos entrenados con datos de desastres, aunque su adopción oficial es limitada; por ahora, se usan para simular escenarios. La confianza pública, descrita como la moneda de cambio de los gestores, se ve amenazada por estas incoherencias, lo que podría dificultar futuras respuestas ante desastres climáticos más frecuentes.