Riesgos de la IA: sesgos, ciberataques y armas autónomas

Los líderes de las principales empresas de inteligencia artificial, como Dario Amodei, Sam Altman y Elon Musk, han advertido sobre la velocidad con la que avanza la tecnología frente a las medidas de seguridad. Esta brecha temporal aumenta los riesgos de discriminación, desinformación y daños a gran escala. Los modelos de IA pueden reproducir sesgos históricos presentes en los datos de entrenamiento, intensificando desigualdades existentes. Un estudio del NIH demostró que un algoritmo utilizado por hospitales y aseguradoras en EE. UU. tenía menos probabilidades de seleccionar a pacientes negros con necesidades sanitarias similares a los blancos, limitando su acceso a atención especializada. Además, la integración de la IA en infraestructuras críticas como redes eléctricas y mercados financieros eleva el riesgo de ciberataques. En 2022, T-Mobile sufrió una filtración grave que afectó a 37 millones de personas, mientras que un ataque con IA obligó a Yum Brands a cerrar casi 300 sucursales en el Reino Unido. En el ámbito militar, el armamento autónomo, como el sistema AEGIS de EE. UU., plantea riesgos éticos por su capacidad para identificar y atacar objetivos con intervención humana limitada. Finalmente, la falta de transparencia en los algoritmos, conocidos como 'cajas negras', dificulta la detección de fallos. El caso de Zillow ilustra esta vulnerabilidad: en 2021, el modelo de estimación de valor de viviendas falló debido a la pandemia, provocando pérdidas de 304 millones de dólares y el cierre de su programa de compraventa.