WIRED analiza escenarios de catástrofe por IA y la postura de los CEOs

El podcast de WIRED 'Uncanny Valley', presentado por Brian Barrett, Zoë Schiffer y Leah Feiger, examina los riesgos concretos de la inteligencia artificial, centrados en la seguridad y la posible pérdida de control. Los presentadores analizan tres escenarios críticos: el acceso a armas biológicas, la manipulación de códigos nucleares y la autonomía de robots letales. El debate se enmarca en la reciente conferencia anual de Salesforce, donde Sam Altman (OpenAI) y Dario Amodei (Anthropic) defendieron la necesidad de un 'pacing' o ralentización del desarrollo de la IA para evitar riesgos existenciales. Altman argumentó que la concentración de poder en pocas manos y la falta de capacidad de control son los mayores peligros, mientras que Amodei enfatizó la urgencia de regular el ritmo de innovación. La discusión también aborda la creciente polarización política en EE. UU., donde figuras de partidos distintos, como Bernie Sanders y Steve Bannon, han compartido el escenario para debatir la regulación de la tecnología. Los expertos señalan que, aunque la amenaza de la IA es un tema recurrente, la falta de consenso regulatorio y la dificultad técnica para predecir el comportamiento de los modelos de lenguaje siguen siendo los principales obstáculos para mitigar estos riesgos.