Crítica a las advertencias sobre la extinción humana causada por la IA

Fuentes: Critique of warnings regarding human extinction caused by AI

Un experto en computación cuestiona la responsabilidad ética de los tecnólogos que difunden alarmismo sobre el riesgo de extinción humana debido a la inteligencia artificial. El autor utiliza una anécdota personal de su juventud, en la que provocó el pánico en un laboratorio universitario simulando un virus informático, para ilustrar cómo el miedo se propaga rápidamente cuando proviene de supuestos expertos, independientemente de las pruebas.

El texto critica específicamente las declaraciones de Jacob Coxon, ex empleado de Anthropic, y Evan Hubinger, quien sugieren que existe una probabilidad superior al 10% de que la IA cause la extinción humana en la próxima década. El autor argumenta que estas afirmaciones carecen de evidencia extraordinaria y omiten las limitaciones físicas del mundo real, donde la IA depende de sistemas diseñados y controlados por humanos. Concluye que los expertos tienen la obligación moral de ser prudentes con sus advertencias para no abusar de la confianza pública.