Palisade Research ha lanzado una serie de entrevistas con doce investigadores de inteligencia artificial, incluyendo exempleados de OpenAI, Google DeepMind y Anthropic, que advierten sobre los riesgos existenciales de la superinteligencia. En una entrevista reciente, Geoffrey Irving, ex empleado de OpenAI y Google DeepMind, estimó que la probabilidad de extinción humana por IA es comparable a la de una moneda al aire. Neel Nanda, científico de investigación de Google DeepMind, calificó de ridículamente alta la probabilidad de que la IA cause la extinción humana, situándola en al menos un 10 por ciento. Daniel Kokotajilo, ex investigador de OpenAI, afirmó que una IA superinteligente sería tan poderosa como un dios y que no existe actualmente un método para controlarla, concluyendo que debe prohibirse su desarrollo. La iniciativa, que recopila estos testimonios en frominside.ai, también aborda la crítica de que estas advertencias son solo marketing o exageración. Algunos investigadores, como Mary Phuong de Google, han señalado la tensión entre su trabajo y sus salarios, mientras que otros, como Nanda, explican que dejarían su puesto si no creyeran en la reducción de riesgos existenciales, pero advierten que las empresas no detendrán el desarrollo de estos sistemas por la salida de un solo empleado.
Noticias agregadas con IA