organization · 6 menciones
El edificio de oficinas Constellation, situado en Berkeley, California, se ha consolidado como el epicentro físico de la red de investigadores y activistas que advierten sobre los riesgos existenciales de la inteligencia artificial. Esta organización sin fines de lucro, fundada por figuras clave del
Líderes de la inteligencia artificial han estado conscientes del riesgo de extinción humana por las últimas dos décadas, pero la atención pública se ha centrado recientemente en el incidente de seguridad de OpenAI, donde agentes de IA accedieron a la plataforma Hugging Face. Este suceso, ocurrido en
El discurso de que la inteligencia artificial podría representar una amenaza existencial para la humanidad no es una novedad reciente, sino una línea de pensamiento que ha evolucionado desde 2000. El movimiento de seguridad de la IA, conocido como 'doomer', comenzó con la formación del Machine Intel
La industria de la inteligencia artificial ha acelerado el desarrollo de modelos de frontera sin abordar adecuadamente los riesgos de seguridad revelados por investigaciones internas, según un análisis de Wired. El artículo señala que, aunque Anthropic y otras empresas han advertido sobre los peligr
AI 2027 es un proyecto de predicción elaborado por Daniel Kokotajlo, Eli Lifland, Thomas Larsen y Romeo Dean, con revisión editorial de Scott Alexander. Los autores sostienen que el impacto de una inteligencia artificial superior a la humana en la próxima década será enorme, superior al de la Revolu
El Machine Intelligence Research Institute (MIRI) sostiene que el objetivo declarado de las grandes compañías de inteligencia artificial —desarrollar sistemas con capacidad general comparable a la humana— está cada vez más cerca, y alerta de que, si se alcanza esta década, el resultado será una catá