El edificio de oficinas Constellation, situado en Berkeley, California, se ha consolidado como el epicentro físico de la red de investigadores y activistas que advierten sobre los riesgos existenciales de la inteligencia artificial. Esta organización sin fines de lucro, fundada por figuras clave del movimiento del altruismo eficaz y el racionalismo, agrupa a expertos que influyen en la cultura interna de empresas como Anthropic y en el debate público sobre la regulación de la tecnología. Su misión es garantizar que la IA transformadora se desarrolle y gobierne de manera segura, alertando de escenarios catastróficos como la pérdida de control civil, eventos extremos con víctimas masivas o el afianzamiento de regímenes autoritarios.
Constellation funciona como un nodo de coordinación para la comunidad de 'seguridad de la IA', donde se reúnen personas que han impulsado la conciencia sobre estos riesgos. Entre sus miembros destacan Eliezer Yudkowsky, fundador del Machine Intelligence Research Institute (MIRI), y Nate Soares, autor de 'If Anyone Builds It, Everyone Dies'. Esta red formó a muchos de los primeros empleados de Anthropic, incluyendo a Dario y Daniela Amodei, quienes se desvincularon del movimiento tras el encarcelamiento de Sam Bankman-Fried. La relevancia actual de esta comunidad se ha visto reforzada por declaraciones recientes de Evan Hubinger, jefe de alineamiento de Anthropic, quien estimó un 10% de probabilidad de extinción humana en la próxima década, validando las preocupaciones de la red.