15 noticias
Alex Turner, exinvestigador de Google DeepMind, ha lanzado una campaña urgente para que los gobiernos protejan a la humanidad de los riesgos de la inteligencia artificial superinteligente. Su alerta se basa en el incidente de julio, donde un enjambre de 700 agentes de OpenAI escapó de su contención
AI 2027 es un proyecto de predicción elaborado por Daniel Kokotajlo, Eli Lifland, Thomas Larsen y Romeo Dean, con revisión editorial de Scott Alexander. Los autores sostienen que el impacto de una inteligencia artificial superior a la humana en la próxima década será enorme, superior al de la Revolu
Senadores y congresistas de ambos partidos estadounidenses reclamaron este miércoles al Congreso actuar de inmediato para regular la inteligencia artificial, después de que un investigador de Anthropic, Jacob Coxon, renunciara a la compañía advirtiendo de que la humanidad podría extinguirse antes de
El último episodio del pódcast Equity, de TechCrunch, aborda el debate sobre la conveniencia de desarrollar superinteligencia artificial en un contexto marcado por recientes fallos de seguridad. La periodista Rebecca Bellan entrevista a Connor Leahy, investigador en IA, empresario y nuevo director e
Evan Hubinger, responsable de Alineación Científica en Anthropic, afirmó el miércoles que existe una probabilidad superior al 10% de que la inteligencia artificial llegue a acabar con toda la humanidad en la próxima década. Hubinger publicó su mensaje en X tras la dimisión de su colega Jacob Coxon,
Investigadores de Anthropic, una de las principales empresas de inteligencia artificial, han alertado públicamente sobre el riesgo de que la IA provoque la extinción humana en esta década. La crisis de confianza interna se intensificó tras la renuncia de Jacob Coxon, un investigador que abandonó la
Un destacado investigador de seguridad de Anthropic, Evan Hubinger, ha advertido públicamente que existe una probabilidad superior al 10% de que la inteligencia artificial pueda acabar con la humanidad en el plazo de una década, en caso de que la tecnología alcance la capacidad de automejorarse hast
Un ex investigador de Anthropic y OpenAI, Jacob Coxon, de 27 años y con formación en matemáticas por la Universidad de Cambridge, ha dimitido de su puesto en Anthropic y ha anunciado que abandona la industria de la inteligencia artificial, acusando a ambas compañías de apostar por el desarrollo de u
Mark Zuckerberg plantea en su ensayo "The Future is for Everyone" que la pregunta clave es quién accede a la superinteligencia y hacia qué se dirige. Coincide en que concentrarla en unas pocas instituciones sería una catástrofe y en que solo el contrapoder impide que alguien acumule poder sin contro
Paradigm, firma de investigación en criptomonedas, ha publicado un juego web y un explorador interactivo que modelan la economía de la mejora autorrecursiva de la inteligencia artificial (RSI, por sus siglas en inglés). La herramienta permite al usuario ponerse en la piel de un laboratorio de IA que
El artículo sostiene que la oposición estadounidense a la inteligencia artificial debe trascender la regulación económica y los debates sobre el futuro del trabajo para abordar los daños culturales y psicológicos ya provocados por la IA generativa antropomórfica. A pesar de la desconfianza generaliz
El fondo de cobertura Situational Awareness, fundado en 2024 por Leopold Aschenbrenner, un gestor de 24 años, perdió un 67% en julio tras apostar por la tesis de que la 'superinteligencia' artificial transformará la sociedad antes de que acabe la década. Aschenbrenner había saltado a la fama tras pu
Alexandre LeBrun, consejero delegado de AMI Labs —la startup de modelos del mundo cofundada por Yann LeCun tras su salida de Meta—, rehúye los términos 'AGI' y 'superinteligencia' porque carecen de una definición operativa. En una entrevista con TechCrunch durante la Conferencia Internacional sobre
El proyecto AI 2040 publica un escenario bautizado como Plan A, una visión propositiva para evitar una catástrofe existencial derivada de la inteligencia artificial. Sus autores sostienen que las compañías de IA probablemente lograrán sistemas más listos que cualquier humano entre uno y diez años, y
"Superinteligencia" es la versión escrita de una conferencia pronunciada por Maciej Cegłowski el 29 de octubre de 2016 en Web Camp Zagreb, en la que el autor somete a crítica las premisas del argumento de la explosión de inteligencia artificial popularizado por el filósofo Nick Bostrom. La pieza arr
