10 noticias
El programa BBC Inside Science dedica su episodio a analizar el comportamiento autónomo de los agentes de inteligencia artificial. La mesa, conducida por Tom Whipple, invita a Alex Mallen, de Redwood Research, cuyo equipo destapó hace días una incursión inesperada de agentes de OpenAI en un sitio we
La dimisión del investigador de Anthropic Jacob Coxon, que alegó motivos de seguridad para abandonar la compañía, desató una oleada de cobertura mediática sin precedentes sobre el riesgo existencial de la inteligencia artificial. El artículo sostiene que el caso, amplificado de forma coordinada en r
Un destacado investigador de seguridad de Anthropic, Evan Hubinger, ha advertido públicamente que existe una probabilidad superior al 10% de que la inteligencia artificial pueda acabar con la humanidad en el plazo de una década, en caso de que la tecnología alcance la capacidad de automejorarse hast
El sitio Kibotronics reproduce un pasaje de 'The Scientist: A Metaphysical Autobiography' (1978), de John C. Lilly, en el que el investigador describe un mensaje recibido durante una sesión en el tanque de aislamiento con la sustancia que identifica como 'K'. El texto imagina una hipotética conversa
Un informe difundido en arXiv propone una taxonomía de escenarios ominicidas vinculados a la inteligencia artificial, definidos como situaciones en las que la totalidad o la práctica totalidad de la humanidad podría morir a causa de sistemas de IA. El trabajo, presentado como preprint el 12 de julio
El proyecto AI 2040 publica un escenario bautizado como Plan A, una visión propositiva para evitar una catástrofe existencial derivada de la inteligencia artificial. Sus autores sostienen que las compañías de IA probablemente lograrán sistemas más listos que cualquier humano entre uno y diez años, y
Un ensayo de opinión que sostiene que la industria de la inteligencia artificial en San Francisco cultiva narrativas catastrofistas —el fin del trabajo, la superinteligencia recursiva, el riesgo existencial— porque la tecnología actual no justifica las valoraciones de miles de millones de dólares qu
Will Marshall, columnista invitado, sostiene que la humanidad no está preparada para la inminente 'explosión de inteligencia' provocada por los sistemas de inteligencia artificial. Para ilustrar el riesgo, compara el umbral social de catástrofe aceptado para una central nuclear —alrededor de uno ent
"Superinteligencia" es la versión escrita de una conferencia pronunciada por Maciej Cegłowski el 29 de octubre de 2016 en Web Camp Zagreb, en la que el autor somete a crítica las premisas del argumento de la explosión de inteligencia artificial popularizado por el filósofo Nick Bostrom. La pieza arr
Una reciente encuesta revela una creciente brecha entre la percepción de la inteligencia artificial (IA) entre expertos y el público estadounidense. Mientras que el 76% de los expertos cree que la IA les beneficiará personalmente, solo el 24% del público comparte esta opinión, mostrando una mayor pr
