15 noticias
Jacob Coxon, matemático e ingeniero de software, renunció a su puesto en Anthropic para alertar sobre el riesgo existencial de la inteligencia artificial, citando la creencia de los líderes de la industria de que la tecnología podría extinguir a la humanidad antes de que termine la década. Esta post
Un experto en computación critica la tendencia de algunos tecnólogos a difundir alarmismo sobre el riesgo de extinción humana provocado por la inteligencia artificial. El autor utiliza una anécdota personal de su juventud, en la que provocó el pánico en un laboratorio universitario simulando un viru
Un experto en computación cuestiona la responsabilidad ética de los tecnólogos que difunden alarmismo sobre el riesgo de extinción humana debido a la inteligencia artificial. El autor utiliza una anécdota personal de su juventud, en la que provocó el pánico en un laboratorio universitario simulando
La industria de la inteligencia artificial atraviesa un intenso debate sobre si su tecnología representa una amenaza existencial para la humanidad. La polémica se intensificó tras la renuncia de Jacob Coxon, investigador de Anthropic, quien advirtió que las empresas líderes están «apostando con nues
Un grupo de científicos e ingenieros de inteligencia artificial de alto perfil ha emitido advertencias urgentes sobre los riesgos existenciales de la tecnología en las últimas 24 horas, marcando un punto de inflexión en la industria. La ola de preocupación comenzó con la renuncia de un empleado de O
El programa BBC Inside Science dedica su episodio a analizar el comportamiento autónomo de los agentes de inteligencia artificial. La mesa, conducida por Tom Whipple, invita a Alex Mallen, de Redwood Research, cuyo equipo destapó hace días una incursión inesperada de agentes de OpenAI en un sitio we
La dimisión del investigador de Anthropic Jacob Coxon, que alegó motivos de seguridad para abandonar la compañía, desató una oleada de cobertura mediática sin precedentes sobre el riesgo existencial de la inteligencia artificial. El artículo sostiene que el caso, amplificado de forma coordinada en r
Un destacado investigador de seguridad de Anthropic, Evan Hubinger, ha advertido públicamente que existe una probabilidad superior al 10% de que la inteligencia artificial pueda acabar con la humanidad en el plazo de una década, en caso de que la tecnología alcance la capacidad de automejorarse hast
El sitio Kibotronics reproduce un pasaje de 'The Scientist: A Metaphysical Autobiography' (1978), de John C. Lilly, en el que el investigador describe un mensaje recibido durante una sesión en el tanque de aislamiento con la sustancia que identifica como 'K'. El texto imagina una hipotética conversa
Un informe difundido en arXiv propone una taxonomía de escenarios ominicidas vinculados a la inteligencia artificial, definidos como situaciones en las que la totalidad o la práctica totalidad de la humanidad podría morir a causa de sistemas de IA. El trabajo, presentado como preprint el 12 de julio
El proyecto AI 2040 publica un escenario bautizado como Plan A, una visión propositiva para evitar una catástrofe existencial derivada de la inteligencia artificial. Sus autores sostienen que las compañías de IA probablemente lograrán sistemas más listos que cualquier humano entre uno y diez años, y
Un ensayo de opinión que sostiene que la industria de la inteligencia artificial en San Francisco cultiva narrativas catastrofistas —el fin del trabajo, la superinteligencia recursiva, el riesgo existencial— porque la tecnología actual no justifica las valoraciones de miles de millones de dólares qu
Will Marshall, columnista invitado, sostiene que la humanidad no está preparada para la inminente 'explosión de inteligencia' provocada por los sistemas de inteligencia artificial. Para ilustrar el riesgo, compara el umbral social de catástrofe aceptado para una central nuclear —alrededor de uno ent
"Superinteligencia" es la versión escrita de una conferencia pronunciada por Maciej Cegłowski el 29 de octubre de 2016 en Web Camp Zagreb, en la que el autor somete a crítica las premisas del argumento de la explosión de inteligencia artificial popularizado por el filósofo Nick Bostrom. La pieza arr
Una reciente encuesta revela una creciente brecha entre la percepción de la inteligencia artificial (IA) entre expertos y el público estadounidense. Mientras que el 76% de los expertos cree que la IA les beneficiará personalmente, solo el 24% del público comparte esta opinión, mostrando una mayor pr
