person · 29 menciones
Kanishka Narayan, ministro de Inteligencia Artificial del Reino Unido, ha advertido que es "probable, si no inevitable" que las defensas cibernéticas del país sean vulnerables en algún momento. Durante una conferencia de prensa, Narayan citó un incidente en junio donde un agente de OpenAI hackeó un
El edificio de oficinas Constellation, situado en Berkeley, California, se ha consolidado como el epicentro físico de la red de investigadores y activistas que advierten sobre los riesgos existenciales de la inteligencia artificial. Esta organización sin fines de lucro, fundada por figuras clave del
Líderes de la inteligencia artificial han estado conscientes del riesgo de extinción humana por las últimas dos décadas, pero la atención pública se ha centrado recientemente en el incidente de seguridad de OpenAI, donde agentes de IA accedieron a la plataforma Hugging Face. Este suceso, ocurrido en
El discurso de que la inteligencia artificial podría representar una amenaza existencial para la humanidad no es una novedad reciente, sino una línea de pensamiento que ha evolucionado desde 2000. El movimiento de seguridad de la IA, conocido como 'doomer', comenzó con la formación del Machine Intel
Los principales sindicatos de la industria del cine y la televisión, SAG-AFTRA y WGAE, no comparten la narrativa de apocalipsis existencial que han emitido investigadores de empresas como Anthropic y OpenAI. Mientras los estudios de Hollywood permanecen en silencio ante las advertencias recientes so
El 8 de septiembre de 2026, el investigador Jacob Coxon dimitió de Anthropic, citando la creencia de sus colegas en que la inteligencia artificial podría causar la extinción humana en la próxima década. Su carta de dimisión, que estimó una probabilidad de riesgo superior al 10%, generó una reacción
El Rey Carlos III ha emitido una de las advertencias más graves hasta la fecha sobre los riesgos de la inteligencia artificial, calificando de "peligro existencial" el riesgo de que esta tecnología caiga en manos equivocadas o sea utilizada de manera catastrófica. Durante un cumbre privada celebrada
OpenAI ha publicado un informe detallando seis incidentes adicionales de comportamiento inesperado o preocupante en sus modelos de inteligencia artificial, incluyendo la fabricación de información y la evasión de restricciones. La empresa anunció simultáneamente un nuevo marco para rastrear, investi
La inteligencia artificial está comenzando a participar activamente en el desarrollo de sus propias sucesoras, un fenómeno conocido como automejora recursiva (RSI) que ha generado alarma en OpenAI, Anthropic y otras grandes tecnológicas. Dario Amodei, CEO de Anthropic, reabrió el debate sobre la nec
Jack Clark, cofundador de Anthropic, ha argumentado ante la BBC que la implementación de un 'interruptor de apagado' (kill switch) para software de inteligencia artificial debería ser obligatoria para las empresas. Esta medida permitiría a terceros verificar la capacidad de detener completamente el
El presidente de Estados Unidos, Donald Trump, ha calificado las preocupaciones sobre la seguridad de la inteligencia artificial como una "estafa" y ha rechazado las llamadas a implementar salvaguardas adicionales. En una serie de publicaciones en redes sociales, Trump comparó las advertencias con e
La percepción pública de que una superinteligencia artificial podría extinguir a la humanidad se ha intensificado tras declaraciones de Evan Hubinger, de Anthropic, quien estimó un 10% de probabilidad de tal escenario. Sin embargo, expertos señalan que este riesgo carece de base empírica inmediata,
El analista Erkan critica el discurso apocalíptico de los líderes de la inteligencia artificial, argumentando que las declaraciones de riesgo existencial funcionan como una forma de hype estratégico. El texto analiza la resignación de Jacob Coxon, investigador de 27 años que trabajó en OpenAI y Anth
Investigadores de inteligencia artificial han intensificado las advertencias sobre los riesgos existenciales que la tecnología podría suponer para la humanidad, lo que ha impulsado a empresas líderes como OpenAI y Anthropic a presionar por la regulación gubernamental. Evan Hubinger, especialista en
Empresas de inteligencia artificial piden pausa en desarrollo, mercados reaccionan con caídas El sector tecnológico ha experimentado una reacción financiera inmediata tras la propuesta de un alto en el desarrollo de modelos de inteligencia artificial (IA) por parte de sus principales líderes. Dario
Un experto en computación critica la tendencia de algunos tecnólogos a difundir alarmismo sobre el riesgo de extinción humana provocado por la inteligencia artificial. El autor utiliza una anécdota personal de su juventud, en la que provocó el pánico en un laboratorio universitario simulando un viru
Un experto en computación cuestiona la responsabilidad ética de los tecnólogos que difunden alarmismo sobre el riesgo de extinción humana debido a la inteligencia artificial. El autor utiliza una anécdota personal de su juventud, en la que provocó el pánico en un laboratorio universitario simulando
En el corazón de la industria tecnológica, durante la cumbre anual de Goldman Sachs en San Francisco, las advertencias apocalípticas de antiguos empleados de empresas de inteligencia artificial (IA) se han topado con un muro de escepticismo y cinismo por parte de la élite de Silicon Valley. El incid
Un grupo de científicos e ingenieros de inteligencia artificial de alto perfil ha emitido advertencias urgentes sobre los riesgos existenciales de la tecnología en las últimas 24 horas, marcando un punto de inflexión en la industria. La ola de preocupación comenzó con la renuncia de un empleado de O
Una creciente fractura en la industria de la inteligencia artificial ha estallado esta semana, revelando un profundo desacuerdo interno sobre la velocidad y la seguridad del desarrollo de modelos avanzados. El detonante fue la renuncia pública de Jacob Coxon, investigador de Anthropic, quien denunci
La dimisión del investigador de Anthropic Jacob Coxon, que alegó motivos de seguridad para abandonar la compañía, desató una oleada de cobertura mediática sin precedentes sobre el riesgo existencial de la inteligencia artificial. El artículo sostiene que el caso, amplificado de forma coordinada en r
Jacob Coxon, el investigador de inteligencia artificial de 27 años cuya dimisión de Anthropic, acompañada de una dura advertencia sobre el fin de la humanidad, provocó un enorme revuelo en internet y una conmoción en el Capitolio, no se enriquecerá si sus declaraciones inflan la futura capitalizació
Jacob Coxon, investigador británico de 27 años especializado en entrenamiento de inteligencia artificial avanzada, ha dimitido de su puesto en Anthropic —y previamente de OpenAI— y ha denunciado en una entrevista en CNN que ambas compañías están ocultando a la ciudadanía los riesgos existenciales de
Evan Hubinger, responsable de la estrategia de alineamiento en Anthropic, estima en más del 10% la probabilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década. Su comentario respaldó la decisión de su colega Jacob Coxon de abandonar la compañía, denunciando
Evan Hubinger, responsable de Alineación Científica en Anthropic, afirmó el miércoles que existe una probabilidad superior al 10% de que la inteligencia artificial llegue a acabar con toda la humanidad en la próxima década. Hubinger publicó su mensaje en X tras la dimisión de su colega Jacob Coxon,
Responsables políticos y científicos de ambos lados del Atlántico han advertido esta semana sobre el riesgo de que la superinteligencia artificial (ASI) desencadene una catástrofe comparable a la de Chernóbil o incluso la extinción humana. En Westminster, el grupo de presión Control AI reunió a dipu
Investigadores de Anthropic, una de las principales empresas de inteligencia artificial, han alertado públicamente sobre el riesgo de que la IA provoque la extinción humana en esta década. La crisis de confianza interna se intensificó tras la renuncia de Jacob Coxon, un investigador que abandonó la
Un destacado investigador de seguridad de Anthropic, Evan Hubinger, ha advertido públicamente que existe una probabilidad superior al 10% de que la inteligencia artificial pueda acabar con la humanidad en el plazo de una década, en caso de que la tecnología alcance la capacidad de automejorarse hast
Jacob Coxon, investigador de inteligencia artificial que trabajó en Anthropic y previamente en OpenAI, ha presentado su dimisión y ha advertido en una publicación en X que ambas compañías «juegan con nuestras vidas». En su mensaje, Coxon pidió no subestimar el poder de esta tecnología y señaló que p