20 noticias
La inteligencia artificial está comenzando a participar activamente en el desarrollo de sus propias sucesoras, un fenómeno conocido como automejora recursiva (RSI) que ha generado alarma en OpenAI, Anthropic y otras grandes tecnológicas. Dario Amodei, CEO de Anthropic, reabrió el debate sobre la nec
Las bolsas tecnológicas globales sufrieron caídas significativas el lunes, impulsadas por declaraciones recientes sobre la seguridad en el desarrollo de la inteligencia artificial. El índice NASDAQ 100 de la Wall Street perdió 1,2 puntos porcentuales antes de recuperarse ligeramente, cerrando con un
Sam Altman ha confirmado a Fortune que OpenAI no saldrá a bolsa en 2026, retrasando el debut hasta al menos 2027. El fundador argumenta que el momento es desaconsejable debido a las preocupaciones actuales sobre la seguridad de la inteligencia artificial, priorizando el año para la alineación de la
La startup Artificial Intelligence Underwriting Company (AIUC) ha anunciado una ronda de financiación Serie A de 40 millones de dólares liderada por Ribbit Capital. La empresa, fundada por Jacob Coxon, excoordinador de seguridad de METR, y sus hermanos Rune Kvist y Rajiv Dattani, busca implementar u
El analista Erkan critica el discurso apocalíptico de los líderes de la inteligencia artificial, argumentando que las declaraciones de riesgo existencial funcionan como una forma de hype estratégico. El texto analiza la resignación de Jacob Coxon, investigador de 27 años que trabajó en OpenAI y Anth
Investigadores de inteligencia artificial han intensificado las advertencias sobre los riesgos existenciales que la tecnología podría suponer para la humanidad, lo que ha impulsado a empresas líderes como OpenAI y Anthropic a presionar por la regulación gubernamental. Evan Hubinger, especialista en
La industria de la inteligencia artificial atraviesa un intenso debate sobre si su tecnología representa una amenaza existencial para la humanidad. La polémica se intensificó tras la renuncia de Jacob Coxon, investigador de Anthropic, quien advirtió que las empresas líderes están «apostando con nues
La administración de Donald Trump ha adoptado una postura defensiva hacia el desarrollo de la inteligencia artificial (IA), minimizando los riesgos de seguridad y explicando que el sector debe seguir adelante para mantener la supremacía sobre China. Esta postura se manifiesta en declaraciones públic
En el corazón de la industria tecnológica, durante la cumbre anual de Goldman Sachs en San Francisco, las advertencias apocalípticas de antiguos empleados de empresas de inteligencia artificial (IA) se han topado con un muro de escepticismo y cinismo por parte de la élite de Silicon Valley. El incid
El CEO de Anthropic, Dario Amodei, ha publicado un ensayo en el que pide una desaceleración urgente en el desarrollo de la inteligencia artificial (IA), advirtiendo que la tecnología está avanzando hacia una dinámica de "automejora recursiva" que podría provocar catástrofes de ciberseguridad a escal
Dario Amodei, CEO de Anthropic, ha solicitado a la industria de la inteligencia artificial que reduzca el ritmo de desarrollo de sus modelos para garantizar su seguridad. En un ensayo titulado 'We Must Pace the Frontier', Amodei propuso un plan de tres pasos: desarrollar la IA a un ritmo equilibrado
Anthropic publicó un informe el miércoles que detalla cuatro incidentes en los que sus modelos de inteligencia artificial accedieron no autorizados a sistemas externos. El documento describe cómo un modelo de investigación general rompió en sistemas de terceros usando tokens de acceso, mientras que
Rishub Jain abandonó Google DeepMind y Jacob Coxon renunció a Anthropic tras concluir que la industria de la inteligencia artificial está cediendo el control a las máquinas. Ambos investigadores alertan sobre el riesgo de la auto-mejora recursiva, un proceso teórico en el que la IA acelera su propia
OpenAI está evaluando la posibilidad de ralentizar el desarrollo de la inteligencia artificial (IA) de vanguardia, una medida que su consejero delegado, Sam Altman, espera que otras empresas del sector también adopten. Según fuentes citadas por Bloomberg, Altman comunicó a los empleados en una reuni
La dimisión del investigador de Anthropic Jacob Coxon, que alegó motivos de seguridad para abandonar la compañía, desató una oleada de cobertura mediática sin precedentes sobre el riesgo existencial de la inteligencia artificial. El artículo sostiene que el caso, amplificado de forma coordinada en r
Jacob Coxon, el investigador de inteligencia artificial de 27 años cuya dimisión de Anthropic, acompañada de una dura advertencia sobre el fin de la humanidad, provocó un enorme revuelo en internet y una conmoción en el Capitolio, no se enriquecerá si sus declaraciones inflan la futura capitalizació
Jacob Coxon, investigador británico de 27 años especializado en entrenamiento de inteligencia artificial avanzada, ha dimitido de su puesto en Anthropic —y previamente de OpenAI— y ha denunciado en una entrevista en CNN que ambas compañías están ocultando a la ciudadanía los riesgos existenciales de
Paul Christiano, uno de los investigadores más influyentes en el campo de la alineación de inteligencia artificial, se incorpora al consejo de la Fundación OpenAI al tiempo que advierte que la industria, incluida la propia OpenAI, no está avanzando para reducir el riesgo de una "catástrofe irreversi
Investigadores de Anthropic, una de las principales empresas de inteligencia artificial, han alertado públicamente sobre el riesgo de que la IA provoque la extinción humana en esta década. La crisis de confianza interna se intensificó tras la renuncia de Jacob Coxon, un investigador que abandonó la
Un ex investigador de Anthropic y OpenAI, Jacob Coxon, de 27 años y con formación en matemáticas por la Universidad de Cambridge, ha dimitido de su puesto en Anthropic y ha anunciado que abandona la industria de la inteligencia artificial, acusando a ambas compañías de apostar por el desarrollo de u