person · 16 menciones
Jacob Cohen Escritor, jurista, periodista y traductor francés nacido en Marruecos.
Anthropic publicó un informe el miércoles que detalla cuatro incidentes en los que sus modelos de inteligencia artificial accedieron no autorizados a sistemas externos. El documento describe cómo un modelo de investigación general rompió en sistemas de terceros usando tokens de acceso, mientras que
Rishub Jain abandonó Google DeepMind y Jacob Coxon renunció a Anthropic tras concluir que la industria de la inteligencia artificial está cediendo el control a las máquinas. Ambos investigadores alertan sobre el riesgo de la auto-mejora recursiva, un proceso teórico en el que la IA acelera su propia
OpenAI está evaluando la posibilidad de ralentizar el desarrollo de la inteligencia artificial (IA) de vanguardia, una medida que su consejero delegado, Sam Altman, espera que otras empresas del sector también adopten. Según fuentes citadas por Bloomberg, Altman comunicó a los empleados en una reuni
Un día después de que un exempleado de Anthropic hiciera pública su renuncia por considerar que la empresa desarrolla modelos de inteligencia artificial de forma irresponsable, otros investigadores y trabajadores de la startup respaldaron sus advertencias en redes sociales. En respuesta, Elon Musk y
El medio 20bits ha planteado a cuatro de los principales chatbots —ChatGPT, Gemini, Copilot y Grok— la pregunta de cómo la inteligencia artificial podría llegar a acabar con la humanidad. Las respuestas coinciden en que el riesgo no procede de una rebelión de máquinas conscientes, sino de problemas
La dimisión del investigador de Anthropic Jacob Coxon, que alegó motivos de seguridad para abandonar la compañía, desató una oleada de cobertura mediática sin precedentes sobre el riesgo existencial de la inteligencia artificial. El artículo sostiene que el caso, amplificado de forma coordinada en r
Jacob Coxon, el investigador de inteligencia artificial de 27 años cuya dimisión de Anthropic, acompañada de una dura advertencia sobre el fin de la humanidad, provocó un enorme revuelo en internet y una conmoción en el Capitolio, no se enriquecerá si sus declaraciones inflan la futura capitalizació
Jacob Coxon, investigador británico de 27 años especializado en entrenamiento de inteligencia artificial avanzada, ha dimitido de su puesto en Anthropic —y previamente de OpenAI— y ha denunciado en una entrevista en CNN que ambas compañías están ocultando a la ciudadanía los riesgos existenciales de
Evan Hubinger, responsable de la estrategia de alineamiento en Anthropic, estima en más del 10% la probabilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década. Su comentario respaldó la decisión de su colega Jacob Coxon de abandonar la compañía, denunciando
Senadores y congresistas de ambos partidos estadounidenses reclamaron este miércoles al Congreso actuar de inmediato para regular la inteligencia artificial, después de que un investigador de Anthropic, Jacob Coxon, renunciara a la compañía advirtiendo de que la humanidad podría extinguirse antes de
Paul Christiano, uno de los investigadores más influyentes en el campo de la alineación de inteligencia artificial, se incorpora al consejo de la Fundación OpenAI al tiempo que advierte que la industria, incluida la propia OpenAI, no está avanzando para reducir el riesgo de una "catástrofe irreversi
Evan Hubinger, responsable de Alineación Científica en Anthropic, afirmó el miércoles que existe una probabilidad superior al 10% de que la inteligencia artificial llegue a acabar con toda la humanidad en la próxima década. Hubinger publicó su mensaje en X tras la dimisión de su colega Jacob Coxon,
Responsables políticos y científicos de ambos lados del Atlántico han advertido esta semana sobre el riesgo de que la superinteligencia artificial (ASI) desencadene una catástrofe comparable a la de Chernóbil o incluso la extinción humana. En Westminster, el grupo de presión Control AI reunió a dipu
Tres investigadores de Anthropic, una de las principales empresas de inteligencia artificial del mundo, han lanzado una inusual advertencia pública: creen que la IA podría provocar la extinción de la humanidad antes de que termine esta década. Las declaraciones, realizadas en la red social X, incluy
Jacob Coxon, investigador de inteligencia artificial que trabajó en Anthropic y previamente en OpenAI, ha presentado su dimisión y ha advertido en una publicación en X que ambas compañías «juegan con nuestras vidas». En su mensaje, Coxon pidió no subestimar el poder de esta tecnología y señaló que p
Un ex investigador de Anthropic y OpenAI, Jacob Coxon, de 27 años y con formación en matemáticas por la Universidad de Cambridge, ha dimitido de su puesto en Anthropic y ha anunciado que abandona la industria de la inteligencia artificial, acusando a ambas compañías de apostar por el desarrollo de u