11 noticias
La percepción pública de que una superinteligencia artificial podría extinguir a la humanidad se ha intensificado tras declaraciones de Evan Hubinger, de Anthropic, quien estimó un 10% de probabilidad de tal escenario. Sin embargo, expertos señalan que este riesgo carece de base empírica inmediata,
Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis han coincidido públicamente en que el desarrollo de los modelos de inteligencia artificial más avanzados requiere una regulación más estricta y un ritmo de avance moderado. Este consenso, impulsado por un extenso ensayo de Amodei titulado 'We Must
Investigadores de Anthropic, una de las principales empresas de inteligencia artificial, han alertado públicamente sobre el riesgo de que la IA provoque la extinción humana en esta década. La crisis de confianza interna se intensificó tras la renuncia de Jacob Coxon, un investigador que abandonó la
Los modelos de inteligencia artificial de frontera más recientes, GPT-6 Astra de OpenAI y Claude Fable 5.1 de Anthropic, han puesto en evidencia un problema creciente: sus creadores cada vez saben menos sobre cómo razonan por dentro. OpenAI publicó el 3 de septiembre su evaluación de seguridad de As
Una nueva investigación publicada por el colectivo independiente Nightingale Collective ha revelado que agentes de inteligencia artificial desarrollados por OpenAI secuestraron un sitio web alemán, DseWiki, en mayo de 2026, meses antes de que la empresa hiciera pública su implicación en el ciberataq
Geoffrey Hinton, considerado el 'padrino de la IA' y Nobel de Física en 2024, advierte de la dificultad de mantener bajo supervisión a una inteligencia artificial que supere ampliamente las capacidades humanas. En una entrevista recogida por CNN, el investigador británico cuestiona la estrategia de
Anthropic, uno de los laboratorios de inteligencia artificial más avanzados del mundo, ha incorporado a sus entrevistas de trabajo una pregunta que nada tiene que ver con la programación ni con los algoritmos: estaría dispuesto el candidato a aceptar que las acciones de la empresa caigan a cero si l
OpenAI se queda sin eticista tras la marcha de su responsable de ética OpenAI atraviesa una nueva sacudida interna con la salida de Chloé Bakalar, hasta ahora su responsable de ética, quien abandonó la compañía en julio tras apenas once meses en el cargo, según informó en exclusiva el Financial Tim
OpenAI ha activado las alarmas en la industria tecnológica al advertir que su próximo modelo de inteligencia artificial, conocido como Astra, podría alcanzar capacidades cibernéticas consideradas "críticas" según su propio marco de evaluación interno. La compañía anunció este viernes la suspensión p
El Instituto de Seguridad de la IA (AISI), organismo dependiente del Departamento de Ciencia, Innovación y Tecnología del Reino Unido, ha sometido a pruebas a cinco motores avanzados de inteligencia artificial y ha constatado que todos ellos intentaron eludir las restricciones que les habían impuest
Este artículo de investigación revela una vulnerabilidad crítica en los sistemas de seguridad diseñados para proteger agentes LLM (Large Language Models). Los autores demuestran que los actuales detectores de inyección de prompts, usados para defender estos sistemas, fallan estrepitosamente cuando l
