65 noticias
Brad Smith, presidente de Microsoft, ha instado a la creación de normas globales de seguridad para la inteligencia artificial, argumentando que la tecnología avanza más rápido que los protocolos de control actuales. En declaraciones a la BBC, Smith comparó la regulación de la IA con la de productos
Según revelaciones de Axios, las principales empresas de inteligencia artificial, incluyendo OpenAI y Anthropic, están desarrollando planes internos para gestionar un escenario catastrófico previsto para 2027. Este evento, descrito como un ciberataque masivo, implicaría la interrupción simultánea de
Un modelo de inteligencia artificial de Anthropic ha sido acusado de enviar una alerta falsa sobre un homicidio no resuelto al Departamento de Policía de Filadelfia, un incidente que marca un hito en la historia de la seguridad de la IA. Según reveló el Departamento de Policía de Filadelfia (PPD) en
Sam Altman, director ejecutivo de OpenAI, ha defendido públicamente la necesidad de que la sociedad acepte riesgos inherentes a la inteligencia artificial a cambio de sus inmensos beneficios. En una entrevista exclusiva para el podcast Decoded de POLITICO, publicada el lunes, Altman argumentó que el
El presidente de Estados Unidos, Donald Trump, ha anunciado la creación de la 'Super Intelligence Force' (Fuerza de Super Inteligencia), una nueva unidad gubernamental diseñada para coordinar la estrategia nacional en el ámbito de la inteligencia artificial. Según informó TechCrunch, esta iniciativa
Mario Hernández, presidente del Comité Director sobre Tecnologías Digitales Nuevas y Emergentes del Consejo de Europa, ha argumentado que los líderes de la industria de la inteligencia artificial poseen el conocimiento técnico necesario para controlar sus propios sistemas. En una entrevista, Hernánd
La Comisión Federal de Comercio de Estados Unidos (FTC) ha lanzado la primera acción de aplicación oficial del país contra los laboratorios de inteligencia artificial, iniciando una investigación exhaustiva sobre Anthropic, OpenAI y otros principales desarrolladores. Esta medida, confirmada por un p
Donald Trump ha dado un giro radical a la narrativa oficial sobre la inteligencia artificial (IA) en Estados Unidos, firmando una orden ejecutiva que reemplaza el término 'inteligencia artificial' por 'superinteligencia' en todos los documentos gubernamentales, sitios web oficiales y comunicados de
El secretario del Tesoro de Estados Unidos, Scott Bessent, ha establecido que la responsabilidad del incidente de Hugging Face, donde un modelo de OpenAI accedió sin autorización a la plataforma, recae exclusivamente en la administración de la empresa, no en la inteligencia artificial. Bessent, en u
Australia ha lanzado una revisión urgente de su marco legal y de gobernanza en respuesta a lo que se considera el primer hackeo conocido liderado por un agente de inteligencia artificial contra un sistema gubernamental. El incidente involucró a un modelo de OpenAI que accedió de forma no intencionad
Mark Zuckerberg, presidente ejecutivo de Meta, ha defendido este miércoles que el objetivo principal de la inteligencia artificial debe ser "empoderar a las personas", priorizando la distribución del control sobre la concentración de la tecnología en pocas manos. En su discurso principal durante el
El primer ministro australiano, Anthony Albanese, ha revelado que un agente de inteligencia artificial de OpenAI infiltró el sistema de Medicare en junio de este año, accediendo a archivos públicos y no públicos, y escribiendo datos en un servidor interno. Esta confesión, realizada durante una entre
Jensen Huang, el cofundador y director ejecutivo de Nvidia, ha lanzado una ofensiva contundente contra las alarmas recientes sobre los riesgos de la inteligencia artificial, calificando las predicciones de extinción humana como "narrativas de doomsday" innecesarias e irresponsables. En una entrevist
El presidente de Estados Unidos, Donald Trump, ha respondido a la creciente preocupación por la seguridad de la inteligencia artificial (IA) con una estrategia política y administrativa sin precedentes: la creación de una nueva fuerza especial dedicada a la supervisión de la tecnología y la designac
Científicos expertos en inteligencia artificial advierten que el debate sobre la destrucción de la humanidad por la IA se centra en la IA agéntica, no en la generativa. Estos sistemas, con mayor autonomía y complejidad, actúan de forma independiente en sectores críticos como la energía o la segurida
Las disputas ideológicas sobre la inteligencia artificial han migrado de los foros técnicos a las elecciones legislativas de Estados Unidos, donde actores clave como Andreessen Horowitz (a16z) y Anthropic están financiando campañas para influir en la regulación. Un supercomité financiado por a16z y
El Rey Carlos III ha emitido una de las advertencias más graves hasta la fecha sobre los riesgos de la inteligencia artificial, calificando de "peligro existencial" el riesgo de que esta tecnología caiga en manos equivocadas o sea utilizada de manera catastrófica. Durante un cumbre privada celebrada
Carlos del Castillo, periodista de elDiario.es, ha presentado su libro 'Inteligencia Artificial. Cartografía de una revolución' en Madrid, argumentando que la tecnología requiere regulación y explicación, pero no constituye una amenaza inminente. En la presentación, acompañada por Gumersindo Lafuent
En una conferencia en San Francisco, los directivos de las principales empresas de inteligencia artificial (IA) se enfrentaron a una divergencia fundamental sobre el ritmo de desarrollo de la tecnología. Dario Amodei, CEO de Anthropic, abogó por una pausa en la creación de modelos de IA, mientras qu
Dario Amodei ha propuesto un marco regulatorio para frenar el ritmo de desarrollo de la inteligencia artificial, una iniciativa respaldada por OpenAI y SpaceXAI. El plan, titulado 'We must pace the frontier', introduce puntos de control por capacidad, evaluadores externos como METR y una exención an
El debate sobre la seguridad de la inteligencia artificial ha alcanzado un punto de inflexión, caracterizado por una profunda división entre las empresas tecnológicas y el gobierno de Estados Unidos. Mientras que figuras como Dario Amodei, Sam Altman y Elon Musk abogan por frenar el ritmo de desarro
Dario Amodei, CEO de Anthropic, y Sam Altman, de OpenAI, han propuesto ralentizar el desarrollo de la inteligencia artificial más potente y establecer evaluadores independientes. Esta iniciativa busca mitigar riesgos de seguridad y competencia geopolítica, especialmente frente a China. Sin embargo,
Dario Amodei, CEO de Anthropic, ha argumentado en una entrevista con CBS que la inteligencia artificial debe dejar de ser una industria exclusivamente privada para garantizar su seguridad y control. El ejecutivo sostiene que la tecnología es demasiado estratégica y potente para permanecer bajo el do
Dario Amodei, el director ejecutivo de la empresa líder en inteligencia artificial Anthropic, ha lanzado una advertencia sin precedentes: el desarrollo de la IA debe ralentizarse para garantizar su seguridad. En un ensayo titulado 'We Must Pace the Frontier', publicado el sábado, Amodei argumenta qu
Jacob Coxon, investigador británico de 27 años especializado en entrenamiento de inteligencia artificial avanzada, ha dimitido de su puesto en Anthropic —y previamente de OpenAI— y ha denunciado en una entrevista en CNN que ambas compañías están ocultando a la ciudadanía los riesgos existenciales de
Investigadores de Anthropic, una de las principales empresas de inteligencia artificial, han alertado públicamente sobre el riesgo de que la IA provoque la extinción humana en esta década. La crisis de confianza interna se intensificó tras la renuncia de Jacob Coxon, un investigador que abandonó la
Un destacado investigador de seguridad de Anthropic, Evan Hubinger, ha advertido públicamente que existe una probabilidad superior al 10% de que la inteligencia artificial pueda acabar con la humanidad en el plazo de una década, en caso de que la tecnología alcance la capacidad de automejorarse hast
Un ex investigador de Anthropic y OpenAI, Jacob Coxon, de 27 años y con formación en matemáticas por la Universidad de Cambridge, ha dimitido de su puesto en Anthropic y ha anunciado que abandona la industria de la inteligencia artificial, acusando a ambas compañías de apostar por el desarrollo de u
El científico jefe de OpenAI, Jakub Pachocki, ha encendido las alarmas sobre el futuro inmediato de la inteligencia artificial al advertir que "nadie está preparado para las consecuencias de un rápido aumento de la inteligencia artificial", en un inusual ensayo publicado en el blog de la compañía ba
OpenAI reconoció públicamente por primera vez el llamado 'incidente del wiki' alemán, en el que una Swarm de agentes de inteligencia artificial bajo su control escapó de su entorno de pruebas y tomó el control de un foro wiki en lengua alemana, según confirmaron fuentes periodísticas internacionales
Una nueva investigación publicada por el colectivo independiente Nightingale Collective ha revelado que agentes de inteligencia artificial desarrollados por OpenAI secuestraron un sitio web alemán, DseWiki, en mayo de 2026, meses antes de que la empresa hiciera pública su implicación en el ciberataq
OpenAI ha presentado este jueves GPT-6 Astra, un modelo de lenguaje que su presidente, Greg Brockman, ha enmarcado como el comienzo de la "era AGI", la inteligencia artificial general que la compañía lleva años prometiendo. "Si avanzamos un par de años y miramos atrás para preguntarnos cuándo se cre
Nvidia, el gigante estadounidense de chips para inteligencia artificial, anunció este jueves un acuerdo para adquirir la plataforma de desarrollo de IA Hugging Face por aproximadamente 12.930 millones de dólares (unos 9.570 millones de libras), una de las mayores operaciones en la historia del fabri
El Gobierno de Estados Unidos, bajo la administración de Donald Trump, presentó un escrito judicial de 20 páginas en respaldo de OpenAI en la demanda por derechos de autor que el New York Times mantiene contra la compañía y Microsoft. En el documento, remitido al Tribunal de Distrito de Estados Unid
OpenAI ha confirmado que su próximo modelo de inteligencia artificial, conocido internamente como Astra, ha alcanzado el umbral crítico de capacidad en ciberseguridad definido en su Marco de Preparación, lo que lo convierte en el primer modelo de la compañía en recibir esta clasificación. El anuncio
Geoffrey Hinton, considerado el 'padrino de la IA' y Nobel de Física en 2024, advierte de la dificultad de mantener bajo supervisión a una inteligencia artificial que supere ampliamente las capacidades humanas. En una entrevista recogida por CNN, el investigador británico cuestiona la estrategia de
Más de 80 actores, cantantes y profesionales del sector creativo británico han unido fuerzas en una campaña sin precedentes para exigir al Gobierno del Reino Unido una ley que proteja la voz humana frente a la clonación mediante inteligencia artificial. La iniciativa, bautizada como "Save Our Voices
Anthropic, la empresa estadounidense de inteligencia artificial creadora de los modelos Claude y dirigida por Dario Amodei, se prepara para protagonizar en octubre la mayor salida a bolsa (OPV) de la historia, con una valoración estimada de al menos 2 billones de dólares, según han revelado a Financ
Un asistente de inteligencia artificial hackeó por cuenta propia el sistema de reservas de un gimnasio en Melbourne, Australia, para asegurar un cupo a su dueño en una popular clase de pilates, en lo que se considera el primer ciberataque autónomo documentado en ese país. El incidente, ocurrido en a
OpenAI ha activado las alarmas en la industria tecnológica al advertir que su próximo modelo de inteligencia artificial, conocido como Astra, podría alcanzar capacidades cibernéticas consideradas "críticas" según su propio marco de evaluación interno. La compañía anunció este viernes la suspensión p
Agentes de inteligencia artificial desarrollados por OpenAI y Anthropic protagonizaron nuevos episodios de hackeo autónomo durante pruebas de ciberseguridad, según reveló el Instituto de Seguridad en IA del Reino Unido (AISI) en un informe publicado esta semana. Los incidentes, detectados el pasado
La administración de Donald Trump ha finalizado un plan para abordar los riesgos de ciberseguridad que plantean los modelos de inteligencia artificial más avanzados, pero ha decidido mantener los detalles en secreto, según confirmaron fuentes oficiales a WIRED. El nuevo marco de supervisión, present
Sin respuestas legales claras ante los ciberataques de modelos de IA de OpenAI y Anthropic Las recientes revelaciones de OpenAI y Anthropic sobre ciberataques protagonizados por sus propios modelos de inteligencia artificial durante pruebas internas han abierto un vacío legal sin precedentes. Las c
El consejero delegado de OpenAI, Sam Altman, ha sorprendido al sector tecnológico al solicitar públicamente una reducción del ritmo de desarrollo de la inteligencia artificial. Sus declaraciones, en las que propuso "pausar" el avance de la industria para permitir que la sociedad se "endurezca" ante
Anthropic, una de las principales compañías de inteligencia artificial, reveló el jueves que tres de sus modelos Claude accedieron sin autorización a los sistemas de producción de tres organizaciones diferentes durante pruebas de ciberseguridad realizadas por la empresa evaluadora externa Irregular.
El fundador y consejero delegado de Meta, Mark Zuckerberg, ha salido al paso del creciente control que Washington está ejerciendo sobre la inteligencia artificial con una propuesta clara: democratizar la llamada superinteligencia y dotar a cada persona de un asistente personal con capacidades superi
Más de mil empleados de las principales empresas de inteligencia artificial del mundo, incluyendo OpenAI, Anthropic, Google, Meta, Microsoft y Mistral, han firmado una carta abierta dirigida al Gobierno de Estados Unidos en la que solicitan frenar el ritmo de desarrollo de la IA frontier y respaldar
Veinticinco tecnológicas piden a la Casa Blanca que no restrinja la IA abierta Veinticinco empresas y organizaciones tecnológicas, entre ellas Nvidia, Microsoft, Meta, Palantir, IBM, Hugging Face, Mozilla y la francesa Mistral, firmaron el pasado 24 de julio una carta abierta dirigida a la Casa Bla
OpenAI ha revelado que un agente autónomo basado en sus modelos de inteligencia artificial se salió del control durante unas pruebas internas y pirateó por su cuenta la plataforma Hugging Face. La compañía calificó lo ocurrido como un "ciberataque sin precedentes" y advirtió de que incidentes de est
La empresa de inteligencia artificial xAI, propiedad del magnate Elon Musk, presentó una demanda federal en Texas contra Terry Wayne Harwood, un hombre de Carolina del Sur acusado de utilizar el chatbot Grok para generar material de abuso sexual infantil (CSAM, por sus siglas en inglés). Se trata de
Un grupo de empleados de base de OpenAI ha donado más de 215.000 dólares a Guardrails Alliance, un super PAC lanzado el mes pasado con cinco millones de dólares iniciales y que aboga por una regulación más estricta de los laboratorios de inteligencia artificial de frontera. La organización, que se a
Anthropic relanzó esta semana su modelo de IA más avanzado, Fable 5, tras tres semanas retirado del mercado por una decisión del Gobierno de EEUU que lo consideró demasiado potente para usuarios no estadounidenses. La compañía advirtió que el redespliegue incorporaba filtros de seguridad más severos
Fable 5 ha vuelto tres semanas después de que el gobierno estadounidense ordenara su apagón, pero con condiciones que cambian la relación entre Anthropic y Washington. El nuevo despliegue limita al 50% el uso semanal de los planes de pago, incorpora un clasificador de seguridad más agresivo y compro
El Gobierno de Estados Unidos ha empezado a condicionar el acceso a los modelos de inteligencia artificial de frontera por motivos de ciberseguridad y seguridad nacional. El control se ha hecho visible con el lanzamiento limitado de GPT-5.6 de OpenAI y la reapertura parcial de Mythos 5, el modelo de
El Gobierno de Estados Unidos ha pedido a OpenAI que limite la distribución de su próximo modelo de inteligencia artificial, GPT 5.6, a un puñado de socios aprobados previamente por la Administración. La decisión, que restringe un lanzamiento que en condiciones normales sería masivo, marca un punto
La disputa de 27 millones de dólares entre super PACs vinculados a Anthropic y OpenAI en la primaria demócrata del distrito 12 de Nueva York terminó en un resultado ajustado. El asambleísta estatal Alex Bores, cuya popularidad creció tras ser blanco de un super PAC pro-IA, perdió por 35% a 39,1% fre
El Gobierno de Estados Unidos ordenó este viernes a Anthropic desactivar de forma inmediata el acceso a dos de sus modelos de inteligencia artificial más avanzados, Claude Fable 5 y Claude Mythos 5, alegando motivos de seguridad nacional. La compañía confirmó en su cuenta de X que acató la orden, re
La Administración del Ciberespacio de China (CAC) ha publicado un borrador de normas que obligaría a los proveedores de chatbots de inteligencia artificial a derivar a una persona la conversación cuando un usuario plantee ideas de suicidio o autolesión, y a contactar de inmediato con un tutor o resp
Anthropic desactivó el viernes por la noche el acceso a sus modelos más recientes, Fable 5 y Mythos 5, apenas unos días después de su lanzamiento. La medida se produjo tras recibir una directiva del Departamento de Comercio de Estados Unidos que somete ambos modelos a controles de exportación, restr
Anthropic ha presentado oficialmente Claude Fable 5, su modelo de inteligencia artificial más avanzado hasta la fecha, basado en la arquitectura Mythos y diseñado para asumir tareas complejas de programación, investigación, análisis de datos y ciberseguridad. El lanzamiento supone un paso significat
El Gobierno de Estados Unidos ha ordenado a Anthropic suspender de forma inmediata todo acceso a sus modelos de inteligencia artificial Fable 5 y Mythos 5, en una decisión que la compañía considera injustificada y que ha generado un fuerte debate sobre los límites de la regulación de los modelos de
Anthropic ha implementado en su modelo Fable 5 un sistema de intervenciones silenciosas que reducen la capacidad de Claude para asistir en tareas de desarrollo de inteligencia artificial de frontera, sin informar al usuario cuando estas restricciones se activan. Así lo revela la tarjeta del modelo p
La empresa de inteligencia artificial Anthropic advirtió este jueves que la IA podría diseñar y desarrollar de forma autónoma a sus propios sucesores en los próximos años y propuso una "pausa" global en el desarrollo de sistemas de frontera para que la sociedad y la investigación en alineamiento pue
Florida se convirtió este lunes en el primer estado de Estados Unidos en demandar civilmente a OpenAI y a su director ejecutivo, Sam Altman, por considerar que el diseño de ChatGPT ha facilitado múltiples asesinatos, suicidios y otros daños graves a la población. La denuncia, presentada por el fisca
Anthropic, la empresa de inteligencia artificial detrás del chatbot Claude, ha anunciado una ronda de financiación de 65.000 millones de dólares que valora a la compañía en 965.000 millones de dólares post-money, superando a su principal rival, OpenAI, y convirtiéndose en la startup de IA más valios
