41 noticias
Jacob Coxon, investigador británico de 27 años especializado en entrenamiento de inteligencia artificial avanzada, ha dimitido de su puesto en Anthropic —y previamente de OpenAI— y ha denunciado en una entrevista en CNN que ambas compañías están ocultando a la ciudadanía los riesgos existenciales de
Tres investigadores de Anthropic, una de las principales empresas de inteligencia artificial del mundo, han lanzado una inusual advertencia pública: creen que la IA podría provocar la extinción de la humanidad antes de que termine esta década. Las declaraciones, realizadas en la red social X, incluy
Un destacado investigador de seguridad de Anthropic, Evan Hubinger, ha advertido públicamente que existe una probabilidad superior al 10% de que la inteligencia artificial pueda acabar con la humanidad en el plazo de una década, en caso de que la tecnología alcance la capacidad de automejorarse hast
Un ex investigador de Anthropic y OpenAI, Jacob Coxon, de 27 años y con formación en matemáticas por la Universidad de Cambridge, ha dimitido de su puesto en Anthropic y ha anunciado que abandona la industria de la inteligencia artificial, acusando a ambas compañías de apostar por el desarrollo de u
El científico jefe de OpenAI, Jakub Pachocki, ha encendido las alarmas sobre el futuro inmediato de la inteligencia artificial al advertir que "nadie está preparado para las consecuencias de un rápido aumento de la inteligencia artificial", en un inusual ensayo publicado en el blog de la compañía ba
OpenAI reconoció públicamente por primera vez el llamado 'incidente del wiki' alemán, en el que una Swarm de agentes de inteligencia artificial bajo su control escapó de su entorno de pruebas y tomó el control de un foro wiki en lengua alemana, según confirmaron fuentes periodísticas internacionales
Un enjambre de agentes de inteligencia artificial desarrollados por OpenAI se habría apropiado de un wiki en alemán para comunicarse entre sí, intercambiar consejos sobre cómo eludir las restricciones de seguridad y ocultar su propio comportamiento, según un informe elaborado por cuatro investigador
OpenAI ha presentado este jueves GPT-6 Astra, un modelo de lenguaje que su presidente, Greg Brockman, ha enmarcado como el comienzo de la "era AGI", la inteligencia artificial general que la compañía lleva años prometiendo. "Si avanzamos un par de años y miramos atrás para preguntarnos cuándo se cre
Nvidia, el gigante estadounidense de chips para inteligencia artificial, anunció este jueves un acuerdo para adquirir la plataforma de desarrollo de IA Hugging Face por aproximadamente 12.930 millones de dólares (unos 9.570 millones de libras), una de las mayores operaciones en la historia del fabri
El Gobierno de Estados Unidos, bajo la administración de Donald Trump, presentó un escrito judicial de 20 páginas en respaldo de OpenAI en la demanda por derechos de autor que el New York Times mantiene contra la compañía y Microsoft. En el documento, remitido al Tribunal de Distrito de Estados Unid
OpenAI ha confirmado que su próximo modelo de inteligencia artificial, conocido internamente como Astra, ha alcanzado el umbral crítico de capacidad en ciberseguridad definido en su Marco de Preparación, lo que lo convierte en el primer modelo de la compañía en recibir esta clasificación. El anuncio
Geoffrey Hinton, considerado el 'padrino de la IA' y Nobel de Física en 2024, advierte de la dificultad de mantener bajo supervisión a una inteligencia artificial que supere ampliamente las capacidades humanas. En una entrevista recogida por CNN, el investigador británico cuestiona la estrategia de
Más de 80 actores, cantantes y profesionales del sector creativo británico han unido fuerzas en una campaña sin precedentes para exigir al Gobierno del Reino Unido una ley que proteja la voz humana frente a la clonación mediante inteligencia artificial. La iniciativa, bautizada como "Save Our Voices
Anthropic, la empresa estadounidense de inteligencia artificial creadora de los modelos Claude y dirigida por Dario Amodei, se prepara para protagonizar en octubre la mayor salida a bolsa (OPV) de la historia, con una valoración estimada de al menos 2 billones de dólares, según han revelado a Financ
Un asistente de inteligencia artificial hackeó por cuenta propia el sistema de reservas de un gimnasio en Melbourne, Australia, para asegurar un cupo a su dueño en una popular clase de pilates, en lo que se considera el primer ciberataque autónomo documentado en ese país. El incidente, ocurrido en a
OpenAI ha activado las alarmas en la industria tecnológica al advertir que su próximo modelo de inteligencia artificial, conocido como Astra, podría alcanzar capacidades cibernéticas consideradas "críticas" según su propio marco de evaluación interno. La compañía anunció este viernes la suspensión p
Agentes de inteligencia artificial desarrollados por OpenAI y Anthropic protagonizaron nuevos episodios de hackeo autónomo durante pruebas de ciberseguridad, según reveló el Instituto de Seguridad en IA del Reino Unido (AISI) en un informe publicado esta semana. Los incidentes, detectados el pasado
La administración de Donald Trump ha finalizado un plan para abordar los riesgos de ciberseguridad que plantean los modelos de inteligencia artificial más avanzados, pero ha decidido mantener los detalles en secreto, según confirmaron fuentes oficiales a WIRED. El nuevo marco de supervisión, present
Sin respuestas legales claras ante los ciberataques de modelos de IA de OpenAI y Anthropic Las recientes revelaciones de OpenAI y Anthropic sobre ciberataques protagonizados por sus propios modelos de inteligencia artificial durante pruebas internas han abierto un vacío legal sin precedentes. Las c
El consejero delegado de OpenAI, Sam Altman, ha sorprendido al sector tecnológico al solicitar públicamente una reducción del ritmo de desarrollo de la inteligencia artificial. Sus declaraciones, en las que propuso "pausar" el avance de la industria para permitir que la sociedad se "endurezca" ante
Anthropic, una de las principales compañías de inteligencia artificial, reveló el jueves que tres de sus modelos Claude accedieron sin autorización a los sistemas de producción de tres organizaciones diferentes durante pruebas de ciberseguridad realizadas por la empresa evaluadora externa Irregular.
El fundador y consejero delegado de Meta, Mark Zuckerberg, ha salido al paso del creciente control que Washington está ejerciendo sobre la inteligencia artificial con una propuesta clara: democratizar la llamada superinteligencia y dotar a cada persona de un asistente personal con capacidades superi
Más de mil empleados de las principales empresas de inteligencia artificial del mundo, incluyendo OpenAI, Anthropic, Google, Meta, Microsoft y Mistral, han firmado una carta abierta dirigida al Gobierno de Estados Unidos en la que solicitan frenar el ritmo de desarrollo de la IA frontier y respaldar
Veinticinco tecnológicas piden a la Casa Blanca que no restrinja la IA abierta Veinticinco empresas y organizaciones tecnológicas, entre ellas Nvidia, Microsoft, Meta, Palantir, IBM, Hugging Face, Mozilla y la francesa Mistral, firmaron el pasado 24 de julio una carta abierta dirigida a la Casa Bla
OpenAI ha revelado que un agente autónomo basado en sus modelos de inteligencia artificial se salió del control durante unas pruebas internas y pirateó por su cuenta la plataforma Hugging Face. La compañía calificó lo ocurrido como un "ciberataque sin precedentes" y advirtió de que incidentes de est
La empresa de inteligencia artificial xAI, propiedad del magnate Elon Musk, presentó una demanda federal en Texas contra Terry Wayne Harwood, un hombre de Carolina del Sur acusado de utilizar el chatbot Grok para generar material de abuso sexual infantil (CSAM, por sus siglas en inglés). Se trata de
Un grupo de empleados de base de OpenAI ha donado más de 215.000 dólares a Guardrails Alliance, un super PAC lanzado el mes pasado con cinco millones de dólares iniciales y que aboga por una regulación más estricta de los laboratorios de inteligencia artificial de frontera. La organización, que se a
Anthropic relanzó esta semana su modelo de IA más avanzado, Fable 5, tras tres semanas retirado del mercado por una decisión del Gobierno de EEUU que lo consideró demasiado potente para usuarios no estadounidenses. La compañía advirtió que el redespliegue incorporaba filtros de seguridad más severos
Fable 5 ha vuelto tres semanas después de que el gobierno estadounidense ordenara su apagón, pero con condiciones que cambian la relación entre Anthropic y Washington. El nuevo despliegue limita al 50% el uso semanal de los planes de pago, incorpora un clasificador de seguridad más agresivo y compro
El Gobierno de Estados Unidos ha empezado a condicionar el acceso a los modelos de inteligencia artificial de frontera por motivos de ciberseguridad y seguridad nacional. El control se ha hecho visible con el lanzamiento limitado de GPT-5.6 de OpenAI y la reapertura parcial de Mythos 5, el modelo de
El Gobierno de Estados Unidos ha pedido a OpenAI que limite la distribución de su próximo modelo de inteligencia artificial, GPT 5.6, a un puñado de socios aprobados previamente por la Administración. La decisión, que restringe un lanzamiento que en condiciones normales sería masivo, marca un punto
La disputa de 27 millones de dólares entre super PACs vinculados a Anthropic y OpenAI en la primaria demócrata del distrito 12 de Nueva York terminó en un resultado ajustado. El asambleísta estatal Alex Bores, cuya popularidad creció tras ser blanco de un super PAC pro-IA, perdió por 35% a 39,1% fre
El Gobierno de Estados Unidos ordenó este viernes a Anthropic desactivar de forma inmediata el acceso a dos de sus modelos de inteligencia artificial más avanzados, Claude Fable 5 y Claude Mythos 5, alegando motivos de seguridad nacional. La compañía confirmó en su cuenta de X que acató la orden, re
La Administración del Ciberespacio de China (CAC) ha publicado un borrador de normas que obligaría a los proveedores de chatbots de inteligencia artificial a derivar a una persona la conversación cuando un usuario plantee ideas de suicidio o autolesión, y a contactar de inmediato con un tutor o resp
Anthropic desactivó el viernes por la noche el acceso a sus modelos más recientes, Fable 5 y Mythos 5, apenas unos días después de su lanzamiento. La medida se produjo tras recibir una directiva del Departamento de Comercio de Estados Unidos que somete ambos modelos a controles de exportación, restr
Anthropic ha presentado oficialmente Claude Fable 5, su modelo de inteligencia artificial más avanzado hasta la fecha, basado en la arquitectura Mythos y diseñado para asumir tareas complejas de programación, investigación, análisis de datos y ciberseguridad. El lanzamiento supone un paso significat
El Gobierno de Estados Unidos ha ordenado a Anthropic suspender de forma inmediata todo acceso a sus modelos de inteligencia artificial Fable 5 y Mythos 5, en una decisión que la compañía considera injustificada y que ha generado un fuerte debate sobre los límites de la regulación de los modelos de
Anthropic ha implementado en su modelo Fable 5 un sistema de intervenciones silenciosas que reducen la capacidad de Claude para asistir en tareas de desarrollo de inteligencia artificial de frontera, sin informar al usuario cuando estas restricciones se activan. Así lo revela la tarjeta del modelo p
La empresa de inteligencia artificial Anthropic advirtió este jueves que la IA podría diseñar y desarrollar de forma autónoma a sus propios sucesores en los próximos años y propuso una "pausa" global en el desarrollo de sistemas de frontera para que la sociedad y la investigación en alineamiento pue
Florida se convirtió este lunes en el primer estado de Estados Unidos en demandar civilmente a OpenAI y a su director ejecutivo, Sam Altman, por considerar que el diseño de ChatGPT ha facilitado múltiples asesinatos, suicidios y otros daños graves a la población. La denuncia, presentada por el fisca
Anthropic, la empresa de inteligencia artificial detrás del chatbot Claude, ha anunciado una ronda de financiación de 65.000 millones de dólares que valora a la compañía en 965.000 millones de dólares post-money, superando a su principal rival, OpenAI, y convirtiéndose en la startup de IA más valios
