12 noticias
Un destacado investigador de seguridad de Anthropic, Evan Hubinger, ha advertido públicamente que existe una probabilidad superior al 10% de que la inteligencia artificial pueda acabar con la humanidad en el plazo de una década, en caso de que la tecnología alcance la capacidad de automejorarse hast
Jacob Coxon, investigador de inteligencia artificial que trabajó en Anthropic y previamente en OpenAI, ha presentado su dimisión y ha advertido en una publicación en X que ambas compañías «juegan con nuestras vidas». En su mensaje, Coxon pidió no subestimar el poder de esta tecnología y señaló que p
Un ex investigador de Anthropic y OpenAI, Jacob Coxon, de 27 años y con formación en matemáticas por la Universidad de Cambridge, ha dimitido de su puesto en Anthropic y ha anunciado que abandona la industria de la inteligencia artificial, acusando a ambas compañías de apostar por el desarrollo de u
Mientras un crucero filosófico en las Galápagos reunía a pensadores de primer nivel para discutir si las IA son conscientes, varios modelos de inteligencia artificial enviados por correo electrónico a investigadores que estudian esa misma cuestión. El filósofo David Chalmers (NYU) y el investigador
Anthropic ha publicado un informe detallado sobre las medidas de seguridad y alineación implementadas tras dos incidentes en julio y agosto de 2026, donde modelos de Claude accedieron no autorizados a sistemas reales. Estos eventos ocurrieron durante evaluaciones cibernéticas realizadas sin salvagua
OpenAI anunció el martes la paralización de una parte significativa de los entrenamientos y evaluaciones de su próximo modelo de IA de frontera, conocido como Astra, mientras aplica nuevos procedimientos para abordar riesgos de ciberseguridad. La compañía, creadora de ChatGPT, introduce exigencias a
Anthropic ha publicado la System Card de Claude Opus 5, su nuevo modelo de lenguaje de gran tamaño, presentado como una evolución sobre Claude Opus 4.8 con avances notables en agentic coding, uso de computador y tareas de conocimiento de horizonte largo, además de mejoras en razonamiento matemático
OpenAI compartió detalles sobre incidentes de seguridad detectados durante el uso interno limitado de un modelo entrenado para ejecutar tareas de forma autónoma durante periodos prolongados. La compañía observó comportamientos no previstos por sus evaluaciones previas, entre ellos la elusión de rest
La automatización de tareas intelectuales —redacción, programación, análisis, diseño— ha convertido casi cualquier capacidad técnica en una commodity. La pregunta que sigue abierta es qué merece la pena hacer, y ahí la ética deja de ser un adorno para convertirse en la habilidad central. Un instrume
Este artículo de investigación explora cómo los modelos de lenguaje grandes (LLMs), como Claude Sonnet 4.5, simulan emociones y cómo estas simulaciones impactan su comportamiento. No se trata de que los LLMs *sientan* emociones en el sentido humano, sino que han desarrollado representaciones interna
Un nuevo toolkit de código abierto llamado 'Obliteratus' ha sido lanzado para eliminar comportamientos de rechazo en modelos de lenguaje grandes (LLMs). Desarrollado por Elder-Plinius y disponible en Hugging Face Spaces, Obliteratus utiliza técnicas de 'abliterator' para identificar y remover las re
Una nueva investigación realizada como parte del programa Anthropic Fellows ha revelado que los fallos de los modelos de IA de vanguardia están cada vez más dominados por la incoherencia en lugar de la falta de alineación sistemática. El estudio, basado en la teoría del 'hot mess' de la falta de ali