Nicholas Carlini

person · 10 menciones

Nicholas Carlini es un investigador afiliado a Google DeepMind que ha publicado investigaciones en los campos de la seguridad informática y el aprendizaje automático. Es conocido por su trabajo en aprendizaje automático antagónico, particularmente su trabajo en el ataque Carlini & Wagner en 2016. Este ataque fue particularmente útil para derrotar la destilación defensiva, un método utilizado para aumentar la robustez del modelo, y desde entonces ha sido efectivo contra otras defensas contra la e

Ver en Wikipedia

Noticias que mencionan Nicholas Carlini

IA construye compilador de C con 16 Claudes

Investigadores de Anthropic han logrado construir un compilador de C funcional, capaz de compilar el kernel de Linux, utilizando un equipo de 16 instancias de Claude (un modelo de lenguaje de OpenAI) trabajando en paralelo. El proyecto, que costó aproximadamente $20,000 en gastos de API, generó un c

IA descubre 500 vulnerabilidades ocultas en código

Anthropic ha anunciado mejoras significativas en su modelo de IA Claude Opus 4.6, que ahora es capaz de descubrir vulnerabilidades de seguridad en código a una escala sin precedentes. A diferencia de los métodos tradicionales de fuzzing, Claude Opus 4.6 razona sobre el código de manera similar a un

Investigación exitosa: claves para un artículo premiado

Este artículo, escrito por Nicholas Carlini, comparte su perspectiva sobre cómo llevar a cabo investigaciones de alto impacto y escribir artículos sobresalientes, basándose en su experiencia al recibir un premio al mejor artículo en EuroCrypt. El autor enfatiza que, si bien la suerte juega un papel,

IA descubre fallos de seguridad: una revolución silenciosa

Investigadores advierten que la inteligencia artificial (IA) está revolucionando la investigación de vulnerabilidades de seguridad, pero no de la manera que se anticipaba. En lugar de generar vulnerabilidades a través de herramientas de análisis complejas, los modelos de IA de vanguardia, como Claud

ia encuentra fallo en Linux, oculto por décadas

Un investigador de Anthropic, Nicholas Carlini, ha revelado que el modelo de lenguaje Claude Code ha descubierto múltiples vulnerabilidades de seguridad en el kernel de Linux, incluyendo una que permaneció sin detectar durante 23 años. Carlini, quien presentó su hallazgo en la conferencia [un]prompt

Anthropic lanza Claude Mythos: seguridad informática avanzada

Anthropic ha anunciado el lanzamiento de Claude Mythos Preview, un nuevo modelo de lenguaje de propósito general con capacidades sorprendentes en seguridad informática. La compañía ha iniciado el Proyecto Glasswing para utilizar Mythos Preview en la protección de software crítico y preparar a la ind

Anthropic limita acceso a potente IA por riesgos de seguridad

Anthropic ha restringido el acceso a su nuevo modelo de lenguaje, Claude Mythos, a un grupo selecto de investigadores de seguridad a través del proyecto Glasswing. La decisión se tomó debido a las excepcionales capacidades de Mythos en ciberseguridad, que ya han revelado miles de vulnerabilidades de

La IA transforma la selección de lenguajes de programación en 2026

La inteligencia artificial está transformando radicalmente la selección de lenguajes de programación en la industria tecnológica. Hace dos años, los modelos de IA apenas podían escribir código en lenguajes complejos como Rust sin errores; para abril de 2026, Claude Opus 4.7, GPT-5.5, Gemini 3.1 y De

Investigador crea ajedrez usando solo expresiones regulares

El investigador Nicholas Carlini ha creado 'Regex Chess', un programa que implementa el ajedrez utilizando exclusivamente expresiones regulares. El proyecto, publicado el 5 de enero de 2025, consiste en una secuencia de 84.688 expresiones regulares que, ejecutadas en orden, generan movimientos válid