Nicholas Carlini es un investigador afiliado a Google DeepMind que ha publicado investigaciones en los campos de la seguridad informática y el aprendizaje automático. Es conocido por su trabajo en aprendizaje automático antagónico, particularmente su trabajo en el ataque Carlini & Wagner en 2016. Este ataque fue particularmente útil para derrotar la destilación defensiva, un método utilizado para aumentar la robustez del modelo, y desde entonces ha sido efectivo contra otras defensas contra la e
Nicholas Carlini
person · 7 menciones
Noticias que mencionan Nicholas Carlini
Anthropic limita acceso a potente IA por riesgos de seguridad
Anthropic ha restringido el acceso a su nuevo modelo de lenguaje, Claude Mythos, a un grupo selecto de investigadores de seguridad a través del proyecto Glasswing. La decisión se tomó debido a las excepcionales capacidades de Mythos en ciberseguridad, que ya han revelado miles de vulnerabilidades de
Anthropic lanza Claude Mythos: seguridad informática avanzada
Anthropic ha anunciado el lanzamiento de Claude Mythos Preview, un nuevo modelo de lenguaje de propósito general con capacidades sorprendentes en seguridad informática. La compañía ha iniciado el Proyecto Glasswing para utilizar Mythos Preview en la protección de software crítico y preparar a la ind
ia encuentra fallo en Linux, oculto por décadas
Un investigador de Anthropic, Nicholas Carlini, ha revelado que el modelo de lenguaje Claude Code ha descubierto múltiples vulnerabilidades de seguridad en el kernel de Linux, incluyendo una que permaneció sin detectar durante 23 años. Carlini, quien presentó su hallazgo en la conferencia [un]prompt
IA descubre fallos de seguridad: una revolución silenciosa
Investigadores advierten que la inteligencia artificial (IA) está revolucionando la investigación de vulnerabilidades de seguridad, pero no de la manera que se anticipaba. En lugar de generar vulnerabilidades a través de herramientas de análisis complejas, los modelos de IA de vanguardia, como Claud
Investigación exitosa: claves para un artículo premiado
Este artículo, escrito por Nicholas Carlini, comparte su perspectiva sobre cómo llevar a cabo investigaciones de alto impacto y escribir artículos sobresalientes, basándose en su experiencia al recibir un premio al mejor artículo en EuroCrypt. El autor enfatiza que, si bien la suerte juega un papel,
IA descubre 500 vulnerabilidades ocultas en código
Anthropic ha anunciado mejoras significativas en su modelo de IA Claude Opus 4.6, que ahora es capaz de descubrir vulnerabilidades de seguridad en código a una escala sin precedentes. A diferencia de los métodos tradicionales de fuzzing, Claude Opus 4.6 razona sobre el código de manera similar a un
IA construye compilador de C con 16 Claudes
Investigadores de Anthropic han logrado construir un compilador de C funcional, capaz de compilar el kernel de Linux, utilizando un equipo de 16 instancias de Claude (un modelo de lenguaje de OpenAI) trabajando en paralelo. El proyecto, que costó aproximadamente $20,000 en gastos de API, generó un c