El investigador de seguridad web James Kettle presentó el miércoles en la conferencia Black Hat de Las Vegas los resultados de meses de experimentos diseñados para determinar si la IA agentiva puede desarrollar de forma autónoma técnicas de hackeo inéditas. Su conclusión: la IA resulta capaz en grado mínimo y muy limitada cuando opera por completo sola, pero se convierte en una socia extraordinariamente poderosa cuando recibe guía humana en momentos clave. Las pruebas, iniciadas en septiembre de 2025 con modelos de Anthropic y OpenAI, aprovecharon la larga experiencia de Kettle en vulnerabilidades web y condujeron al hallazgo de una clase de fallo completamente nueva, bautizada como Shared-Parser Confusion. La debilidad se origina en que los servidores web comparten código para procesar tanto las solicitudes —no confiables— como las respuestas —confiables—, lo que abre una superficie de ataque considerable susceptible de derivar en múltiples vectores. Kettle subraya que la IA no demostró el hallazgo por sí misma: analizó investigación previa ya probada, formuló la hipótesis y el experto la evaluó y confirmó. Calificó el descubrimiento como posiblemente el más relevante a largo plazo, porque él nunca lo habría alcanzado en solitario, ni siquiera disponiendo de la línea de documentación pertinente. La investigación también arrojó más ejemplos demostrados de ciertas vulnerabilidades en pocos meses de los que Kettle habría obtenido probablemente en años, a un ritmo que describió como ansiógeno. El investigador enmarcó su trabajo como una exploración deliberada de los puntos donde la IA fracasa y los humanos siguen siendo imprescindibles, y advirtió que en el sector de la seguridad pocos publican esos límites porque los incentivos premian presentarse como nativos de la IA.
Noticias agregadas con IA