Anthropic ha implementado nuevas defensas contra ataques de destilación que han reducido en un 90% a 99% la cantidad de datos robados por atacantes. Estos ataques, ejecutados mediante redes de cuentas fraudulentas, permiten a empresas replicar las capacidades de modelos de frontera sin autorización, un riesgo significativo para la seguridad nacional y la integridad de los modelos. La compañía ha detectado que los destiladores utilizan técnicas activas para extraer el razonamiento interno de Claude, un proceso que antes se limitaba a la salida final. Las nuevas medidas bloquean el acceso a estos bloques de razonamiento, impidiendo que se utilicen para entrenar modelos menores. Aunque estas defensas han desviado tráfico de pago y requerido actualizaciones en integraciones legítimas, Anthropic considera que el costo es necesario para prevenir el uso de modelos con salvaguardas débiles en áreas críticas como la ciberseguridad y la biología. El caso de Zhipu, que destiló capacidades cibernéticas de modelos estadounidenses para su modelo GLM-5.3, ilustra la urgencia de estas medidas, ya que los modelos destilados pueden evadir fácilmente sus controles de seguridad.
Noticias agregadas con IA