Resumen - Procedimiento de Aceleración de la Búsqueda de Rayos de Ataques con Etiquetas Duras mediante Priors Basados en la Transferencia

Procedimiento de Aceleración de la Búsqueda de Rayos de Ataques con Etiquetas Duras mediante Priors Basados en la Transferencia

2025-07-23 15:11:25

{"Chen Ma","Xinjie Xu","Shuyu Cheng","Qi Xuan"}

{cs.CV,cs.CR,cs.LG,"I.2.6; I.5.1; G.1.6"}

Este documento propone nuevas ataques con etiquetas duras, Prior-OPT y Prior-Sign-OPT, que incorporan priores basados en transferencias a la estimación del gradiente de la dirección del rayo y mejoran significativamente el rendimiento del ataque. **Puntos clave**: * **Ataques con etiquetas duras**: Estos ataques dependen únicamente de la etiqueta predicha en el puesto 1, lo que los hace prácticos cuando solo se tiene acceso a información de etiquetas. * **Métodos de búsqueda de rayos**: Estos métodos encuentran la dirección óptima del rayo desde la imagen benigna que minimiza la distancia a la región adversaria. Sin embargo, métodos existentes como OPT y Sign-OPT sufren de alta complejidad de consulta y baja precisión de estimación. * **Priors basados en transferencias**: Estas priores se obtienen de modelos sustitutos y ayudan a mejorar la precisión de la estimación del gradiente sin aumentar significativamente la complejidad de consulta. * **Prior-Sign-OPT y Prior-OPT**: Estos algoritmos estiman el gradiente utilizando una combinación de priores y vectores muestrados aleatoriamente. Prior-Sign-OPT utiliza la señal de la derivada direccional para la eficiencia, mientras que Prior-OPT proporciona una aproximación más precisa con un número ligeramente mayor de consultas. * **Análisis teórico**: El documento deriva expresiones para las similitudes cosenoidales esperadas entre los gradientes estimados y verdaderos, permitiendo comparaciones teóricas y demostrando la mejora alcanzada al incorporar priores. * **Experimentos**: Experimentos extensos en los conjuntos de datos ImageNet y CIFAR-10 muestran que Prior-OPT y Prior-Sign-OPT superan significativamente a 11 métodos de vanguardia en términos de eficiencia de consulta y rendimiento de ataque. **Ventajas**: * **Mejorada eficiencia de consulta**: Los métodos propuestos logran una mejor eficiencia de consulta en comparación con los ataques con etiquetas duras existentes. * **Mejor rendimiento de ataque**: La inclusión de priores basados en transferencias mejora significativamente la precisión de la estimación del gradiente, llevando a un mejor rendimiento de ataque. * **Escalabilidad**: Los métodos se pueden extender fácilmente a múltiples modelos sustitutos y diferentes escenarios de ataque. **Aplicaciones**: Los métodos propuestos pueden usarse para evaluar la robustez de las redes neuronales profundas y descubrir vulnerabilidades. También pueden integrarse en mecanismos de defensa para mejorar la seguridad de los sistemas de IA. **En resumen, este documento presenta un nuevo y efectivo enfoque para ataques con etiquetas duras que ofrece mejoras significativas en la eficiencia de consulta y el rendimiento de ataque. Los métodos propuestos tienen el potencial de contribuir al desarrollo de sistemas de IA más robustos y seguros**.