概要 - ハードラベル攻撃におけるトランスファーベースの事前知識を用いたレイサーチ手順の強化

ハードラベル攻撃におけるトランスファーベースの事前知識を用いたレイサーチ手順の強化

2025-07-23 15:11:25

{"Chen Ma","Xinjie Xu","Shuyu Cheng","Qi Xuan"}

{cs.CV,cs.CR,cs.LG,"I.2.6; I.5.1; G.1.6"}

この論文は、新しいハードラベル攻撃、Prior-OPTとPrior-Sign-OPTを提案し、これらがray方向の勾配推定に転移ベースの事前情報を取り入れ、攻撃性能を大幅に向上させることを示しています。 **鍵点**: * **ハードラベル攻撃**: これらの攻撃は、トップ-1予測ラベルに依存しており、ラベル情報のみがアクセス可能な場合に実用的です。 * **ray検索方法**: これらの方法は、良質な画像から敵対的な領域への距離を最小化する最適なray方向を見つけます。しかし、OPTやSign-OPTなどの既存の方法は、高いクエリ複雑さと低い推定精度に苦しみます。 * **転移ベースの事前情報**: これらの事前情報はサブジェクトモデルから得られ、クエリ複雑さを大幅に増やさずに勾配推定精度を向上させる助けとなります。 * **Prior-Sign-OPTとPrior-OPT**: これらのアルゴリズムは、事前情報とランダムにサンプリングされたベクトルの組み合わせで勾配を推定します。Prior-Sign-OPTは方向微分の符号を使用して効率を向上させ、Prior-OPTは少し多くのクエリでより正確な近似を提供します。 * **理論的分析**: この論文は、推定勾配と真の勾配の期待される余弦類似度の表現を導出し、事前情報の組み込みによる改善を理論的に比較し、示しています。 * **実験**: ImageNetとCIFAR-10データセットにおける広範な実験では、Prior-OPTとPrior-Sign-OPTがクエリ効率と攻撃性能において11の最も優れた方法を大幅に凌駕することを示しています。 **利点**: * **向上したクエリ効率**: 提案された方法は、既存のハードラベル攻撃に比べてより良いクエリ効率を達成します。 * **高い攻撃性能**: 転移ベースの事前情報の組み込みにより、勾配推定の精度が大幅に向上し、攻撃性能が向上します。 * **スケーラビリティ**: これらの方法は、複数のサブジェクトモデルや異なる攻撃シナリオに簡単に拡張できます。 **応用**: 提案された方法は、深層神経ネットワークの耐久性を評価し、脆弱性を発見するために使用できます。これらを防御メカニズムに統合することで、AIシステムのセキュリティを向上させることもできます。 **全体として、この論文はクエリ効率と攻撃性能において顕著な改善をもたらす、新しいハードラベル攻撃の効果的なアプローチを提案しています。提案された方法は、より耐久性のあるセキュアなAIシステムの開発に寄与する可能性があります**。