- How to Robustify Black-Box ML Models? A Zeroth-Order Optimization Perspective [74.5]
入力クエリと出力フィードバックだけでブラックボックスモデルを堅牢化する方法? 我々は,ブラックボックスモデルに適用可能な防御操作の一般的な概念を提案し,一階法(FO)認定防衛技術である denoized smoothing (DS) のレンズを用いて設計する。 我々は,Zeroth-Order AutoEncoder-based Denoised Smoothingが既存のベースラインよりも精度,堅牢性,クエリの複雑さを向上できることを実証的に示す。
論文 参考訳（メタデータ） (Sun, 27 Mar 2022 03:23:32 GMT)- ブラックボックスモデルに対して頑健性を向上させるという論文。とても実用的な設定ではあるが本当にできるのか？という思いもある。
- リポジトリはGitHub – damon-demon/Black-Box-Defense: Robustify Black-Box Models (ICLR’22 – Spotlight)