敵対的機械学習とは
敵対的機械学習とは、機械学習モデルの脆弱性を発見・悪用する攻撃手法と、それらに対する防御手法を研究する学術分野です。モデルの訓練時と推論時の両方における脅威を包括的に扱い、より堅牢なAIシステムの構築を目指します。
| ひとことで言うと | 機械学習モデルの弱点を突く攻撃手法と、その防御を扱う研究分野。 |
|---|---|
| 主な攻撃 | 回避攻撃、汚染攻撃、モデル抽出、メンバーシップ推定。 |
| 注意点 | 攻撃と防御はいたちごっこ。完全な防御はないという前提で設計する。 |
主な攻撃カテゴリ
敵対的機械学習の攻撃は、大きく3つのカテゴリに分類されます。回避攻撃（Evasion Attack）は推論時に敵対的サンプルを入力してモデルを誤判定させます。汚染攻撃（Poisoning Attack）は訓練データを改ざんしてモデルの学習を歪めます。探索攻撃（Exploratory Attack）はモデルの内部情報を抽出します。これらの攻撃は、画像認識、自然言語処理、音声認識など、あらゆるAI領域に適用可能です。
1回避攻撃推論時に誤らせる
▶
2汚染攻撃学習時に仕込む
▶
3抽出攻撃モデルを盗む
▶
4推定攻撃学習データを推測
▶
5多層で防御それぞれ対策が違う
防御と今後の展望
防御手法としては、敵対的訓練（Adversarial Training）、認証防御（Certified Defense）、入力変換、アンサンブル手法などが研究されています。敵対的機械学習は攻撃と防御の「いたちごっこ」の様相を呈しており、新しい攻撃手法が発見されるたびに防御手法も進化しています。この分野の研究は、AIの信頼性と安全性を向上させるために不可欠であり、産学連携での取り組みが活発化しています。