敵対的機械学習とは
敵対的機械学習とは、機械学習モデルの脆弱性を発見・悪用する攻撃手法と、それらに対する防御手法を研究する学術分野です。モデルの訓練時と推論時の両方における脅威を包括的に扱い、より堅牢なAIシステムの構築を目指します。
主な攻撃カテゴリ
敵対的機械学習の攻撃は、大きく3つのカテゴリに分類されます。回避攻撃（Evasion Attack）は推論時に敵対的サンプルを入力してモデルを誤判定させます。汚染攻撃（Poisoning Attack）は訓練データを改ざんしてモデルの学習を歪めます。探索攻撃（Exploratory Attack）はモデルの内部情報を抽出します。これらの攻撃は、画像認識、自然言語処理、音声認識など、あらゆるAI領域に適用可能です。
防御と今後の展望
防御手法としては、敵対的訓練（Adversarial Training）、認証防御（Certified Defense）、入力変換、アンサンブル手法などが研究されています。敵対的機械学習は攻撃と防御の「いたちごっこ」の様相を呈しており、新しい攻撃手法が発見されるたびに防御手法も進化しています。この分野の研究は、AIの信頼性と安全性を向上させるために不可欠であり、産学連携での取り組みが活発化しています。