機械学習セキュリティとは
機械学習セキュリティとは、機械学習モデルおよびそのパイプラインに対するセキュリティ脅威を分析し、防御策を講じる専門分野です。従来のサイバーセキュリティとは異なり、学習データやモデルパラメータ自体が攻撃対象となる点が特徴です。
| ひとことで言うと | 機械学習のパイプライン全体を、攻撃から守る取り組み。 |
|---|---|
| どこが狙われるか | データ収集、前処理、学習、保存、配布、推論のすべての段階。 |
| 注意点 | 「モデルさえ守れば安全」ではない。工程全体で考える必要がある。 |
脅威の分類
機械学習システムへの脅威は大きく3つに分類されます。第一に、訓練段階でのデータ汚染やバックドア埋め込みといった訓練時攻撃があります。第二に、敵対的サンプルを用いた推論時の回避攻撃です。第三に、モデル抽出やメンバーシップ推定といったプライバシー攻撃があります。これらの攻撃はそれぞれ異なる防御手法を必要とします。
1データ収集出所を検証する
▶
2前処理・学習環境を隔離する
▶
3モデル保存署名と暗号化
▶
4配布改ざん検知の仕組み
▶
5推論入出力を監視する
防御のアプローチ
機械学習セキュリティにおける防御は、ロバスト学習（敵対的訓練によるモデルの堅牢化）、データサニタイゼーション（訓練データの検証・浄化）、モデル監視（推論時の異常検知）の3層で構成されます。また、モデルの説明可能性を高めることで、攻撃を受けた際の検出能力が向上します。セキュリティ研究コミュニティでは、新しい攻撃手法と防御策の研究が活発に行われており、継続的な知識の更新が重要です。