サイドチャネル攻撃(AI)とは
AIにおけるサイドチャネル攻撃とは、AIモデルの直接的な入出力ではなく、応答時間、消費電力、キャッシュアクセスパターンなどの副次的な情報を利用してモデルの内部情報を推測する攻撃手法です。暗号分野で発展した手法がAI領域にも適用されています。
| ひとことで言うと | 処理時間や消費電力など、間接的な情報からモデルの秘密を探る攻撃。 |
|---|---|
| 何が漏れるか | モデルの構造、パラメータ数、入力データの特徴。 |
| 注意点 | 入出力を守っても防げない。実行環境そのものの保護が必要。 |
AIにおけるサイドチャネル
AIシステムで悪用され得るサイドチャネルは多岐にわたります。推論にかかる時間の差異からモデルのアーキテクチャや入力データの特性を推測するタイミング攻撃、GPUのメモリアクセスパターンからモデルパラメータを推定する手法、APIの応答サイズの変動から出力の内容を推測する手法などがあります。最近では、LLMのトークン生成速度の変動から出力内容を部分的に推測する研究も報告されています。
1直接は守られている入出力は暗号化
▶
2間接情報を観測時間・電力・音
▶
3パターンを分析処理内容を推測
▶
4秘密を推定構造やデータの特徴
▶
5対策：処理を均一化時間差をなくす
対策
サイドチャネル攻撃への対策として、応答時間の均一化（パディング）、バッチ処理による個別リクエストの隠蔽、ノイズの注入、メモリアクセスの均一化などが挙げられます。また、TEE（Trusted Execution Environment）の活用により、実行環境レベルでの保護を実現することも可能です。サイドチャネル攻撃は実行に高い技術力を要しますが、影響が大きいため、高セキュリティ環境では対策が推奨されます。