攻撃面(Attack Surface)とは
攻撃面とは、AIシステムにおいて攻撃者が悪用可能なすべてのエントリポイントや脆弱性の総体を指します。攻撃面を正確に把握し、最小化することがセキュリティ対策の基本です。
AIシステムの攻撃面
AIシステムの攻撃面は非常に広範です。データ収集・前処理パイプライン、訓練環境、モデルリポジトリ、推論API、出力表示層など、各コンポーネントが攻撃対象となり得ます。特にLLMアプリケーションでは、プロンプト入力、外部ツール連携、プラグインシステム、RAG（検索拡張生成）で参照する外部データソースなど、従来のMLシステムにはなかった新たな攻撃面が存在します。
攻撃面の管理
攻撃面を管理するためには、まずシステムアーキテクチャの全容を文書化し、各コンポーネントのリスクレベルを評価します。不要なAPI公開の制限、入力の厳格な検証、最小権限の原則の適用などにより、攻撃面を縮小できます。また、サプライチェーンを含めた外部依存関係の管理も重要です。定期的なセキュリティ評価を実施し、システム変更に伴う新たな攻撃面の発生を検知することが推奨されます。