AIファイアウォールとは
AIファイアウォールとは、AIモデル（特にLLM）への入力と出力を監視・フィルタリングし、悪意のあるリクエストや不適切な応答をブロックするセキュリティソリューションです。従来のネットワークファイアウォールの概念をAIシステムに拡張したものです。
| ひとことで言うと | AIへの入力と出力を監視・遮断する、AI専用の防御装置。 |
|---|---|
| 何をするか | プロンプトインジェクションの検知、機密情報の遮断、利用記録の保全。 |
| 注意点 | 万能ではない。権限設計や出力検査と組み合わせて使う。 |
主要機能
AIファイアウォールの主な機能には、プロンプトインジェクション検出・遮断、有害コンテンツの生成防止、個人情報（PII）の検出とマスキング、プロンプトリーク防止、トピック制限（許可されたトピック以外の応答を遮断）、レート制限とクォータ管理があります。入力側と出力側の両方にフィルターを設置することで、多層的な防御を実現します。リアルタイムでの判定が必要なため、軽量な分類モデルやルールベースのフィルターが組み合わせて使用されます。
1利用者の入力アプリから届く
▶
2入口で検査攻撃的指示を遮断
▶
3AIが処理通過したものだけ
▶
4出口で検査機密の混入を遮断
▶
5記録・通知検知内容を管理者へ
導入と運用
AIファイアウォールは、LLMのAPIの前段にプロキシとして配置されるのが一般的です。LLM Guard、Guardrails AI、NeMo Guardrailsなどのオープンソースツールや、商用のAIセキュリティプラットフォームが利用可能です。導入にあたっては、フィルタリングルールの適切な設計（過検知と見逃しのバランス）、レイテンシへの影響の最小化、ログの収集と分析体制の構築が重要です。