モデルサプライチェーンとは
モデルサプライチェーンとは、AIモデルが作成され最終ユーザーに届くまでの一連の過程と、関与するすべてのコンポーネントの総体を指します。データ収集からモデル訓練、評価、パッケージング、配布、デプロイメントに至る各段階が含まれます。
| ひとことで言うと | AIモデルが作られて利用者に届くまでの、一連の流れと関係者。 |
|---|---|
| どこにリスクがあるか | データ提供元、事前学習モデル、ライブラリ、配布リポジトリ、推論基盤。 |
| 注意点 | どこか1か所が侵害されると、下流すべてに影響が及ぶ。 |
サプライチェーンの構成要素
モデルサプライチェーンは複雑な構造を持ちます。訓練データ（外部データセット、内部データ、合成データ）、事前訓練済みモデル（基盤モデル）、MLフレームワーク（PyTorch、TensorFlowなど）、訓練インフラ（GPU、クラウドサービス）、モデルレジストリ（Hugging Face、MLflow）、推論ランタイム（ONNX Runtime、TensorRT）など、多数の依存関係が存在します。いずれかのコンポーネントが侵害されれば、最終的なモデルの安全性が損なわれます。
1学習データ出所と適法性
▶
2事前学習モデル信頼できる提供元か
▶
3ライブラリ依存関係の脆弱性
▶
4配布署名と改ざん検知
▶
5推論基盤実行環境の保護
セキュリティ管理
モデルサプライチェーンの安全性を確保するには、モデルカードやデータカードによる透明性の確保、モデルの来歴追跡（Provenance Tracking）、コンポーネントの署名と検証、SBOM（ソフトウェア部品表）のAI版であるML-BOM（Machine Learning Bill of Materials）の管理が必要です。継続的なモニタリングにより、サプライチェーン上の異常を早期に検出する体制の構築が推奨されます。