連合学習と安全性
連合学習（Federated Learning）は、データを中央に集約せずに分散したまま機械学習モデルを訓練する技術であり、プライバシー保護の観点から安全性に大きく貢献します。各参加者のデータは端末やサーバーに留まり、モデルの更新情報（勾配やパラメータ差分）のみが共有されるため、データの直接的な漏洩を防ぎます。
| ひとことで言うと | データを集めずに各拠点で学習し、結果だけ共有する仕組み。 |
|---|---|
| 何がうれしいか | 生データが外に出ないため、プライバシーと機密の保護に有利。 |
| 注意点 | 送る更新内容から元データが推測されることがある。差分プライバシーと併用する。 |
安全性上の利点
連合学習の安全性上の利点は、データプライバシーの保護が最も大きなものです。医療データや金融データなど、厳格なプライバシー規制（GDPR、HIPAA等）の対象となるデータを共有せずにAIモデルを訓練できます。また、データの移動に伴うセキュリティリスク（通信の傍受、データベースへの不正アクセスなど）も軽減されます。
1データは手元に残る外部に送らない
▶
2更新分だけ送信重みの差分のみ
▶
3推測リスクは残る差分から復元の可能性
▶
4ノイズを加える差分プライバシーを併用
▶
5安全に統合秘密計算も選択肢
連合学習固有のリスク
しかし、連合学習にも固有のセキュリティリスクが存在します。勾配情報からの訓練データの復元（勾配リーク攻撃）、悪意のある参加者によるモデルの汚染（ビザンチン攻撃）、モデルの更新情報を通じたバックドアの挿入、フリーライダー問題（貢献せずに恩恵だけを得る参加者）などが報告されています。
安全性強化の手法
連合学習の安全性を強化する手法として、差分プライバシーの適用（勾配にノイズを追加）、セキュアアグリゲーション（暗号化された状態で勾配を集約）、ビザンチン耐性のある集約アルゴリズム（中位値集約、トリム平均など）、参加者の検証と信頼性評価などが研究されています。複数の防御手法を組み合わせることで、より安全な連合学習の実現が目指されています。