連合学習セキュリティとは
連合学習セキュリティとは、連合学習（Federated Learning）のプロトコルに内在するセキュリティリスクを特定し、防御策を講じる技術分野です。データを中央に集約せずに分散訓練を行う連合学習は、プライバシー保護の利点がある一方で、固有のセキュリティ課題を抱えています。
セキュリティ上の脅威
連合学習における主要な脅威として、勾配からの訓練データ推定（勾配反転攻撃）、悪意のあるクライアントによるモデル汚染（Byzantine攻撃）、フリーライダー問題（訓練に貢献せず恩恵だけ受ける）、バックドア攻撃（特定のクライアントがバックドアを埋め込む）、推論攻撃（集約されたモデルから他クライアントのデータを推定）などがあります。サーバー自体が悪意を持つケースも想定する必要があります。
防御技術
連合学習のセキュリティを強化する技術として、セキュアアグリゲーション（暗号技術により個別の勾配をサーバーに開示せずに集約）、差分プライバシーの適用、ロバスト集約アルゴリズム（異常な勾配を除外するKrum、Trimmed Meanなど）、勾配圧縮・スパース化によるプライバシー強化があります。クライアントの信頼性評価や、ブロックチェーンを活用した透明性の確保も研究されています。