フェデレーテッドラーニング

Federated Learning

フェデレーテッドラーニングとは

フェデレーテッドラーニング(Federated Learning / 連合学習)とは、データを各デバイスやサーバーに分散させたまま、データを中央に集めることなくモデルを共同で学習する機械学習の手法です。プライバシーを保護しながら複数の参加者のデータからモデルを構築できる画期的なアプローチです。

表:フェデレーテッドラーニングの要点まとめ
ひとことで言うとデータを外に出さず、各端末で学習した結果だけを持ち寄って全体モデルを作る手法。
どこで使うスマホの予測変換、医療機関をまたぐ研究、複数企業でのデータ連携。
注意点更新内容から元データが推測される恐れがある。差分プライバシー等の併用を。

フェデレーテッドラーニングの仕組み

まず中央サーバーがグローバルモデルを各クライアント(デバイスや組織)に配布します。各クライアントはローカルデータでモデルを学習し、モデルの更新情報(勾配やパラメータの差分)のみを中央サーバーに送信します。中央サーバーは各クライアントの更新を集約してグローバルモデルを改善し、再び配布するサイクルを繰り返します。

図:連合学習のしくみ
1共通モデルを配布各端末に送る
▶
2手元のデータで学習データは外に出さない
▶
3更新分だけ送信重みの差分のみ
▶
4サーバーで統合全体の平均を取る
▶
5改良版を再配布全員が恩恵を受ける
↺ 1〜5をくり返して精度を高める

プライバシーとの関係

生データが外部に出ないため、GDPR などのデータ保護規制への準拠が容易になります。差分プライバシー(Differential Privacy)やセキュアアグリゲーション(Secure Aggregation)を組み合わせることで、更新情報からの元データの推測も防止できます。

活用事例

Googleのスマートフォンキーボード(Gboard)の予測変換、Apple のSiri、医療機関間での医用画像診断モデルの共同学習、金融機関の不正検知モデルなどで実用化されています。データを共有できない組織間でのAI協調が可能になる技術として注目されています。