差分プライバシーとは
差分プライバシー（Differential Privacy）とは、データセットから統計情報を抽出する際に、個々のデータポイントのプライバシーを数学的に保証するフレームワークです。Cynthia Dworkらが2006年に提案したこの概念は、「ある個人のデータが含まれていてもいなくても、分析結果がほぼ変わらない」ことを保証することで、個人情報の漏洩を防ぎます。
数学的な定義
差分プライバシーは、プライバシーパラメータε（イプシロン）で定量化されます。εが小さいほど強いプライバシー保護を提供しますが、データの有用性（精度）は低下します。具体的には、隣接する2つのデータセット（1つのレコードだけが異なる）に対して、任意のクエリの出力分布がexp(ε)倍以内であることを保証します。
AIへの適用
機械学習における差分プライバシーの代表的な実装手法は、DP-SGD（Differentially Private Stochastic Gradient Descent）です。訓練中の勾配にノイズを加えることで、学習されたモデルが個々の訓練データのプライバシーを保護します。Apple、Google、Microsoftなどの企業がデータ収集や分析に差分プライバシーを採用しています。
課題と展望
差分プライバシーの主な課題は、プライバシーとモデル精度のトレードオフです。強いプライバシー保護を適用すると、モデルの性能が著しく低下する場合があります。また、適切なεの値の選択は依然として実践的な課題です。近年は、プライバシー会計手法の改良や、差分プライバシーと連合学習の組み合わせなどの研究が進んでいます。