アルゴリズムバイアスとは
アルゴリズムバイアス（Algorithmic Bias）とは、アルゴリズムの設計・実装・最適化の過程で生じる系統的な偏りのことです。データではなくアルゴリズム自体の構造や最適化目標に起因するバイアスであり、公平なデータを使用しても不公平な結果が生まれる原因となりえます。
アルゴリズムバイアスの発生原因
アルゴリズムバイアスは複数の要因から発生します。最適化目標の設定（全体精度を最大化すると少数派グループの精度が犠牲になる場合）、モデルの仮定（線形モデルが非線形の関係を捉えられない場合）、特徴量の選択（意図せず保護属性の代理変数を含む場合）、閾値の設定（分類の閾値が特定のグループに不利に働く場合）などがあります。
具体的な事例
犯罪予測AIが過去の逮捕データに基づいて特定の地域に警察を集中配置し、その結果さらに逮捕が増えるフィードバックループが報告されています。医療AIが特定の人種グループのデータが少ないために、そのグループに対する診断精度が低くなるケースも知られています。これらはアルゴリズムの設計段階での配慮不足が原因の一端です。
アルゴリズムバイアスへの対策
対策として、公平性制約付きの最適化、複数の公平性指標による多面的な評価、アルゴリズム監査の実施、多様な背景を持つチームによるレビュー、定期的なモニタリングなどが挙げられます。アルゴリズムバイアスの完全な除去は困難ですが、認識・検出・緩和のプロセスを開発サイクルに組み込むことが重要です。