アルゴリズムバイアスとは
アルゴリズムバイアス（Algorithmic Bias）とは、アルゴリズムの設計・実装・最適化の過程で生じる系統的な偏りのことです。データではなくアルゴリズム自体の構造や最適化目標に起因するバイアスであり、公平なデータを使用しても不公平な結果が生まれる原因となりえます。
| ひとことで言うと | アルゴリズムの設計や実装によって生じる、判断の偏り。 |
|---|---|
| どこで生じるか | 目的関数の設定、特徴量の選び方、しきい値の決め方、最適化の方向。 |
| 注意点 | データが公平でも、設計次第で偏りが生まれる。両面の検証が必要。 |
アルゴリズムバイアスの発生原因
アルゴリズムバイアスは複数の要因から発生します。最適化目標の設定（全体精度を最大化すると少数派グループの精度が犠牲になる場合）、モデルの仮定（線形モデルが非線形の関係を捉えられない場合）、特徴量の選択（意図せず保護属性の代理変数を含む場合）、閾値の設定（分類の閾値が特定のグループに不利に働く場合）などがあります。
1目的を全体精度に多数派に最適化される
▶
2少数派は犠牲に件数が少なく軽視
▶
3精度に差が出る属性間で性能が違う
▶
4設計を見直す重み付けや制約を追加
具体的な事例
犯罪予測AIが過去の逮捕データに基づいて特定の地域に警察を集中配置し、その結果さらに逮捕が増えるフィードバックループが報告されています。医療AIが特定の人種グループのデータが少ないために、そのグループに対する診断精度が低くなるケースも知られています。これらはアルゴリズムの設計段階での配慮不足が原因の一端です。
アルゴリズムバイアスへの対策
対策として、公平性制約付きの最適化、複数の公平性指標による多面的な評価、アルゴリズム監査の実施、多様な背景を持つチームによるレビュー、定期的なモニタリングなどが挙げられます。アルゴリズムバイアスの完全な除去は困難ですが、認識・検出・緩和のプロセスを開発サイクルに組み込むことが重要です。