公平性（Fairness）とは
公平性（Fairness）とは、AIシステムが人種・性別・年齢・宗教・障害の有無などの保護属性に関わらず、すべての個人やグループに対して公正な扱いを行うことを指します。機械学習における公平性は、単にバイアスがないということではなく、文脈に応じた適切な公正さを実現することを意味します。
| ひとことで言うと | 人種・性別・年齢などによって、AIが不当な扱いをしないこと。 |
|---|---|
| 難しいところ | 「公平」の定義は複数あり、同時に全部を満たすことは数学的に不可能。 |
| 注意点 | どの公平性を優先するかは、業務と社会的文脈から人が判断する必要がある。 |
公平性の複数の定義
機械学習における公平性には、数学的に異なる複数の定義が存在します。統計的パリティ（各グループの肯定的予測率が等しいこと）、機会均等（各グループの真陽性率が等しいこと）、個人の公平性（類似した個人が類似した予測を受けること）などがあります。重要なのは、これらの定義が多くの場合、同時に満たすことができないという数学的な不可能性定理が存在する点です。
1保護属性を定める性別・年齢・国籍など
▶
2公平性の定義を選ぶ何をもって公平とするか
▶
3指標で測定属性別の差を数値化
▶
4差があれば是正データや重みを調整
▶
5継続的に監視運用後も定期確認
公平性の実現に向けたアプローチ
公平性を実現するためのアプローチは、前処理（学習データのバイアスを除去）、学習中処理（公平性制約を組み込んだ学習）、後処理（予測結果を調整）の3段階に分けられます。各段階でさまざまな手法が提案されており、タスクの性質や公平性の定義に応じて適切な手法を選択する必要があります。
公平性と精度のトレードオフ
公平性の向上と予測精度の維持は、しばしばトレードオフの関係にあります。完全な公平性を追求すると精度が低下する場合があり、どの程度のトレードオフが許容されるかは社会的・法的な文脈によって判断されます。公平性はAI倫理の中核的なテーマであり、技術的解決だけでなく社会的合意も不可欠です。