個人の公平性

Individual Fairness

個人の公平性とは

個人の公平性(Individual Fairness)とは、「類似した個人は類似した扱いを受けるべきである」という原則に基づく公平性の概念です。グループ全体の統計量に着目するグループ公平性とは対照的に、個人レベルでの公正な扱いを重視するアプローチです。2012年にDworkらによって定式化されました。

個人の公平性の定義

個人の公平性は、類似度メトリクス(距離関数)を用いて定義されます。入力空間における2人の個人xとyの距離d(x,y)が小さいとき、モデルの予測M(x)とM(y)の距離も小さくなるべきという条件(リプシッツ条件)で表されます。これにより、「不当に異なる扱い」を数学的に排除することができます。

個人の公平性の課題

個人の公平性の実現には、根本的な課題があります。「類似した個人」を定義するための適切な距離関数をどう設計するかという問題です。どの特徴量が「関連する類似性」に含まれ、どの特徴量が含まれるべきでないかは、タスクや文脈に依存する価値判断であり、一律に決定することが困難です。また、距離関数自体にバイアスが含まれるリスクもあります。

グループ公平性との関係

個人の公平性とグループ公平性は必ずしも一致しません。グループレベルで公平性が達成されていても、個人レベルでは不公平な扱いが存在しうります。逆に、個人の公平性を満たしていても、グループレベルの格差が生じる場合があります。理想的には両方のアプローチを組み合わせ、多面的に公平性を評価することが望ましいとされています。