差別禁止とは
差別禁止（Non-Discrimination）とは、AI倫理の文脈において、AIシステムが人種・性別・年齢・宗教・障害・性的指向などの保護属性に基づいて個人やグループを不当に差別する結果を生み出してはならないという原則です。多くの国の法律やAI倫理ガイドラインの基本的な要件となっています。
直接差別と間接差別
差別は直接差別と間接差別に分類されます。直接差別は、保護属性を明示的に使用して異なる扱いをすることです（例：性別に基づいて融資条件を変える）。間接差別は、表面上は中立的な基準を適用しているが、結果として特定のグループに不利な影響を与えることです（例：郵便番号に基づくスコアリングが特定の人種に不利に作用する）。AIシステムでは間接差別が特に問題となります。
AIにおける差別禁止の課題
AIシステムでは、保護属性を入力から除外するだけでは差別を防げません。他の変数が保護属性の代理変数（Proxy）として機能する可能性があるためです。例えば、居住地域、購買履歴、名前などが人種の代理変数となりうります。また、公平性の定義が複数存在し、すべてを同時に満たすことが数学的に不可能な場合がある点も課題です。
法的規制と技術的対策
EUのGDPRやAI規制法、米国の公民権法、日本の個人情報保護法や各種差別禁止法が、AIによる差別に対する法的な枠組みを提供しています。技術的対策としては、公平性指標による定量評価、バイアス緩和アルゴリズムの適用、アルゴリズム監査の実施、保護属性との相関分析などが用いられています。