アルゴリズム影響評価

Algorithmic Impact Assessment

アルゴリズム影響評価とは

アルゴリズム影響評価(AIA: Algorithmic Impact Assessment)とは、AIやアルゴリズムシステムの導入・運用が個人や社会に与える潜在的な影響を事前に評価し、リスクを軽減するためのプロセスです。環境影響評価(EIA)をモデルにした概念で、AIの社会的責任を実現する手段として注目されています。

表:アルゴリズム影響評価の要点まとめ
ひとことで言うとAIの導入が人や社会にどんな影響を与えるかを、事前に評価すること。
どこで使う行政のAI導入、採用・与信など人に影響する判断、公共サービス。
注意点導入前に行うのが原則。稼働後に問題が出ると是正コストが大きい。

評価の対象と項目

アルゴリズム影響評価では、公平性(特定の属性グループに対する差別的影響の有無)、プライバシー(個人データの取り扱いと保護)、透明性(判断プロセスの説明可能性)、安全性(システム障害時の影響)、人権への影響(表現の自由、アクセス権等への影響)などの観点から評価を行います。

図:影響評価の進め方
1対象と目的を整理何のためのAIか
▶
2影響を受ける人を特定利用者以外も含む
▶
3リスクを列挙誤判定の影響など
▶
4対策を設計緩和策と救済手段
▶
5結果を公開説明責任を果たす

カナダの事例

カナダ政府は、公的機関がAIシステムを導入する際にアルゴリズム影響評価を義務化しています。影響度に応じてレベル1(最小影響)からレベル4(極めて高い影響)に分類し、レベルに応じた審査と承認プロセスを要求しています。

日本における取り組み

日本ではアルゴリズム影響評価の法的義務化は行われていませんが、AI事業者ガイドラインにおいてリスク評価の実施が推奨されています。公正取引委員会もデジタルプラットフォームのアルゴリズムに関する調査を行っています。