リスクベースアプローチとは
リスクベースアプローチとは、AIシステムが社会に与えるリスクの大きさに応じて、段階的に異なる規制要件を課す規制手法です。すべてのAIに一律の規制をかけるのではなく、リスクが高いものほど厳格な義務を課すことで、イノベーションと安全性のバランスを図ります。
| ひとことで言うと | AIが社会に与えるリスクの大きさに応じて、規制の強さを変える考え方。 |
|---|---|
| どこで使われるか | EU AI Actの基本設計。日本のガイドラインも同様の発想を取る。 |
| 注意点 | 自社のAIがどの区分に当たるかを、まず正しく判定することが出発点。 |
EU AI Actにおける4段階分類
EU AI Actでは、AIシステムを以下の4段階に分類しています。第1段階は「許容できないリスク」で、社会スコアリングやリアルタイム遠隔生体認証など原則として禁止されます。第2段階は「高リスク」で、医療機器や採用AIなど厳格な要件が課されます。第3段階は「限定リスク」で、チャットボットなど透明性義務が求められます。第4段階は「最小リスク」で、特段の規制はありません。
1許容できないリスク禁止される用途
▶
2高リスク厳格な義務が課される
▶
3限定的リスク透明性義務（表示など）
▶
4最小リスク特段の規制なし
リスク評価の要素
AIシステムのリスク評価では、利用される分野（医療、金融、教育等）、影響を受ける人々の脆弱性、判断の不可逆性、自律性の度合い、影響の規模や範囲などが考慮されます。これらの要素を総合的に判断してリスクレベルが決定されます。
日本における適用
日本のAI事業者ガイドラインでもリスクベースの考え方が取り入れられており、AIのリスクに応じた適切な対策を講じることが推奨されています。一律の規制ではなく、文脈に応じた柔軟な対応が重視されています。