高リスクAIとは
高リスクAI（High-Risk AI System）とは、EU AI Actにおいて、人々の安全や基本的権利に重大な影響を及ぼす可能性があると分類されたAIシステムのことです。禁止されるほどではないものの、厳格な規制要件を満たす必要があります。
| ひとことで言うと | 人の安全や基本的権利に重大な影響を与えるとして、厳格な義務が課されるAI。 |
|---|---|
| 主な例 | 採用選考、与信審査、教育の評価、医療機器、重要インフラの制御。 |
| 注意点 | 中小企業でも採用AIや与信AIを使えば該当し得る。範囲を軽く見ないこと。 |
高リスクAIに該当する分野
EU AI Actでは、以下の分野で使用されるAIが高リスクに分類されます。生体認証、重要インフラの管理・運営、教育・職業訓練のアクセスや評価、雇用・人事管理（採用・選考）、公共サービスのアクセス（社会保障等）、法執行、出入国管理、司法・民主的プロセスなどが含まれます。
1リスク管理体制継続的に評価・低減
▶
2データの品質管理偏りの検証と記録
▶
3技術文書の作成設計・性能・限界
▶
4人による監督介入できる仕組み
▶
5ログの保存追跡可能性を確保
高リスクAIに課される義務
高リスクAIの提供者には、リスク管理システムの構築、データガバナンスの確保、技術文書の作成、ログ記録の保持、透明性の確保、人間による監視機能の実装、正確性・堅牢性・サイバーセキュリティの要件充足、適合性評価の実施、CEマーキングの付与などが義務付けられます。
利用者側の義務
高リスクAIの利用者（デプロイヤー）にも義務が課されます。提供者の使用説明書に従った利用、入力データの適切な管理、人間による監視の実施、異常時の報告義務などが求められます。