高リスクAIとは
高リスクAI（High-Risk AI System）とは、EU AI Actにおいて、人々の安全や基本的権利に重大な影響を及ぼす可能性があると分類されたAIシステムのことです。禁止されるほどではないものの、厳格な規制要件を満たす必要があります。
高リスクAIに該当する分野
EU AI Actでは、以下の分野で使用されるAIが高リスクに分類されます。生体認証、重要インフラの管理・運営、教育・職業訓練のアクセスや評価、雇用・人事管理（採用・選考）、公共サービスのアクセス（社会保障等）、法執行、出入国管理、司法・民主的プロセスなどが含まれます。
高リスクAIに課される義務
高リスクAIの提供者には、リスク管理システムの構築、データガバナンスの確保、技術文書の作成、ログ記録の保持、透明性の確保、人間による監視機能の実装、正確性・堅牢性・サイバーセキュリティの要件充足、適合性評価の実施、CEマーキングの付与などが義務付けられます。
利用者側の義務
高リスクAIの利用者（デプロイヤー）にも義務が課されます。提供者の使用説明書に従った利用、入力データの適切な管理、人間による監視の実施、異常時の報告義務などが求められます。