禁止されるAIとは
禁止されるAI（Prohibited AI Practices）とは、EU AI Actにおいて「許容できないリスク」をもたらすとして、開発・販売・利用が原則として禁止されるAIシステムやAI活用のことです。人間の尊厳や基本的権利を著しく侵害するおそれがあるものが対象です。
禁止される具体的なAI
EU AI Actで禁止されるAIには以下が含まれます。人の弱みにつけ込むサブリミナル操作的手法、社会的行動に基づく公的機関による社会スコアリング、犯罪予測のためのリスクプロファイリング（個別のリスク評価を伴わないもの）、インターネットやCCTVからの無差別な顔画像スクレイピング、職場や教育機関での感情認識、法執行目的のリアルタイム遠隔生体認証（限定的な例外あり）などです。
例外規定
法執行目的のリアルタイム遠隔生体認証については、テロの脅威、行方不明者の捜索、重大犯罪の容疑者の特定など、限定的な場合に司法当局の許可を得た上で例外的に使用が認められます。
違反した場合の制裁
禁止されるAIの規定に違反した場合、最大3,500万ユーロまたは全世界年間売上高の7%のいずれか高い方の制裁金が科される可能性があります。これはGDPRの制裁金よりも重い水準です。