レッドチーミングとは
レッドチーミング（Red Teaming）とは、AIシステムの脆弱性やリスクを発見するために、攻撃者の視点から意図的にシステムの弱点を探す評価手法です。軍事・セキュリティ分野の用語に由来し、AI分野では特に大規模言語モデル（LLM）の安全性評価において広く採用されています。
AIレッドチーミングの目的
AIレッドチーミングの主な目的は、有害なコンテンツの生成、偏見や差別の表出、個人情報の漏洩、セキュリティの脆弱性など、AIシステムが引き起こし得る問題を事前に特定することです。システムの公開前にこれらのリスクを発見し対処することで、実際の利用者への被害を未然に防ぎます。
レッドチーミングの手法
レッドチーミングには、人間の専門家が手動で攻撃を試みる方法と、自動化されたツールを使う方法があります。人間によるレッドチーミングは創造性や文脈理解に優れ、自動化手法は網羅性と効率性に優れています。多くの場合、両者を組み合わせたハイブリッドアプローチが採用されます。
実践と標準化
OpenAI、Google DeepMind、Anthropicなどの主要なAI企業は、モデルリリース前にレッドチーミングを実施しています。米国大統領令やEU AI規制法でもレッドチーミングの実施が推奨・義務化されつつあります。また、OWASP LLM Top 10やMITRE ATLASなどのフレームワークが、体系的なレッドチーミングの指針を提供しています。