AI安全性とは
AI安全性（AI Safety）とは、人工知能システムが人間にとって安全で有益に動作し続けることを保証するための研究分野および実践的取り組みの総称です。AIが意図しない動作をしたり、悪用されたりすることで生じるリスクを最小限に抑え、社会全体に対して好ましい影響をもたらすことを目標としています。
| ひとことで言うと | AIが人にとって安全に、意図どおりに動くようにするための研究と実務。 |
|---|---|
| 何を扱うか | 誤作動の防止、悪用への耐性、意図とのズレ、制御可能性の確保。 |
| 注意点 | 性能向上と安全性はトレードオフになることがある。設計段階で両立を図る。 |
AI安全性が重要な理由
AI技術の急速な発展に伴い、自動運転車、医療診断、金融取引など、人命や社会インフラに直結する領域でのAI活用が広がっています。こうした場面でAIが誤った判断を下せば、重大な事故や損害につながりかねません。また、大規模言語モデル（LLM）の普及により、偽情報の生成やプライバシー侵害といった新たなリスクも顕在化しています。
1リスクを特定何が起き得るか洗い出す
▶
2設計で防ぐ制約と権限の限定
▶
3評価するレッドチームで攻撃検証
▶
4運用で監視異常を検知する
▶
5停止できる止める手段を確保
AI安全性の主な課題
AI安全性の研究は多岐にわたります。技術的課題としては、堅牢性（Robustness）の確保、敵対的攻撃への対策、ハルシネーションの抑制、アラインメント問題の解決などがあります。社会的課題としては、規制・ガバナンスの構築、透明性の確保、責任の所在の明確化などが挙げられます。
国際的な取り組み
各国政府や国際機関がAI安全性に関する指針や規制を策定しています。英国のAI安全性研究所（AISI）の設立、G7広島AIプロセス、EU AI規制法（AI Act）など、国際的な協力体制が整備されつつあります。企業レベルでも、レッドチーミングや安全性評価の実施が標準的なプラクティスとなりつつあります。