AISIとは
AISI（AI Safety Institute）は、AIの安全性を確保するために各国政府が設立した専門機関の略称です。最初に設立されたのは英国のAI Safety Institute（2023年11月）で、2023年のAI Safety Summitを契機に発足しました。その後、米国、日本なども同様の機関を設立しています。
| ひとことで言うと | AIの安全性を確保するために各国が設置した研究機関（AI Safety Institute）。 |
|---|---|
| 日本では | 2024年にAIセーフティ・インスティテュートが設立された。 |
| 注意点 | 公開される評価手法やガイドは、自社のAI導入時の点検項目として使える。 |
英国AISIの役割
英国AISIは、最先端のAIモデルの安全性評価を主要な任務としています。主要なAI企業と連携し、モデルリリース前の安全性テスト、危険な能力の評価（生物兵器やサイバー攻撃に関する知識の有無など）、社会的リスクの分析を実施します。また、安全性評価の手法やツールの開発、安全性に関する研究も行っています。
1安全性評価の手法どう検証するか
▶
2ガイドの公開事業者向けの指針
▶
3レッドチーム手法攻撃的検証の方法論
▶
4国際的な連携各国と基準をすり合わせ
米国AISIの取り組み
米国AISIはNIST（米国国立標準技術研究所）の傘下に設立され、AIの安全性に関する技術標準やガイドラインの策定を担当しています。AI企業との自主的な安全性テストの協力体制の構築、安全性評価ツールの開発、研究コミュニティとの連携を推進しています。
国際的な展開と意義
AISIの国際的な展開は、AIガバナンスにおける重要なマイルストーンです。各国のAISIは相互に連携し、安全性評価の手法や知見を共有しています。2024年にはソウルでのAI Safety Summitを機に国際的なAISIネットワークが強化されました。AISIは、AI技術の急速な進歩に対して政府が安全性の監視能力を確保するための重要な基盤となっています。