AI安全性研究機関とは
AI安全性研究機関（AI Safety Research Institutes）とは、AIの安全な開発と利用を推進するために設立された研究機関や組織の総称です。政府主導のもの、民間のもの、学術的なものなど、様々な形態の機関がAIの安全性に関する研究、評価、政策提言を行っています。
| ひとことで言うと | AIの安全性を評価・研究する、各国の公的機関。 |
|---|---|
| どこにあるか | 英国・米国・日本（AISI）など。国際的なネットワークも形成されている。 |
| 注意点 | 評価手法や指針が公開される。自社の安全対策の参考になる。 |
政府系研究機関
各国政府がAI安全性に特化した機関を設立しています。英国のAI Safety Institute（AISI）は2023年に設立され、最先端AIモデルの安全性評価を実施しています。米国もAI Safety Instituteを設立し、NISTの傘下でAIの安全性基準の策定に取り組んでいます。日本もAI安全性に関する研究拠点の整備を進めています。
1評価手法を研究どう安全性を測るか
▶
2モデルを評価実際に検証を行う
▶
3指針を公開事業者が参照できる
▶
4国際連携各国機関と協調
民間研究機関
民間のAI安全性研究機関も重要な役割を果たしています。MIRI（Machine Intelligence Research Institute）は2000年から長期的なAI安全性研究に取り組む先駆的機関です。Anthropicは安全性を最重要視するAI企業として設立されました。Redwood Research、ARC（Alignment Research Center）、CEARIなどの機関も活発に研究を行っています。
国際的な連携
AI安全性は一国だけでは対処できないグローバルな課題であるため、国際的な連携が重要です。国際AI安全性サミットでの合意、G7によるAI行動指針、OECD AI原則など、国際的な枠組みの中でAI安全性研究機関は相互に協力しています。安全性評価の手法や基準の国際的な調和を目指す取り組みも進んでいます。