デジタル庁が、行政の進化と革新のための生成AIの調達・利活用に関わるガイドライン2.0を発表しました。
日本政府における生成AIの調達と利活用を安全かつ効果的に進めるためのデジタル社会推進標準ガイドライン（DS-920）です。主な目的は、行政運営の効率化や質の向上を目指す利活用の促進と、情報漏えいや不適切生成といったリスクの管理を両立させることにあります。各府省庁にはAI統括責任者（CAIO）の設置が義務付けられ、リスクの高さに応じた判定基準や、専門的な助言を行う先進的AI利活用アドバイザリーボードによるガバナンス体制が示されています。ガイドラインは、企画から開発、運用に至る各段階で遵守すべき具体的なルールやチェックリストを網羅し、機密情報の保護や知的財産権への配慮を求めています。このように、政府全体で統一された安全策（ガードレール）を設けることで、信頼性の高いAI社会の実現と行政革新を加速させる指針となっています。
https://www.digital.go.jp/news/decb64eb-f26e-41cb-8d37-f3dd173108b8
本ドキュメントは、「デジタル社会推進標準ガイドライン DS-920」に基づき、政府機関における生成AIの適切な調達および利活用に関する方針、体制、ルールをまとめたものである。
生成AIの利活用は、行政事務の効率化や国民サービスの向上といった「行政の進化と革新」をもたらす大きな可能性を秘めている。一方で、情報漏えいや不適切な表現の生成、著作権侵害、セキュリティ上の脅威といった特有のリスクも存在する。本ガイドラインの核心は、「利活用促進」と「リスク管理」を表裏一体で進めることにあり、各府省庁が安全かつ効果的にAIプロジェクトを推進するための具体的なガードレールを提示している。
主な要点は以下の通りである。
- AIガバナンス体制の構築： 各府省庁に「AI統括責任者（CAIO）」を設置し、組織横断的な管理体制を整備する。
- リスクベースのアプローチ： 業務の性格、利用範囲、人間の判断の介在の3軸でリスクを評価し、高リスクな事案については「先進的AI利活用アドバイザリーボード」への報告と助言を義務付ける。
- 実務的なルールの明文化： 企画、調達、開発、運用の各フェーズにおける対応事項を定め、チェックシート等を活用した品質と安全性の確保を図る。
- 継続的な改善： AI技術の急速な進展に合わせ、ガイドライン自体も随時見直しを行う。
1. ガイドラインの目的と位置付け
1.1 策定の背景
AI関連技術の急速な発展を受け、G7広島サミット等を通じた国際的なAIガバナンスの議論が進展している。日本政府においても、「人工知能基本計画」や「AI事業者ガイドライン」等の策定を通じ、安全・安心なAI利活用のための環境整備が加速している。本ガイドラインは、これらの動向を踏まえ、政府職員が遵守すべき規範として策定された。
1.2 主な目的
本ガイドラインは、「人間中心のAI社会原則」の実現を目指し、以下の利益を達成することを目的とする。
- 行政目的の効率的・効果的な実現
- 企画立案および情報収集・分析能力の向上
- 政府が作成する政策・文書等の質的向上
- 既存システムの機能性・利便性向上
- 費用対効果の向上とAI産業の育成
- AIの安全性向上とデータガバナンスの強化
1.3 適用範囲
- 対象システム： 生成AIを構成要素とする政府情報システム。
- 除外事項： 特定秘密、重要経済安保情報、秘匿性の高い行政文書を扱うシステム、および安全保障や公共の安全に関わる機微な情報を扱うシステムは適用対象外。
- 期待される波及効果： 独立行政法人、指定法人、地方公共団体に対しても、本ガイドラインに準拠または参考とした取組が期待されている。
2. ガバナンスおよび推進体制
政府全体の利活用促進とガバナンス強化のため、以下の体制を構築する。
2.1 政府横断的な体制
- 先進的AI利活用アドバイザリーボード： デジタル庁が事務局を務め、外部有識者を含めて構成。各府省庁の調達・利活用状況の把握、高リスク事案への助言、ベストプラクティスの発信、リスクケースの分析を行う。
- AI相談窓口： デジタル庁が運用し、各府省庁からの技術的・専門的な質問や相談に対応する。
- 各府省庁AI統括責任者（CAIO）連絡会： 情報共有や注意喚起を行う場として開催。
2.2 各府省庁における役割分担
政府職員の役割は以下の5つの種別に定義される。
| 種別 | 主な役割・責任 | 具体的な職員例 |
|---|---|---|
| AI統括責任者（CAIO） | 各省庁の利活用方針の策定・推進、リスク管理の統括、アドバイザリーボードへの報告決定。 | デジタル統括責任者（CDO）級 |
| 企画者 | 利活用の企画、業務要件の定義、調達・開発・運用の推進。 | 生成AI活用を所管する部署の職員、PJMO職員 |
| 開発者 | AIモデルの開発、データ収集、学習、システム構築。 | 開発を内製する場合の政府職員（PJMO等） |
| 提供者 | 生成AIを組み込んだサービスを運営・提供。 | システム運営を担当する政府職員 |
| 利用者 | 行政実務において生成AIシステムを使用。 | 一般事務や行政分野の政府職員 |
3. 利活用方針とリスク評価
3.1 積極的活用の推進
各府省庁は、リスクの低い内部管理業務等についてはスピード感を持って実装を進める。相対的にリスクが高いプロジェクトであっても、適切なリスク対応を前提に、行政の革新につながる取組は積極的に後押しする方針である。
3.2 リスク評価の3軸
利活用プロジェクトの企画時に、以下の3つの軸でリスクレベルを判断する。
| リスク軸 | 高リスクと考えられるケース | 低リスクと考えられるケース |
|---|---|---|
| A. 業務の性格 | 国民の権利・安全に影響する業務、機微な政策分野、生命・身体・財産に影響する業務。 | 生成物の瑕疵が重大な影響を及ぼさない業務。 |
| B. 利用範囲 | 不特定多数の外部者（一般国民等）による利活用。 | 政府職員による内部利用、適切な判断が可能な特定外部者の利用。 |
| C. 人間の判断 | 出力結果を政府職員等が判断（確認）せずにそのまま利活用する設計。 | 職員等が必ず出力結果の適切さを判断して利活用する設計。 |
AI統括責任者（CAIO）は、「高リスク判定シート」を用いてリスクレベルを最終決定し、高リスクの可能性がある場合はアドバイザリーボードへ報告する。
4. 調達・運用に係る具体的ルール
4.1 各フェーズにおける対応事項
- 企画時： 目的の明確化、環境・リスク分析、権限管理の設定、ログ取得（入力・出力・アクセス履歴）の計画策定。共通機能（ガバメントクラウド等）の活用を検討する。
- 調達時： 「調達チェックシート」および「契約チェックシート」を活用し、事業者のAIガバナンスや品質確保策を確認する。ISMAP等クラウドサービスリストからの選定を原則とする。
- 構築・リリース前： テストシナリオに基づく入出力の検証（ハルシネーションやバイアスの確認）、利活用ルールの周知、ユーザーへの利用規約提示と同意取得（国民利用の場合）。
- 運用時： 出力の品質監視、目的外利用のモニタリング、アップデート時の再評価、脆弱性への対応。
4.2 セキュリティ対策
生成AI特有の攻撃に対する防御策を、企画者・開発者・提供者が連携して講じる必要がある。
- 直接プロンプトインジェクション： 不正な指示により意図せぬ出力をさせる攻撃。
- 間接プロンプトインジェクション： 細工された外部データを参照させることで不正な動作を誘発する攻撃。
- DoS攻撃： 膨大な処理を必要とする入力を与え、システムの遅延や停止を引き起こす攻撃。
- 対策例： システムプロンプトによる制約、ガードレールによる入出力検証、外部参照データの検証、RAG（検索拡張生成）等の権限管理。
5. 生成AI特有のリスクと便益
5.1 期待される便益
- 運営コストの削減。
- 新製品・サービスの創出と組織変革。
- 24時間対応など、人間が困難な領域へのサービス拡大。
- 行政の意思決定の質の向上と、既存システムの利便性向上。
5.2 留意すべきリスク
- 政治的中立性： 政治的に不適切な表現を生成するリスク。
- モデル依存： 単一モデルへの依存によるコスト増やバイアスの定着。
- 説明責任： 行政判断の根拠が不明瞭になるリスク。
- 知的財産： 既存の著作物に類似した出力を意図せず利用するリスク。
- 法的な誤回答： 法的拘束力を持つ業務での誤回答による有害情報の流布。
6. 今後の進め方
AI技術の進化は極めて早いため、本ガイドラインは「動的なドキュメント」として位置付けられている。各府省庁は、AI統括責任者（CAIO）を中心に、最新の技術動向やリスク事例、アドバイザリーボードの助言を踏まえ、自組織のルールや運用を継続的にアップデートしていくことが求められる。また、デジタル庁は技術検証やハッカソンを通じて、具体的なユースケースの創出を支援し、政府全体での最適化を推進する。
そんなところで
