OVERVIEWこのガイドラインは何？
政府の業務に生成AIを導入・活用するときの「国のルールブック」です。3つのポイントで概要をつかみましょう。
「使うこと」が前提のルール
生成AIのリスクを理由に避けるのではなく、積極的に業務での活用を検討することが基本姿勢。リスク管理は活用を進めるための「ガードレール」と位置付けられています。
政府職員向けの遵守ルール
政府情報システムのルールとして遵守が必要な「Normative」文書。対象は生成AIの調達・利活用に関わる政府職員です。独立行政法人等にも準拠が期待され、地方公共団体も参考にできます。
体制・判定・ルールの3点セット
①CAIO設置などのガバナンス体制、②ユースケースごとの高リスク判定、③企画〜調達〜運用〜利用の役割別ルールの3つで構成されています。
ガイドラインが目指す利益（9項目）
「人間中心のAI社会原則」の実現とAI指針を踏まえ、政府による生成AIの安全・安心な利活用を通じて、次の利益の実現を目指します。
- 行政目的の効率的・効果的な実現
- 企画立案能力の向上
- 情報収集・分析能力の向上
- 政府が作り出す政策・文書・分析等の質の向上
- 既存政府情報システムの生成AIを用いた機能や利便性向上
- 政府が利活用する生成AI全体の機能性や品質及び費用対効果の向上
- 我が国のAI分野における国際競争力の向上及び産業の育成
- AIの安全性の向上及び国際的な相互運用性の確保
- 政府におけるデータガバナンスの強化
- 「人工知能基本計画」「AI指針」の決定を踏まえた記載を追加
- 対象生成AIを拡大（音声入力、画像・音声出力を追加）し、用語定義を整理
- 高リスク判定基準を見直し、CAIOがリスクレベルを判断する旨を明確化
- AIエージェントを作成できる生成AIシステムへの対応（作成制限・報告ルール）を追加
- 権限管理・ログ取得、システム監査、ユーザビリティ確保などの記載を拡充
- 旧「ChatGPT等の生成AIの業務利用に関する申合せ」は廃止され、本ガイドラインに一本化
SCOPE誰が・何が対象？
対象となるシステム・生成AI・政府職員の範囲を確認しましょう。
対象とする情報システム
政府情報システムのうち、対象となる生成AIを構成要素とするシステムに適用されます。
- 特定秘密・重要経済安保情報・秘密文書としての取扱いを要する情報を扱うシステム
- 安全保障、公共の安全・秩序の維持といった機微な情報（及びそれになり得る情報）を扱うシステム
対象とする生成AI
原則として、入力＝テキスト・音声／出力＝テキスト・画像・音声が可能な生成AIが対象です。
画像や動画等を入力するもの、動画等を生成するもの、より高度なタスクを実行できるもの（AIエージェント等）は、具体的対応事項は定められていませんが、AIガバナンスの枠組み（体制構築・リスクケース対応）の対象になります。今後の利活用状況等を踏まえ、ガイドラインの拡充が検討されます。
対象となる政府職員（5つの役割）
| 種別 | 役割 | 具体例 |
|---|---|---|
| AI統括責任者 （CAIO） |
府省庁の生成AI利活用方針を策定・推進し、組織全体の利活用状況とリスク管理等を統括管理する | 「デジタル統括責任者」又は「副デジタル統括責任者」級の職員（兼任可） |
| 企画者 | 新たな生成AIの利活用を企画し、要求を定義し、調達・開発・利活用を推進する | 生成AIの活用を企画・調達する部署・チームの職員、PJMO職員等 |
| 開発者 | 企画に基づき、モデル開発・データ収集・学習・検証を通して生成AIシステムを構築する | （開発を内製する場合の）構築を行う職員（PJMO職員等） |
| 提供者 | 生成AIを組み込んだサービスとして政府又は国民に提供する | 生成AIシステムを運営する職員（PJMO職員等） |
| 利用者 | 行政において生成AIシステムを利活用する | 一般事務や各行政分野で生成AIを使う政府職員 |
政府に生成AIシステムを提供する事業者はこのガイドラインの直接の対象ではありません。企画者・提供者が調達手続・契約・監督を通じて事業者側の遵守を確保する仕組みです。
POLICY政府における生成AIの利活用方針
「リスクがあるから使わない」ではなく、「適切に管理しながら積極的に使う」が基本方針です。
各府省庁は、次の3つに取り組みつつ、積極的に業務での活用を検討することとされています。
- 低リスクの利活用（内部管理系業務等）→ スピード感を持って実装を進める
- 高リスクの可能性がある利活用でも、行政の進化や革新をもたらす取組は、適切なリスク対応の上で実施を後押しする（先進的AI利活用アドバイザリーボードへ報告し、助言を受ける）
RISK ASSESSMENT高リスクな生成AI利活用の考え方
各府省庁のCAIOが企画者と連携し、ユースケースごとにリスクレベルを判断します。判断には「高リスク判定シート」（別紙1）を参考にします。
3つのリスク軸
| リスク軸 | 考え方 | リスクが高くなるケース |
|---|---|---|
| A. 適用業務の性格 | 生成物の瑕疵（誤り等）が重大な影響を及ぼす可能性のある業務かどうか | 国民の基本的権利や安全に大きな影響を及ぼす業務、機微な政策分野、生命・身体・財産に影響する業務、資格が求められる業務、高い説明可能性が求められる業務 等 |
| B. 利用範囲 | 誰が使うかによってリスクの大きさ・影響範囲が異なる | 不特定外部者（一般国民等）が利活用するサービスは、政府職員による府省庁内利用よりリスクが高い |
| C. 出力結果の判断 | 出力結果を政府職員等が判断してから使うかどうか | 出力結果の適切さを判断せずそのまま利活用する業務設計はリスクが高い |
判定例
- 高リスクの可能性あり生成物の誤りが行政手続の結果に影響し、法人の事業活動の停止等の大きな影響を与える場合（A①）
- 低リスクサイト登録者向けに、生成AIの検索要約で行政サービスを絞り込み、手続ページへ誘導するもの（A②→B②→C②）
- 高リスクメール内容に応じた返信を作成し、職員の確認を経ずに自動返信するもの（A②→B④→C①）
🔍 高リスク簡易チェック（参考）
別紙1「高リスク判定シート」の3つのリスク軸をもとにした簡易版です。実際の判定は高リスク判定シートを用い、AI相談窓口等への相談も踏まえてCAIOが最終判断します。
リスク軸を形式的に適用するだけでなく、具体的な利用の在り方（例：生成内容の出典が容易に参照可能になっているか等）も合わせて総合的にリスクレベルを判断することが重要とされています。高リスクの可能性が高いと判断した場合は先進的AI利活用アドバイザリーボードへ報告します。判断に迷う場合はAI相談窓口に相談できます。
GOVERNANCEAIガバナンスの体制
「政府全体」と「各府省庁」の2つのレベルで体制を構築します。
政府全体の体制
先進的AI利活用アドバイザリーボード
AIの制度・利活用・リスク管理・サイバーセキュリティ等に高度な知見を持つ有識者で構成。デジタル庁が事務局を担い、AISI（AIセーフティ・インスティテュート）も参画します。
主な役割：各府省庁の調達・利活用状況の把握／高リスク案件の評価・リスク緩和の助言／ベストプラクティスの把握・発信／リスクケースの把握と再発防止の助言／費用対効果向上の助言／ガイドライン見直しの検討
AI相談窓口（デジタル庁）
各府省庁からの質問・相談を受け付け、技術的・専門的観点から支援・助言を行います。
相談できること：ガイドラインの内容に関する問合せ／生成AI活用の手法・技術的側面の相談／高リスク該当か判断に迷う事案／調達上の留意点 等
デジタル庁の統括監理
一元的なプロジェクト監理の一環として、各府省庁の生成AIシステムの導入予定・リスク対応の状況等を確認し、アドバイザリーボードに共有します。また「各府省庁CAIO連絡会」を開催し、情報提供を行います。
各府省庁の体制：CAIO（AI統括責任者）の設置
各府省庁はCAIOを設置し、生成AIシステムの企画・行政データの取扱い・調達・利活用・運用・リスクケース等の状況を一元的に把握します。CAIOは各府省庁のAIガバナンスの司令塔として、次を担います。
- 生成AIシステムの把握、適切なリスク管理の徹底
- 生成AIシステム特有のリスクケースへの対応
- 政府職員のAIリテラシー向上に向けた研修
- アドバイザリーボードへの報告の要否の決定
アドバイザリーボードへの報告
- 定期報告：府省庁内の生成AIシステムの運営・利活用状況をとりまとめ、四半期に一度程度を目安に報告
- 高リスク案件の報告：企画時にリスク評価を行い、高リスクの可能性がある場合は、プロジェクトの内容・目的、リスク軽減策、品質確保策等を報告
- 事後の報告：構築時・リリース時・運用開始後に事情変化等で高リスクの可能性が生じた場合も報告
- 高リスク該当性は各府省庁が判断（CAIOが最終決定）。情報セキュリティが関わる場合はCISOと連携して協議
BENEFITS & RISKS生成AIの便益とリスク
便益とリスクの両方を理解した上で、利活用とリスク管理を「表裏一体」で進めます。
期待される便益
AI事業者ガイドラインで示される例：
- 運営コストの削減
- イノベーションを加速させる新製品・サービスの創出
- 組織の変革
- 人が対応困難な時間的・場所的領域へのサービス拡大
政府でも事務作業・事務手続の効率化・高度化、働き方改革や国民サービスの向上等、行政の進化と革新が期待されます。
政府特有のリスク例
- 政治的中立性・適正性から逸脱した情報・表現の生成
- 単一系統のモデル依存によるコスト増・バイアスの定着
- 言語・文化・歴史的背景への考慮不足による誤った発信・国益に反する発信
- 行政判断の根拠が不明瞭・追跡不能になり説明責任が果たせない
- ベンダーロックインによる不要なコスト増加
- 法的拘束力を持つ翻訳・問合せ対応での誤回答による違法有害情報の流布
- 既存著作物に類似した出力に気付かず利用してしまう
- 音声回答が著名人の声質・話し方と意図せず類似してしまう
RULES調達・利活用のルール（役割別の対応事項）
役割（CAIO・企画者・開発者・提供者・利用者）ごとに、やるべきことが定められています。クリックして展開してください。
前提：すべての調達・利活用に共通する事項
- 各種法令・「デジタル社会推進標準ガイドライン」「政府統一基準群」「個人情報保護法ガイドライン（行政機関等編）」等の既存ルールの遵守が大前提
- 要機密情報を扱うクラウドサービスは原則 ISMAP等クラウドサービスリストから選定（ただしISMAP登録済みでも本ガイドラインの対応は別途必要）
- 定型約款への同意のみで使えるクラウド型生成AIは、原則、要機密情報を扱えない。要機密情報を扱わない場合も、利用可能な業務範囲を特定し、許可権限者の審査・利用管理が必要
- 調達行為を伴わない利用でも、国外サーバ設置による検閲・接収リスク等を認識し、国家サイバー統括室の助言を求めた上で判断（「DeepSeek等の生成AIの業務利用に関する注意喚起」参照）
- AI事業者ガイドライン「共通の指針」（人間中心・安全性・公平性・プライバシー保護・セキュリティ確保・透明性・アカウンタビリティ・教育リテラシー・公正競争確保・イノベーション）を踏まえた取組
- 知的財産権等のリスク対策（経産省「コンテンツ制作のための生成AI利活用ガイドブック」、文化庁「AIと著作権に関するチェックリスト＆ガイダンス」参照）
- プロンプトインジェクション攻撃・DoS攻撃等への技術的対策（総務省「AIのセキュリティ確保のための技術的対策に係るガイドライン」参照）― 単独の対策では不十分な場合があるため、できる限り複数の対策を講じる
役割別の対応事項
CAIOAI統括責任者の対応事項6.2
① 府省庁内向けルールの整備
- 生成AIシステムの利活用ルールを策定（別紙2のひな形に基づく）：利活用前に理解すべき知識・要機密情報の取扱い、説明責任、AI生成物の取扱い、知財対策、リスクケース発生時のCAIOへの報告 等
- リスクケース対応ルールを策定（リスクケースが起こった場合に備える）
- ガイドライン改定や最新動向を踏まえ随時改定
② AIガバナンスの確保
- 府省庁内のAIガバナンス体制を整備し、継続的に確保
- ルールの策定・見直し、周知、研修（入力データやハルシネーション等の注意喚起）を実施
- 生成AIシステムに係るシステム監査に連携して対応（生成AI特有のリスクを認識した監査。有用な指摘事項はアドバイザリーボードへ共有が望ましい）
企画者企画・調達・リリース準備の対応事項6.3
企画時（6.3.1）
- 目的の明確化と適切な目標設定（業務知見者とシステム知見者が連携する体制づくりに努める）
- ユースケースを想定した環境・リスク分析、リスク最小化策・品質確保策の検討
- 情報の格付・取扱制限等に従った権限管理機能の確保（入力が学習される設定の場合の漏えいリスクに注意）
- 入力・出力・アクセス履歴等のログの取得・管理
- デジタル庁の統括監理への報告（導入予定、リスク分析結果、行政データの取扱い等）
- 高リスクの可能性がある場合、CAIOのアドバイザリーボード報告に連携して対応
- ガバメントクラウド等の共通機能として提供されるサービスの利活用に留意（費用対効果・セキュリティ・連携の効率化）
- 「ユーザビリティガイドライン」を参照し、誤操作を起こしにくく安全なシステムとする
調達時（6.3.2）
- 調達チェックシート（別紙3）を参照し、要求事項を調達仕様書に盛り込む（総合評価方式等では評価項目にも反映）
- 生成AIモデル・アーキテクチャ等の特性、主要性能指標の情報を取得。学習データ・学習方法の情報も合理的な範囲で取得に努める
- デジタル・スタートアップの評価、「デジタルマーケットプレイス」の積極的な活用を検討
- 契約チェックシート（別紙4）を参照し、契約書・調達仕様書に留意事項を盛り込む
構築・リリース前（6.3.3）
- 安定稼働の確認：テストシナリオを作成して入出力を検証（禁忌出力・バイアスの有無、仕様書要件の充足、レッドチーム等の多様なテスト手法）
- 適正利用の促進：システムごとの利活用ルール・利用方法を整備しユーザーに周知。不特定外部者（一般国民等）が使う場合は利用規約を整備し個別の同意取得が望ましい
- AIエージェント等を作成できるシステムでは、出力の適切さを判断せず実行するもの（C①相当）の作成を制限するか、作成時に提供者又はCAIOへの報告を求めるルールを整備
- 重要情報（リスクと緩和策、検証結果、データ収集ポリシー、問合せ窓口等）やモデル上の制約（トークン上限・応答速度等）、ログ収集の可能性をユーザーに分かりやすく提供
開発者開発者の対応事項6.4
- 政府では開発は主に事業者への委託で行われるため、開発者に求める事項は仕様書・契約書に盛り込む形で担保（企画者の対応事項に記載）
- 政府職員が自ら開発する場合は、AI事業者ガイドライン「第3部 AI開発者に関する事項」に掲げられた取組を行う
提供者リリース後の運用・保守の対応事項6.5
① システムの運用
- 出力が期待品質を満たし、不適切な生成やバイアスが発生していないことを監視(ログのサンプルチェック、ユーザーアンケート等)
- 適切な目的での利用・目的外利用がないことを定期的に検証
- 生成AIモデルのメジャーアップデートや大規模な追加学習の際は、提供前に品質・セキュリティ・コスト変化等を確認
- アクセス制御機能を適切に運用
- 個人情報・要機密情報の流出やプライバシー侵害がないか確認
- 最新の攻撃手法等のリスク動向を確認し、必要な対応を実施
- 利用規約の提示と、知的財産権等の侵害防止の仕組みに関する情報提供
- 権利侵害等を認識した場合は是正等の合理的な措置を講じる（放置すると責任を問われる可能性が高まる）
- AIエージェント等で出力の適切さを判断しないもの（C①相当）が作成された場合の報告を受け、CAIOに報告
② システムの保守
- バイアス再評価等に基づくシステム改善の判断を事業者に促す
- 脆弱性を検知した場合、パッチ対応・モデル更新等を検討・実施
③ リスクケースへの対応
- 生成AIシステム特有のリスクケース発生時はCAIOと中心になって対応（下記「リスクケース」参照）
利用者利用者の対応事項6.6
- CAIOが策定した府省庁の利活用ルールと、企画者が整備した各生成AIシステムの利活用ルールを遵守する
利活用ルール（別紙2ひな形）のポイント — 入力時
- 利用目的の範囲内で利用し、禁止されている場合は要機密情報を入力しない
- 個人情報を含むプロンプトは、入力可否を事前確認し、必要最小限であることを確認（判断がつかなければ個人情報を含めない）
- 保有個人情報が応答結果の出力以外の目的で取り扱われると個人情報保護法違反となる可能性 → 事業者が機械学習に使わないこと等を十分確認
- 入力前にデータの正確性を自身でチェック
- 他人の著作物・登録商標・特定の人物の肖像や声と関連付けるようなプロンプトを入力しない。生成過程（プロンプト等）を確認可能な状態にしておく
利活用ルールのポイント — AI生成物の利用時
- 生成AIの出力に基づく判断も説明責任の対象。自分で説明できることを確かめてから業務に使う
- 出力結果の業務利用は責任を持って自分で判断（迷う場合は利活用しない）
- 正確性・根拠・事実関係をリスクに応じて確認。差別用語・権利侵害等の問題ある表現は必ず修正・削除
- 職務上作成した文書は公文書管理法等を踏まえ適切に管理（チャットの入出力も組織的に共有すれば行政文書になり得る）
- 重大なリスクケースを検知したら速やかにCAIOへ報告
- AI生成物は著作物性が認められるとは限らない。既存著作物との類似がないかインターネット検索等で確認し、リスクがあれば利用回避・許諾取得・作り直しを行う
導入類型に応じたメリハリ（A・B・C）
生成AIシステムの導入は「開発の実施有無」と「契約の形態」で主に3類型に整理され、類型・プロジェクトフェーズ（PoC段階か本番か）・リスクレベル・ユースケースの性格に応じて、対策が不十分にも過剰にもならないよう要求事項の取捨選択・拡充を検討します。
個別開発なし。定型約款・規約等への同意のみでサービスを利用
原則、要機密情報を扱わない想定。チェックシートの要求事項が約款と矛盾しないか確認し、必要な要求事項がある場合はB又はCでの調達を検討
個別開発なし。約款への同意に加え、個別契約を締結
リスクと対策のバランスを考慮し、要求事項のレベル・取捨選択を検討
個別開発を実施し、個別契約を締結
調達チェックシート・契約チェックシートをフル活用して要求事項を仕様書・契約書に盛り込む
INCIDENT RESPONSE生成AIシステム特有のリスクケースへの対応
対策をすべて行ってもリスクはゼロにできない、という前提で「起きたとき」の備えを用意します。
リスクケースの例
- 人種・性別・文化等に関する偏見や差別を含む、社会的に大きな問題となり得る出力を行った
- 攻撃的又は危険なコンテンツを生成した
- 事実と異なる情報（ハルシネーション）を出力し、利用により本人や第三者に不利益を与えた
- 既存の作品に類似したコンテンツを意図せず生成・利活用し、権利者から削除等の申出を受けた
- 音声回答が著名人の音声に類似し、本人から停止の申出があった
- 不自然な画像に気付かず公開文書等に掲載し、国民から批判を受けた
- 音声入力の不正確さにより、記録の正確性が損なわれていると指摘された
発生時の対応
- セキュリティインシデントと両方の性質を持つ場合（例：学習データ汚染でモデル精度が低下し偏見出力が増加）は、情報セキュリティインシデント対応体制と連携して対応。府省庁のインシデント対処手順に従うことが基本
- 必要に応じ、事業者からのデータ提出や監査の実施を検討（契約に盛り込んでおくことを検討）
- 個人情報漏えい事案等は、府省庁で定められた対応手順に従い、個人情報保護の対応体制と連携
APPENDIX4つの別紙（実務ツール）
ガイドライン本文とあわせて、実務でそのまま使える4つのツールが用意されています。
高リスク判定シート
3つのリスク軸（適用業務・利用範囲・出力結果の判断）の設問に回答するだけで、「高リスクに該当する可能性が高い／低い」を簡易判定できるツール。企画時点の想定で記入します。
生成AIシステムの利活用ルールひな形
CAIOが府省庁内の利用者向けルールを作る際のテンプレート（Ver2.0）。利活用前のルール、入力時・AI生成物利用時のルール、知財対策の対策例、問い合わせ先までカバー。
調達チェックシート（生成AIシステム用）
調達仕様書に盛り込む要求事項を「組織要件」「開発・運用工程要件」「基本機能要件」の3分類・33項目で整理。原則必須の「基本項目」と加点評価の「任意追加項目」があり、有害情報の出力制御、偽誤情報防止、ベンダーロックイン回避、説明可能性、ロバスト性等を網羅。
契約チェックシート（生成AIシステム用）
契約書・調達仕様書で確認すべき取決め事項を整理。インプット（プロンプト・学習用データ）の利用目的・権利帰属、アウトプットの提供義務・知財の帰属、リスクケース発生時の事業者の対応義務、期待品質の維持等をカバー。
SCHEDULE施行時期と今後の進め方
生成AIは日々技術進歩しており、想定していなかったリスクが顕在化する可能性もあることから、政府による生成AIの調達・利活用ルールは随時見直しされます。
GLOSSARY主な用語
- 生成AI
- 文章、画像、プログラム等を生成できるAIモデルに基づくAIの総称。
- 生成AIシステム
- 生成AIを構成要素とするAIシステム（機械、ロボット、クラウドシステム等）。
- 生成AIモデル
- 文章、画像、プログラム等を生成できるAIモデル。
- 大規模言語モデル（LLM）
- 文章や単語の出現確率を深層学習モデルとして扱う言語モデルを、非常に大量の訓練データを用いて構築したもの。
- AIガバナンス
- AIの利活用によるリスクをステークホルダーにとって受容可能な水準で管理しつつ、便益を最大化することを目的とした、技術的・組織的・社会的システムの設計と運用。
- 学習
- データを用いてAIモデルのパラメータを決定・改善するプロセス。事前学習と事後学習で構成される場合がある。
- AIエージェント
- 特定の目標を達成するために、環境を感知し自律的に行動するAIシステム（ある程度の自律性を持つものも含む）。
- 生成AIシステム特有のリスクケース
- 生成AIシステム特有のリスクが顕在化した状態、又はその可能性を有する兆候・事象が認められる状態のうち、重大な影響を及ぼし得るもの。
- RAG（Retrieval-Augmented Generation）
- 外部データベースから取得した知識に基づいてLLMに回答を生成させる手法。知識に即した回答や、ファインチューニングなしの知識拡張を可能にする。
- プロンプトインジェクション攻撃
- 生成AIモデルに細工をした入力（直接）やデータ参照（間接）を行うことで、不正な出力をさせる攻撃。