デジタル庁は9月29日、有識者でつくる「先進的AI利活用アドバイザリーボード」の第6回会合を開き、政府機関が生成AIを調達・利用する際のルールを定めた「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」の拡充に向けた検討事項案を示した。指示を受けて自ら計画を立て、ツールを操作して作業を進める「AIエージェント」に具体的なルールを設けることを柱とし、送金や外部への情報送信といった取り消しの難しい操作には、職員の判断を挟むか、動作を監視して必要に応じて止める仕組みを求める案を盛り込んだ。
会合は庁議室とオンラインを併用して11時から2時間開かれた。事務局は検討事項案のほか、各府省庁から報告を受けた生成AIシステムの利用状況、海外の生成AIをめぐる動向などを報告した。検討事項案は事務局が「本年度のアドバイザリーボードにおいて論点とすべき事項」について構成員の意見を求めるために示したもので、ガイドラインの改定内容が決まったわけではない。10月13日時点で、会議ページに議事録や議事要旨は掲載されていない。
政府の生成AI利用を縛る指針、9月に第2.0版
ガイドラインは、生成AIの利用促進とリスク管理を「表裏一体」で進めるため、政府におけるAIの推進体制、ガバナンス、調達、利用のあり方を定めたものだ。資料によると、令和7年（2025年）5月に運用を始め、内容を改めた第2.0版を今年9月1日から施行している。各府省庁のAI利用を統括する仕組みの部分は、それに先立つ7月1日から適用された。
仕組みの中心に置かれているのが、各府省のAI統括責任者（CAIO）だ。自らの府省で生成AIの利用を把握・推進し、ガバナンスとリスク管理を総括する。職員向けの利用ルールもCAIOが定める。アドバイザリーボードは2025年9月18日に第1回を開いた有識者会議で、各府省から生成AIの利用一覧やリスク対応の状況の報告を受け、リスクが比較的高くなり得る利用について助言する。事務局はデジタル庁が務める。
システムを発注する担当者向けには、事業者に求めるべき事項を21項目にまとめた「調達チェックシート」と、契約書で取り決めるべき事項を整理した「契約チェックシート」が付いている。調達チェックシートには、特定の事業者から抜け出せなくなる「ベンダーロックイン」の回避、生成AIモデルの更新への備え、偽情報や差別的な出力の抑止、説明可能性の確保などが並ぶ。利用が高リスクかどうかは、生成AIを使う業務の性格、利用者の範囲、職員が出力の適切さを判断してから使うかどうか、の3つの観点で各府省が判定する。
ただ、現行版が具体的な対策の対象としているのは、原則として文章や音声を入力し、文章・画像・音声を出力する生成AIに限られる。特定秘密や安全保障などの機微な情報を扱うシステムはもともと対象外だ。画像や動画を入力するもの、動画を生成するもの、AIエージェントのように高度な作業をこなすものは、府省庁内の報告や相談、アドバイザリーボードの助言の対象にはなっているが、具体的な対応事項は定めていない。ガイドライン自身が、利用状況や国内外のルール整備を踏まえて随時見直すとしており、今回の検討事項案はその見直しの出発点にあたる。
4つのテーマ、柱はAIエージェント
検討事項案は、論点を4つのテーマに分けた。（1）利用実態を踏まえた対象の拡充、（2）AIエージェント特有の対応事項の導入、（3）その他全体的な利便性の向上、（4）他のガイドラインを踏まえた必要事項の拡充、である。
対象の拡充では、AIエージェントを具体的なルールの対象に加えることを提起した。政府内で利用の拡大が見込まれる一方、一定の自律性を持って作業する性質から予期しない動作をして重大な影響を及ぼすおそれがあり、利用時の一般的なルール、リスク管理のあり方、調達時の要求事項を整えるべきだとした。
画像の入力も新たに対象とし、追加すべき対策がないかを検討する案を示した。画像や動画の利用が広がれば知的財産権などへの対策が必要になり得るためだ。一方、動画の入出力は増えてはいるもののまだ少ないとして、対象に含めるかどうかは政府内の利用状況を見ながら引き続き検討するとした。
AIエージェントの定義は、民間向けの「AI事業者ガイドライン（第1.2版）」との整合を保ちながら整理し直す。現行ガイドラインは脚注で、AIエージェントを「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」と定めている。資料は、複数のAIエージェントが自律的に判断して行動する、より包括的な概念の「エージェンティックAI」についても、位置づけの整理が必要だとした。参考として、カナダ、オーストラリア、シンガポールの政府文書と、「ファイブ・アイズ」の文書がエージェント型AIをどう定義し、どんなリスクを挙げているかを比較している。
取り消せない操作は職員が判断 情報漏えいと乗っ取りに備え
AIエージェント特有の対応事項では、まず利便性とリスクの釣り合いをどう取るかを論点に据えた。資料は、職員の判断を毎回必須にすれば、自動化というAIエージェント本来の利点が損なわれると指摘する。反対に、職員が介在しないまま作業させれば、意図しない動作で重大な損害が生じる可能性がある。そこで作業の性質に応じて、AIエージェントに与える権限やアクセスできる情報の範囲、職員の関わり方を考えたうえで、両者の釣り合いを具体的に決める必要があるとした。
基本原則として示したのは、与える権限を業務に必要な範囲に絞る「最小権限」の考え方だ。そのうえで、送金処理や外部への情報送信など取り消しの難しい作業を実行する場合には、職員が判断する工程（ヒューマン・イン・ザ・ループ）を入れるか、実行状況を監視して必要に応じて止める仕組みを組み込むよう求める案を示した。許認可のような行政行為では、業務の性質によって職員の判断を必須にする必要があるとも記している。
機密情報の漏えい対策では、要機密情報へのアクセスを必要最小限にとどめ、そうした情報に触れる権限と、それを権限の範囲外へ送り出せる手段の両方を持つエージェントには、職員の判断か監視・停止の仕組みを求めるとした。
サイバー攻撃への備えも厚くする。外部の文書やウェブページに紛れ込ませた命令文でAIを操る「間接プロンプトインジェクション」は従来の生成AIにもあるが、影響はおおむね文章や画像の出力にとどまっていた。自ら作業を実行するAIエージェントでは影響が広がり、攻撃者の実行手段として悪用されるおそれがあると資料はみる。外部由来の情報を扱う場合には、権限のリスクに応じて隔離された環境（サンドボックス）での実行を求める案を示した。
AIエージェントが外部のツールや、AIと外部のサービスをつなぐ共通規格「MCP」のサーバーを使う場面では、プログラムのコードを確認するだけでは足りないと指摘した。ツールの出所を検証して来歴の信頼性を確かめ、付随するデータやMCPの設定記述（マニフェスト）も監査の対象にするなど、コード以外にも対策を広げる案だ。取り消せない作業の実行権限と要機密情報へのアクセス権限を持ち、さらに外部由来の情報を扱うエージェントは高リスクとして扱い、情報の取得から出力までの各段階で多層的な対策を求めることも挙げた。
「承認疲れ」も論点に エージェントにIDを付けて管理
職員による確認を形だけにしない工夫も論点に入った。確認を求めすぎれば効率が落ちるうえ、中身を十分に見ないまま機械的に承認する「承認疲れ」が生じ、統制が形骸化するおそれがある。利用者がAIの提案を過度に信頼し、妥当性を確かめないまま受け入れる「自動化バイアス」の問題もある。資料は、確認を求めすぎないよう配慮することに加え、取り消しの難しい作業で職員が判断する場面では、承認にかかった時間や却下した割合を確認すること、AIエージェントの限界について職員教育を行うことを求める案を示した。
複数のエージェントがやり取りする場合には、誤った情報や不適切な指示が伝わって増幅し、連鎖的な誤動作につながるおそれがあるとして、最小権限の設定と動作記録（ログ）を確認できる仕組みを求める。問題のある動作を後から検証できるようログを保存し、検証結果をもとに権限や接続先を見直すこと、エージェントが会話の履歴などを記憶として蓄える場合には、特定の視点への偏りが続かないよう記憶の中身を確認・修正できる仕組みを求めることも挙げた。
管理の面では、AIエージェントごとに固有のIDを割り振り、使うツールやMCPサーバーを一覧にしたうえで、登録・承認・配布・公開・停止・廃止までを管理する方針を作るよう求める案を示した。所管部門や最終責任者、停止の判断者が曖昧なままでは、問題が起きたときに統制が効かず説明責任も果たせないためだ。利用状況や管理責任者を定期的に確認し、承認されていないエージェントや不要になったエージェントが残り続けないようにする運用も求める。
政府職員が使う生成AI環境「源内」でのAIエージェントの導入については、政府職員18万人の生成AI「源内」、10月ごろAIエージェント環境を導入へ 職員の業務手順を「スキル」にして省庁横断で共有 政府全体で1万〜数万件と見積もりで伝えている。
調達の手引き、従量課金への備えも
3つ目のテーマでは、各府省庁から寄せられた要望を取り上げた。生成AIで作った画像や音声が特定の人物の肖像や声に似てしまう問題について、実際にどう対策すればよいかの好事例が十分ではないとして、法務省の検討会の議論などを参照して侵害防止の好事例を充実させるほか、民間で使われている画像や声の類似性の確認手段を示す案を挙げた。
調達・契約の実務では、チェックシートを使って仕様書や契約書をどう作ればよいか分かりにくいという声があり、各府省庁の実際の仕様書や契約書を集めて分析し、参考にしやすい手法を示すことを検討する。各府省庁へのアンケートでは、CAIOと現場の担当部署のいずれでも約7割前後が、調達・契約時の具体的な対応例を求めていた。高リスクかどうかの判定についても、該当する業務の具体例が無く当てはめにくいとの意見を受け、判断しやすくする方向を示した。
運用費の管理も論点になった。生成AIは処理した文字量の単位（トークン）に応じた従量課金が多く、特にAIエージェントは処理の繰り返しや大量の文書の読み込みで想定を超えるコストが生じるおそれがある。このため、利用量の把握や上限の設定、警告の通知ができる機能を調達時の要求事項に加える案を示した。このほか、海外のサーバーを使う場合の留意事項、AIマネジメントシステムの国際規格ISO/IEC 42001との対応関係の整理、MCPやエージェント同士をつなぐ「A2A」といった標準規格への準拠を求めることも挙げた。
4つ目のテーマでは、生成AIによる肖像や声の無断利用をめぐる報告書、知的財産の保護と透明性に関するプリンシプル・コード、AIの安全性の評価観点ガイドなど、他の指針の内容を取り込む必要があるかを検討するとした。民間のAI契約をめぐる経済産業省の動きは、経産省、AI契約の「現場で困っている事例」を募集 10月30日まで 誤出力の責任やAIエージェントの取引も論点にで伝えている。
府省庁の生成AIシステムは252件、エージェントは12件
同じ会合で事務局は、各府省庁が7月に報告した6月末時点の利用状況をまとめた。全府省庁が生成AIシステムを使っており、件数は252件と前回報告の241件から増えた。25府省庁のうち21府省庁が組織全体で利用を始めており、前回より1府省庁増えた。6月末までに、ガイドラインが報告を求める「リスクケース」の発生事例は無かったという。
利用の形では、汎用的なチャット型が最も多い状況は変わらない。一方、指示をもとに生成AIが計画を立ててツールを自動で操作する「自律型AIエージェント」は12件あり、うち8件が利用を始めている。資料は、限られた利用者の範囲でAIエージェントの利用が徐々に始まり、日常的に使う段階に入った例も出てきたと説明した。機密性のある情報を扱い始めた例もあるという。
入力の種類では、画像を入力する案件が12件と前回の6件から倍増した。音声は14件（前回13件）、動画は4件（同3件）だった。用途別では、文書の分析・比較・分類への利用が57件と前回の20件から大きく伸びた。外部向けにテキストで応答するサービスの自動化は26件（同6件）、府省庁の外へ生成AIを組み込んだサービスを提供する案件は28件（同9件）に増えた。検討事項案が画像入力やAIエージェントへの対象拡大を論点に挙げたのは、こうした利用の広がりを踏まえたものだ。