総務省は10月30日、有識者でつくる「AIネットワーク社会推進会議 AIガバナンス検討会」の第32回会合をウェブ会議で開き、経済産業省と共に定めている「AI事業者ガイドライン」の更新に向けた検討を始めた。事務局は、指示を受けて自律的に作業を進める「AIエージェント」や、ロボットなど現実の物を動かす「フィジカルAI」について、権限の最小化や異常な動きの検知・停止といった対策を、AIの開発者・提供者・利用者ごとに整理し直す案を示した。更新版は2027年3月下旬の公開を目指す。

会合は15時から2時間開かれた。議題は今年度の活動、デジタル庁と内閣府による国内のAI政策動向の報告、LINEヤフーと日本クラウド産業協会（ASPIC）によるガイドラインの活用事例の紹介、ガイドラインの更新に向けた検討の4つ。事務局が示した案はいずれも構成員の意見を求めるための整理で、資料は「あくまで今回の議論のための整理」であり、ガイドラインに書く項目や具体的な文言は「今後継続して議論」すると明記している。リスクの見直し案（資料4-2）と、ガイドライン冒頭部分の修正案は構成員限りの扱いで、会議ページには掲載されていない。10月31日時点で議事録も掲載されていない。

2024年4月の初版から年1回のペースで改訂

AI事業者ガイドラインは、AIを開発・提供・利用する事業者に向けて、AIを扱う際の考え方やリスクへの対応をまとめた指針だ。総務省の掲載ページによると、第1.0版を2024年4月19日に公表し、同年11月22日に第1.01版、2025年3月28日に第1.1版、2026年3月31日に第1.2版を出した。

版 公表日
第1.0版 2024年4月19日
第1.01版 2024年11月22日
第1.1版 2025年3月28日
第1.2版 2026年3月31日
更新版 2027年3月下旬を目途に公開予定
AI事業者ガイドラインの公表の経緯

出典: 総務省「AI事業者ガイドライン」掲載ページ、AIガバナンス検討会 資料1-1

現行の第1.2版では、AIエージェントとフィジカルAIの定義を初めて書き込んだ。AIエージェントは「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」、フィジカルAIはセンサーで物理環境の情報を取り込み、自律的に判断して駆動装置を通じて移動・操作・加工などを現実世界に直接行うシステムと定めた。あわせて「自律的行動による人間の意図しない動作」や「攻撃対象・攻撃手法の増加」といったリスク、人間の判断を介在させる仕組みや最小権限の設定などの対応方針も加えている。民間向けのこのガイドラインの改訂は、政府機関向けのルールにも及ぶ。今回の会合でデジタル庁は、政府の生成AI指針、AIエージェントのルール整備へ　送金など取り消せない操作に職員の確認案で示した政府向け指針の拡充案を報告し、AI事業者ガイドラインが見直された場合には、必要に応じてエージェントに関する記載を政府向けの指針に取り込むことを検討するとした。政府向け指針の改定案は今年度内のとりまとめを目指す。

検討の体制は、総務省がAIネットワーク社会推進会議とAIガバナンス検討会を、経産省がAI事業者ガイドライン検討会を持ち、事務局を総務省、経産省、AIセーフティ・インスティテュート（AISI）が共同で務める。今年度は検討会の下に「AIによるリスク」の検討ワーキンググループを新設した。検討会の座長は平野晋・中央大学教授で、大学の研究者や弁護士、富士通、ソフトバンク、グーグル、日本マイクロソフト、NECなどの企業の担当者、消費者団体の関係者ら32人が構成員に名を連ねる。

AIエージェントの対策、3者ごとに書き分ける案

事務局は、第1.2版で書き加えたAIエージェントの対応方針について、「基本的な記載に留まり」、従来型AIや生成AIの記載に付け足す形のため「体系立った整理ができていない」と課題を挙げた。そのうえで、構成員の意見や国内外の文書の調査を基に、重視すべき対策を分類ごとに並べ、開発者・提供者・利用者がそれぞれ何をするかを書き分けた一覧の案を示した。

一覧は、権限管理と不正利用の防止、自律行動の制御、AIが学習・記憶する情報の健全性、外部サービスやほかのエージェントとの連携、安全性の確保、AIへの過信を防ぐ設計と教育、の6つの分類で構成する。たとえば権限の最小化では、開発者はモデルが参照するデータを制限し、提供者はツールやAPIの利用権限を最小にし、利用者は権限を逸脱していないかを定期的に確かめる。異常な挙動の検知・停止では、開発者が「サーキットブレーカー」（異常を検知して動作を止める仕組み）を組み込み、提供者がサービス全体を監視し、利用者は検知したときの停止などの手順を明確にしておく、と整理した。

人間が判断を挟む「ヒューマン・イン・ザ・ループ」（HITL）についても、開発者はそれを前提にモデルを作り、提供者はチャットでの承認要求などの機能を用意し、利用者は承認の手順を設計する、と役割を分けた。人間ではないAIのアカウントや資格情報の管理（NHI）、AIが記憶に取り込むデータの信頼性評価、人間とAIの責任範囲の明確化も項目に入っている。複数のエージェントが連携する環境では、統一したログの管理やインシデントの報告体制を「より意識すべき事項」とした。

フィジカルAIについては、機器の盗難やセンサーデータの改ざんへの備え、安全な範囲を超えて動かないための物理的な制約、ソフトウェアから独立したハードウェアの安全装置、非常停止ボタンなどのフェイルセーフ、仮想空間での事前検証を並べた。参考にした文書として、米国家安全保障局（NSA）など英語圏5か国のサイバー当局の共同指針、米国立標準技術研究所（NIST）のAIリスク管理の枠組み、日本のAISIの評価観点ガイドなどを挙げている。事務局は構成員に、既存の記載と章を分けて書くべきか、複数のAIエージェントが連携する観点を盛り込むべきかについても意見を求めた。

冒頭7ページを短くし、事例は別冊に

ガイドラインそのものの読みやすさの見直しも議題になった。事務局によると、本編冒頭の「はじめに」は7ページあり、「読みにくさや使いにくさに繋がっている」。ガイドラインの策定経緯を本編の末尾に移すなどして分量を減らし、章立てや文章を見直す方針を示した。チェックリストやチャットボットといった利用者向けの補助ツールへの言及も加える。

AIで何ができるかを示す「便益・ユースケース」の書き方も変える。現行版は企業の部門（開発、販売、法務など）と、従来型AIか生成AI・AIエージェント・フィジカルAIかの組み合わせで整理しているが、AIエージェントやフィジカルAIは金融、電力、建設、医療といった業界固有の業務への適用が増え、今の分類では位置付けにくいものがある。研究段階と実用段階の例が混在している点も課題に挙げた。次の版では、すでに実用化・浸透している例を表に整理し、今後広がる例は必要に応じて文章で補う想定だ。参考資料として、AIエージェントは顧客対応や契約書の確認など単一の業務から、2040年ごろまでに開発や製造の一連の業務を複数のエージェントで担う姿へ広がるとの見通しを図で示した。

別添の73〜94ページに載っている事業者の取り組み事例のコラム（全11件）は、ICT企業の事例と、AIの開発者・提供者側の事例に偏っているとして、他の業種やAIを使う側の企業、スタートアップ・中小企業の事例を増やす。今後の拡充を見込み、コラムを別添から切り離して別冊にする方針も示した。

認知度81％、活用度46％

ガイドラインの浸透を測る調査も進んでいる。資料3-3によると、2025年10〜11月に日本ディープラーニング協会など5団体の所属企業に行った調査で、ガイドラインの認知度は81％（前年79％）、活用度は46％（同40％）だった。今年度は対象を広げ、総務省所管の14団体と地方公共団体、経産省所管の18団体に10月7日から調査した（地方公共団体は10月28日まで）。

会合では利用する側の事例も紹介された。LINEヤフーは2023年10月にAI倫理ガバナンス部門を設け、社内ルールの制定、社内の相談窓口、全社必修の研修の3つを柱にしている。抽象的な方針を社内ルールに具体化する場面でガイドラインを参照しており、資料ではビジネス倫理の観点も含む指針として「国内で唯一無二」と評価した。クラウドサービス事業者の団体であるASPICは、生成AIを組み込んだサービスで利用者から見えにくくなる情報（どのモデルを使うか、入力データを学習に使うか等）の開示を第三者が確認する認定制度を2026年に設けた（同協会は2008年からクラウドサービスの情報開示認定を運用し、これまでに336サービスを認定している）。制度設計にあたっては、ガイドラインを中心とする国の方針を具体化したと説明した。

今後の日程は、事務局によると、検討会を1〜2回開いて修文案を詰め、検討会と推進会議の構成員から意見を聴いたうえで、2027年3月上旬の第34回AIネットワーク社会推進会議で更新版の公開について諮る。公開は同月下旬を目途とする。

3者の書き分けは前進、利用者の負担の線引きが焦点

今回の案は、AIエージェントで問題が起きたときに誰が何をしておくべきかを、開発者・提供者・利用者の3者に分けて一覧にした点に意味がある。第1.2版では、人間の判断を挟むことや最小権限は「留意すべき事項」として並んでいただけで、どの主体が担うのかが読み取りにくかった。権限の定期確認や停止手順の明確化を利用者の役割と書けば、AIを導入する企業は社内で何を決めておけばよいかを具体的に確かめられる。

一方で、利用者の側に並ぶ項目は多い。動作ログの定期確認、権限逸脱の確認、エスカレーションの手順、責任を考慮した業務設計、社内研修と、大企業の情報システム部門を想定したような内容が続く。活用度が46％にとどまる現状で、中小企業や自治体が実際に運用できるかどうかは、今回の調査結果を踏まえて検証すべき点だ。事務局は構成員に「対応が難しいものは無いか」と意見を求めている。更新版では、利用者の規模に応じて最低限の対策と望ましい対策を分けて示すかどうかが問われる。