情報処理推進機構(IPA)は11月17日、総務省と経済産業省が共同で定める「AI事業者ガイドライン」の改訂に向け、「AIによるリスク」の記載を見直す有識者のワーキンググループ(WG、座長・中川裕志東京大学名誉教授)の第3回会合(10月26日)の議事要旨を公表した。WGは8月以降の3回の会合で、リスクの一覧の案から分類の案、「AIのリスクに関する基本的な考え方(案)」へと議論を進めてきた。ただ、事務局が各回に示した説明資料は3回とも非公開で、議事要旨にも構成員の発言は記されていない。
第3回は「基本的な考え方」の案を議論
第3回の会合は10月26日午後2時からオンラインで開かれ、構成員9人のうち8人が出席した。議事要旨によると、事務局がスケジュールと、第2回の会合で出た意見を受けた更新内容を説明した。続いて「AIのリスクに関する基本的な考え方(案)」と「第3回WGの目的・ご依頼事項」を示し、構成員が議論した。事務局は今回の議論を案に反映して次回の会合までに構成員へ共有し、引き続きリスク分類の案を検討すると説明した。
議事次第には、このほか「リスク分類作成方針(案)」と、参考として「第2回WG時点でのリスク一覧(案)とリスク分類作成方針に基づいたマッピングの関係」が並ぶ。第2回までに作ったリスクの一覧を、新しい分類の枠組みに当てはめ直す作業に入ったことになる。
3回の会合の議題は、次のように移ってきた。
| 回 | 開催日 | 事務局が示した主な案 |
|---|---|---|
| 第1回 | 8月31日 | リスク整理の方針、リスク一覧(案) |
| 第2回 | 9月28日 | 第2回の目的・依頼事項、リスク一覧(案) |
| 第3回 | 10月26日 | リスク分類作成方針(案)、AIのリスクに関する基本的な考え方(案) |
出典: 各回の議事要旨・議事次第(IPA掲載)
第1回は8月31日午前に1時間45分、第2回は9月28日午後に1時間、第3回は1時間30分開かれた。第2回の議事要旨には、事務局が次回に向けて「リスク分類(案)」を検討すると説明したとあり、第3回でその作成方針が示された。
見直すのは別添の「AIによるリスク」10ページ
WGが見直す対象は、ガイドライン第1.2版の別添(付属資料)のうち、第1部B「AIによるリスク」の18〜27ページだ。開催要綱は、検討事項を「『AIによるリスク』の更新等に向けた論点」と定めている。総務省の検討会の資料では、今年度の検討事項の一つとして「リスクの更新及び分類の見直し」を挙げている。
第1.2版の別添は、データ汚染攻撃などAIシステムへの攻撃、ハルシネーション(もっともらしい誤答)による誤った出力、個人情報の不適切な取り扱い、過度な依存、機密情報の流出、偽・誤情報の流通・拡散、民主主義への悪影響、エネルギー使用量と環境の負荷など、20余りの見出しでリスクの例を挙げている。そのうえで、リスクを事業者が網羅的に把握できるよう「AIによるリスク例の体系的な分類案」を表にまとめ、各リスクに対応する指針と対策の例を並べた別の表を付けている。分類の枠組みは、米国立標準技術研究所(NIST)の「AIリスク管理フレームワーク」などを参考にしたと注記している。
別添は、ここに挙げたリスクは代表例で網羅したものではなく、リスクの存在を理由に直ちにAIの開発・提供・利用を妨げるものではないとも書く。リスクを認識したうえで便益との釣り合いを検討し、積極的に使うことを求める立場だ。
2026年3月に公開した第1.2版では、AIエージェントとフィジカルAI(ロボットなど物理的に動くAI)の登場を受けて、自律的な行動による人間の意図しない動作、攻撃の対象と手法の増加、複雑な機構による制御の難しさ、悪意のあるコードの生成といったリスクを書き加えた。対策の面でも、人間の判断を介在させる仕組みや必要最小限の権限設定を加えた。ただ総務省の検討会の資料は、こうした対応方針が基本的な記載にとどまり、従来のAI・生成AIの記述に付け足す形のため体系立った整理になっていないと課題を挙げている。
総務省と経産省の検討会の下に8月新設
WGは、総務省の「AIガバナンス検討会」と経産省の「AI事業者ガイドライン検討会」の両方の下に置かれた。経産省側の検討会は8月7日から13日までメールで審議し、WGの設置と開催要綱を了承した。庶務は総務省、経産省とAIセーフティ・インスティテュート(AISI)が合同で受け持ち、IPAのページに資料と議事要旨が載る。
構成員は座長を含め9人。Ubie、ソフトバンク、楽天グループ、東京海上ホールディングス、ugoといった企業の役員や担当者に加え、老テク研究会の事務局長、日本ディープラーニング協会に所属する弁護士、合同会社デロイトトーマツの構成員が加わる。Ubieの構成員は日本デジタルヘルス・アライアンスの「信頼できるAIのイノベーション推進委員会」委員長を、東京海上の構成員はFDUAの生成AIのWG長を兼ねる。10月26日時点の開催要綱では、内閣府の人工知能政策推進室とデジタル庁がオブザーバーに名を連ねる。
開催要綱は、WGを「原則として公開とする」と定め、使った資料も「原則として」総務省と経産省のウェブサイトに掲載するとしている。ただし、当事者や第三者の利益を害するおそれがある場合や、座長・資料提出者が必要と認める場合は、資料の全部または一部を非公開にできるとの例外を置く。
2027年3月下旬に更新版を公開予定
WGの検討は、10月30日に開いた総務省の第32回AIガバナンス検討会に報告された。AI事業者ガイドライン、来年3月に更新版 AIエージェントの権限や停止の対策を体系化で伝えた会合だ。事務局の資料は、WGで検討中のリスク一覧とリスク分類に「過不足が無いか」を、検討会の委員に意見を求める点に挙げた。WGの報告の中身にあたる資料4-2「『AIによるリスク』の見直しについて」は「構成員限り」とされ、公開されていない。
同じ資料は、WGの意見、検討会の議論、国内外の技術動向の調査を突き合わせながら、リスク・対応方針・便益・利用例を具体的に詰める進め方を示している。図では、WGの意見がリスク一覧とリスク分類の両方に流れ込み、それが対応方針や便益・利用例の検討と並ぶ形になっている。対応方針の案には、AIエージェントの権限の最小化や、異常な挙動を検知したときの停止を、開発者・提供者・利用者ごとに書き分ける項目が並ぶ。
経産省側の第11回検討会(10月20日)でも、「AIによるリスクの見直しについて」と題する別紙が示されたが、これも非公開で、議事要旨は後日掲載となっている。
総務省の資料によると、今後は修文案を検討会で1〜2回程度議論し、委員への意見照会を経て、2027年3月上旬のAIネットワーク社会推進会議で更新版の公開を諮る。公開は3月下旬をめどとしている。
骨子だけでも公開の場に出せないか
AI事業者ガイドラインには、チェックリストやワークシートなどの利活用ツールも用意されている。どのリスクをどの分類で並べるかは、更新版を手元に置いてAIの導入を点検する企業の作業に直接関わる。
WGは3回の会合で一覧から分類へと作業を進め、総務省の検討会にも経過を報告した。ただ、3回の説明資料、検討会への報告資料、経産省の検討会の別紙はいずれも非公開で、IPAのページには非公開の理由が書かれていない。議事要旨も、どの回も「構成員による議論が行われた」までの記載で、誰がどのリスクを足すべきだと述べたのかは分からない。
開催要綱は資料の公開を原則とし、非公開を例外として座長らの判断に委ねている。原則と例外が逆になっている現状は、要綱の趣旨と合わない。分類の作業が続くいまの段階で、事務局は非公開とした理由を示し、少なくともリスク一覧と分類方針の骨子は公開の場に出してはどうか。更新版の公開までは4か月あまりある。骨子が早く示されれば、AIを使う企業も自社の点検項目と照らし合わせて準備を始められる。
