AI法（人工知能関連技術の研究開発及び活用の推進に関する法律）の見直しを議論する内閣府の「制度の在り方検討ワーキンググループ（WG）」は11月11日に第2回会合を開き、事務局が法改正で定める内容の素案を示した。一定以上の性能を持つAIを扱う事業者に、特定のリスクに対する安全確保の措置を義務づけ、国への報告、国の勧告、罰則で履行を担保する命令の権限を法律に書き込む。現行のAI法は国の調査と指導・助言を軸とし、事業者に罰則のある義務を課していない。会合では国内外のAI事業者6社から意見を聴いた。
素案は「義務・報告・勧告・命令」の4本
第2回会合の資料「前回の議論のまとめ」は、10月28日の初会合での委員の意見を整理したうえで、「総論の方向性（案）」を3枚にまとめた。
1枚目は、AIに関する法制度で受け持つ範囲を絞る考え方だ。AIを「一定以上の性能を持つAI」と「それ以外のAI」、リスクを「特定のリスク」と「それ以外のリスク」に分け、4つのます目のうち「一定以上の性能を持つAI」の「特定のリスク」だけを「AIに関するハードロー（法律による規律）の必要性が高い」とした。残る3つのます目は「既存の法令やガイドライン等で対応」とする。どの性能から上を対象にするかは、性能要件などから具体的に検討するとした。
2枚目は、規律の相手を「AIをサービスとして提供する者」と「AIを利用する者」に分けた。提供する側は、業法などの既存の法令で手当てがされていないとして「一定の義務をハードローで課すことを検討すべき」とし、事業者を対象とした制度を優先して検討する。研究、開発、サービス提供のどの段階をどう規律するかも詰める。利用する側は、犯罪の処罰や業法で対応できる部分が多く、ソフトロー（法的拘束力のない指針など）も使いながら利用者のガバナンスを進めるとした。
3枚目が法律に書く内容の素案で、次の4項目を挙げた。
- 要件に当たるAI事業者が、特定のリスクに関してAIの安全性を確保する措置を講じる義務
- 国がリスクの情報を集めるための、事業者から国への報告
- 義務を守らせるため、必要な措置を講じるよう事業者に勧告できる権限
- 必要に応じて、より強制力のある命令を出せる権限（違反には罰則）
現行のAI法は「指導・助言」まで
AI法は2025年5月28日に成立し、6月4日に公布、9月1日に全面施行された。内閣総理大臣を本部長とし全閣僚で構成する人工知能戦略本部を置き、AI基本計画を定めることなどを柱とする。
条文で国の手段を定めるのは第16条だ。国は、AIの研究開発と活用の動向に関する情報の収集や、「不正な目的又は不適切な方法」による研究開発・活用で「国民の権利利益の侵害が生じた事案」の分析などを行い、その結果に基づいて事業者らに「指導、助言、情報の提供その他の必要な措置」を講ずると定める。第7条はAIを事業に使う「活用事業者」に、国と地方公共団体の施策への協力を求める。いずれも罰則は無い。
附則第2条は、政府が国際的な動向や社会経済情勢の変化を踏まえて法律の施行状況を検討し、必要があれば「所要の措置」を講ずると定めている。WGの設置資料によると、WGは高性能なAIが悪用されたり予期しない動きをしたりして、国民の生命・身体に重大な危険が生じる事態への懸念が高まっていることを受け、既存の法制度の見直しを含めて制度の在り方を検討する。AI法第28条と人工知能戦略本部令に基づく人工知能戦略専門調査会の下に置かれた。調査会の10月26日の会合で示されたWGの進め方は「政府のAI戦略専門調査会、2030年の「AX」像の試案を提示 AI法改正の議論や指標づくりへ作業部会」で伝えている。
構成員は7人で、座長は宍戸常寿・東京大学大学院教授。ほかに生貝直人・一橋大学大学院教授、岡崎直観・東京科学大学教授、岡田淳弁護士、岡田陽介ABEJA最高経営責任者（CEO）、殿村桂司弁護士、永沼美保・経団連デジタルエコノミー推進委員会国際戦略WG主査が名を連ねる。
初会合では「16条は機能していない部分も」
10月28日の初会合の議事要旨によると、冒頭で塩崎彰久内閣府副大臣が「AI法を含む全体的な法制について見直しを進めていく」と述べ、議論は「規制を強化するのか、緩和するのかという平面的な議論だけでは対応できなくなってきている」とした。
委員の発言は発言者を伏せて記録されている。現行の第16条については、任意の情報収集の枠組みは「機能しているところとそうでないところがある」とし、「一定の情報開示についてはハードローでやるべき段階にあるかもしれない」との意見が出た。第16条は権利利益の侵害が生じたことを前提とし、制裁的なものでもないとして、侵害の「おそれ」の段階で報告を求められるかを論点に挙げる意見もあった。業法は利用に近い場面を規律しているため、モデルの開発や実験の段階には規律が無いという指摘もあった。
規制の広げ方には慎重な意見も並んだ。個人情報保護の規律や業法で対応できる部分は切り分け、「なんでもＡＩ法制で対応すべきリスクとして取り上げるべきではない」との意見や、対象が自分に当たるかを判断できなければ企業は萎縮するとの意見が出た。海外の事業者に執行できなければ国内の事業者ばかりに負担がかかるとして、海外事業者への実効性を求める声もあった。国民の安全に関わる場合の緊急命令や直罰の検討、開発者が分からないオープンウェイトモデル（重みを公開したモデル）への対応も論点に挙がった。
2回目は国内外6社から聴取
11月11日の第2回会合では、事業者ヒアリングを行った。内閣府が示したヒアリング事項は、サイバー攻撃やCBRNE（化学・生物・放射性物質・核・爆発物）テロなどの高度なリスクを含むAIのリスクをどう考えるか、自社の安全性とリスク対応の取り組み、ハードロー・ソフトローを含めて必要と考える制度の3点だ。
| 区分 | 事業者 |
|---|---|
| 国内 | NTT |
| 国内 | Sakana AI |
| 国内 | SB Intuitions |
| 海外 | Anthropic Japan |
| 海外 | |
| 海外 | OpenAI Japan |
ヒアリングの後、委員は5つの検討事項を議論した。①一定以上の性能を持つAIを規律する場合の線引き②ハードローで規律する対象者（事業者か利用者か、どの事業者か）③課す義務と国の権限、AIセーフティ・インスティテュート（AISI）の役割④既存の法令やガイドラインで講じる追加の措置⑤そのほかの留意点――である。
内閣府のWGのページには、12日時点で各社の説明資料は載っていない。第2回の議事概要も「準備中」で、各社が何を述べ、委員が素案にどう応じたかは確認できていない。
首相も見直しに言及
古川俊治デジタル相（人工知能戦略担当）は10日の記者会見で、高市首相が9日夜、フランス政府主催のAIセキュリティに関する国際会議に出席し、「AI法を含む関連制度の見直しを進めていく」と発言したと説明した。そのうえで、10月末にWGを立ち上げ「AI法を含む関連法制度の見直しを進めているところ」と述べた。各国との協力では、AISIの知見を生かしてリスク評価や情報共有を深め、日本でのAIサミットの早期開催を目指すとした。フロンティアAIの安全をめぐる主要7か国（G7）の議論は「G7デジタル相会合、フロンティアAIの安全で議長声明 専門ハイレベルグループ設置も選択肢」で伝えている。
初会合の資料は、規律の対象の決め方について欧米の例も比べている。資料によると、欧州連合（EU）のAI法は計算量（FLOP数）が10の25乗以上の汎用AIモデルを「システミックリスク」があると推定し、米国のカリフォルニア州などの州法は10の26乗以上の基盤モデルを「フロンティアモデル」とする。初会合では、計算量は今後下がっていくとして、能力の測定による区分も要るとの意見が出た。素案が義務の対象とする「一定以上の性能」をどの基準で決めるのか、海外の事業者にどう守らせるのかが、次の会合からの論点になる。