AI法(人工知能関連技術の研究開発及び活用の推進に関する法律)の見直しを議論する内閣府の「制度の在り方検討ワーキンググループ(WG)」は11月18日、第3回会合を持ち回りで開き、とりまとめの骨子案を示した。サイバー攻撃や化学・生物・放射性物質・核・爆発物(CBRNE)を使ったテロに悪用されうる高性能なAIの提供者に、安全確保の措置と国への報告を法律で義務づける。罰則はAIの開発や利用そのものには科さず、国の報告の求めや勧告に従わなかった場合に限る「間接的な罰則」とした。国内で一定程度使われていれば、海外事業者のAIサービスも対象に含める。

法律に書く5項目

WGは10月28日の初会合で議論を始め、11月11日の第2回会合で事務局が法改正の素案を示した。素案は、要件に当たるAI事業者の安全確保の義務、事業者から国への報告、国の勧告の権限、罰則で担保する命令の権限の4項目だった(「AI法見直し、高性能AIに安全確保の義務と罰則付き命令を検討 政府の作業部会が素案」)。

第3回の骨子案は「AIの安全性確保に着目した法令の具体的な内容」として、法律で定める事項を次の5項目に整理した。

項目 骨子案の記述
安全確保の義務 AIによるリスクから安全を確保するための措置を講じる義務
報告の義務 重大な危害の発生に関する報告と、国による報告徴収
勧告・命令 安全確保の措置に関する国の勧告・命令の権限
罰則 報告義務や命令に違反した場合の罰則
AISI AIセーフティ・インスティテュートの役割の拡充
骨子案が法律で定めるとした事項出典: 内閣府 制度の在り方検討WG「とりまとめ骨子(案)」(第3回資料1)

第2回の素案と比べると、報告が「重大な危害が起きたときの報告」と「国が求める報告徴収」の2つに分かれ、AISIの役割の拡充が加わった。骨子案によると、AISIはAIモデルの安全性評価などを実施している。

一方、骨子案には、罰則の種類や上限額、規律の対象となる性能の具体的な基準、法案を国会に出す時期は書かれていない。内閣府のWGのページには、第3回の資料は骨子案の1点だけが載っている。

罰則は「間接的」に限る

骨子案はまず、基本的な方向として、AIの開発や利活用そのものを規制することは「妥当ではない」とし、研究開発と活用を推進して国際競争力を高めるという国の基本方針は「変える必要はない」と書いた。AIのリスクには、原則として既存の個別の法律やガイドラインで対応する現行の枠組みを維持する。

そのうえで、現行法令で対応できない「未知のリスク」や、これまでにない規模で危害が起きるリスクが具体化している分野に限って、AIを使った情報処理サービスを提供する者(骨子案は「AIサービス提供者」と呼ぶ)に法令で規律を設けるとした。重大な危害が起きたか、起きるおそれがあるときに、政府が事業者から必要な情報を迅速に集め、政府がとる措置を検討できるようにすることが「不可欠」だとしている。

罰則の考え方は、第2回までより踏み込んで示した。情報を集める国の権限と事業者の義務、それを担保する罰則の規定は必要だとしつつ、「AIの研究開発や利用に係る作為や不作為に対する直接的な罰則ではなく」、行政からの報告の求めや措置の勧告に従わなかった場合に罰則を科す「間接的な罰則規定」が妥当だとした。事業者が安全確保の措置を怠ったこと自体を直ちに処罰するのではなく、国の求めに応じなかった段階で罰則の対象になる仕組みだ。

事業者の負担への配慮も並べた。海外の法令を守る必要があるグローバル企業の負担を考え、諸外国の規律との調和・整合を図る。高性能なAIモデルの開発技術は企業秘密が多いため、保護が要る情報に配慮した運用を検討する。義務を課すなら予見可能性と基準の明確さを高め、届け出や報告の手続きは他の法令との重複を避けるとした。

対象は「性能」と「国内での利用」で決める

規律の対象とするリスクは、AI法の制定以降に特に目立ってきた、AIがサイバー攻撃やCBRNEテロなどに悪用されたり、予期しない動きをしたりして社会に重大な混乱を起こす類型に絞った。AIのリスク全般を横断的な法律で扱うことは「妥当ではない」とし、個別の領域の問題は引き続き既存の法令やガイドラインで対応する。

対象の事業者は2つの観点で決める。1つはAIの性能で、重大な悪影響を引き起こすうえで中核的な役割を果たしうる能力を持つAIの提供者に限る。特定の用途に特化しているなど、仕様上リスクが小さいAIサービスは対象から外すことを検討する。

もう1つは国内での利用だ。国内法である以上、対象は日本で重大な悪影響が起きる可能性があるAIサービスに限る必要があるとし、事業者が自分に法的義務があると認識できるよう、国内の利用状況を考慮するのが合理的だとした。そのうえで「国内において一定程度利用されていれば」、海外事業者のAIサービスも「当然に規律の対象とすべき」と明記した。

他社が開発したAIを自社のサービスに組み込んで使う企業については、上流のAIサービス提供者が安全確保の措置を講じるのが合理的だとした。すでに法律で安全確保が担保されたAIを組み込んでいるだけの企業に、上流の事業者と同じ義務を一律に課すことは、イノベーションの観点から「慎重に検討すべき」としている。

国の調査に応じない事業者も

骨子案は、法規律に踏み込む理由として国内外の情勢を挙げた。2026年以降、AIを悪用したサイバー攻撃やCBRNE、AIの予期せぬ挙動による重大な危害への懸念が増していると書き、米国カリフォルニア州法や欧州連合(EU)の法律では、AIを開発・提供する事業者に一定の義務が課されているとした。

国内の現行制度の限界にも触れた。2025年に成立したAI法の第16条は、国がAIの研究開発と活用の動向に関する情報を集め、権利利益の侵害が生じた事案を分析し、その結果に基づいて事業者らに「指導、助言、情報の提供その他の必要な措置」を講ずると定める。骨子案は、この規定に基づいて国が調査を行ったものの、「一部の事業者からは調査への協力が得られなかった事例も存在する」と記した。どの事業者が、どの調査に協力しなかったのかは骨子案に書かれていない。

AI法は事業者に罰則のある義務を課していない。附則第2条は、政府が国際的な動向や社会経済情勢の変化を踏まえて施行状況を検討し、必要があれば「所要の措置」を講ずると定めており、WGの見直しはこの規定に沿う。

第2回の資料に載った欧米の比較表によると、EUのAI法は計算量が10の25乗以上の汎用AIモデルをシステミックリスクがあると推定し、違反には最大で世界売上高の3%相当か1500万ユーロの罰金を定める。米国のカリフォルニア州などの州法は計算量10の26乗以上の基盤モデルを対象とし、違反には最大100万ドルの民事制裁金を科す。骨子案は日本の対象を決める性能の数値を示していない。

事業者の提案と重なる点

11月11日の第2回会合では、国内外の6社から意見を聴いた。内閣府のページに提出資料が公開されているのは4社で、Sakana AIとOpenAI Japanの資料は「非公開」とされている。NTTの資料は文字を抽出できない形式で、内容を確認できていない。

Anthropic Japanは、AI開発企業の自主的な取り組みだけでは「不十分」として、最先端のAIモデル開発者に絞った明確なルールと政府の監督を支持した。重大インシデントの報告や、半年ごとのリスク報告書などを法的拘束力のある対応に挙げ、1つのモデル評価と1つの報告が各国で通用する制度を求めた。広島AIプロセスへの報告を、法律に基づく報告義務に数えられるようにすることも提案した。

Googleは、フロンティアAIの規制で「硬直的なアプローチは避けるのが賢明」とし、AIの提供前に課す義務の導入を避けるよう求めた。インシデントの報告要件を設けるなら、既存のサイバーインシデントの報告制度と整合させて重複を抑え、対象は日本国内で重大な被害を実際に起こした事案などに絞るべきだとした。企業の規模や出身国、オープンウェイトかどうかを問わず、すべての事業者に安全基準を適用することも挙げた。

SB Intuitionsは、事業者に報告を求めるなら目的に必要な範囲に限り、営業秘密などの提出が過度な負担にならないよう配慮すべきだとした。国外の事業者やサーバーから提供されるサービスに規律が及ばなければ、国内で対策する事業者に負担が偏るとして、所在にかかわらず同じように機能する制度を求めた。

骨子案は、諸外国の規律との整合、企業秘密への配慮、他の法令との手続きの重複回避、国内で使われる海外事業者の対象化を盛り込み、各社の提案と重なる点が多い。一方、規律の対象となる性能の線引きや、罰則の重さ、AISIの役割をどこまで広げるかは骨子案では示されておらず、今後のとりまとめで詰めることになる。AIのリスクの分類を見直す別の作業部会の動きは「AIリスク見直しのWG、3回の会合で分類案へ 事務局資料は3回とも非公開」で伝えている。