内閣府の消費者委員会は10月8日、「人工知能（AI）技術の利用と消費者問題に関する専門調査会」の第11回会合を開き、事務局がこれまでの議論をまとめた「検討状況（案）」を示した。AI技術が消費者の意思決定に及ぼすリスクについて、消費者が自ら不利益に気付いて正すことは容易ではなく「消費者個人での自衛が困難」と整理し、AIシステムの開発・提供事業者が契約の前段階からリスク評価や設計改善に取り組むよう促す「AIガバナンス」のあり方が求められるとした。

専門調査会は2026年2月13日に第1回を開き、9月9日の第9回、9月18日の第10回と議論を重ねてきた。第11回は会議室とテレビ会議を併用して開かれ、事務局の報告に続いて、NTT社会情報研究所の秋山満昭・上席特別研究員から対話型生成AIと消費者の意思決定に関する研究動向を聞いた。議事録は公表準備中となっている。

利益の源泉が同時にリスクにもなる

検討状況（案）は、専門調査会が検討している主な論点を3つ挙げる。消費者が「AI技術の利用主体」として重要性を増している観点、事業者によるAI利用が消費者の意思決定の過程に及ぼす影響とリスクの把握・評価、そしてそのリスクへの対応としての環境整備だ。前の2つは第9回で概要を報告済みとし、今回は3つ目の環境整備をどう組み立てるかに重点を置いた。

その前提として事務局は、AIと消費者の意思決定の関係に3つの特徴があると指摘した。1つ目は、役に立つことと害になること、短期的な利点と長期的な悪影響のように、消費者の利益の源泉となる要素が同時にリスクの要因にもなり得る点だ。同じ技術でも、提供者や設計・使い方によって利益とリスクの釣り合いは大きく変わるという。

2つ目は、消費者の役に立つことを期待されたAIであっても、設計や運用次第で消費者の利益と事業者の目的が必ずしも一致しない「目標の不整合」が生じ得る点。3つ目が、意思決定の過程に関わるリスクに消費者自身が気付くのは難しく、個人での自衛が困難だという点だ。

こうした特徴を踏まえ、事務局は多様な主体がAIの設計・運用を継続的に検証・調整するなど、さまざまな手法を組み合わせた環境整備、すなわちAIガバナンスを通じて、リスクを減らしつつ消費者の利益の実現を後押しすることが重要だとまとめた。

契約より手前の「選好の形成」に影響が及ぶ

資料は、日本の民法・消費者法がこれまで、契約に至る意思決定のうち、個別の契約が成り立つ過程より前の段階を基本的に対象の外に置いてきたと解されると説明する。

これに対しAIは、契約の手前にある、あいまいで潜在的な好みや問題意識、ニーズといった「選好等」が形づくられる過程への影響力を強めているという。その影響は契約の前段階にとどまらず、契約に至らないものを含め、将来の消費行動にまで及ぶ点にも注意すべきだとした。そのうえで、現行の契約成立過程の規律だけでは十分に対応しきれない場面も想定されるとして、議論を深める必要があるとした。

背景には、2025年7月にまとまった「消費者法制度のパラダイムシフトに関する専門調査会」の報告書がある。デジタル化の進展で従来の消費者法制度では対応しきれなくなっているとの問題意識から、誰もが状況次第で脆弱になり得ることを示し、法律による規制と、法的拘束力のないルールなどを組み合わせた実効性の高い規律を提言した。資料は、消費者に情報を与えたうえで自己防衛を求める「情報パラダイム」からの転換が議論されるようになったとも記している。

海外の法制度については、第10回で委託調査の結果が示されている（EUのAI法、禁止行為を適用した執行決定も判決も確認できず　消費者委員会の委託調査がEU・米・中を比較　AIに買い物を委ねる場面の規律は三法域とも見当たらず）。

「AIを過信して専門家に相談しなかった」事例で考える

事業者に何を求めるかを具体的に考えるため、資料はケーススタディを載せた。対話型AIの助言を過度に信頼した結果、専門家に相談する機会を逃した、という想定事例だ。

開発・設計の段階で考えるべき要素として、過度な信頼を防ぐ措置がとられていたか、AIの出力が専門家の意見の代わりにならないと明らかにしていたかを挙げた。出力内容そのものを完全に統制するのは難しくても、画面設計などを通じて過度な介入や依存を防ぐ予防措置を講じることが合理的に期待できたか、という観点も示した。

こうした考慮要素がガイドラインなどで整理されれば、民法の不法行為（第709条）で注意義務や過失を判断する際に参照され得るとの見方も記した。不法行為法は包括的な規定で、新しい技術が出てきても条文の解釈で柔軟に対応してきた一方、裁判所の裁量が大きく、予見可能性の確保が課題とされるという。

会話そのものが操作の手段に

秋山氏は、対話型生成AIに特有の「ダークパターン」（利用者をだましたり誘導したりする設計）を取り上げた。従来のダークパターンは画面上の表示や選択肢、操作手順といった視覚的・構造的な設計によるものだったが、大規模言語モデルでは言葉づかいや話の進め方を通じて操作が行われ、通常の支援的な会話との境目があいまいだと紹介した。利用者の認識だけに頼る対策には限界があり、検出・評価の方法や基準も十分に確立されていないとして、責任の所在とガバナンスが課題だとした。

AIとの対話で偽・誤情報を見分ける力が高まっても、AIの支援を外すと効果が続かず、長期の実験では開始時より下がったとする研究も紹介した。AIの支援を受けている間の判断の質だけでなく、支援を離れた後の判断能力まで考える必要があるのではないかと問題提起した。資料には、内容は発表者の専門的知見に基づくもので、所属組織の公式見解ではないとの注記がある。