タグ: 生成AI（3 / 7）
- AI
デジタル庁、自治体から国への照会事務を生成AIで省力化へ 「自治体版バイバイン」実証に50〜100団体を募集
デジタル庁は10月20日、自治体職員が国の機関に行っている問い合わせ・照会の事務を生成AIで省力化する実証事業を始めると公表し、参加する都道府県・市区町村の募集を告知した。自治体がデータの検索・整理・分析を行える生成AI機能を「自治体版バイバイン」と名付け、参加自治体に試験的に提供する。募集規模は50団体〜100団体程度で、同一団体から複数部署の参加もできる。応募期間は10月26日午後4時から11月13日まで、実証の実施期間は11月24日から令和9年2月10日まで。オンラインの募集説明会を10月26日と28日に開く。事務局の運営はシンプレクス株式会社に委託している。
- AI
政府職員18万人の生成AI「源内」、AIエージェント環境の提供を開始 安全ルール「源内基準」を公表
デジタル庁は10月20日、政府職員約18万人が使う生成AI利用環境「ガバメントAI 源内」で、職員自身がAIエージェントを作って動かせる環境の提供を始めた。同日から対話型の「エージェントチャット」を各府省庁へ順次導入し、個人専用の開発環境「源内工房」は令和8年12月ごろまでの導入を目指す。あわせて、利用者・管理者・開発者それぞれの責務と遵守事項を定めた「源内基準」を策定・公表した。職員が確認していないAIの出力を行政資料や公文書に直接転記しないこと、組織の管理が及ばない「シャドーAI」を業務で使わないことなどを明記している。
- AI
米当局、中国AI6社が米国製AIを「産業規模で蒸留」と警告 OpenAIとアンソロピックも遮断を公表
米国家安全保障局（NSA）、サイバーセキュリティ・インフラセキュリティ庁（CISA）、連邦捜査局（FBI）は9月8日（米国時間）、中国のAI企業6社が米国の最先端AIの出力を大量に集めて自社モデルに写し取る「蒸留」を産業規模で行い、少なくとも2024年後半から数百万回のやり取りで数十億トークンを抜き出したとする共同アドバイザリを出した。中国政府が把握していた可能性が高いとしている。OpenAIはKimiの開発元Moonshot AIの関係者が中核とみられる組織的な抽出を7月28日までに阻止したと発表し、アンソロピックは中国の7組織による蒸留を遮断したと報告した。
- テクノロジー
政府システム調達、「生成AI前提」へ見直し議論 デジタル庁の有識者検討会が初会合
デジタル庁は、10月2日に開いた「令和8年度デジタル庁情報システム調達改革検討会」第1回会合の資料を公開した。2024・25年度の調達改革の取り組みを自己評価し、新しい改革の論点として「生成AIを前提とした調達とAIガバナンス」など5つの「改革仮説」を示した。2027年3月までに7回開き、中間報告書をまとめる。
- AI
生成AI政策の全体像 予算は「作る」へ、使い道は議事録・メール止まり
日本のAI政策は、お金をAIを「作る」側に厚く積んだが、使う人を育てる投資と、安全を確かめる仕組みは細いままだ。令和9年度のAI関連予算要求は2兆9392億円と今年度当初の5.8倍で、主な施策の最大は経産省の基盤モデル開発約8964億円。一方、企業の生成AI利用は86.4％に広がったものの、使い道は「議事録・メール作成補助」が約7割で最も多い。使っていない人の38.8％は「使い方がわからない」と答え、AIを使う製造業の労働者で勤め先から訓練を受けたのは日本33.3％、米国62.7％だった。
- AI
政府の生成AI指針、AIエージェントのルール整備へ 送金など取り消せない操作に職員の確認案
デジタル庁は9月29日、先進的AI利活用アドバイザリーボードの第6回会合で、政府の生成AI調達・利活用ガイドラインの拡充に向けた検討事項案を示した。自律的に作業するAIエージェントに具体的なルールを設け、送金や外部への情報送信など取り消しの難しい操作には職員の判断を挟むか、監視して止める仕組みを求める案を盛り込んだ。各府省庁の生成AIシステムは6月末時点で252件に増えた。
- AI
AIの影響は「消費者個人での自衛が困難」 消費者委の専門調査会、事務局が議論を整理
内閣府の消費者委員会は10月8日、「人工知能（AI）技術の利用と消費者問題に関する専門調査会」の第11回会合を開き、事務局が第10回までの議論をまとめた「検討状況（案）」を示した。AIが消費者の意思決定に及ぼすリスクは、消費者が自ら気付いて正すのが難しく「消費者個人での自衛が困難」と整理し、開発・提供事業者が契約の前段階からリスク評価や設計改善に取り組むAIガバナンスが求められるとした。
- AI
AIセーフティ評価に教育とジオAIを追加、6部会体制へ 政府のAI安全機関が方針を改訂 学校の生成AIは情緒的依存や「メタ認知的怠惰」をリスクに列挙
AIセーフティ・インスティテュート（AISI）の事業実証ワーキンググループは10月6日、AIの安全性評価の整備方針を示す「ビジョンペーパー」の第2.0版を公開した。これまでのヘルスケアとロボティクスに教育とジオAI（地理空間情報）を加え、分野横断の2部会と合わせて6部会の体制にする。教育分野は当面、初等中等教育段階を対象とし、児童生徒がAIを擬人化して情緒的に依存するリスク、生成AIへの過度な依存が「メタ認知的怠惰」を招いて生産的な試行錯誤を失わせるリスク、AIの支援で課題をこなせたことを自分の能力と誤認して実際の習熟度を過大評価し、AI抜きの試験で成績が下がるリスク、児童生徒が提出物に悪意ある指示を埋め込んで評価を有利に操作するプロンプトインジェクションの4つをリスク例として挙げた。
- AI
重みが公開されたAI、攻撃コードの開発能力は「限定的」 IPAのAI安全機関が評価 16点満点の平均はGLM-5.2が2.80、Claude Opus 4.8は5.22
情報処理推進機構（IPA）に置かれたAIセーフティ・インスティテュートは10月2日、AIモデルのサイバー攻撃能力を測った「AI検証ノート」2本を公表した。誰でもダウンロードして動かせるオープンウェイトモデル「GLM-5.2」と、米アンソロピック社の「Claude Opus 4.7」「Claude Opus 4.8」を、Google Chromeなどで使われるJavaScriptエンジンV8の既知脆弱性41件で比べたところ、16点満点の平均スコアはOpus 4.8が5.22、Opus 4.7が3.63、GLM-5.2が2.80だった。GLM-5.2の最高到達段階は5段階のうち上から3番目のT3にとどまり、同機関は高度なサイバー能力のオープンウェイトモデルへの拡がりは「現時点では限定的」と結論づけた。一方、評価環境でGLM-5.2には安全上の拒否応答が確認されず、Opus系では拒否応答が見られたとして、標準設定でのセーフガードの強さに差がある可能性を指摘している。
- テクノロジー
政府の生成AI「源内」、熊本地震の自治体向け緊急提供を9月30日で終了 64日間で148機関・団体の325アカウントが使い実行1,305回 一部自治体は年度末まで延長
デジタル庁は9月30日、令和8年熊本地震の被災自治体などに緊急提供していた政府職員向けの生成AI利用環境「ガバメントAI 源内」の提供を、同日で終了したと公表した。7月29日の開始から64日間で、ログインのあった登録アカウントは全国で148機関・団体の325個、プロンプトの入力回数は83機関・団体の計1,305回だった。このうち熊本県内が7機関・団体の112アカウント・711回を占める。利用できる対象は被災自治体に限らず、全ての都道府県と市区町村、災害ボランティア団体、指定公共機関まで広げていた。要請のあった一部の自治体については、令和8年度末まで提供を再延長している。災害対応に有用なAIアプリは16件を用意し、うち3件は被災自治体などの要請に基づいて緊急に開発した。あわせて公表された災害派遣デジタル支援チーム（D-CERT）の派遣実績は、7月29日から9月15日までで延べ253人日だった。