タグ: AIセーフティ・インスティテュート（AISI）
- AI
AI法見直し、高性能AIに安全確保の義務と罰則付き命令を検討 政府の作業部会が素案
AI法の見直しを議論する内閣府の「制度の在り方検討ワーキンググループ」は11月11日の第2回会合で、一定以上の性能を持つAIの事業者に安全確保の措置を義務づけ、国への報告、勧告、罰則で担保する命令を法律に定める素案を示した。現行法は国の調査と指導・助言にとどまる。会合ではNTTやAnthropic、OpenAIなど国内外6社から聴取した。
- AI
名古屋市、消費生活相談でAIの実証 相談員の高齢化で助言案を示す仕組み 消費者委で報告
内閣府の消費者委員会は10月22日、「人工知能（AI）技術の利用と消費者問題に関する専門調査会」の第12回会合を開き、名古屋市と内閣府の人工知能政策推進室から報告を受けた。名古屋市は、相談員の担い手不足と高齢化に対応するため、通話を文字に起こし、聞き取りの不足を指摘して助言案を示すAIを消費生活相談の窓口で実証していると説明した。
- AI
日韓のAI安全機関が初の合同技術会合 2日間で30人、韓国側はマルチモーダル・レッドチーミングを紹介
日本と韓国のAIセーフティ・インスティテュート（AISI）は10月8日と9日の2日間、AIの安全性に関する初の合同技術ワークショップを開いた。日本側のAISIが10月16日に公表した。両国の研究者や技術者など総勢30名が参加し、初日は韓国側がAI安全性の政策調査とモデル評価、日本側がヘルスケアやロボティクスなどの事業実証を発表した。2日目は日本側が生成AIのベンチマーク構築プロジェクト「JAI-Trust」を説明し、韓国側はマルチモーダル・レッドチーミングを紹介した。AISIの国際連携は英米の同種機関と米国企業が中心で、韓国との技術者レベルの会合は今回が初めてとなる。
- AI
自民党AI・デジタル社会推進本部が初会合 AI使ったサイバー攻撃でアンソロピック幹部から聴取
自民党のAI・デジタル社会推進本部（本部長・平井卓也衆院議員）は10月13日に初会合を開き、米AI開発企業アンソロピック（Anthropic）の共同創業者ジャック・クラーク氏から、AIを用いたサイバー攻撃について聞き取りを行った。平井氏は最近のサイバー攻撃でAIが使われている可能性が極めて高いと指摘した。出席議員からは、同社と政府の国家サイバー統括室やAIセーフティ・インスティテュート（AISI）との連携強化を求める意見が出た。
- AI
AIセーフティ評価に教育とジオAIを追加、6部会体制へ 政府のAI安全機関が方針を改訂 学校の生成AIは情緒的依存や「メタ認知的怠惰」をリスクに列挙
AIセーフティ・インスティテュート（AISI）の事業実証ワーキンググループは10月6日、AIの安全性評価の整備方針を示す「ビジョンペーパー」の第2.0版を公開した。これまでのヘルスケアとロボティクスに教育とジオAI（地理空間情報）を加え、分野横断の2部会と合わせて6部会の体制にする。教育分野は当面、初等中等教育段階を対象とし、児童生徒がAIを擬人化して情緒的に依存するリスク、生成AIへの過度な依存が「メタ認知的怠惰」を招いて生産的な試行錯誤を失わせるリスク、AIの支援で課題をこなせたことを自分の能力と誤認して実際の習熟度を過大評価し、AI抜きの試験で成績が下がるリスク、児童生徒が提出物に悪意ある指示を埋め込んで評価を有利に操作するプロンプトインジェクションの4つをリスク例として挙げた。
