タグ: AISI

• AI2026年10月7日 9:35

  AIセーフティ評価に教育とジオAIを追加、6部会体制へ　政府のAI安全機関が方針を改訂　学校の生成AIは情緒的依存や「メタ認知的怠惰」をリスクに列挙

  AIセーフティ・インスティテュート（AISI）の事業実証ワーキンググループは10月6日、AIの安全性評価の整備方針を示す「ビジョンペーパー」の第2.0版を公開した。これまでのヘルスケアとロボティクスに教育とジオAI（地理空間情報）を加え、分野横断の2部会と合わせて6部会の体制にする。教育分野は当面、初等中等教育段階を対象とし、児童生徒がAIを擬人化して情緒的に依存するリスク、生成AIへの過度な依存が「メタ認知的怠惰」を招いて生産的な試行錯誤を失わせるリスク、AIの支援で課題をこなせたことを自分の能力と誤認して実際の習熟度を過大評価し、AI抜きの試験で成績が下がるリスク、児童生徒が提出物に悪意ある指示を埋め込んで評価を有利に操作するプロンプトインジェクションの4つをリスク例として挙げた。