日本と韓国のAIセーフティ・インスティテュート（AISI）は10月8日と9日の2日間、AIの安全性に関する初の合同技術ワークショップを開いた。日本側のAISIが10月16日に公表した。両国のAISIに所属する研究者や技術者など総勢30名が参加し、多言語・多文化を踏まえた評価手法やAIセキュリティについて意見を交わした。日本のAISIが2024年2月の発足以来進めてきた国際連携は、英米の同種機関と米国のAI開発企業が中心で、韓国の機関との技術者レベルの会合は今回が初めてとなる。

30人が2日間、初日は政策調査と事業実証

AISIの公表文によると、ワークショップは10月8日（木）と9日（金）の2日間の日程で開かれた。目的は、日韓のAI安全性に関わる研究者・技術者コミュニティのつながりを深め、継続的な情報共有や連携に向けた基盤を築くことだとしている。参加したのは両国のAISIに所属する研究者や技術者など総勢30名である。

初日は、日本側の西村事務局長・副所長の開会挨拶で始まり、両国のAISIの活動の全体像と今後の目標について情報を共有した。続いて韓国側が、AI安全性に関する政策調査と、AIモデルやシステムの評価に関する取り組みを発表した。日本側は、事業実証の各領域、具体的にはヘルスケア、ロボティクス、適合性評価、データ戦略を中心に発表した。質疑応答では、技術的な論点に加え、取り組みの背景や関係者の関与などアプローチを理解するための質問も双方から出たという。

日本側が説明した事業実証は、2025年3月に始まった「AI利活用促進に向けたAIセーフティ評価に関する事業実証」である。会合の2日前にあたる10月6日、AISIはこの事業のビジョンペーパーを第2.0版へ更新して公開していた。第2.0版は、国際的な関心が高く日本が強みを持つ分野としてヘルスケア、ロボティクス、教育、ジオAIの4分野を挙げ、利用者のリスク理解を前提とした評価の枠組みを整備するビジョンを示す。あわせて、各分野に共通して求められるデータ品質と適合性評価の枠組みについても方向を示している。分野の追加と部会の再編はAIセーフティ評価に教育とジオAIを追加、6部会体制へ　政府のAI安全機関が方針を改訂　学校の生成AIは情緒的依存や「メタ認知的怠惰」をリスクに列挙で伝えた。

2日目は、よりモデル評価に焦点を当てた議論になった。日本側が後述の「JAI-Trust」を説明したのち、日韓双方で多言語・多文化を踏まえた評価について議論した。AIセキュリティについては韓国側がマルチモーダル・レッドチーミングを紹介し、日韓の取り組みと昨今の課題について意見が交わされた。最後に平本副所長が閉会の挨拶を行った。

日本側が説明した「JAI-Trust」　8つの分科会でベンチマークを作る

JAI-Trustは、AISIが進める「日本の生成AIの安全性とセキュリティーのベンチマーク構築プロジェクト」である。AISIは、生成AIの利活用が急速に拡大するなかで安全性とセキュリティーを客観的に評価する枠組みの構築が重要だという認識のもとで進めており、プロジェクトの目的は「日本における生成AIの信頼性確保に資するベンチマークの整備および評価手法の確立」だとしている。

プロジェクトの概要と検討状況を共有するイベントは2026年5月21日、午前10時から午後6時40分まで開かれた。関係企業・研究機関・行政関係者に一般参加者とオンライン参加者を含め、総勢500名弱が出席している。内閣府の齊藤企画官の挨拶で始まり、AISIと国立情報学研究所に所属する関根聡氏が全体説明を行った後、ベンチマーク設計の基本方針や評価項目の考え方が説明された。

検討は分科会に分かれて進む。同イベントの前半で発表したのはバイアス関連、AIとの対話によるリスク、偽情報・誤情報、分野依存の4つ、後半はJailbreak、情報漏洩、エージェントモデル、セキュリティーの4つだった。差別的な出力や対話による悪影響から、安全対策を回避させるJailbreak、学習データや入力情報の漏洩、自律的に動くエージェントまで、8つの観点に分けてベンチマークを組み立てていることになる。日本語で使われる生成AIを日本国内で測るための共通の土台を作る作業であり、2日目の「多言語・多文化を踏まえた評価」の議論は、同じ課題を韓国語の側にも持つ相手との突き合わせにあたる。

韓国側はマルチモーダル・レッドチーミングを紹介

AIセキュリティの議題では、韓国側がマルチモーダル・レッドチーミングについて紹介した後、日韓の取り組みと昨今の課題について専門的な見地から意見が交わされた。紹介の具体的な中身は公表文には書かれていない。

レッドチーミングについては、AISI自身が手法ガイドを出している。2024年9月25日に「AIセーフティに関するレッドチーミング手法ガイド」を第1.00版として公開し、AIシステムの開発者や提供者が、対象のAIシステムに施したリスクへの対策を攻撃者の視点から評価するための手法と定義した。2025年3月31日には第1.10版へ改訂し、RAG（検索で外部の文書を引き、回答に使う仕組み）を実装したAIシステムに実際にレッドチーミングを行った手順と、リスクシナリオ・攻撃シナリオの作成から実施結果報告書・最終報告書までの成果物を収めている。

「マルチモーダル」は、文章だけでなく画像や音声なども扱えるモデルを指す。日本のガイドが詳細な実施例として示しているのは文章のやり取りを前提にしたRAGの構成であり、画像や音声を含む入力への攻撃は別に扱う必要がある。AISIがモデルの能力を攻撃側の視点から測った例としては、重みが公開されたAI、攻撃コードの開発能力は「限定的」　IPAのAI安全機関が評価　16点満点の平均はGLM-5.2が2.80、Claude Opus 4.8は5.22がある。

国際連携は英米の機関と米国企業が中心だった

AISIがサイトの「活動（International）」に掲載している国際分野の動きは、2024年11月以降で次のとおりである。

掲載日 内容
2024年11月20日 AISI国際ネットワークで「Mission Statement」が公開
2025年2月11日 共同テストのブログ記事が公開
2025年7月18日 第2回・第3回の共同テスト演習の評価レポートが公表
2025年8月4日 広島AIプロセス及びAI法関連サイドイベントを開催
2025年10月29日 米Anthropic社とMOCを締結
2026年1月30日 Hiroshima Global Forum for Trustworthy AIを開催
2026年5月29日 米OpenAI社とMOCを締結
2026年10月16日 日韓AISIによる初の合同技術ワークショップを開催
AISIが公表している国際分野の活動（2024年11月以降、サイト掲載日順）出典: AIセーフティ・インスティテュート「活動（International）」

MOCは協力覚書を指す。相手はいずれも米国のAI開発企業で、Anthropicが2025年10月29日、OpenAIが2026年5月29日である。AISI国際ネットワーク（The International Network of AI Safety Institutes）は2024年11月20日から21日に米サンフランシスコで開かれ、そこで加盟機関の「Mission Statement」が公開された。共同テスト演習は、この枠組みで複数の機関が同じモデルを評価して結果を突き合わせる取り組みで、第2回・第3回の評価レポートが2025年7月18日に公表されている。

一覧の並びのとおり、これまで掲載されてきたのは多国間の枠組みの会合、米国企業との覚書、日本が主催する国際会議である。2か国のAISIが研究者と技術者を集めて互いの手法を突き合わせる形の会合は、今回が初めてになる。

AISIは2024年2月にIPAへ設置　業務の3本目が国際連携

AISIの設立の経緯は、同機関の説明によれば次のようになる。英国や米国でAIセーフティ・インスティテュートが設立され、安全性確保に向けた国際的な枠組みづくりの検討も始まったことを受け、2023年12月21日のAI戦略会議で岸田総理大臣からAISIの設立が表明された。発足は2024年2月14日で、同日に情報処理推進機構（IPA）に事務局を設置した。「統合イノベーション戦略2024」（2024年6月4日閣議決定）に基づき、AI安全性の中心的機関としてIPAに置かれ、専門人材の確保と技術的知見の集約を進めるとしている。所長は村上明子氏（非常勤）である。

AISIが掲げる業務は3本で、1つ目が安全性評価に係る調査と基準等の検討、2つ目が安全性評価の実施手法に関する検討、3つ目が「他国の関係機関（英米のAI Safety Institute等）との国際連携に関する業務」である。業務の説明文そのものに英米の名が入っていることからも、国際連携の軸足がどこにあったかは読み取れる。今回の日韓の会合は、この3つ目の業務にあたる。

公表文は成果として「日韓で共通の課題認識を持ち、理解を深める貴重な機会となった」と記す一方、合意文書の署名や、共同で何をいつ行うかという具体的な計画には触れていない。掲げられた目的は継続的な情報共有と連携に向けた基盤づくりであり、次に何を一緒に進めるかは公表されていない。