情報通信研究機構（NICT）は10月14日、米国の非営利組織MITRE（マイター）と共同で、AIエージェントの脆弱性を探す競技会「AI Breach Challenge」を立ち上げると発表した。第1回の「AI Breach Challenge 2026: Email Agent Security」は12月16〜17日、米バージニア州アーリントンのジョージ・メイソン大学メイソン・スクエアで開く。メールの読み書きなどを利用者に代わって行うAIエージェントを対象に、参加チームが主催者の用意した隔離環境で攻撃を仕掛け、弱点を洗い出す。NICTは、競技で集めた攻撃手法と失敗の型を、AIエージェントのセキュリティ評価と防御技術の研究に生かすとしている。

メールと予定表を操るAIを24時間攻める

競技の舞台は、企業の職場を模した環境だ。公式サイトによると、標的のAIエージェントは利用者から権限を預かり、メールの閲覧・作成・送信、予定表の確認と管理、連絡先の参照ができる。競技環境にはメールサーバー、予定表のアプリ、連絡先のシステムが置かれ、参加者はこれらの窓口を通じてAIエージェントを操ろうとする。

NICTの発表は、参加者が試す手口として、AIエージェントに意図しない動作をさせることや、保護された情報への接触を挙げた。公式サイトは競技の目的を「AIエージェントの潜在的な脆弱性を特定し、実証すること」とし、全チームが同じ目的に取り組むと説明している。あらかじめ設定された複数の課題に取り組む形式で、課題の中身や採点の基準は大会前に公表する。

競技時間は24時間。初日の正午に全チームが一斉に始め、翌日の正午に締め切る。会場の利用は初日午後6時までと翌日午前9時からで、夜間は各チームが会場の外から遠隔で競技を続ける。終了後には課題の解説と表彰がある。

項目 内容
名称 AI Breach Challenge 2026: Email Agent Security
主催 NICT、MITRE
日程 2026年12月16日（水）〜17日（木）
会場 ジョージ・メイソン大学メイソン・スクエア（米バージニア州アーリントン）
競技時間 24時間（初日正午〜翌日正午）
参加形態 1チーム2〜4人。個人で申し込むと主催者がチームを組む
参加費 無料（渡航費・宿泊費は自己負担）
AI Breach Challenge 2026 の開催概要

出典: NICT報道発表（2026年10月14日）、大会公式サイト

参加費は無料、経験は問わない　完全遠隔は不可

公式サイトは、参加者として学生や若手の社会人、敵対的機械学習やAIの安全性の研究者、攻撃側の立場で防御を点検する「レッドチーム」の実務家を想定している。サイバーセキュリティやAIの経験は求めない。チームを組んで申し込むほか、個人でも申し込め、その場合は大会前に主催者がチームを割り振る。

参加費はかからない。ただし渡航費と宿泊費は参加者の負担で、主催者は宿を用意せず、費用の払い戻しもしない。競技の開始と終了は現地の会場で行う決まりで、完全にオンラインだけで参加することは原則として認めない。日本から出る場合も、米国まで足を運ぶ必要がある。

申し込みの締め切りは決まっていない。公式サイトは定員に達した時点で受け付けを終える場合があるとして、早めの登録を呼びかけている。競技のルールの細部や参加条件は今後、公式サイトで公表する。

予備的なルールとして、競技用に用意されたシステムの外を攻撃しないこと、意図しない経路で入れた場合や脆弱性を見つけた場合は悪用せず運営に報告すること、を挙げた。AIツールの利用は認めるが、競技は登録したメンバー自身が主導するよう求めている。

「代わりに実行する」AIに新たな弱点

NICTが競技の題材にAIエージェントを選んだのは、使われ方が生成AIと異なるためだ。発表によると、従来の生成AIは利用者の指示に応じて文章などを作るのが主な役割だった。AIエージェントは外部のシステムやツールとつながり、利用者に代わって処理を実行する。メールの管理をはじめ、業務の情報や道具を使いこなす「仕事のアシスタント」として利用の幅が広がっている。

NICTは、この仕組みが生産性を高める一方で、悪意のある入力を受けたAIエージェントが意図しない動作をしたり、守るべき情報を外へ漏らしたりする新たな危険を生むと指摘する。利用がさらに広がる前に、どのような攻撃が成り立つのか、どのような脆弱性や失敗の型があるのか、既存の対策が実際の攻撃にどこまで通用するのかを知る必要があるとしている。

競技で得たい知見として、発表は2つを挙げた。業務の道具や情報と連携する際に生じる脆弱性と実際の攻撃手法、そしてAIエージェントを守る対策の有効性と限界だ。大会後、NICTとMITREは全体の結果や主な発見、見つかった手法をまとめた報告書を出す可能性がある。公式サイトは、公表する場合もセキュリティ上の配慮と各チームの情報の扱いに留意するとしている。

2025年設置のCREATEとMITREの知識ベース

競技を担うのは、NICTサイバーセキュリティ研究所のAIセキュリティ研究センター（CREATE）だ。NICTは2025年2月にこのセンターを設け、AIを使ってサイバー防御を高める研究と、AIを安全に使うためのセキュリティ技術の研究を進めている。センターは「AIを守る」「AIで守る」「AIを信頼する」の3本柱を掲げ、東京・日本橋のほか、米ワシントンのNICT北米連携センターにも拠点を置く。

MITREは米国政府をはじめとする公共分野を支援する非営利組織で、AIシステムへの攻撃者の戦術と技術を体系的に整理した知識ベース「MITRE ATLAS」を開発・運営している。CREATEはすでにMITREの戦術・技術・手順（TTP）の枠組みを使い、攻撃事例を整理・分析するAIの評価基盤を作っており、商用やオープンソースの大規模言語モデルを評価している。

両者はAIセキュリティでの連携を進めており、AIエージェントの安全はその主要な主題の一つだという。NICTは今後も「AI Breach Challenge」を続けて開き、メール以外のAIエージェントの使い道も題材にする予定だとしている。

攻撃側の目で弱点を探す取り組みが広がる

システムの弱点を攻撃者の立場から探る取り組みと、AIを使った攻撃への警戒は、国内でも続けて伝えてきた（経産相、IPAにホワイトハッカーチームを11月中に設置へ　AIで模擬攻撃し弱点探す、JPCERT/CC、AI侵入試験ツールを悪用した攻撃を追加　相次ぐ不正アクセスの注意喚起）。

今回の競技会は、守る側のAIそのものを標的にする点で、これらと題材が異なる。メールや予定表の権限を預かったAIエージェントが外部から送られた文面に従ってしまえば、利用者の情報が第三者の手に渡りかねない。参加者が試した手口と、どの対策が持ちこたえたかの記録がどこまで公表されるかは、AIエージェントを業務に入れる企業にとって判断の材料になる。課題の中身や採点の基準、登録の締め切りは、今後公式サイトで示される。