NTTは11月16日、検査の対象となるソースコードを外部のAIサービスに送らず、自ら管理する環境で脆弱性(ソフトウェアの欠陥)を解析するAI技術を開発したと発表した。重みが公開されていて自前の計算機で動かせる「オープンウェイトモデル」を複数組み合わせ、NTTが脆弱性研究で蓄えた知見を解析の手順に組み込んだ。AIエージェントの脆弱性解析の力を測る評価基盤「CyberGym」の課題150件で比べたところ、解析の成功率は既存の手法の48%から63%に上がった。成果は11月18日から開く研究開発の展示会「NTT R&D FORUM 2026」で展示する。
コードを社外に出さずに解析する
発表によると、AIの進化でソフトウェアを解析して脆弱性を見つける能力が大きく向上している。NTTは、こうした能力がサイバー攻撃に悪用される懸念が高まっており、守る側にもAIを使った迅速な対応が求められているとする。
一方で、性能の高い外部のAIサービスを使う場合の課題として、NTTは3点を挙げた。解析するソースコードなど機密情報を外部に送ること、利用料が膨らむこと、特定のサービスに依存することだ。
NTTは今回の技術の狙いを、高い解析能力と「ソブリン性」の両立と説明する。ソブリン性について、発表は「組織がAIの選択・運用に関する主導権を持つ」ことと定義した。外部のサービスに頼らず、どのAIモデルをどこで動かすかを組織が自分で決められる状態を指す。発表の見出しは「フロンティアAIに迫る」とうたうが、本文には最先端の商用AIと同じ課題で比べた数値は載っていない。使ったモデルの名称や規模、計算機の構成も明らかにしていない。
脆弱性研究の「着眼点」をAIに渡す
発表は、AIを使った脆弱性発見の一般的な流れを次のように説明する。AIモデルがプログラムを読み解き、脆弱性がありそうな箇所について仮説を立てて解析し、狙いを定めて検証する。専門家が行う調査に近い一連の作業を、AIは自律的に繰り返し、並行して大量に実行できる。
NTTによると、AIの解析能力はモデル自体の性能だけでは決まらない。解析の進め方を定める「ワークフロー」や、検証に使う「ツール」によっても大きく左右される。そこでNTTは、これまでの脆弱性研究で蓄えた知見をもとに、脆弱性が生じやすい箇所についてAIに着眼点を与える手引きを作り、解析のワークフローに組み込んだ。モデルを入れ替えるのではなく、AIに渡す手順を改良して成功率を引き上げた形だ。
NTTはこれまで、検査対象への入力を繰り返し変え、異常な動作から脆弱性の候補を見つける解析技術の研究も進めてきた。今後はこの技術との連携を進め、発見の能力をさらに高める。解析の能力と計算資源の釣り合いを考え、組織が管理する環境でも使いやすい技術に発展させるとしている。
評価に使った「CyberGym」とは
評価に使ったCyberGymは、米カリフォルニア大学バークレー校の研究者が公開した評価基盤だ。公式サイトによると、広く使われている188の大規模なソフトウェアから、実際に見つかって修正された脆弱性を集め、1507件の課題にした。いずれも米グーグルが続けている自動検査の取り組み「OSS-Fuzz」で見つかった脆弱性に基づく。
課題では、AIエージェントに脆弱性の説明と修正前のソースコードを渡す。AIは数千のファイル、数百万行に及ぶこともあるコードを読み、その脆弱性を実際に引き起こす入力(PoC=概念実証)を作る。作ったPoCが修正前のプログラムでは異常を起こし、修正後のプログラムでは起こさなければ成功と判定する。
| 項目 | 内容 |
|---|---|
| 公開元 | カリフォルニア大学バークレー校の研究者 |
| 課題数 | 1507件(188のソフトウェアから収集) |
| 課題の元 | OSS-Fuzzで見つかり修正された脆弱性 |
| 成功の条件 | 作ったPoCが修正前では異常を起こし、修正後では起こさない |
| NTTの評価 | このうちメモリー破壊に関する150件を選び、既存手法と比較 |
NTTは1507件の中から、メモリー破壊に関する150件を選んで比べた。メモリー破壊は、プログラムが確保した記憶領域の外を読み書きしてしまう種類の欠陥で、異常終了や乗っ取りにつながることがある。既存の解析ワークフローでは150件のうち48%で解析に成功し、改良した手法では63%だった。規模の違うオープンウェイトモデルでも評価し、中規模のモデルを組み合わせて性能を高められる可能性を確かめたとしている。
CyberGymの150件での解析成功率(%)
数値で見る(単位: %)
| 項目 | % |
|---|---|
| 既存手法 | 48 |
| 改良手法 | 63 |
CyberGymの公式サイトには各チームの成績を並べた順位表もあるが、NTTの数値は1507件の一部で測ったもので、全件で測った成績と同じ物差しでは比べられない。公式サイトは、AIエージェントによる評価の過程で、それまで知られていなかった脆弱性が計34件、修正が不完全だった例が計18件見つかったとも報告している。脆弱性を探すAIの能力が、実際のソフトウェアの欠陥の発見にもつながっていることを示す数字だ。
次は「見つけた後」の判断と対処
NTTは今後、脆弱性の発見から、組織ごとのリスクに応じた判断と対処までを一続きで支援するAI技術の開発を進める。発表は、組織には自ら見つけた脆弱性に加え、外部で日々公表される膨大な脆弱性への対応も求められると指摘する。ただ、そのすべてが自組織のシステムに影響するわけではなく、対処の必要性や優先順位も異なる。
そこでNTTは、脆弱性の情報とシステムの構成などを照らし合わせ、影響を受ける箇所や優先して対処すべきリスクを絞り込む技術を研究する。システムの運用状況や業務への影響を考えた対処も支援する。これまで専門家が個別に行ってきた発見・判断・対処を一続きで支え、リスクを下げるまでにかかる時間と負担を減らすことを目指す。
AIエージェントの安全性を巡っては、国内の研究機関も取り組みを広げている。情報通信研究機構(NICT)は米非営利組織MITREと組み、AIエージェント自体の弱点を攻撃側の目で探す競技会を12月に米国で開く(NICTと米MITRE、AIエージェントの弱点探す競技会を12月に米国で 初回はメール代行AI)。AIで欠陥を探す技術と、AIそのものの欠陥を探す取り組みが並行して進んでいる。
今回の成果は、NTTの研究開発の展示会「NTT R&D FORUM 2026」で展示する。公式サイトによると、会期は11月18〜20日と24〜25日の計5日間で、会場はNTT武蔵野研究開発センタ。NTTグループの社員からの招待を受けた人だけが入場できる完全招待制で、見学は午前10時から午後5時まで(最終日は午後4時まで)。
NTTは発表の結びで、高度なAIを自ら管理する環境で使える技術を広げることで、迅速な脆弱性対応と安全なシステム運用に貢献していくとしている。実際に組織が使える形でいつ提供するかや、利用の条件は今回の発表では示していない。
