米AI企業アンソロピックは9月10日、自社の生成AI「Claude（クロード）」が悪用された事例と、それを遮断した経緯をまとめた報告書を公表した。2025年12月から2026年8月までの8か月間に確認したもので、サイバー攻撃、世論工作、監視、詐欺、生物学的悪用、通常兵器の開発、無断の「蒸留」という7つの分野にわたる。同社は、攻撃の多くがAI自身の判断で進んでいたと指摘している。

人の監督をほとんど受けずに動く攻撃

報告書が最も重く扱ったのは、サイバー攻撃の自律化だ。標的の調査（偵察）から侵入、データの抜き取りまでを複数のAIが並行して処理し、人の指示や監督をほとんど受けないまま数時間から数日にわたって動き続けた事例を挙げている。同社は、潤沢な資金と人員を持つ組織でなければ届かなかった規模の攻撃に、個人の攻撃者が手を伸ばせるようになったとの見方を示した。

具体例として、ロシアの国家的な諜報活動とみられるグループ（同社の識別符号でGTG-20006）は、ウクライナを中心にヨーロッパやアジアの20を超える組織へ侵入した。Windows向けに5種類、AndroidとiOS向けにもそれぞれマルウェア（悪意のあるプログラム）を作らせ、複数の組織から数百ギガバイトのデータを盗んだという。

中国系とされるグループ（GTG-10007）は、教育、小売、エネルギー、技術、医療、金融、製造、政府機関にまたがる約50組織を狙った。1か月間で「ゼロデイ」の候補を12件以上見つけていたとする。ゼロデイとは、修正プログラムがまだ出ていない未知の欠陥を指し、見つかれば防御側は手の打ちようがない。

犯罪グループ（GTG-50014）の事例では、180万本のAndroidアプリを解析して認証情報を探し出し、取引先を経由して約200組織へ被害が広がった。34時間以内に40の企業テナントから2100組以上の「Azure ADトークン」を抜き出した記録も残る。トークンはログイン済みであることを示す電子的な通行証で、奪われれば合言葉を知らなくても本人になりすませる。

世論工作と、無断の「蒸留」

世論工作でも規模が際立つ。6大陸を対象にした商用の工作では、偽のニュースサイト約70個を運営し、20ほどの言語で8913本の記事を発行していた。記事を広めるX（旧ツイッター）のアカウント約70個に加え、コメント欄を埋めるためのアカウントを250個以上使い分けていたという。マレーシアの選挙を狙った事例では、偽アカウント約1000個を用意し、下院の222選挙区すべてを対象にしていた。

7分野の一つに挙がった「蒸留」は、耳慣れない言葉だ。他社のAIに大量の質問を投げて回答を集め、その回答を教材として自社のモデルを鍛える手法を指す。優れたモデルの能力を安く写し取れるため、アンソロピックは利用規約で禁じている。報告書は、不正に作った多数のアカウントで回答を収集していた事例を確認したとした。

悪用に使われたのは同社のHaiku、Sonnet、Opusの各モデルで、上位のFableとMythos級については、蒸留の1件を除き確認されなかったとしている。

痕跡データを公開、日本も警戒

同社は各事例で関係アカウントを停止し、得られた知見を安全対策の強化に反映したうえで、当局や業界の関係者と情報を共有したと説明する。あわせて「IOC」と呼ばれる侵害の痕跡データも公開した。攻撃に使われた接続先やファイルの識別子を並べた一覧で、他社の防御担当者が同じ手口に襲われていないかを自ら点検できる。

日本政府もAIの悪用には神経をとがらせている。7月14日には人工知能基本計画（第Ⅱ期）を閣議決定した。本部長を務める高市早苗首相は7月10日のXで「高性能AIは、我が国の課題解決と国力強化に直結する一方、サイバー攻撃への悪用など、新たなリスクも懸念されている」と述べ、活用と安全確保の両立を課題に挙げていた。

アンソロピックはこの種の報告書を継続して公表しており、今回が最新版となる。公開された痕跡データは誰でも入手でき、自社の通信記録と突き合わせて被害の有無を確かめられる。