生成AI「ChatGPT」を悪用してプログラムを作り、動画配信サービス「バンダイチャンネル」のサーバーに不正アクセスしたとして、警視庁は15歳の少年を逮捕したと発表した。会員4万6812人分の利用登録を解除して退会させ、運営会社にサービスの一時停止を余儀なくさせた疑いがもたれている。

昨年11月に会員が次々退会、サービス停止

運営するバンダイナムコフィルムワークスの公式のお知らせによると、2025年11月4日、不正アクセスによって一部の会員が意図せず退会させられ、あわせて個人情報が漏えいしたおそれがあることが判明した。会社は同6日の午後11時半、緊急措置としてサービスを一時停止した。

漏えいのおそれがあったのは、メールアドレスやニックネーム、サービス内で使うコインの残高、選んでいた支払い方法などで、ログイン用のパスワードやクレジットカード番号は含まれていなかったという。会社は外部の専門機関による調査や再発防止策を進め、サービスは12月19日に再開した。

生成AIで作ったプログラムで侵入か

警視庁によると、逮捕された少年は、生成AIの「ChatGPT」を使って不正アクセス用のプログラムを作成し、サーバーに侵入したとされる。少年は当時、中学3年生だった。

生成AIは、プログラミングの知識が乏しい人でも、文章で指示するだけである程度のコードを作れるのが特徴だ。その便利さの裏返しとして、こうした技術がサイバー攻撃や不正アクセスに悪用される懸念が、世界的に高まっている。

「AI悪用」の犯罪、対策が課題に

今回の事件は、専門的な技術を持たない未成年でも、生成AIを使えば不正なプログラムを作り、企業のシステムに実害を与えられることを示した形だ。SNSでは「サイバー攻撃」がトレンドに入り、AIを悪用した犯罪の広がりを不安視する声が多く上がっている。

生成AIをめぐっては、悪用を防ぐための利用制限や、開発企業による安全対策の強化が各国で進められている。一方で、いったん世に出た技術を個人が使うことは避けられず、攻撃を受ける側の企業には、新たな手口を想定したシステムの防御が求められている。

求められる規制と振興のバランス

犯罪は決して許されるものではなく、悪用への対策は欠かせない。ただ、こうした事件をきっかけに規制へと一気に傾くことには、慎重さも必要だ。日本はこれまで、新しい技術に対して規制を急ぐあまり、世界の技術進化のスピードに取り残されてきた面があると指摘されてきた。

生成AIは、産業や暮らしを大きく変える可能性を持つ技術でもある。悪用は厳しく取り締まる一方で、開発や活用の芽まで摘んでしまわないよう、規制と技術振興のバランスをどう取るかが問われる。安全性を確保しながら、技術の力を前向きに生かしていく視点が欠かせない。