文書やデータベースを共同で編集する業務ツール「Notion(ノーション)」を提供する米Notion Labsは、生成AI機能「Notion AI」の処理の一部を委託していた米Fireworks AI(ファイアワークスAI)への不正アクセスで、Notion AIとのチャット記録の一部が外部から取得されたと公表した。影響を受けたのはNotionのワークスペース全体の1%未満で、利用者が入力した文章とAIの回答は全文が含まれていた。Fireworksは11月17日、一連の侵入が別々の2件だったとする調査結果を発表した。Notionは「自社システムの侵害ではない」と説明している。
取得されたのは「インサイト」用のチャット記録
Notionの説明によると、取得されたのは、管理者が社員らのAIの使い方を把握するための機能「インサイト」に使っていたNotion AIのチャット記録だ。Notionはこの機能の分析処理をFireworksに任せていた。影響を受けたワークスペースの大半では、記録に氏名やメールアドレス、ワークスペースの情報といった、会話と利用者を自動で結び付けるデータは付いていなかったという。Notionはこれを「ユーザーを特定できない」状態と呼んでいる。
ただし、会話の中身は残っている。Notionの通知によると、利用者がチャットに書き込んだ文章は全文が含まれ、氏名やメールアドレス、APIトークンなどを入力していれば、それも対象になる。チャットの時点で開いていたページで選んでいた文字列が含まれた可能性もある。ページのほかの内容や、チャットに添付した表計算ファイル・画像は含まれていない。
AIの回答も全文が対象だ。AIが質問に答えるためにページやデータベースを読んだ場合、回答に引用した部分は記録に残る。一方、AIがウェブ検索やページの読み取りをした操作そのもの(ツールの使用)は、大半の記録で対象外だった。会議を録音して要約する「AIミーティングノート」の音声・文字起こし・要約は、チャットに貼り付けたり回答で引用されたりした場合を除いて影響はないとしている。
影響の範囲はワークスペースごとに異なる。Notionは「各チャットの内容はNotion AIをどのように使用したかによって異なる」として、影響を受けた利用者に、自分で記録を開いて確かめるよう強く勧めている。
通知から1週間で利用者へ連絡
Notionのセキュリティ情報(11月12日公開、13日更新)が示した経過は次のとおりだ。
| 日付 | 出来事 |
|---|---|
| 11月2日夜 | Fireworksが、一部のデータが不正に取得されたとNotionに通知。この時点ではNotion AIの試験用データで、利用者のデータは含まないとされた |
| 11月3日朝 | NotionがFireworksとの接続を切り、データの送信を停止 |
| 11月4日 | NotionがFireworksのシステム上の自社データをすべて削除 |
| 11月6日 | Fireworksが、利用者のデータが取得された可能性をNotionに通知 |
| 11月8日 | Fireworksが、取得されたデータの範囲を確定 |
| 11月9日 | Notionが影響を受けた利用者に連絡 |
| 11月11日 | 記録の中から見つかったNotionのAPIキーを無効化 |
| 11月12日 | 記録の中から見つかった他社のAPIキーを、発行元の各社に報告 |
最初の通知の時点では、取得されたのは試験用のデータだとされていた。範囲が利用者のチャット記録に広がったのは4日後の通知で、Notionは8日にFireworksから受け取ったデータを分析して、インサイト用の記録が含まれていると突き止めた。
NotionはFireworksを、インサイトの分類処理のほか、外部に公開されているAIモデル(オープンウェイトモデル)を製品の中で動かす推論の委託先としても使っていた。調査に合わせてインサイト機能は止め、Fireworksを通じたモデルの提供もやめた。新しいAI技術を試す「LEAP」に参加する顧客から提供を受けたデータを使い、Fireworks上でモデルを学習させる実験もしていたという。
「データを残さない」はずの委託先に記録
今回の件で、Notionは委託先との約束が守られていなかったことも明らかにした。
Notionは大企業向けの契約で、AIへの問い合わせを外部のモデル会社に送る際、相手側にデータを残させない「ゼロデータ保持(ZDR)」を約束している。ただ、チャット履歴やインサイトのように、機能の提供に記録の保存が要る用途は、この約束の対象外だ。インサイトでは、保存したAIへの問い合わせと回答をFireworksに送り、管理者向けの分析をしていた。
Notionによると、FireworksはNotionの利用についてゼロデータ保持を契約で約束していた。しかし調査の結果、Notionが使っていたFireworksの窓口(エンドポイント)でデータが保持されていたことが分かった。Notionは今後、推論の委託先やデータ処理業者といった重要な取引先を監査し、データを残さない取り決めを守っているか確かめるとしている。
Fireworksは10月10日の最初の発表で「当社の基盤はZDRで、既定ではプロンプトや出力を保存しない」と説明していた。11月9日の更新でも、推論サービスなど既定でZDRの製品には影響を確認していないとしている。Fireworksの発表は、Notionの名前や、Notionのデータが残っていた理由には触れていない。
Fireworksは侵入2件と発表、背後に「LLMジャッキング」
Fireworksは11月17日の更新で、一連の不正アクセスは別々の2件だったと発表した。
1件目は8月3日から10月7日まで。侵入者は盗んだFireworksの認証情報と同社のサービスの一つにあった脆弱性を使って基盤を不正に使い、一部の顧客について、秘密情報(シークレット)、モデルのファイル、データセットにアクセスした。米パロアルトネットワークスの調査部門「Unit 42」が調査を終え、封じ込めと対処を済ませたという。
2件目は10月23日から30日まで。Fireworksの開発用マシンを置いていた外部のクラウド事業者がセキュリティー事故に遭い、侵入者はそこから開発用マシンに入り、本番システムの一部にまで達した。10月30日より前に作られた全アカウントのアカウント情報と請求情報が取得され、一部の顧客ではデータセットやモデル、秘密情報も取得された。請求情報は請求先・送付先の住所や請求・支払いの履歴、残高などで、Fireworksはカード番号を保存していないとしている。
11月9日の更新では、証拠から金銭目的の犯罪集団との関連がうかがえるとした。大規模言語モデル(LLM)を不正に使える権利を盗み、違法な中継サービスに売る手口で、「LLMジャッキング」と呼ばれる。Fireworksは法執行機関に通報したほか、データセットを使う一括処理や学習でのデータの自主アップロード・ダウンロードを止めた。
Fireworksは、AIモデルを動かす基盤を企業や開発者に貸す会社だ。Notionは同社を「数万社の顧客を支え、数十万人の開発者に利用されている」と紹介している。生成AIを製品に組み込む企業の多くは、こうした外部の基盤にモデルの処理を任せている。今回は、利用者が直接契約していない委託先が侵入され、そこに残っていた記録が取得された。11月21日に本紙が報じたエポスカード会員約850万件の情報漏えい KARTE不正アクセスで、年収も約6万件も、委託先のサービスへの不正アクセスで情報が漏れた例だ。
連絡を受けた利用者は記録を確かめて認証情報の変更を
Notionは、影響のある利用者にはすでに連絡しており、本人にもワークスペースのオーナーにも連絡がなければ、影響は確認されておらず現時点で対応は要らないとしている。調査は続いており、新たに影響が分かれば連絡するという。
連絡を受けた利用者は、ワークスペースのサイドバーで「?」から「セキュリティインシデントレビュー」に進むと、対象のデータを表計算形式のファイル(CSV)で取り出せる。Notionは、データは流出したものとして扱うよう勧め、急ぐ順に次の対応を挙げている。
- データの中にパスワード、APIキー、トークンなどの認証情報があれば、すぐに変更し、それで入れる範囲を確かめる。管理者権限や本番環境に入れるものから先に対応する
- チャットに含まれる名前やメールアドレスが、標的を絞ったフィッシング詐欺に使われるおそれがある。本件に触れたり認証情報を求めたりする不審なメッセージに注意する
- 影響を受けたサービスの監査ログやアクセスログを確かめ、流出した認証情報を使おうとする試みがないか監視する
- 今後はチャットや文書に機密情報を書かず、認証情報は専用の管理ツールに保存して定期的に更新する
検証済みのドメインを持つ企業向けのワークスペースでは、オーナーが全体のデータを、認証情報や個人情報らしき箇所に印を付けた形で取り出せる。オーナーは、取り出し用のファイルへのアクセスを全員分まとめて削除することもできる。この操作でデータそのものやチャット履歴は消えない。
Notionはセキュリティ情報で「自社システムの侵害ではない」としたうえで、「二度と起こらないようにすることが使命だ」と記している。
