この記事でわかること
- Notion AIのどんな記録が、どこから流出した可能性があるのか
- 自分のワークスペースが対象かどうかの見分け方
- 通知を受けた場合に作り直したいパスワードやAPIキー
Notion AIのチャット記録の一部が、委託先から流出した可能性
Notionは11月9日付のセキュリティ告知（11月10日更新）で、AI処理を委託していたFireworks AIへの不正アクセスにより、Notion AIのチャット記録の一部が第三者に取得された可能性があると明らかにしました（Notionのセキュリティ告知（英語））。影響を受けた可能性があるのは、全ワークスペースの1％未満です。
侵入されたのはFireworks AI側の環境で、Notion自体のシステムではありません。ほかのNotionの機能にも影響はないとしています。
対象かどうかは、個人ではなくワークスペース単位で決まります。Notionは影響を特定したワークスペースの顧客に個別に連絡しており、使っているワークスペースに連絡が来ていなければ、今の時点で対応は不要とされています。
対象は「Insights」の分類処理に使われたチャット
NotionはFireworks AIを2つの用途で使っていました。ひとつは「Insights」機能のためのチャットの分類処理です。Insightsは、ワークスペースでNotion AIがどう使われているかを顧客自身が把握するための機能。もうひとつは、Notion AIでオープンウェイトのAIモデルを動かすための推論処理です。
流出した可能性があるのは、Insightsの処理に使われたチャット記録です。影響を受けたワークスペースの大半では、記録に書いた人やワークスペースを示すラベルが付いておらず、Notion AIが作業中にツールを呼び出して得た結果も含まれていませんでした。チャットの文面以外に、利用者や会社までたどれる情報はないとNotionは説明しています。
裏を返せば、文面そのものは残っていたということ。質問にパスワードやAPIキー、取引先の情報などを貼り付けていれば、その部分は第三者の目に触れた可能性があります。Notionが対象の顧客に認証情報の変更を勧めているのは、このためです。
当初は「テスト用データだけ」、その後に顧客のチャットが見つかる
Notionは最初、顧客データは含まれていないと判断していました。告知に書かれた経緯は次のとおりです。
| 日付 | Notionの告知に書かれた出来事 |
|---|---|
| 11月2日夜 | Fireworks AIから、少量のデータに不正アクセスがあったと連絡。中身はNotion AIのテスト用に作った合成データで、顧客データは含まれていないと判断 |
| 11月3日朝まで | 念のためFireworks AIとの接続を切り、同社システム上のデータをすべて削除。通信も止めた |
| 11月6日 | Fireworks AIから、顧客データにアクセスされた可能性があると新たに連絡 |
| 11月8日 | Fireworks AIが、影響を受けたデータセットを最終的に確定 |
| 11月9日 | Notionが、影響を受けた顧客に連絡 |
このデータセットを分析した結果、Insightsに使われたチャット記録が含まれていることがわかりました。Insights機能は調査のあいだ停止され、オープンウェイトモデルの提供にもFireworks AIは使われていません。
Fireworks AIも11月9日に自社の告知を更新しています（Fireworks AIの告知（英語））。同社によると、研究開発用のマシンを置いていた外部のクラウド事業者が10月23日にセキュリティ侵害を受け、翌24日に攻撃者がそこを足がかりにFireworks AIの開発用マシンへ入り込みました。アカウントや請求の情報に加え、一部の顧客では保管していた秘密情報やデータセット、学習途中のモデルも影響を受けたとしています。推論（Inference）など、既定でデータを保存しないサービスには、これまでの調査で影響は見つかっていないとのこと。調査はまだ続いています。
通知がなければ今は対応不要、仕事用のワークスペースは管理者にも確認を
連絡がない場合の「対応不要」は、あくまで現時点の判断です。調査は続いていて、あとから影響が判明すればNotionが直接連絡するとしています。
会社や学校のワークスペースを使っている場合、連絡は契約者や管理者の側に届いている可能性があります。自分に通知が届いていなくても、所属先のワークスペースが対象になっていないか、管理者に確かめてください。
通知を受けたら、AIに貼った認証情報を作り直す
Notionが対象の顧客に勧めているのは、次の対応です。
- 影響を受けたデータをワークスペース内で取り出して確認する（手順は通知メールに記載）
- そのデータは外部に漏れたものとして扱う
- 対象期間中にパスワード、APIキー、そのほかの認証情報や機密情報をNotion AIに貼り付けていたら、それらを変更する
告知ページには具体的な対象期間が書かれていません。どの時期のチャットが対象かは、通知メールの内容で確かめることになります。
APIキーは、発行元のサービスで新しいキーを作り、古いキーを無効にして初めて意味があります。Notion AIのチャットを削除しても、すでに外に出た可能性のある値はそのまま使えてしまいます。
Notion AIに入力した内容は、Notionの外にある委託先でも処理されます。Notionのヘルプによると、Notion AIは複数のAIモデルを組み合わせて動いていて、その一部はモデルの開発元ではなく、推論を受け持つ別の事業者を通じて提供されています。顧客データにアクセスする委託先の一覧も公開されています（Notion AIのセキュリティとプライバシー対策）。通知が来ていない人も含めて、パスワードやAPIキーはAIのチャット欄に貼らない。今回の件でいちばん効いてくるのは、この基本です。
Notionは、新しい情報がわかり次第、告知ページを更新するとしています。
