従業員が未承認のAIツールを使うと、把握も保護も停止もできないアカウントが作られ、そのそれぞれに自社のビジネスデータが詰まったチャット履歴が残ります。
SOCRadar(新しいウィンドウ)が発表した新しい調査によると、世界で80,000を超える組織で、従業員のAIログインがインフォスティーラーのログに現れていたことが分かりました。インフォスティーラーは、感染したデバイスからパスワード、セッションcookie、金融情報や個人情報、チャットログを収集し、攻撃者に送信するマルウェアの一種です。こうしたデータがあると、フィッシングやランサムウェア攻撃の効果は格段に高まります。
この調査によると、これらのログは、2022年からTelegramで販売されている有名なインフォスティーラーマルウェアによって収集されたものです。このマルウェアは何年も前から販売されているため、何人の犯罪者が利用し、どのように人々のデバイスに感染させたのかは分かりません。分かっているのは、企業のアクセス権を持つデバイスを標的にし、Claudeのセッションを乗っ取っていたということです。ビジネスユーザーは、サイバー犯罪者がアクセスを獲得した後、有料の利用枠が一晩で使い果たされたことに気づきました。
SOCRadarの調査は、AIセッションの認証情報が攻撃者にとって極めて価値の高いものであることを示しています。報告書が述べているように、1つのAIログインで「検索可能なアーカイブ、実行エンジン、課金対象のリソース、そしてユーザー情報」が解錠され、盗まれたセッションはパスワードの入力を求めることなくそのすべてを引き渡してしまいます。犯罪者にとって、これは金鉱です。
現在AIを導入している企業にとって気がかりなのは、こうした認証情報が漏洩している原因が、AIプラットフォーム自体のセキュリティにあるわけではないという点です。原因は、より目立たない2つの要因にあります。AIツールを使う従業員の数そのものと、そうした利用のうちIT部門の管理外で行われる割合が増えていることです。
調査で明らかになったこと
全体として、この報告書は、AIサービスの認証情報がインフォスティーラーのログにかなりの数で現れていることを指摘しています。主なポイントは次のとおりです。
- AIサービスに関連する100万件を超える記録が、80,000の固有の企業ドメインにまたがって確認されました。
- そのうち、482の組織を抽出して確認したところ、大半が北米の大企業であることが判明し、その68%が売上10億ドル規模の組織です。
- テクノロジー企業が最大のグループで、144社、記録全体の40%を占めています。
- これら482の組織は、1,500の企業メールアドレスに紐づく5,434件のログ記録を占めています。
- 露出は最近のものです。482の組織のうち295では、過去90日以内にインフォスティーラーのログ記録が確認されています。
- ChatGPTは482の組織のうち358のログに現れ、記録の約90%を占めています。続いてZapier、Notion、Hugging Face、Replit、Lovable、ElevenLabsが挙げられます。
この最後の数字からは、当然の疑問が浮かびます。なぜChatGPTなのでしょうか。SOCRadarの説明は、ツールそのものよりも、従業員がどのように使っているかにかかわっています。
シャドーAIがリスクを生み出す
シャドーAIとは、従業員が会社の承認や把握なしに使用するAIツールのことです。企業アカウントに制限がある場合や、手持ちのツールが業務に十分対応できない場合に、従業員はシャドーAIを業務ネットワークに持ち込みます。
SOCRadarの研究者は次のようにコメントしています。
「ChatGPTのほぼ圧倒的な優位性は、シャドーAIのシグナルとして受け止めています。特定のベンダーのセキュリティに対する評価ではありません。ChatGPTは先行者優位により、企業ユーザーが桁違いに多いと考えられます。その多くは、ポリシーの範囲外で、個人のデバイスから仕事用メールアドレスを使ってサインアップしています。インフォスティーラーが狙うのは、まさにこうした層です。ClaudeやGeminiがほとんど現れないのは、まだ静かにアカウントを作成した従業員がはるかに少ないためであり、認証情報を盗むのが安全だからではありません。他のアシスタントの企業導入が追いついてくれば、このチャートは均されるはずです。」
つまり、インフォスティーラーのログでChatGPTが目立つのは、同ツールのセキュリティが原因ではありません。ChatGPTが首位なのは、企業ユーザーが最も多く、その多くが会社のポリシー外で利用しているからです。
従業員は、最速・最容易な選択肢を妨げる厳しいITポリシーを回避しようとするかもしれませんが、どのようなポリシーや制限があるのかを本当に知らないこともあります。企業は、存在を把握していないアカウントや、企業アカウント外で行われたクエリを保護することはできません。
意図にかかわらず、従業員がAIの私用と業務利用を混在させると、会社のデータ利用ポリシーに違反し、代わりにOpenAIの消費者向け規約が適用されることになります。
OpenAIは、ビジネスデータでトレーニングを行っていないと述べています。しかし、従業員がビジネスの利用規定を外れて操作したり、業務目的で個人アカウントを使用したりすると、そのデータの管理を失うことになります。機密性の高いビジネスデータや個人を特定できる情報（PII）を含むチャットアーカイブは収集され、ログに記録され、OpenAIのモデルのトレーニングに利用される可能性があります。
OpenAIは、第三者と、あるいはアプリ連携を通じてビジネスデータを共有する可能性があります。2025年には、ハッカーがOpenAIの取引先に侵入し、氏名、メール、所在地、システムの詳細など、法人顧客のデータを窃取しました。また、米国企業であるため、米国愛国者法やFISAに基づき、通知することなく米国政府とデータを共有するよう強制されることもあります。
シャドーAIから自社を守る方法
シャドーAIは、従業員が許可されたツール、あるいは十分に使えるツールを持っていないときに発生します。そこで、まず取り組むべきは、そうしたツールを提供することです。
LumoはProtonが開発したサービスで、個人アカウントに代わる公認の選択肢をチームに提供し、ビジネスデータをプライベートに保ちます。ログを保持せず、業務上または個人の会話でトレーニングを行うこともありません。保存されたチャット履歴はすべてゼロアクセス暗号化で保護されているため、誰も、Protonでさえも読むことはできません。
暗号化は保管済みのデータを保護しますが、攻撃者がすでに従業員のデバイス上にいる場合には役に立ちません。この隙間を埋めるには、次の手順を実行してください。
- 把握していないアカウントを見つける。 自社のドメインがすでにスティーラーログに現れていないか確認し、各チームが実際に使っているAIツールを尋ねてください。
- スティーラーログでの検出をエンドポイントインシデントとして扱う。 従業員の認証情報がログに現れた場合、そのデバイスは感染しています。パスワードをリセットするだけでは、攻撃者が盗んだセッションは有効なままなので、アクティブなセッションを失効させ、端末をクリーンアップまたは交換してください。
- 公認のAIツールはすべて、短寿命のセッションを用いてSSOの配下に置く。 数時間で有効期限切れになる盗まれたcookieは、数週間持続するものよりはるかに価値が低いです。
- APIキーを厳格に管理する。 必要な範囲だけに権限を絞り、定期的にローテーションし、メモアプリや共有ドキュメントには保存しないでください。
- 管理外のデバイスで業務を行わない。 従業員が個人のデバイスでAIを使う必要がある場合は、監視・失効できる会社のアカウントを通じてサインインするよう義務付けてください。
- ダークウェブモニタリングをセットアップする。 従業員の認証情報が漏洩に現れると通知されるため、攻撃者より先に対応できます。
従業員はいずれにせよAIを使います。ログを保持せず、データでトレーニングを行うこともなく、保存されたすべてのチャットをProtonでさえ開けない暗号化で保護する、ChatGPTの代替ツールを提供しましょう。
