AIツールは現在、日常の業務の一部となり、会議メモの要約、メールの下書き、コードのデバッグ、スプレッドシートの分析、ドキュメントのプレゼンテーション化などを支援しています。しかし、承認や監視なしに使用されると、深刻なAIプライバシー上の懸念が生じ、機密性の高いビジネス情報が漏洩したり、ITチームが社内データの流出先を把握できなくなったりするリスクがあります。

本ガイドでは、シャドーAIとは何か、組織内でどのように広がるか、そしてそれがもたらす深刻なリスクについて解説します。チームのスピードを落とすことなく、未承認のツールを特定し、ビジネスデータを保護するための実践的なセーフガードを適用する方法を表示・ご紹介します。

シャドーAIとは？

シャドーAIとは、企業の承認されたシステムやポリシーの範囲外で業務のために人工知能を使用することを指します。これには、未承認のツール、会社の業務で使用される個人アカウント、または組織が許可していないデータや業務に対する承認済みAIサービスの使用が含まれます。

シャドーAIは多くの場合、厳しい締め切り、より迅速または優れた作業方法を見つける必要性、あるいは業務を十分にこなせないツールなど、日常の職場におけるプレッシャーから始まります。承認されたAIツールが用意されている場合であっても、他の選択肢に慣れているという理由で別のツールが使用されることもあります。

シャドーAIとシャドーITの違い

シャドーITとは、組織の承認や監視なしに使用されるソフトウェアやハードウェア全般を指す広義の用語です。一般的な例として、業務に使用される個人的なクラウドストレージ、未承認のメッセージングアプリ、未承認のプロジェクト管理プラットフォームなどが挙げられます。

シャドーAIは、AIシステムやAI搭載機能に関連するシャドーITの特定の形態です。企業の情​​報が外部システムに送信されたり、組織の管理外で不慣れな方法で処理されたりする可能性があるため、AIはデータガバナンスにおけるさらなる課題をもたらします。

シャドーAIはなぜ発生するのか？

シャドーAIの発生プロセスを表示するフロー図

従業員はわずか数秒で、大量の社内情報をAIのチャットウィンドウに入力できます。AIの設定によっては、ツールが入力を保持したり、他の第三者（OpenAIのデータ侵害事例のようにデータブローカーや分析ベンダーなど）と共有したり、ターゲティング広告やモデル開発に使用したりする可能性があります。

シャドーAIは通常、組織におけるいくつかの共通したギャップが原因で広がります。

承認された代替手段がない

企業が承認された選択肢を提供していない場合、従業員はシャドーAIツールを使用する傾向が高まります。2,000人の従業員を対象としたBlackFogの調査(新しいウィンドウ)では、従業員の49%が雇用主の承認なしにAIツールを導入しており、63%が会社承認の選択肢がない場合にAIを使用することは容認できると考え、51%がIT部門の知らぬ間にAIツールを業務システムに接続したことがあると回答しました。

不明確なポリシー

従業員は、どのツール、タスク、情報タイプが許可されているか不確かである場合があります。会社のガイドラインでは、極めて機密性の高いデータは明確に制限している一方で、社内会議のメモ、メールの下書き、スプレッドシート、ソースコード、顧客との会話についてはほとんど触れられていないことがあります。

241人のIT専門家を対象としたIT Brewの調査(新しいウィンドウ)では、従業員が会社のAI使用およびデータセキュリティポリシーを理解していると自信を持っている割合はわずか、または全くないのが35%であり、「非常に自信がある」と回答したのは12%のみでした。また、人事担当者・雇用主505人を対象としたWorkNestの別の調査(新しいウィンドウ)では、54%の組織がAIポリシーをまったく持っておらず、24%が現在策定中であり、明確でドキュメント化されたルールを持っているのはわずか13%であることが判明しました。

承認プロセスの遅さ

締め切りを守るためのプレッシャーにより、長期にわたるセキュリティや調達の審査が非現実的に感じられることがあります。従業員が無料ツールに即座にアクセスできる環境では、内部プロセスの遅さが非公式な回避策を発生させやすくします。

承認済みソフトウェア内の新しいAI機能

セキュリティ審査に合格済みのアプリに対してベンダーが生成AI機能を追加することがあり、新しい機能が会社のデータをどのように処理、保存、共有するかを誰も評価していないにもかかわらず、そのソフトウェアは承認リストに残ったままになります。従業員はポリシー違反をしていませんが、結果は他の原因と同じです。つまり、実際には誰も検証していないチャンネルを通じて社内データが移動していることになります。

データ取り扱いに対する意識の不足

従業員は、ChatGPTやGeminiのようなAIプロバイダーがプロンプトをどのように保持し、アップロードされたファイルをどのように処理し、サービス向上のために会話をどのように利用し、あるいは他プロバイダーとデータを共有しているかを理解していない場合があります。ブラウザのタブを閉じれば入力が消失すると思い込んでいるかもしれませんが、実際にはアカウント履歴、ログ、バックアップ、または接続されたシステムにコピーが残っていることがあります。

Kolideのレポート(新しいウィンドウ)によると、従業員の89%が毎月AIを使用している一方で、スタッフに対してAIのセキュリティリスクを説明している企業はわずか56%にとどまっています。

シャドーAIの事例

チームシャドーAIの例
漏洩する可能性がある情報		潜在的な影響
ソフトウェア開発デバッグのために社内コードを公開チャットボットに貼り付けるソースコード、認証情報、システムアーキテクチャ、未公開機能独自のコードや機密情報が社内システム外に保持されるリスクがある
製品要約のためにロードマップをアップロードするリリース日、製品戦略、価格設定、パートナー情報機密性の高いビジネスプランがサードパーティのサーバー上で未管理のまま置かれる可能性がある
マーケティングおよびデザインキャンペーンプランをAIライティングまたはデザインツールに入力する未発表の製品、顧客調査、ブランドアセット、ターゲットオーディエンスデータ機密性の高いキャンペーン情報が法務やセキュリティの審査なしに処理される可能性がある
データ分析顧客データセットを外部分析ツールにアップロードする個人データ、商業的に機密性の高い記録、機密のインサイト保護対象または規制対象の情報が未承認のサードパーティに開示される可能性がある
人事応募アプリの評価や面接の要約にAIツールを使用する候補者データ、雇用情報、評価基準人事データの漏洩がGDPRやCCPAに違反する可能性がある
営業分析のために通話文字起こしやアカウントノートをアップロードする顧客のユーザー情報、契約の詳細、価格設定、営業戦略顧客データの漏洩がGDPRやCCPAに違反する可能性がある
カスタマーサポートサポートチケットを公開チャットボットに貼り付ける顧客名、アカウントの詳細、苦情、やり取りの履歴保持されたサポート記録がGDPRやCCPAに違反する可能性がある
財務社内スプレッドシートの分析をAIアシスタントに依頼する予算、予測、給与情報、取引記録財務データが適切なセーフガードなしに処理される可能性がある
リーガル要約のために契約書や案件ファイルをアップロードする秘匿特権のある助言、契約条件、クライアント情報クライアントデータの誤用がGDPRやCCPAに違反し、秘匿特権に影響を与える可能性がある
経営陣・リーダーシップ取締役会文書や戦略プランのレビューにAIサービスを使用する買収プラン、社内目標、役員協議事項極めて機密性の高い企業情報が漏洩する可能性がある

AIは自動的にお客様のデータで学習を行うのか？

大規模言語モデル（LLM）は、すべてのプロンプトに対してリアルタイムで自動的に再学習を行うわけではないため、会話が不可避的にAIモデルの一部となったり、他のユーザーの回答に表示されたりすることはありません。ただし、リスクのレベルは、プロバイダー、アカウントの種類、プライバシー設定、契約内容、およびサービスの構成方法によって異なります。

AIプロバイダーは、プロンプトやアップロードされたファイルを保持し、人間のレビュー対象としたり、サービスの向上に使用したり、インフラおよびモデルプロバイダーと共有したりする場合があります。

モデルの学習が無効になっている場合であっても、情報はアカウント履歴、運用ログ、不正利用監視システム、バックアップ、ブラウザ記録、接続されたサービス、またはサードパーティ連携の中に残る可能性があります。コンテンツがすでにモデルの学習に使用されている場合、このオプションをオフにしても、モデルが過去の会話を忘れるわけではありません。

シャドーAIのリスクとは？

シャドーAIのリスクを説明するチャート

AIは意思決定に影響を与えたり、顧客向け資料を生成したり、コードを記述したり、個人データを分析したりすることができ、これらはすべてツール自体のセキュリティにとどまらないリスクを生み出します：

データ侵害

IBMの2025年データ侵害の費用に関する調査レポート(新しいウィンドウ)によると、五分の一の組織がシャドーAIに関連するデータ侵害を経験しているものの、それを管理または検出するためのポリシーを定めていた組織はわずか37%にとどまりました。

シャドーAIの利用レベルが高い組織は、シャドーAIがほとんどないか全くない組織と比較して、平均670,000ドル高いデータ侵害費用に直面しました。さらに、シャドーAIが関与するインシデントでは、世界平均よりも高い頻度で個人情報や知的財産が漏洩しました。

機密情報の漏洩

従業員は、AIプロバイダーが入力を保持していることを知らずに、社内文書、ソースコード、財務情報、契約書、顧客記録、製品プラン、営業秘密を共有してしまうことがあります。情報がモデルの学習から除外されている場合でも、アカウント侵害、セキュリティ侵害、プロバイダーによるアクセス、不安全な連携、あるいは法的要請にさらされるリスクが残ります。

例えば、サムスンは2023年五月にChatGPTの使用を全社的に禁止(新しいウィンドウ)しました。これは、半導体のソースコード、欠陥検出アルゴリズム、社内会議の文字起こしなど、従業員が20日間に三回も機密情報を貼り付けたことが原因でした。

知的財産の喪失

独自のノウハウやナレッジは、企業の最も貴重な資産であることがよくあります。コード、調査結果、製品デザイン、プロセス、戦略文書を外部のAIサービスにアップロードすることは、秘密保持契約に抵触したり、企業がその情報を管理する能力を低下させたりする可能性があります。また、従業員がソースの起源、ライセンス制限、またはサードパーティの素材との類似性を理解せずに、AI生成コンテンツを使用してしまうこともあります。

プライバシーおよび規制上の違反

個人データは、AIツールを通じて処理される場合であっても、データプライバシー法の対象であり続けます。関連する法務チームが処理が行われていることを把握できないため、シャドーAIはプライバシーセーフガードを回避してしまう可能性があります。英国情報コミッショナーオフィスは、AIシステムが既存のセキュリティリスクを増幅させる可能性(新しいウィンドウ)があると警告しています。深刻なGDPR違反には、最高2000万ユーロまたは組織の前年度の全世界年間売上高の4%のいずれか高い方の罰金が科される可能性があります。

不安全な連携と過剰なアクセス権限

AIツールは、メール、クラウドストレージ、カレンダー、コードリポジトリ、顧客データベース、コラボレーションプラットフォームに接続する場合があります。広範な権限設定、セキュリティが不十分なAPI、アクセストークンの漏洩、悪意のあるブラウザ拡張機能、侵害されたサードパーティサービスにより、単一のプロンプトに入力された情報を超えて社内システムやデータが漏洩するリスクがあります。

Salesloft Driftのデータ侵害では、攻撃者がAI営業アシスタント連携であるDriftからOAuthトークンを盗み出し、それを使って700以上の組織のSalesforceインスタンスからビジネス連絡先、APIキー、サポート案件に埋め込まれたクラウド認証情報などのデータを引き出しました。

プロンプトインジェクション攻撃

この脆弱性は、承認の有無に関わらず、接続されたあらゆるAIシステムに存在します。攻撃者は処理対象の文書、ウェブページ、メール、その他のコンテンツに隠された指示を通じてAIシステムを操作し、情報を漏洩させたり、本来の指示を無視させたり、意図しないアクションを実行させたりすることができます。

未承認のツールやAIエージェントは、プロンプトインジェクションの評価を受けていなかったり、必要なアクセス権限のみに制限されていなかったりするため、シャドーAIはリスクを高めます。攻撃が成功した場合、セキュリティチームは何が起こったのか、あるいはどのように封じ込めるかをほとんど把握できない可能性があります。特にAIエージェントが機密データにアクセスできたり、人間のレビューなしにアクションを実行できたりする場合、影響は極めて深刻になります。

責任の欠如

シャドーAIのアクティビティには、中央監査トレイルが残らないことがよくあります。セキュリティチームは、どの情報が送信されたか、どのモデルがそれを処理したか、どのような出力が生成されたか、あるいはその結果が意思決定にどのように影響したかを特定できない場合があります。そうした記録がない場合、エラー、苦情、データ侵害、または規制上の問題についての調査が大幅に困難になります。

予期せぬコストとサプライヤーへの依存

個別のサブスクリプションやAPIアカウントにより、部門間で重複した支出が発生する可能性があります。また、実験的なツールが、調達チームによる価格設定、信頼性、長期的な利用可能性の評価を受ける前に、重要なワークフローに埋め込まれてしまうこともあります。サービスレベル合意、継続性プラン、あるいはワークフローを他へ移行する実用的な方法がないまま、無料サービスが業務上不可欠な存在になってしまうケースがあります。

シャドーAIを検出する方法

従業員が個人アカウント、ブラウザ拡張機能、埋め込みAI機能、AIブラウザ、あるいは通常のウェブトラフィックに紛れ込むツールを使用する可能性があるため、シャドーAIの検出は困難です。そのため組織には、どのサービスが利用されており、社内データがそれらを通じてどのように移動しているかを可視化することが求められます。

監視は適切かつ従業員のプライバシーを尊重したものでなければなりません。すべてのプロンプトや会話の内容を日常的に点検するのではなく、リスクのあるツールやデータフローを特定することを目標とすべきです。

シャドーAIの検出方法を説明するチャート

組織内でシャドーAIを特定するためのヒントをいくつかご紹介します：

AI利用のインベントリを作成する

現在どのAIツールを使用しているか、それらをどのようなタスクに使用しているか、そして承認済みの代替ツールの使用を妨げている要因は何かをチームに確認します。簡単なアンケート、部門責任者へのヒアリング、および自主申告期間を設けることで、技術的な管理では見落とされがちな使用状況を明らかにできます。早期の実験的な試みを処罰するのではなく、ニーズを理解することを目的とすれば、従業員もより正直になりやすくなります。

ネットワークおよびアプリのアクティビティをレビューする

セキュリティチームは、ネットワークログ、ソフトウェアインベントリ、クラウドアクセスセキュリティツールを使用して、既知のAIサービスへの接続を特定できます。監視を行うことで、すべての会話内容をキャプチャすることなく、アクセスされているサービスや転送されているデータ量を表示・確認できます。

ブラウザ拡張機能とプラグインを監査する

ブラウザ拡張機能により、ほぼすべてのワークフローにAIライティング、要約、翻訳、会議、コーディング機能を追加できます。インストールされている拡張機能、リクエストされる権限、およびウェブページの内容、メール、ドキュメント、ログイン情報を既読・読み取り可能かどうかをレビューします。

経費および調達記録を確認する

従業員の経費精算、法人カードの利用明細、調達記録から、セキュリティレビューを通過していない有料のAIサブスクリプションが見つかる場合があります。異なるチームからの重複した支払いを調べることで、重複しているツールや非公式のアカウントを発見することもできます。

未管理のAPIキーおよび連携を検索する

外部AIプロバイダーへの接続について、コードリポジトリ、シークレットマネージャー、クラウド環境、請求ダッシュボード、自動化プラットフォームをレビューします。未管理のAPIキーや不審な利用料金は、正式に承認されていないプロトタイプ、連携機能、または社内ツールが存在することを示している可能性があります。

データ漏洩防止コントロールを活用する

データ漏洩防止ツールにより、個人記録、認証情報、財務データ、ソースコードなどの機密情報カテゴリをアップロードしようとする試みを特定できます。管理策は適正なものであり、明確に周知される必要があります。従業員は、何が監視されているのか、なぜそれが必要なのか、承認されたシステムを通じて正当な業務を完了する方法を理解する必要があります。

従業員を排除するのではなく、従業員と協力する

技術的な監視だけでは、シャドーAIのすべてのケースを明らかにすることはできません。従業員は個人アカウント、モバイルデバイス、または通常のウェブトラフィックとして表示されるツールを使用する可能性があります。チームと定期的に話し合うことで、既存のワークフローのどこで摩擦が生じているか、なぜ従業員が外部ツールを求めるのかを特定できます。

シャドーAIのリスクを軽減する方法

シャドーAIのリスクを軽減する方法を説明するチャート

シャドーAIのリスクを軽減するには、実用的な代替手段、明確なポリシー、適切なアクセス制御、従業員研修、そして継続的な見直しが必要です。効果的なセーフガードは、社内データを承認済みシステム内に維持しながら、正当なAI利用をサポートするものであるべきです。

承認されたAIツールを従業員に提供する

実用的なニーズを満たすビジネス向けAIアシスタントを提供することで、従業員が代替手段を検索する可能性は低くなります。承認されるツールはすべて、強力なプライバシー保護、明確なデータ取り扱い条件、適切なビジネス管理機能、および一般的なタスクをサポートするのに十分な能力を備えている必要があります。

一律の禁止を避ける

完全な禁止は、特に従業員がすでにそれらのツールに依存している場合、AIの利用をさらに地下化（陰湿化）させる可能性があります。個人アカウント、モバイルデバイス、ブラウザ拡張機能、あるいは組織が特定するのがより困難な信頼性の低いAIサービスへと移行する人も出てくるでしょう。

AI利用許諾ポリシーを作成する

実際のワークフローに基づいた例を使用します。「機密情報を共有しないでください」という表現は、解釈の余地が大きすぎます。より明確なポリシーでは、カスタマーサポートのエクスポートデータ、ソースコード、契約書、認証情報、未発表の決算結果、識別可能な従業員記録などを未承認のサービスに絶対アップロードしないよう従業員に伝えることができます。

AIルールの設定前にデータを分類する

どの情報カテゴリが公開、社内用、機密、規制対象、または極めて制限されているかを特定します。各カテゴリを許可されたAI利用法に接続・関連付けます。公開用のマーケティング原稿はより幅広いツールに適している場合がありますが、個人データ、認証情報、営業秘密、法的な秘匿特権資料には厳格に管理されたシステムが必要であるか、または全面的に除外される必要があります。

承認済みソフトウェアの新しいAI機能を定期的にレビューする

アプリにAIアシスタント、自動文字起こし、コンテンツ生成、または予測分析機能が追加された後、データの処理方法が変わる場合があります。定期的なベンダーレビューを実施することで、これらの変更を特定し、以前に承認されたツールが組織のセキュリティ、プライバシー、およびコンプライアンスの要件を引き続き満たしていることを確認できます。

アクセス権限を制限する

承認されたタスクに必要なデータやシステムへのアクセスのみをAIツールに付与します。可能であれば、会社管理のアカウント、シングルサインオン (SSO)、二要素認証 (2FA)、役割ベースのアクセス許可、および一元的なアカウント削除を利用します。より狭い情報ソースで機能する場合は、ビジネス向けAIアシスタントをドライブ全体、受信トレイ、または顧客データベースに接続することは避けてください。

役割およびユースケースごとにルールを設定する

チームによってニーズやリスクのレベルは異なります。開発者はテストやプロトタイピングのためにAPIアクセスを必要とする場合があります。マーケティングチームはテキストや画像の生成を必要とする場合があります。法務チームや人事チームは、より厳格な制限を必要とする情報を扱う場合があります。役割ベースのルールを設定することで、機密データやハイリスク機能へのアクセスを制限しつつ、ポリシーを現実的なものに維持できます。

従業員をトレーニングする

従業員は、使用するシステムの利点と限界の両方を理解するために、十分なAIリテラシーを身につける必要があります。トレーニングには、AIプライバシー、機密保持、ハルシネーション、バイアス、知的財産、プロンプトインジェクション、人間のレビュー、インシデント報告などを盛り込むべきです。適切なトレーニングレベルは、スタッフの知識、経験、およびAIが使用される文脈によって異なります。

シンプルで分かりやすい承認プロセスを作成する

機能的なプロセスとしては、ツール名、目的とするタスク、関連するデータ、必要な連携機能、および期待されるビジネス上のメリットを収集することが挙げられます。これによりセキュリティチームや法務チームは、実際のリスクに基づいて承認、制限、テスト、サンドボックス化、または却下を行うことができます。調達プロセスが長すぎると、従業員が独自の回避策を探す原因となります。合理的な審査目標を設定し、判断を下すためにどのような情報が必要かを説明してください。

出力に対する責任を人間に持たせる

AIを活用した業務には人間の責任者を配置する必要があります。出力が顧客、従業員、財務、法的決定、プロダクションコード、公開情報、またはその他の影響の大きい領域に影響を与える前に、必ずレビューを実施してください。AIツールを使用する者は誰であれ、その正確性、適切性、機密性、および社内ポリシーへの準拠を確認する責任を負い続けます。

AIを活用した重要な決定をドキュメント化する

顧客、従業員、財務、法的事項、その他影響の大きい領域に影響を与える決定にAIが寄与した場合は、明確な記録を保持してください。信頼性の高い監査トレイルは責任追及の体制をサポートし、組織がエラーを調査し、結果を説明し、苦情や規制上の問い合わせに対応するのに役立ちます。

機密データがすでに共有されてしまった場合の対処法

AIツールへの誤った情報開示は、他の潜在的なデータインシデントと同様に取り扱ってください。以下の手順に沿って迅速に対応します。

共有された内容を特定する: 入力またはアップロードされた情報、使用されたツールとアカウント、開示が発生した日時、およびデータにアクセスできた可能性のある人物を確認します。

可能な限り情報を削除する: 会話やアップロードされたファイルをツールから削除します。正式な削除要請を送信できるかどうか、プロバイダーの利用規約やサポートオプションを確認してください。

プロバイダーが保持する可能性がある内容を確認する: チャットを画面上から削除しても、すべてのコピーが消去されるとは限りません。運用ログ、バックアップ、人間のレビュー、モデルの学習、削除のタイムフレームに関するプロバイダーの説明を確認してドキュメント化し、データが残っている可能性があるかどうかを判断してください。

影響を受けるシステムを保護する: AIツールや接続されたプラグインに付与されたアクセス権限を失効させます。プロンプトや添付ファイルに含まれていたパスワード、APIキー、アクセストークン、その他の認証情報を更新してください。

関連チームに通知する: インシデントを組織のセキュリティ、プライバシー、法務、またはデータ保護チームに報告します。チームは契約上の義務、規制要件、および影響を受ける顧客やパートナーに通知する必要があるかどうかを評価できます。

インシデントから学ぶ: 起こった事象を記録し、トレーニング、管理体制、承認された代替手段の向上に活用します。不処罰の原則を守り、悪意のない過失を報告した従業員を処罰することは避けてください。罰則的な対応は、他の従業員が将来のインシデントを報告するのを躊躇させる原因となります。

チーム向けプライベートAIアシスタント

Lumo for Businessは、ドキュメントの要約、データの分析、コードのレビュー、コンテンツの下書き、アイデアの探求のための信頼できるAIアシスタントをチームに提供すると同時に、貴社が機密情報の管理を維持できるようサポートします。

弊社のビジネス向けAIアシスタントは会話のログを保持せず、AIモデルの学習に使用することもありません。また、保存を選択したチャット履歴はゼロアクセス暗号化で保護されるため、弊社がお客様のデータにアクセスすることは一切ありません

Lumoは完全にオープンソースであり、欧州で開発されています。ProtonのISO 27001認証およびSOC 2 Type II証明を通じて、GDPRおよびHIPAAへの準拠をサポートするように設計されています。

Lumoとチャットする(新しいウィンドウ) Lumo for Businessを導入する

優れた能力とプライバシー重視の機能を備えたAIアシスタントをチームに提供することで、未承認ツールへの依存度が低下し、管理下のシステム内でAI利用を維持できるようになります。