AI 工具如今已成為日常工作的一部分，協助人們摘要會議記錄、撰寫草稿電子郵件、偵錯代碼、分析試算表，以及將文件轉化為簡報。然而，若在未經批准或監管的情況下使用，可能會引發嚴重的 AI 隱私疑慮，外洩敏感的企業資訊，並使 IT 團隊無法追蹤公司資料的流向。

本指南將介紹什麼是 Shadow AI、它如何在組織內部傳播，以及它所帶來的嚴重風險。我們將顯示如何識別未經批准的工具並實施實用的安全預防措施，以保護您的企業資料，同時不會拖慢團隊的效率。

什麼是 Shadow AI？

Shadow AI 是指任何在企業核准的系統和政策之外使用人工智慧從事工作的行為。這可能包含使用未經核准的工具、將個人帳號用於公司工作，或是將已核准的 AI 服務用於組織未授權的資料或任務。

Shadow AI 通常源於日常工作場所的壓力：緊迫的截止日期、需要尋找更快或更好的工作方式，或是現有工具無法完全滿足需求。有時雖然有經核准的 AI 工具可用，但人們會轉而使用其他工具，因為他們對另一種選擇更為熟悉。

Shadow AI 與 Shadow IT 的比較

Shadow IT 是一個更廣泛的術語，指未經組織批准或監管而使用的任何軟體或硬體。常見範例包括用於工作的個人雲端儲存空間、未經授權的通訊應用程式，以及未經批准的專案管理平台。

Shadow AI 是 Shadow IT 的一種特定形式，涉及 AI 系統和 AI 驅動的功能。AI 帶來了額外的資料治理挑戰，因為公司資訊可能會被提交至外部系統，或是在組織控制範圍之外以不熟悉的方式進行處理。

Shadow AI 是如何發生的？

顯示 Shadow AI 如何發生的流程圖

員工可以在數秒內將大量公司資訊輸入到 AI 聊天視窗中。根據 AI 的設定，該工具可能會保留輸入內容、將其與其他第三方共享（例如資料經紀商或分析廠商，就像 OpenAI 資料外洩案件一樣），或者將其用於精準廣告或模型開發。

Shadow AI 通常因為幾種常見的組織漏洞而傳播。

沒有經核准的替代方案

當企業未提供經核准的選項時，員工更有可能使用 Shadow AI 工具。一項針對 2,000 名員工的 BlackFog 調查(新視窗) 發現，49% 的員工在未經雇主批准的情況下採用 AI 工具，63% 的人認為在沒有公司核准選項時使用 AI 是可接受的，而 51% 的人曾在 IT 不知情的情況下將 AI 工具連線至工作系統。

政策不明確

員工可能不確定允許使用哪些工具、任務和資訊類型。公司的指引可能會明確限制高度敏感的資料，但對內部會議記錄、草稿電子郵件、試算表、原始代碼或客戶對話則鮮少提及。

IT Brew 的調查(新視窗)針對 241 名 IT 專業人員進行，發現 35% 的人對員工了解公司的 AI 使用和資料安全性政策幾乎沒有信心，只有 12% 的人感到「非常有信心」。另一項針對 505 名人力資源專業人員/雇主的 WorkNest 調查(新視窗)發現，54% 的組織根本沒有 AI 政策，24% 仍在制定中，只有 13% 擁有明確的書面規則。

審批流程緩慢

按時完成任務的壓力可能會讓冗長的安全性或採購審查顯得不切實際。當員工可以立即存取免費工具時，緩慢的內部流程會使非正式的融通做法更容易發生。

已核准軟體中的全新 AI 功能

廠商可能會在已通過安全性審查的應用程式中加入生成式 AI 功能，即使沒有人評估過新功能如何處理、儲存或共享公司資料，該軟體仍保留在已核准名單中。員工並沒有違反任何政策，但結果與其他原因相同：公司資料現在正透過一個實際上無人審查過的頻道傳輸。

對資料處理的認知有限

員工可能不知道像 ChatGPT 和 Gemini 這樣的 AI 提供者如何保留提示詞、處理上載的檔案、將對話用於服務改進，或者與其他提供者共享資料。他們可能會假設當關閉瀏覽器索引標籤時，輸入的內容就會消失，即使副本仍然保留在帳號歷史記錄、日誌、備份或連線的系統中。

Kolide 的報告(新視窗)發現，雖然有 89% 的員工每月使用 AI，但只有 56% 的公司向員工解釋過 AI 的安全性風險。

Shadow AI 的範例

團隊Shadow AI 範例
可能外洩的資訊		潛在影響
軟體開發將內部代碼貼至公開聊天機器人進行偵錯原始代碼、憑證、系統架構和未發布的功能專有代碼或機密可能會保留在公司系統之外
產品上載路線圖以進行摘要發布日期、產品策略、定價和合作夥伴資訊機密業務方案可能會未經管理地存放在第三方伺服器上
行銷與設計將宣傳活動方案輸入至 AI 寫作或設計工具未發布的產品、客戶研究、品牌資產和受眾資料敏感的宣傳活動資訊可能會在未經法律或安全性審查的情況下進行處理
資料分析將客戶資料集上載至外部分析工具個人資料、商業敏感記錄和機密洞察受到保護或監管的資訊可能會揭露給未經批准的第三方
人力資源使用 AI 工具評估應用程式或摘要面試內容應徵者資料、僱用資訊和評估標準人事資料外洩可能會違反 GDPR 或 CCPA
銷售上載通話紀錄或帳號備忘錄以進行分析客戶身分、合約詳細資料、定價和銷售策略客戶資料外洩可能會違反 GDPR 或 CCPA
客戶支援服務將支援工單貼至公開聊天機器人客戶姓名、帳號詳細資料、投訴和往來信件保留的支援記錄可能會違反 GDPR 或 CCPA
財務要求 AI 助手分析內部試算表預算、預測、薪酬資訊和交易記錄財務資料可能會在沒有適當安全預防措施的情況下進行處理
法律上載合約或案卷檔案以進行摘要保密法律諮詢、合約條款和客戶資訊客戶資料遭不當使用可能會違反 GDPR 或 CCPA，並影響保密特權
領導高層使用 AI 服務審閱董事會文件或策略方案收購方案、內部目標和高層討論內容高度敏感的公司情報可能會外洩

AI 會自動使用您的資料進行訓練嗎？

大型語言模型 (LLM) 不會即時自動針對每個提示詞進行自我重新訓練，因此對話不會必然成為 AI 模型的一部分，也不會出現在另一位使用者的回覆中。然而，風險程度取決於提供者、帳號類型、隱私設定、合約以及該服務的配置方式。

AI 提供者可能會保留提示詞和上載的檔案、將其開放給人工審查、用於改進其服務，或者與基礎設施和模型提供者共享。

即使已停用模型訓練，資訊仍可能會出現在帳號歷史記錄、營運日誌、防濫用監控系統、備份、瀏覽器記錄、連線的服務或第三方整合中。如果您的內容已經貢獻於模型訓練，關閉此選項並不會讓模型忘記您過去的對話。

Shadow AI 的風險有哪些？

說明 Shadow AI 風險的圖表

AI 可以影響決策、生成面向客戶的材料、撰寫代碼或分析個人資料，所有這些都會產生超出工具本身安全性之外的風險：

資料外洩

IBM 的 2025 年資料外洩成本報告(新視窗)發現，每五個組織中就有一個經歷過與 Shadow AI 相關的資料外洩，然而只有 37% 的組織擁有旨在管理或偵測它的政策。

Shadow AI 使用率高的組織所面臨的資料外洩成本，平均比很少或完全沒有 Shadow AI 的組織高出 670,000 美元。此外，涉及 Shadow AI 的事件比全球平均更頻繁地暴露個人資訊和智慧財產權。

機密資訊外洩

員工可能會共享內部文件、原始代碼、財務資訊、合約、客戶記錄、產品方案或營業秘密，而沒有意識到 AI 提供者會保留他們的輸入內容。即使資訊未包含在模型訓練中，它仍可能面臨帳號入侵、安全性資料外洩、提供者存取、不安全的整合或法律要求的暴露風險。

例如，在員工於 20 天內三次將機密材料貼至 ChatGPT，包括半導體原始代碼、缺陷檢測演算法和內部會議逐字稿後，三星於 2023 年 5 月在全公司範圍內禁止使用 ChatGPT(新視窗)。

智慧財產權喪失

專有知識通常是公司最寶貴的資產。將代碼、研究、產品設計、流程或策略文件上載至外部 AI 服務可能會與保密協議衝突，或削弱企業控制該資訊的能力。員工也可能在不瞭解其來源、授權限制或與第三方材料相似度的情況下使用 AI 生成的內容。

隱私與監管違規

當個人資料透過 AI 工具處理時，仍受資料隱私法約束。Shadow AI 可能會繞過隱私安全預防措施，因為相關的法律團隊完全不知道正在進行資料處理。英國資訊專員辦公室警告，AI 系統可能會放大現有的安全性風險(新視窗)。嚴重的 GDPR 違規行為可能會導致高達 2,000 萬歐元或組織上一財政年度全球年營業額 4% 的罰款，以金額較高者為準。

不安全的整合與過度存取

AI 工具可能會連線至電子郵件、雲端儲存空間、行事曆、代碼庫、客戶資料庫和協作平台。過寬的權限、安全性欠佳的應用程式介面、外洩的存取權杖、惡意的瀏覽器延伸功能以及遭到入侵的第三方服務，都可能將公司系統和資料暴露在單一提示詞輸入的資訊之外。

在 Salesloft Drift 資料外洩事件中，攻擊者從 AI 銷售助手整合服務 Drift 竊取了 OAuth 權杖，並使用它們從 700 多個組織的 Salesforce 實例中擷取資料，包含業務聯絡人、應用程式介面金鑰以及內崁於支援案件中的雲端憑證。

提示詞注入攻擊

無論是否經核准，任何連線的 AI 系統都存在此漏洞——攻擊者可以透過隱藏在文件、網頁、電子郵件或其處理的其他內容中的指令來操縱 AI 系統，導致其揭露資訊、忽略原始指令或採取非預期的行動。

Shadow AI 提高了風險，因為未經核准的工具或 AI 代理可能從未接受過提示詞注入評估，也沒有被限制在所需的權限內。如果攻擊成功，安全性團隊可能無法瞭解發生了什麼事或如何控制損害。當 AI 代理可以存取敏感資料或在未經人工審查的情況下採取行動時，後果尤為嚴重。

缺乏問責機制

Shadow AI 活動通常不會留下中央稽核軌跡。安全性團隊可能無法確定提交了哪些資訊、由哪個模型處理、產生了什麼輸出內容，或者結果如何影響了決策。如果沒有這些記錄，調查錯誤、投訴、資料外洩或監管問題就會變得困難得多。

意外成本與供應商依賴

獨立的訂閱和應用程式介面帳號可能會導致跨部門的重複支出。實驗性工具也可能在採購團隊評估其定價、可靠性或長期可用性之前，就已內崁於重要的工作流程中。免費服務在沒有服務合約、業務持續性方案或將工作流程遷移至他處的實用方法的情況下，可能會變得對業務至關重要。

如何偵測 Shadow AI

Shadow AI 可能很難偵測，因為員工可能會使用個人帳號、瀏覽器延伸功能、內崁的 AI 功能、AI 瀏覽器或混入正常網頁流量中的工具。因此，組織需要掌握正在使用的服務以及公司資料如何傳輸。

監控應保持適度並尊重員工隱私。目標應是識別有風險的工具和資料流，而非例行檢查每個提示詞或對話的內容。

說明如何偵測 Shadow AI 的圖表

以下是在您組織內部識別 Shadow AI 的一些提示：

建立 AI 使用清單

詢問團隊他們目前使用哪些 AI 工具、將其用於哪些任務，以及是什麼原因阻礙他們使用經核准的替代方案。簡短的調查、與部門主管的訪談以及自願揭露期，可以揭示技術控制措施遺漏的使用情況。當目標是了解員工需求而非懲罰早期嘗試時，員工更有可能坦誠相告。

審查網路和應用程式活動

安全性團隊可以使用網路日誌、軟體清單和雲端存取安全性工具來識別與已知 AI 服務的連線。監控可以顯示正在存取哪些服務以及傳輸了多少資料，而無需擷取每個對話的內容。

審查瀏覽器延伸功能和外掛程式

瀏覽器延伸功能幾乎可以將 AI 寫作、摘要、翻譯、會議和編碼功能加入任何工作流程中。審查已安裝哪些延伸功能、它們要求的權限，以及它們是否能讀取網頁內容、電子郵件、文件或登入資訊。

檢查費用與採購記錄

員工報銷申請、公司信用卡對帳單和採購記錄可能會揭露從未完成安全性審查的付費 AI 訂閱。來自不同團隊的重複付款也可以發現重複的工具和非官方帳號。

搜尋未經管理的應用程式介面金鑰和整合

審查代碼庫、密鑰管理器、雲端環境、帳單儀表板和自動化平台，以了解與外部 AI 提供者的連線。未經管理的應用程式介面金鑰或不熟悉的費用，可能代表尚未獲得正式核准的原型、整合或內部工具。

使用資料遺失預防控制措施

資料遺失預防工具可以識別上載個人記錄、憑證、財務資料和原始代碼等敏感類別資訊的嘗試。控制措施應保持適度並進行明確溝通。員工需要了解監控的內容、必要性，以及如何透過經核准的系統完成合規工作。

與員工合作，而不是繞過他們

僅靠技術監控無法揭示每一個 Shadow AI 實例。員工可能會使用個人帳號、行動裝置或顯示為正常網頁流量的工具。定期與團隊討論可以識別現有工作流程在哪裡產生阻礙，以及員工尋求外部工具的原因。

如何降低 Shadow AI 風險

說明如何降低 Shadow AI 風險的圖表

降低 Shadow AI 需要實用的替代方案、明確的政策、適當的存取控制、員工培訓和持續審查。有效的安全預防措施應支援合法的 AI 使用，同時將公司資料保持在經核准的系統內：

為員工提供經核准的 AI 工具

當您提供 符合實用需求的企業 AI 助手時，員工尋找替代方案的可能性就會降低。任何經核准的工具都應提供強大的隱私保護、明確的資料處理條款、適當的企業控制措施，以及足夠支援常見任務的能力。

避免一刀切的全面禁令

全面禁止可能會讓 AI 的使用進一步走向地下化，尤其是當員工已經依賴這些工具時。有些人可能會轉用個人帳號、行動裝置、瀏覽器延伸功能，或聲譽較差且組織更難識別的 AI 服務。

建立 AI 可接受使用政策

使用基於真實工作流程的範例。「請勿共享敏感資訊」留下了太多的解釋空間。更明確的政策可能會告知員工，切勿將客戶支援服務匯出資料、原始代碼、合約、憑證、未發布的財務結果或可識別的員工記錄上載至未經核准的服務。

在設定 AI 規則前先將資料分類

識別哪些類別的資訊屬於公開、內部、機密、受監管或高度限制。將每個類別與允許的 AI 用途連線綁定。公開的行銷文案可能適用於更廣泛的工具，而個人資料、憑證、營業秘密和保密法律材料則可能需要嚴格控制的系統，或完全排除在外。

定期審查已核准軟體中的新 AI 功能

應用程式在加入 AI 助手、自動逐字稿、內容生成或預測分析後，處理資料的方式可能會有所不同。定期的廠商審查可以識別這些變更，並確認先前核准的工具仍然符合組織的安全性、隱私和合規性要求。

限制權限

僅授予 AI 工具存取已核准任務所需資料和系統的權限。盡可能使用公司管理的帳號、單一登入 (SSO)、雙重身分驗證 (2FA)、基於角色的權限，以及集中式的帳號移除功能。當更窄範圍的來源就能運作時，避免將企業 AI 助手連線至整個磁碟、收件匣或客戶資料庫。

按角色與使用情境設定規則

不同的團隊有不同的需求和風險等級。開發人員可能需要應用程式介面存取權來進行測試或原型設計。行銷團隊可能需要文字和圖片生成功能。法律或人力資源團隊處理的資訊則可能需要更嚴格的限制。基於角色的規則可以保持政策切合實際，同時限制對敏感資料和高風險功能的存取。

培訓員工

員工需要具備足夠的 AI 素養，以了解所用系統的優勢和局限性。培訓應涵蓋 AI 隱私、保密性、幻覺、偏見、智慧財產權、提示詞注入、人工審查和事件通報。適當的培訓程度取決於員工的知識、經驗以及使用 AI 的情境。

建立簡單的審批流程

有效的流程可能會收集工具名稱、預期任務、涉及的資料、所需的整合以及預期的業務效益。然後，安全性與法律團隊可以根據實際風險予以批准、限制、測試、沙盒化或拒絕。漫長的採購流程可能會促使員工尋求自己的融通做法。設定合理的審查目標，並說明做出決定需要哪些資訊。

讓人員對輸出內容負責

AI 輔助的工作應有負責的人員。在輸出內容影響客戶、員工、財務、法律決策、生產代碼、公開資訊或其他高影響力領域之前，必須進行審查。任何使用 AI 工具的人員仍有責任檢查其準確性、適當性、保密性以及是否符合公司政策。

記錄重要的 AI 輔助決策

當 AI 參與影響客戶、員工、財務、法律事務或其他高影響力領域的決策時，請保持明確的記錄。可靠的稽核軌跡支援問責機制，並協助組織調查錯誤、解釋結果，以及回應投訴或監管疑問。

若敏感資料已經共享該怎麼辦

將向 AI 工具意外揭露資料的情況視為任何其他潛在的資料事件。請迅速採取以下步驟。

確認已共享的內容：確認輸入或上載了哪些資訊、使用了哪個工具和帳號、何時發生的揭露，以及誰可能存取了該資料。

盡可能移除資訊：從工具中刪除對話和任何上載的檔案。檢查提供者的條款和支援選項，了解是否可以提交正式的刪除請求。

檢查提供者可能會保留的內容：從檢視中移除聊天記錄並不總是能消除每個副本。審查並記錄提供者關於營運日誌、備份、人工審查、模型訓練和刪除時間範圍的說明，以有助於確定是否可能留存任何資料。

保護受影響的系統：撤銷授予 AI 工具或連線外掛程式的權限。輪換出現於提示詞或附加檔案中的任何密碼、應用程式介面金鑰、存取權杖或其他憑證。

通報相關團隊：向組織的安全性、隱私、法律或資料保護團隊通報該事件。他們可以評估合約義務、監管要求，以及是否需要通知受影響的客戶或合作夥伴。

從事件中汲取教訓：記錄發生的情況，並用其來改進培訓、控制措施和經核准的替代方案。避免懲罰如實通報錯誤的員工，因為懲罰性回應可能會打擊其他人將來通報事件的積極性。

適合團隊的私有 AI 助手

Lumo for Business 為您的團隊提供可靠的 AI 助手，用於摘要文件、分析資料、審閱代碼、草擬內容和探索想法，同時協助您的企業保持對機密資訊的控制。

我們的企業 AI 助手不會保留對話日誌，也不會將其用於訓練 AI 模型，且您選擇儲存的任何聊天歷史記錄都受到零存取加密保護，這代表我們絕無法存取您的資料

Lumo 完全開放原始碼，在歐洲構建，旨在透過 Proton 的 ISO 27001 認證和 SOC 2 Type II 認證來支援符合 GDPR 和 HIPAA。

與 Lumo 聊天(新視窗) 取得 Lumo for Business

為您的團隊提供功能強大且注重隱私的 AI 助手，可減少對未經核准工具的依賴，並有助於將 AI 的使用保持在您所監督的系統內。