當員工使用您尚未核准的 AI 工具時，他們會建立您無法查看、保護或關閉的帳號，而每個帳號的聊天記錄都充滿您的業務資料。
由 SOCRadar(新視窗) 發布的新研究發現，全球超過 80,000 個組織的員工 AI 登入資訊出現在竊資軟體 (infostealer)日誌中。竊資軟體是一種惡意軟體，會從受感染的裝置收集密碼、工作階段 Cookie、財務與個人資料以及聊天日誌，並將這些資料傳送回攻擊者。這些資料會讓網路釣魚或勒索軟體攻擊變得更加有效。
根據這份研究，這些日誌是由一款自 2022 年起就在 Telegram 上販售的知名竊資惡意軟體所擷取。由於這款惡意軟體已販售多年，我們無法得知有多少犯罪分子用過它，也無法知道他們如何感染他人的裝置：我們只知道，他們一直以擁有企業存取權的裝置為目標，並劫持其 Claude 工作階段。企業使用者發現，一旦網路犯罪分子取得存取權，他們付費的使用額度就在一夜之間被耗盡。
SOCRadar 的研究指出，AI 工作階段憑證對攻擊者而言極具價值。正如報告所言，單一 AI 登入資訊就能解鎖「可搜尋的封存、執行引擎、可計費資源和身分，而被竊取的工作階段無需密碼提示就能交付出這一切」。對犯罪分子來說，這簡直是金礦。
對今日採用 AI 的企業而言，令人擔憂的結論是：這些憑證之所以外洩，並不是因為 AI 平台本身的安全性，而是兩個較不明顯的因素：使用 AI 工具的員工數量龐大，以及這類使用有越來越多比例發生在 IT 的掌控之外。
這份研究揭露了什麼？
整體而言，報告指出 AI 服務憑證正以可觀的數量出現在竊資軟體日誌中。主要結論如下：
- 在 80,000 個不同的企業網域中，共揭露超過 1,000,000 筆與 AI 服務相關的記錄。
- 從這組資料中抽樣驗證，有 482 個組織被認定為大型企業，多數位於北美洲，其中 68% 為十億美元規模的組織。
- 科技公司是最大的群組，共 144 家公司，占 40% 的記錄。
- 這 482 個組織合計有 5,434 筆日誌記錄，與 1,500 個企業電子郵件地址有關。
- 這些外洩事件相當近期：該 482 個組織中有 295 個，其竊資軟體日誌記錄是在過去 90 天內浮現的。
- 在 482 個組織中，有 358 個的日誌出現 ChatGPT，且約 90% 的記錄與其相關，其次為 Zapier、Notion、Hugging Face、Replit、Lovable 和 ElevenLabs。
最後這項統計數據帶出一個顯而易見的問題：為什麼是 ChatGPT？SOCRadar 的解釋與其說和這些工具有關，不如說和員工使用它們的方式有關。
「影子 AI」正在製造風險
「影子 AI」是指員工未經公司核准或知情就使用的任何 AI 工具。當員工的公司帳號權限有限，或手上的工具無法有效完成他們正在進行的任務時，他們就會把影子 AI 帶進企業網路。
SOCRadar 的一位研究人員表示：
「我們把 ChatGPT 近乎完全的獨占解讀為影子 AI 的訊號，而不是對任何廠商安全性的評斷。ChatGPT 的先發優勢意味著它的企業使用者很可能多出一個數量級，其中許多人是用個人裝置上的公司電子郵件註冊，完全置身於任何政策之外。這正是竊資軟體鎖定的族群。Claude 和 Gemini 幾乎沒有出現，是因為悄悄在這些平台上建立帳號的員工還少得多，而不是因為這些憑證更難被竊取。隨著企業對其他助理的採用逐漸追上，我們預期這張圖表會趨於平均。」
因此，ChatGPT 之所以在竊資軟體日誌中如此突出，並不是因為它的安全性有問題。ChatGPT 位居榜首，是因為它的企業使用者最多，也因為有太多人在公司政策之外使用它。
員工也可能試圖規避那些阻礙他們採取最快或最簡單做法的嚴格 IT 政策，但他們也可能真的不知道有哪些政策或限制存在。您的企業無法保護自己不知道存在的帳號，也無法保護在企業帳號之外進行的查詢。
無論意圖為何，當員工混合使用個人與企業 AI 時，就會違反公司的資料使用政策，並改為落入 OpenAI 消費者條款的適用範圍。
Open AI 表示不會使用企業資料進行訓練，但當員工的行為超出企業可接受使用準則，或以個人帳號處理企業事務時，他們就會失去對這些資料的掌控：他們的聊天封存（包括敏感的業務資料或個人識別資訊 (PII)）會被收集、記錄，並可能被用來訓練 OpenAI 的模型。
OpenAI 可能會與第三方分享企業資料，或透過應用程式整合分享：2025 年，駭客曾入侵 OpenAI 的一家供應商，竊取企業客戶資料，包括姓名、電子郵件、位置和系統詳細資料。作為美國公司，它也可能依《愛國者法案》或 FISA 被迫與美國政府分享資料，甚至無須通知您。
如何保護您的企業免受影子 AI 威脅
當員工沒有獲准使用的工具，或現有工具不夠好用時，就會出現「影子 AI」。因此，第一步就是提供他們一個合適的工具。
由 Proton 打造的 Lumo，為您的團隊提供經核可的替代方案，取代個人帳號，並讓業務資料保持私有。它不會保留日誌，也不會以企業或個人對話進行訓練。所有儲存的聊天記錄都受零存取加密保護，因此沒有人（連 Proton 也不行）能讀取。
加密能保護已儲存的資料，但若攻擊者已經潛伏在員工的裝置上，就幫不上忙。為了補上這個缺口，請採取以下步驟：
- 找出您不知道的帳號。 檢查您公司的網域是否已出現在竊資軟體日誌中，並詢問各團隊實際使用哪些 AI 工具。
- 將竊資日誌的命中視為端點事件。 如果員工的憑證出現在日誌中，就代表裝置已遭感染。只重設密碼會讓攻擊者竊取的工作階段繼續有效，因此請撤銷作用中的工作階段，並清理或更換該機器。
- 為所有經核可的 AI 工具加上 SSO，並採用短時效的工作階段。 被竊取但幾小時後就過期的 Cookie，價值遠低於能持續數週的 Cookie。
- 鎖定 API 金鑰。 將權限範圍限制在實際所需、定期輪換，且絕不要儲存在筆記應用程式或共用文件中。
- 不要讓工作在未受管理的裝置上進行。 如果員工需要在個人裝置上使用 AI，請要求他們透過您能監控和撤銷的公司帳號登入。
- 設定 暗網監控。 當員工憑證出現在外洩事件中時，它會提醒您，讓您能在攻擊者行動之前先採取行動。
無論如何，您的員工都會使用 AI。為他們提供一個 ChatGPT 替代方案，它不保留日誌、絕不以您的資料進行訓練，並將每一則儲存的對話鎖在連 Proton 都無法開啟的加密之後。
