当您的员工使用未经批准的 AI 工具时，他们会创建出您看不见、无法保护、也关不掉的帐户，而每个帐户的聊天记录中都满是业务数据。
SOCRadar（新窗口） 发布的一项新研究显示，全球有超过 80,000 家组织的员工 AI 登录凭证出现在信息窃取程序日志中。信息窃取程序是一类恶意软件，会从受感染的设备中收集密码、会话 Cookie、财务和个人数据以及聊天日志，并将其回传给攻击者。这些数据会让网络钓鱼或勒索软件攻击的成效大幅提升。
根据这项研究，这些日志是由一款知名的信息窃取恶意软件捕获的，该软件自 2022 年起就一直在 Telegram 上出售。由于它已出售多年，我们无从得知有多少犯罪分子使用过它，也无从得知他们是如何感染他人设备的：可以确定的是，他们专门针对具有企业访问权限的设备下手，并劫持其 Claude 会话。企业用户发现，网络犯罪分子一旦获得访问权限，其付费使用额度会在一夜之间被耗尽。
SOCRadar 的研究论证了AI 会话凭证对攻击者极具价值。正如报告所说，仅凭一个 AI 登录凭证，就能解锁“可搜索的存档、执行引擎、可计费的资源以及一个身份——而被盗的会话无需任何密码提示，就能把这一切拱手交出”。对犯罪分子而言，这无异于一座金矿。
对如今正在引入 AI 的企业而言，一个令人担忧的结论是：这些凭证之所以泄露，原因并不在于 AI 平台自身的安全性，而在于两个不那么显眼的因素：使用 AI 工具的员工数量极为庞大，以及这类使用中发生在 IT 管控之外的占比不断上升。
研究揭示了什么？
总体而言，报告指出 AI 服务凭证正大量出现在信息窃取程序日志中。主要结论如下：
- 在 80,000 个独立企业域名中，发现超过 1,000,000 条与 AI 服务相关联的记录。
- 在此基础上，研究抽样核实了 482 家组织，确认它们属于大型企业，且大多位于北美——其中 68% 为十亿美元级组织。
- 科技公司是最大的群体，共 144 家，占记录的 40%。
- 这 482 家组织对应 5,434 条日志记录，涉及 1,500 个企业电子邮件地址。
- 这些泄露都是近期发生的：在过去 90 天里，这 482 家组织中有 295 家的信息窃取程序日志记录被曝光。
- 在 482 家组织中，有 358 家的日志中出现了 ChatGPT，约 90% 的记录涉及它，紧随其后的是 Zapier、Notion、Hugging Face、Replit、Lovable 和 ElevenLabs。
最后这项数据引出一个显而易见的问题：为什么是 ChatGPT？SOCRadar 的解释与其说与工具本身有关，不如说与员工如何使用这些工具有关。
影子 AI 正在制造风险
影子 AI 是指员工在未经公司批准或知情的情况下使用的任何 AI 工具。当企业帐户权限受限，或手头的工具无法有效完成当前任务时，员工就会把影子 AI 带入企业网络。
SOCRadar 的一位研究人员评论道：
“我们把 ChatGPT 近乎全面的统治地位解读为一种影子 AI 信号，而不是对任何厂商安全性的评判。ChatGPT 的先发优势意味着它的企业用户数量很可能高出一个数量级——其中许多人用工作邮箱在个人设备上注册，完全游离于任何策略之外。而这正是信息窃取程序抓取的目标人群。Claude 和 Gemini 几乎没怎么出现，是因为悄悄在它们上面创建帐户的员工还少得多——而不是因为这些凭证更难被窃取。随着企业对其他助手的采用逐渐跟上，我们预计这张图表会趋于均衡。”
所以，ChatGPT 在信息窃取程序日志中如此突出，根源并不是它自身的安全性。ChatGPT 之所以位居榜首，是因为它的企业用户最多，而且其中很多人是在公司策略之外使用它。
员工也可能试图绕过那些限制他们采用最快捷、最简便方案的严格 IT 策略，但也可能确实不清楚存在哪些策略或限制。企业无法保护自己都不知道存在的帐户，也无法保护在企业帐户之外发起的查询。
无论意图如何，当员工把个人与业务用途的 AI 使用混在一起时，就会违反贵公司的数据使用策略，转而落入 OpenAI 消费者条款的管辖范围。
OpenAI 表示不会使用业务数据训练模型，但当员工超出企业可接受使用准则的范围操作，或用个人帐户处理业务事务时，他们就失去了对数据的控制：其聊天存档（包括敏感业务数据或个人身份信息 (PII)）会被收集、记录，并可能被用于训练 OpenAI 的模型。
OpenAI 可能会与第三方共享业务数据，也可能通过应用集成共享数据：2025 年，黑客曾入侵 OpenAI 的一家供应商，窃取企业客户数据，包括姓名、电子邮件、位置和系统详细信息。作为一家美国公司，它还可能依据《爱国者法案》或《外国情报监视法》(FISA) 被迫向美国政府共享数据，甚至无需通知您。
如何保护企业免受影子 AI 的侵害
影子 AI 的出现，往往是因为员工没有获准使用的工具，或者没有足够好用的工具。因此，首要的解决办法就是给他们一个。
由 Proton 打造的 Lumo，为您的团队提供了一种个人帐户之外的合规替代方案，让业务数据始终保持私密。它不会保留日志，也不会用业务或个人会话进行训练。所有保存的聊天记录都受零访问加密保护，因此任何人（即使是 Proton）都无法读取。
加密可以保护已存储的数据，但如果攻击者已经潜入员工设备，它就帮不上忙了。为堵住这一缺口，请采取以下措施：
- 找出您不知道的帐户。 检查公司域名是否已出现在窃取程序日志中，并询问各团队实际使用了哪些 AI 工具。
- 把窃取程序日志中的命中视为端点事件。 如果员工的凭证出现在日志中，说明该设备已被感染。仅重置密码会让攻击者窃取的会话继续有效，因此应撤销活动会话，并清理或更换该设备。
- 让所有获准使用的 AI 工具都通过 SSO 访问，并采用短期会话。 一个几小时后就过期的被盗 Cookie，价值远低于能持续数周的 Cookie。
- 锁好 API 密钥。 将其权限限定在必需范围内，定期轮换，并且绝不要把它们保存在笔记应用或共享文档中。
- 不要让工作出现在未受管理的设备上。 如果员工需要在个人设备上使用 AI，应要求他们通过您可监控和撤销的公司帐户登录。
- 设置 暗网监测。 当员工凭证出现在泄露事件中时，它会向您发出提醒，让您能在攻击者得手之前采取行动。
无论怎样，您的员工都会使用 AI。那就为他们提供一个 ChatGPT 的替代方案：不留日志，绝不使用您的数据训练，并用连 Proton 都无法打开的加密来保护每一段保存的聊天记录。
