AI 工具如今已成为日常工作的一部分，帮助人们总结会议记录、起草电子邮件、调试代码、分析电子表格，以及将文档转换为演示文稿。然而，如果未经批准或监督就使用这些工具，可能会引发严重的 AI 隐私问题，暴露敏感的商业信息，并使 IT 团队无法了解公司数据的去向。
本指南介绍了什么是影子 AI、它如何在组织内部蔓延，以及它带来的严重风险。我们将展示如何发现未经批准的工具，并实施实用的防护措施来保护您的企业数据 — 同时不会拖慢团队的速度。
- 什么是影子 AI？
- 影子 AI 与影子 IT
- 影子 AI 是如何产生的？
- AI 是否会自动使用您的数据进行训练？
- 影子 AI 的示例
- 影子 AI 有哪些风险？
- 如何检测影子 AI
- 如何降低影子 AI 风险
- 如果敏感数据已被分享该怎么办
- 面向团队的私有 AI 助手
什么是影子 AI？
影子 AI 是指在企业批准的系统和策略之外使用人工智能开展工作的任何行为。它可能涉及未经批准的工具、用于公司事务的个人帐户，或者使用组织未授权的数据或执行组织未授权的任务来使用已批准的 AI 服务。
影子 AI 往往始于日常的工作压力：紧迫的截止期限、寻找更快或更好工作方式的需求，或者现有工具无法很好地完成工作。有时，虽然有已批准的 AI 工具可用，但人们会因为更熟悉其他选项而转向别处。
影子 AI 与影子 IT
影子 IT 是一个更宽泛的术语，指未经组织批准或监督而使用的任何软件或硬件。常见的例子包括用于工作的个人云存储空间、未经授权的消息传递应用，以及未经批准的项目管理平台。
影子 AI 是影子 IT 的一种特定形式，涉及 AI 系统和由 AI 驱动的功能。AI 带来了额外的数据治理挑战，因为公司信息可能被提交到外部系统，或以组织无法控制的陌生方式进行处理。
影子 AI 是如何产生的？
员工可以在几秒钟内将大量公司信息输入 AI 聊天窗口。根据 AI 的设置，该工具可能会保留输入的内容、将其分享给其他方（例如数据经纪商或分析服务提供商，就像 OpenAI 泄露事件中那样），或者将其用于定向广告或模型开发。
影子 AI 的蔓延通常源于组织中一些常见的缺口。
没有经批准的替代方案
当企业未提供经批准的选项时，员工更有可能使用影子 AI 工具。BlackFog 的一项调查（新窗口）对 2,000 名员工进行了调查，发现 49% 的员工在未经雇主批准的情况下采用 AI 工具，63% 认为在没有企业批准选项的情况下使用 AI 是可以接受的，51% 曾在 IT 部门不知情的情况下将 AI 工具连接到工作系统。
策略不明确
员工可能不确定哪些工具、任务和信息类型是允许使用的。公司的指导可能明确限制高度敏感的数据，却对内部会议记录、电子邮件草稿、电子表格、源代码或客户会话很少提及。
IT Brew 的调查（新窗口）针对 241 名 IT 专业人士进行，发现 35% 的人几乎不相信员工了解公司的 AI 使用和数据安全策略，只有 12% 的人表示”非常有信心”。另一项由 WorkNest 针对 505 名人力资源专业人士/雇主开展的调查（新窗口）发现，54% 的组织根本没有 AI 策略，24% 仍在制定中，只有 13% 拥有明确、成文的规则。
审批流程缓慢
赶上截止期限的压力会让冗长的安全或采购审查显得不切实际。当员工可以立即访问免费工具时，缓慢的内部流程使他们更有可能采取非官方的变通办法。
已批准软件中的新 AI 功能
供应商可能会向已通过安全审查的应用添加生成式 AI 功能，而该软件仍保留在已批准列表中，尽管没有人评估过新功能如何处理、存储或分享公司数据。员工没有违反任何策略，但结果与其他原因相同：公司数据如今正通过一条从未经过真正审查的渠道传输。
对数据处理的了解有限
员工可能不知道 ChatGPT 和 Gemini 等 AI 提供商如何保留提示词、处理上传的文件、将会话用于服务改进，或与其他提供商分享数据。他们可能以为关闭浏览器标签页后输入的内容就会消失，即使副本仍保留在帐户历史记录、日志、备份或已连接的系统中。
Kolide 的报告（新窗口）发现，虽然 89% 的员工每月都使用 AI，但只有 56% 的公司向员工解释过 AI 的安全风险。
影子 AI 的示例
| 团队 | 影子 AI 示例 | 可能暴露的信息 | 潜在影响 |
|---|---|---|---|
| 软件开发 | 将内部代码粘贴到公共聊天机器人中进行调试 | 源代码、凭证、系统架构和未发布的功能 | 专有代码或机密可能被保留在公司系统之外 |
| 产品 | 上传路线图以进行总结 | 发布日期、产品策略、定价和合作伙伴信息 | 机密的商业计划可能无人管理地存放在第三方服务器上 |
| 市场营销与设计 | 将营销活动计划输入 AI 写作或设计工具 | 未发布的产品、客户研究、品牌素材和受众数据 | 敏感的营销活动信息可能在未经法律或安全审查的情况下被处理 |
| 数据分析 | 将客户数据集上传到外部分析工具 | 个人数据、商业敏感记录和机密洞察 | 受保护或受监管的信息可能被披露给未经批准的第三方 |
| 人力资源 | 使用 AI 工具评估求职申请或总结面试 | 候选人数据、雇佣信息和评估标准 | 人员数据暴露可能违反 GDPR 或 CCPA |
| 销售 | 上传通话记录或帐户备注以进行分析 | 客户身份、合同详细信息、定价和销售策略 | 客户数据暴露可能违反 GDPR 或 CCPA |
| 客户支持 | 将支持工单粘贴到公共聊天机器人中 | 客户姓名、帐户详细信息、投诉和往来函件 | 被保留的支持记录可能违反 GDPR 或 CCPA |
| 财务 | 让 AI 助手分析内部电子表格 | 预算、预测、工资信息和交易记录 | 财务数据可能在没有适当保障措施的情况下被处理 |
| 法务 | 上传合同或案卷文件以进行总结 | 受特权保护的法律建议、合同条款和客户信息 | 客户数据被滥用可能违反 GDPR 或 CCPA 并影响特权保护 |
| 管理层 | 使用 AI 服务审阅董事会文件或战略计划 | 收购计划、内部目标和高层讨论 | 高度敏感的公司情报可能被暴露 |
AI 是否会自动使用您的数据进行训练？
大语言模型（LLM）不会实时自动对每条提示词进行重新训练，因此会话不会必然成为 AI 模型的一部分，也不会出现在其他用户的回复中。然而，风险程度取决于提供商、帐户类型、隐私设置、合同以及服务的配置方式。
AI 提供商可能会保留提示词和上传的文件、将其提供给人工审查、用其改进自身服务，或将其分享给基础设施和模型提供商。
即使模型训练已被禁用，信息仍可能出现在帐户历史记录、运营日志、滥用监控系统中、备份、浏览器记录、已连接的服务或第三方集成中。如果您的内容已经参与了模型训练，关闭此选项也不会让模型忘记您过去的会话。
影子 AI 有哪些风险？
AI 可以影响决策、生成面向客户的材料、编写代码或分析个人数据，所有这些都会带来超出工具本身安全范围的风险：
数据泄露
IBM 2025 年的数据泄露成本报告（新窗口）发现，五分之一的组织曾经历过与影子 AI 相关的泄露事件，但只有 37% 拥有旨在管理或检测此类事件的策略。
影子 AI 问题严重的组织面临的泄露成本平均比影子 AI 很少或没有的组织高出 670,000 美元。此外，涉及影子 AI 的事件泄露个人信息和知识产权的频率高于全球平均水平。
机密信息暴露
员工可能会分享内部文档、源代码、财务信息、合同、客户记录、产品计划或商业机密，却没有意识到 AI 提供商会保留其输入的内容。即使信息被排除在模型训练之外，仍可能面临帐户泄露、安全违规、提供商访问、不安全的集成或法律要求等风险。
例如，三星在公司范围内禁用了 ChatGPT（新窗口），此前员工在 20 天内三次将机密材料粘贴到其中，包括半导体源代码、缺陷检测算法和一份内部会议的转录内容。
知识产权损失
专有知识往往是一家公司最有价值的资产。将代码、研究成果、产品设计、流程或战略文档上传到外部 AI 服务可能与保密协议相冲突，或削弱企业控制这些信息的能力。员工还可能在不了解 AI 生成内容来源、许可限制或与第三方材料相似度的情况下使用这些内容。
隐私和法规违规
个人数据通过 AI 工具处理时，仍受数据隐私法律的约束。影子 AI 可以绕过隐私保障措施，因为相关法务团队根本不知道正在进行处理。英国信息专员办公室警告称，AI 系统可能会放大现有的安全风险（新窗口）。严重违反 GDPR 可能导致高达 2,000 万欧元或上一个财政年度组织全球年营业额 4% 的罚款（以较高者为准）。
不安全的集成和过度的访问权限
AI 工具可能会连接到电子邮件、云存储空间、日历、代码仓库、客户数据库和协作平台。过宽的权限、安全防护不足的应用程序接口（API）、泄露的访问令牌、恶意的浏览器扩展程序以及已泄露的第三方服务，可能使公司系统和数据暴露的范围超出单条提示词中输入的信息。
在 Salesloft Drift 泄露事件中，攻击者窃取了 AI 销售助手集成 Drift 的 OAuth 令牌，并利用这些令牌从 700 多个组织的 Salesforce 实例中提取数据，包括业务联系人、API 密钥以及嵌入在支持案例中的云凭证。
提示词注入攻击
无论是否获得批准，此漏洞都存在于任何已连接的 AI 系统中 — 攻击者可以通过隐藏在文档、网页、电子邮件或 AI 系统所处理的其他内容中的指令来操纵该系统，使其泄露信息、忽略原始指令或采取意外的行动。
影子 AI 使风险进一步加大，因为未经批准的工具或 AI 智能体可能从未针对提示词注入进行过评估，也未限制为仅拥有所需的权限。如果攻击得逞，安全团队可能对发生了什么以及如何遏制知之甚少。当 AI 智能体可以在没有人工审查的情况下访问敏感数据或采取行动时，后果尤其严重。
缺乏问责机制
影子 AI 活动通常不会留下集中的审计跟踪。安全团队可能无法确定提交了哪些信息、由哪个模型处理、产生了什么输出，以及结果如何影响了决策。如果没有这些记录，调查错误、投诉、数据泄露或监管问题会困难得多。
意外的成本和供应商依赖
单独的订阅和 API 帐户可能导致各部门重复支出。在采购团队评估其定价、可靠性或长期可用性之前，试验性工具也可能已经嵌入到重要的工作流程中。免费服务可能在没有任何服务协议、连续性计划或将工作流程迁移到其他地方的可行方法的情况下，变得对业务至关重要。
如何检测影子 AI
影子 AI 可能难以检测，因为员工可能使用个人帐户、浏览器扩展程序、已嵌入的 AI 功能、AI 浏览器，或混入正常网络流量的工具。因此，组织需要清楚了解正在使用哪些服务，以及公司数据如何在其中流动。
监控应保持适度并尊重员工隐私。目标应是在不例行检查每条提示词或会话内容的情况下，识别有风险的工具和数据流。
以下是在组织内识别影子 AI 的一些提示：
建立 AI 使用清单
询问各团队目前使用哪些 AI 工具、用它们执行哪些任务，以及是什么阻碍他们使用经批准的替代方案。简短的调查、与部门负责人的访谈以及自愿申报期可以揭示技术控制遗漏的使用情况。当目标是了解员工的需求而非惩罚早期的尝试时，员工更有可能坦诚相告。
审查网络和应用活动
安全团队可以使用网络日志、软件清单和云访问安全工具来识别与已知 AI 服务的连接。监控可以显示正在访问哪些服务以及传输了多少数据，而不会捕获每个会话的内容。
审核浏览器扩展程序和插件
浏览器扩展程序几乎可以为任何工作流程添加 AI 写作、摘要、翻译、会议和编码功能。应审查安装了哪些扩展程序、它们请求哪些权限，以及它们是否能够读取网页内容、电子邮件、文档或登录信息。
检查报销和采购记录
员工的报销申请、公司卡对账单和采购记录可能会暴露从未经过安全审查的付费 AI 订阅。来自不同团队的重复付款也可以发现重复的工具和非官方帐户。
搜索无人管理的 API 密钥和集成
审查代码仓库、密钥管理系统、云环境、计费仪表板和自动化平台中与外部 AI 提供商的连接。无人管理的 API 密钥或不熟悉的使用费用可能表明存在尚未获得正式批准的原型、集成或内部工具。
使用数据丢失防护控制措施
数据丢失防护工具可以识别上传个人记录、凭证、财务数据和源代码等敏感类别信息的尝试。控制措施应保持适度并进行清晰的沟通。员工需要了解哪些内容受到监控、为什么有必要，以及如何通过经批准的系统完成合法工作。
与员工合作，而非绕开他们
仅靠技术监控不会发现每一例影子 AI。员工可能使用个人帐户、移动设备，或看起来像正常网络流量的工具。与团队定期讨论可以发现现有工作流程在哪些方面存在阻碍，以及员工为何寻求外部工具。
如何降低影子 AI 风险
减少影子 AI 需要实用的替代方案、明确的策略、适当的访问控制、员工培训和持续审查。有效的保障措施应支持合法的 AI 使用，同时将公司数据保留在经批准的系统内：
为员工提供经批准的 AI 工具
当您提供满足实际需求的企业 AI 助手时，员工就不太可能寻找替代方案。任何经批准的工具都应提供强大的隐私保护、明确的数据处理条款、适当的企业控制，以及足以支持常见任务的能力。
避免一刀切的禁令
全面禁令可能将 AI 使用进一步推向地下，尤其是当员工已经依赖这些工具时。有些人可能会转向个人帐户、移动设备、浏览器扩展程序，或组织更难识别的信誉较低的 AI 服务。
制定 AI 可接受使用策略
使用基于实际工作流程的示例。”不分享敏感信息”会留下过多的解释空间。更明确的策略可能会告诉员工，切勿将客户支持导出数据、源代码、合同、凭证、未发布的财务业绩或可识别员工身份的记录上传到未经批准的服务。
在设定 AI 规则之前对数据进行分类
确定哪些类别的信息属于公开、内部、机密、受监管或高度受限。将每个类别与允许的 AI 用途关联起来。公开的营销文案可能适用于更广泛的工具，而个人数据、凭证、商业秘密和受特权保护的法律材料可能需要严格控制的系统，或完全排除在外。
定期审查已批准软件中的新 AI 功能
应用在添加 AI 助手、自动转录、内容生成或预测分析功能后，处理数据的方式可能会发生变化。定期审查供应商可以发现这些变化，并确认以前批准的工具仍符合组织的安全、隐私和合规要求。
限制权限
仅向 AI 工具授予访问经批准任务所需的数据和系统的权限。在可行的情况下，使用公司管理的帐户、单一登录（SSO）、双因素身份验证（2FA）、基于角色的权限以及集中式帐户移除。在较窄范围的数据源即可满足需求时，避免将企业 AI 助手连接到整个云端硬盘、收件箱或客户数据库。
按角色和用例设置规则
不同团队有不同的需求和风险级别。开发人员可能需要 API 访问权限来进行测试或构建原型。营销团队可能需要文本和图像生成。法务或人力资源团队可能处理需要更严格限制的信息。基于角色的规则可以让策略切合实际，同时限制对敏感数据和高风险功能的访问。
培训员工
员工需要足够的 AI 素养，以了解他们所用系统的优点和局限性。培训应涵盖 AI 隐私、保密性、幻觉、偏见、知识产权、提示词注入、人工审查和事件报告。适当的培训水平取决于员工的知识、经验以及使用 AI 的具体情境。
创建简便的审批流程
切实可行的流程可以收集工具名称、预期任务、涉及的数据、所需的集成以及预期的业务收益。然后，安全和法务团队可以根据实际风险批准、限制、测试、沙盒化或拒绝该工具。冗长的采购流程可能会促使员工寻找自己的变通办法。应设定合理的审查时限，并说明做出决定需要哪些信息。
让人员对输出负责
AI 辅助的工作应有明确的责任人。在输出影响客户、员工、财务、法律决策、生产代码、已发布的信息或其他高影响领域之前，要求进行审查。任何使用 AI 工具的人员都有责任检查其准确性、适当性、保密性以及是否符合公司策略。
记录重要的 AI 辅助决策
当 AI 参与影响客户、员工、财务、法律事务或其他高影响领域的决策时，应保留清晰的记录。可靠的审计跟踪有助于落实问责，并帮助组织调查错误、解释结果以及回应投诉或监管问题。
如果敏感数据已被分享该怎么办
将意外向 AI 工具披露信息视为与其他潜在数据事件同等对待。迅速完成以下步骤。
查明分享了什么：确认输入或上传了哪些信息、使用了哪个工具和帐户、披露发生在何时，以及谁可能访问过这些数据。
尽可能移除信息：从工具中删除会话和所有已上传的文件。查看提供商的条款和支持选项，了解是否可以提交正式的删除请求。
检查提供商可能保留的内容：将聊天从视图中移除并不总是能擦除所有副本。审查并记录提供商关于运营日志、备份、人工审查、模型训练和删除时限的说明，以帮助确定是否可能有数据残留。
保护受影响的系统：撤销授予 AI 工具或已连接插件的权限。轮换出现在提示词或附件文件中的任何密码、API 密钥、访问令牌或其他凭证。
通知相关团队：向组织的安全、隐私、法务或数据保护团队报告该事件。他们可以评估合同义务、监管要求，以及是否需要通知受影响的客户或合作伙伴。
从事件中吸取教训：记录所发生的事情，并利用它来改进培训、控制措施和经批准的替代方案。避免惩罚报告真实错误的员工，因为惩罚性反应可能会阻碍其他人今后报告事件。
面向团队的私有 AI 助手
Lumo for Business 为您的团队提供一个可靠的 AI 助手，可用于总结文档、分析数据、审查代码、起草内容和探索创意，同时帮助您的企业保持对机密信息的控制。
我们的企业 AI 助手不会保留会话日志，也不会将其用于训练 AI 模型，您选择保存的任何聊天历史记录都会受到 零访问加密的保护，这意味着我们永远无法访问您的数据
Lumo 完全开放源码，在欧洲构建，并通过 Proton 的 ISO 27001 认证和 SOC 2 Type II 证明支持 GDPR 和 HIPAA 合规。
为您的团队提供一个功能强大、注重隐私的 AI 助手，可以减少对未经批准的工具的依赖，并帮助您将 AI 使用保持在您监督的系统之内。
