如果您居住在欧盟，并且出于个人或业务目的使用 AI 驱动的产品或服务，欧盟人工智能法案可能会在某些方面影响到您。

您可能已经见过它带来的一个影响：在 Instagram 或 TikTok（新窗口） 等平台上，出现了标注图片、视频、音频片段或其他内容由 AI 生成或处理的标签或声明。这些标签作为欧盟人工智能法案透明度规则的一部分，于 2026 年 8 月开始适用，而它们只是分阶段推行的更广泛法律的一部分。

欧盟人工智能法案还禁止某些 AI 用途，对被视为高风险的系统提出严格要求，并为开发、提供或使用 AI 的企业制定规则，各项条款在不同时间生效。

那么，欧盟人工智能法案究竟是什么？它涵盖哪些 AI 系统？对您或您的企业又意味着什么？以下是需要了解的要点。

什么是欧盟人工智能法案？

欧盟人工智能法案是欧盟用于规范人工智能的法律，正式名称为 (EU) 2024/1689 号条例。其目标是让 AI 更安全、更透明、更值得信赖、更以人为本，同时保护基本权利，并促进 AI 在欧盟的创新与采用。

简而言之，您可以把欧盟人工智能法案理解为 AI 领域的 GDPR，尽管两者规范的内容不同：GDPR 主要规范个人数据的收集和处理方式，而欧盟人工智能法案规范 AI 系统的开发、提供、部署和使用方式，尤其是当它们可能影响人们的权利、安全或重要人生决定时。

欧盟人工智能法案如何处理 AI 风险

欧盟人工智能法案并非以同一种方式规范所有 AI，而是采取基于风险的方法，可将风险分为四个等级：

  • 不可接受（禁止）
  • 高风险
  • 有限（透明度）风险
  • 低风险或无风险

前八项禁令于 2025 年 2 月生效，最后一项将于 2026 年 12 月生效。

一般来说，AI 系统可能造成的潜在危害越大，规则就越严格。该法律并未正式定义四个“风险等级”，但为了便于理解，其规则通常被归为四大类别。

以下现实案例并非依据欧盟人工智能法案提起的案件，而是用于说明这部 AI 法律旨在防止、限制或规范在欧盟出现的危害或用途类型。

不可接受风险的 AI

某些 AI 用途被视为本质上不可接受，无法通过风险缓解、文档记录或监督来管理。以下是明令禁止的用途：

操纵与欺骗

通过操纵或欺骗手段，诱使人们做出原本不会做出的有害决定的 AI。

2023 年，一名比利时男子在 AI 聊天机器人对他加以怂恿并数周迎合他的情绪后自杀身亡（新窗口）。

利用弱势群体

因人们的年龄、残疾或社会或经济状况而占其便宜的 AI。

2026 年 1 月，聊天机器人平台 Character.AI 与 Google 就对青少年造成的伤害达成诉讼和解（新窗口），其中包括一位母亲提起的诉讼——她的儿子对一个怂恿他“回家”的聊天机器人产生了深厚的情感依恋，之后自杀身亡。

社会评分

根据人们的行为或个人特征给人评分，并利用这些分数不公平地对待他们的 AI。

中国的社会信用体系曾被用于限制低分公民购买机票或火车票等。2021 年，中国签署了一项终止社会评分的联合国不具约束力承诺（新窗口），但此后该体系仍在不断扩张，且目前尚不清楚其中有多少仍在依赖 AI 运行。

预测性警务

仅根据画像分析或性格特征来预测某人是否会犯罪的 AI。执法领域的其他 AI 用途，例如基于可核实的事实评估证据或风险，属于高风险，但并未被禁止。

2025 年 12 月，在审计发现 CAS 因某些街区历史上执法过度而加剧了偏见之后，荷兰警方停用了 CAS（新窗口）。该算法自 2017 年起用于预测犯罪可能发生的地点。

人脸识别数据库

从互联网或监控摄像头画面中不加区分地抓取图像来建立人脸识别数据库的 AI。

美国公司 Clearview AI 抓取了数十亿张在线照片（其中包括许多欧盟公民的照片）供执法和政府机构使用，并已被欧盟监管机构罚款数千万欧元（新窗口）。

情绪识别

在工作场所或学校中试图推断员工或学生情绪的 AI，但有真正医疗或安全目的的情况除外。在这两类场景之外的情绪识别则受高风险规则约束，而非被禁止。

2018 年，中国杭州一所中学安装了教室摄像头（新窗口），通过扫描学生的面部来测量他们的专注程度，引发了全国范围内关于儿童监控的辩论。据报道，该计划在舆论反弹后暂停，但类似的监控很快蔓延到其他学校。

到 2022 年，一些学校开始使用脑电波头环，监控范围扩展到远程学习和暑期作业跟踪（新窗口）。

敏感生物特征画像分析

利用生物特征数据推断种族、政治观点、工会成员身份、宗教、性生活或性取向等特征的 AI。用于其他目的的生物特征分类属于高风险，而非被禁止。

2025 年，世界维吾尔代表大会在法国起诉（新窗口）海康威视、华为和大华，指控人脸识别技术被用于识别和迫害维吾尔人。

警方实时人脸识别

执法部门在公共场所使用的实时人脸识别，仅少数受到严格管控的情况例外，例如寻找失踪或被绑架人员、防止迫在眉睫的威胁，或在严重犯罪中定位嫌疑人。非实时、非公共场所或非执法用途的人脸识别属于高风险，而非被禁止。

2025 年，匈牙利禁止 LGBTQ 骄傲活动，并通过一项法律，允许警方使用实时人脸识别来识别参与者。公民自由组织对该法律提出质疑（新窗口），认为其直接违反欧盟人工智能法案第 5 条。2026 年 4 月，欧盟最高法院裁定匈牙利侵犯了 LGBTQ 人群的基本权利；对骄傲活动组织者的指控被撤销，同月的政府更迭也撤销了该禁令。

性虐待和非自愿亲密内容

生成儿童性虐待材料（CSAM），或在未经真实、可识别人员同意的情况下生成或处理其露骨色情或亲密描绘的 AI 系统。

Grok 是内置于 X 的 AI 聊天机器人，其“辣味模式”会生成真实人物的性化深度伪造图像，其中包括儿童，在短短 9 天多的时间内生成了超过 440 万张图片。2026 年 1 月，美国多州总检察长要求 xAI 移除该功能，随后引发了多起诉讼（新窗口）。

高风险 AI

只要提供者履行一套严格的义务，高风险 AI 系统就可在欧盟市场销售。AI 系统在以下两种情况下被视为高风险：

  1. 它是已受欧盟产品安全法律约束并需接受第三方合格评定的产品或产品的安全组件，例如医疗设备、机械、电梯或玩具。此类系统根据第 6(1) 条和附件 I 被归类为高风险，并自 2028 年 8 月起开始适用高风险义务。
  2. 它属于第 6(2) 条和附件 III 中列出的特定用例类别之一。此类系统的义务自 2027 年 12 月开始，包括以下内容：

生物识别

这包括非实时、不在公共场所或非执法用途的远程生物识别，用于推断上述被禁止的敏感特征以外目的的生物特征分类，以及工作场所或教育场景之外的情绪识别（不包括基本的生物特征验证，例如用人脸解锁手机）。

2019 年，瑞典一所高中试用面部识别技术来追踪学生出勤。瑞典数据保护局对该学校处以罚款（新窗口），裁定学生由于依赖学校而无法有效作出同意。

关键基础设施

管理数字基础设施、道路交通或水、燃气、供暖或电力供应的 AI 被视为高风险。

2024 年 8 月，布拉格部署了一套AI 交通控制系统（新窗口），可根据当前状况实时调整红绿灯时序，并优先保障公共交通和紧急车辆通行。这是欧洲最早的大规模此类部署之一。

教育与职业培训

决定谁被学校或培训项目录取、进行评分、评估某人应受何种程度的教育，或在考试期间监控学生的 AI 被视为高风险。

新冠疫情导致考试取消后，英格兰的考试监管机构在 2020 年使用算法来分配成绩，下调了许多学生的分数（新窗口），使历史上成绩较差学校的学生处于不利地位。这引发了抗议，并迫使政府撤回决定。

就业与员工管理

这涉及用于筛选或评估求职者，或影响晋升、任务分配或在职绩效监控的 AI。

意大利一家法院裁定 Deliveroo 的骑手排名算法（新窗口）具有歧视性（新窗口），因为该算法在未识别疾病或罢工等正当理由的情况下，因外卖配送员可接单时间不足而对其处罚。Deliveroo 被责令支付赔偿。

基本服务

决定公共福利或医疗保健资格、评估信用状况、为寿险或健康保险定价，或对紧急呼叫进行分类调度的 AI 被视为高风险。

荷兰税务部门使用一种算法欺诈风险系统，错误标记了约 26,000 名家长（新窗口），要求他们退还福利，而拥有双重国籍的人受到的影响尤为严重。这一丑闻于 2021 年 1 月导致荷兰内阁垮台。

执法部门

评估受害者或罪犯的风险、评估证据的可靠性，或在刑事调查期间对人进行画像分析的 AI 被视为高风险。

英格兰和威尔士使用 OASys 为超过 700 万人评估再犯风险（新窗口），其结果用于保释、量刑和假释决定。官方评估发现，该系统对黑人、亚裔和混血人群的准确性低于对白人罪犯的准确性，且囚犯质疑用于评分的不准确数据的能力有限。替代系统 (ARNS) 正在开发中，计划于 2026 年在全国推出。

移民、庇护与边境管制

这涉及评估安全或移民风险、审查庇护申请或在边境识别人员身份的 AI。

英国内政部以一份安全文件为由拒绝了一名摩洛哥妇女及其孩子的庇护申请（新窗口），而该文件后来被证实并不存在。在上诉中，一位高级法院法官表示，拒绝信显示出了 AI 幻觉的迹象，并称其“类似于依赖虚假证据”。

司法与民主进程

协助法官解释事实或法律的 AI，或可能影响选举结果或人们投票方式的系统被视为高风险。

最广为人知的例子莫过于——Cambridge Analytica 未经同意收集了多达 8700 万 Facebook 用户的数据，构建心理画像，用于定向政治广告（新窗口），尤其是 2016 年特朗普竞选活动和英国脱欧公投。

高风险 AI 系统的要求

根据欧盟人工智能法案，高风险 AI 系统在投放市场或投入使用之前必须满足严格的要求。这些要求包括：

风险管理：提供者必须在系统的整个生命周期内识别、评估和降低潜在风险。

数据质量：训练、验证和测试数据必须适当并加以管理，以减少错误和歧视性结果。

日志记录与可追溯性：系统必须记录其活动，以便追踪其运行情况和结果。

技术文档：提供者必须记录系统如何工作、其设计用途，以及如何符合 AI 法案的要求。

面向部署者的信息：使用系统的个人和组织必须获得关于其功能、局限性和正确用法的清晰说明。

人工监督：系统的设计必须确保合格人员能够在必要时理解、监控并干预其运行。

准确性、稳健性与网络安全：系统必须在准确性、可靠性、韧性以及抵御安全威胁方面达到相应标准。

不过，第 6(3) 条为附件 III 所列的 AI 系统规定了某些豁免。如果这些系统“不会对自然人的健康、安全或基本权利构成重大伤害风险，包括不会对决策结果产生实质性影响”，则不应被视为高风险。第 6(3) 条包含关于如何界定 AI 系统是否属于此类豁免的详细信息。

透明度风险（有限风险）AI

就透明度风险而言，第 50 条重点关注那些使人难以区分 AI 生成内容与人工创作内容的 AI。其担忧主要在于欺骗、冒充、虚假信息、操纵和消费者欺诈。这些系统通常是被允许的，但提供者和部署者必须充分透明地说明 AI 的使用情况。第 50 条的透明度义务已于 2026 年 8 月生效。

AI 透明度规则涵盖四种主要情况：

AI 交互

当 AI 系统与人直接交互时，提供者必须明确告知对方正在与 AI 而非人类交互。这可能适用于包含对话式 AI 或客服代理的交互式系统。

AI 免责声明必须在首次交互开始时，就以易于获取、清晰且可辨别的方式提供。仅在后台运行或进行机器对机器通信的 AI 不受此项特定要求约束。

标准 AI 生成内容

生成或处理文本、图像、音频或视频的 AI 系统提供者，必须使输出结果在技术上可被识别为 AI 生成或处理的内容，例如通过机器可读的元数据。

这并不一定意味着要为查看内容的人添加可见标签。不会实质性改变输入数据或其含义的简单编辑工具可获豁免。

深度伪造与某些公共利益内容

如果组织创建或处理深度伪造图像、音频或视频，仅有机器可读标记是不够的。它们必须以易于感知的方式向公众明确披露，例如通过可见标签或可听提示。

同样的标准适用于为就公共利益事项向公众提供信息而发布的 AI 生成或处理的文本，除非有人对其进行了有实质意义的审阅并承担编辑责任。

情绪识别与生物特征分类

当使用 AI 检测人们的情绪或利用生物特征数据对人进行分类时，必须告知当事人；无论该系统是否同时被归类为高风险，均适用此规定。

低风险或无风险 AI

大多数 AI 系统都属于这一类别，不受 AI 法案额外强制性要求的约束。例如垃圾邮件过滤器和电子游戏中使用的 AI。提供者仍可自愿遵循最佳实践和行为准则。

什么是 GPAI 模型？它们有哪些义务？

GPAI（通用人工智能）模型是旨在处理多种不同任务而非单一狭窄用途的 AI 模型。GPAI 模型的例子包括为 ChatGPT、Gemini、Claude 和 Meta AI 提供支持的大语言模型（LLM）。它们可以生成或分析内容，并可集成到其他 AI 系统和应用中。

GPAI 模型在 AI 法案下须遵守自身的要求。提供者必须维护技术文档，向下游开发者提供有关模型功能和局限性的信息，遵守欧盟版权规则，并公开发布一份摘要，说明用于训练模型的数据类型（例如文本、图像、音频或视频）和数据来源（例如公开数据集、私有数据集、抓取的网站、用户数据或合成数据）。

构成系统性风险的 GPAI 模型——即足够强大或被广泛使用，以至于其问题可能在欧盟范围内造成大规模危害——面临额外要求，包括模型评估和对抗性测试、持续的风险管理、事件报告以及更强的网络安全防护。

欧盟人工智能法案是否禁止 AI 系统使用人们的数据进行 AI 训练？

不。欧盟人工智能法案并未禁止将人们的数据用于 AI 训练。它确实要求高风险系统使用高质量数据，并要求通用 AI 提供者对其训练数据保持透明，但个人数据能否合法用于训练 AI 主要由 GDPR 规范。企业必须具备处理个人数据的有效法律依据，并遵守适用的数据保护权利和保障措施。

欧盟人工智能法案是否保护知识产权？

是的，但仅以有限且间接的方式。欧盟人工智能法案并未创设新的知识产权，也未取代现行版权法。不过，它要求 GPAI 提供者遵守欧盟版权规则、尊重权利人对文本和数据挖掘的退出选择，并发布用于训练其模型的内容摘要。

欧盟人工智能法案实施时间表

以下是一些您需要了解的重要日期：

2024 年 8 月 1 日：欧盟人工智能法案生效。

2025 年 2 月 2 日：法案的总则和定义开始适用，针对被禁止 AI 实践的首批八项禁令也随之生效。提供者和部署者支持员工提升 AI 素养的要求也开始适用。

2025 年 8 月 2 日：GPAI 模型规则生效，涵盖 AI 治理和处罚的条款也一并生效。

2026 年 7 月 27 日：AI 综合法案生效。AI 综合法案正式名称为 (EU) 2026/1744 号条例，是对欧盟人工智能法案的 2026 年修订案，旨在简化其实施、减轻合规负担，并给予企业和监管机构更多准备时间，同时保留该法案的核心安全与基本权利保护。

2026 年 8 月 2 日：AI 法案的大部分剩余条款开始适用，包括要求对某些 AI 系统和 AI 生成内容进行披露或技术标记的透明度规则。

2026 年 12 月 2 日：涉及 AI 生成儿童性虐待材料以及非自愿露骨色情或亲密描绘的第九项禁令生效。在 2026 年 8 月 2 日之前投放市场、生成合成文本、图像、音频或视频的 AI 系统提供者，也必须在此日期之前符合法案的机器可读标记要求。

2027 年 8 月 2 日：欧盟成员国必须在此日期之前至少设立一个国家 AI 监管沙盒，供企业在监管监督下开发和测试 AI 系统。

2027 年 12 月 2 日：高风险 AI 规则开始适用于生物识别、关键基础设施、教育、就业、基本服务、执法、移民和司法管理等领域使用的系统。

2028 年 8 月 2 日：高风险要求开始适用于作为欧盟产品法律所涵盖的受监管产品之组成部分或安全组件的 AI 系统，例如某些机械、医疗设备、玩具和电梯。

如何让您的企业做好欧盟人工智能法案合规准备

对企业而言，最大的实际变化是，合规始于弄清公司扮演的角色以及使用的 AI 类型。仅使用 AI 写作助手的公司，其义务远少于开发招聘算法、销售 AI 医疗设备或提供 GPAI 模型的公司。如果企业将 AI 系统或 GPAI 模型投放到欧盟市场，或其 AI 系统的输出在欧盟内被使用，该法案同样适用于欧盟以外的企业。

为做好准备并持续符合欧盟人工智能法案的要求，您的企业应当：

了解您使用的 AI：跟踪各团队使用的 AI 系统（包括第三方工具），并了解它们的用途。这可能包括人力资源、客服、市场营销、安全、分析和其他业务流程中使用的 AI。

确定您的角色：明确您的企业是开发或销售 AI 系统的提供者、使用 AI 系统的部署者，还是进口商或分销商。不同角色适用不同的义务。

按风险对 AI 进行分类：检查任何 AI 用途是否属于被禁止、高风险、须遵守透明度要求或风险极低。例如，如果您使用 AI 筛选求职者，相关规则要比 AI 垃圾邮件过滤器严格得多。

停止被禁止的 AI 用途：审查您的 AI 工具和工作流程中是否存在任何被禁止的做法，并停用或更换越界的系统。尤其要关注用于监控员工、对人进行画像分析、分析生物特征数据、操纵行为或对个人作出敏感评估的 AI。

培训使用 AI 的员工：提供者和部署者必须采取措施，支持员工以及其他代表其操作 AI 系统的人员提升 AI 素养。培训应反映 AI 的实际使用方式及相关风险。

满足 AI 透明度要求：您可能需要在人们与 AI 交互时告知对方、为某些 AI 生成或处理的内容添加标签，或在使用获准的情绪识别或生物特征分类系统时告知当事人。

对高风险 AI 实施更严格的控制：提供者必须管理风险、使用适当的数据、保留文档和日志、确保人工监督，并满足准确性、安全性和可靠性要求。他们可能还需要完成合格评定并注册系统。使用高风险 AI 的企业必须遵循提供者的说明、监控其运行情况，并保留所需的记录。

检查 GPAI 义务：如果您提供 GPAI 模型，则有单独的要求，涵盖技术文档、面向下游开发者的信息、版权合规以及训练内容摘要。构成系统性风险的模型还面临额外的安全和网络安全要求。

审查 AI 供应商：如果您使用第三方 AI，请检查供应商提供的系统、其分类方式、可获得的文档，以及谁负责遵守欧盟人工智能法案的各部分内容。对某些 AI 系统进行修改或更换品牌，也可能将提供者责任转移给您的企业。

保持 AI 治理的最新状态：AI 系统、其用途以及法律都可能发生变化。企业应记录 AI 的使用方式、监控系统以发现新风险或事件，并在 AI 系统发生重大变更或被改变用途时重新评估合规情况。

遵守 AI 法案并不能取代其他法律义务。使用个人数据、受版权保护的材料或在受监管行业使用 AI 的企业，可能还需要遵守 GDPR、欧盟版权规则、消费者保护法和特定行业法规等法律。

构建隐私优先的 AI 方案

欧盟人工智能法案对 AI 采取基于风险的方法，即使您本人并不使用 AI，也可能受到影响。如果您居住在欧盟，AI 可能影响您看到的内容、您交互的服务，或针对您作出的决定，例如您能否购买某些东西。因此，熟悉该法案可以帮助您了解何时必须披露 AI、适用哪些保护措施，以及何时可以对 AI 系统的使用方式提出质疑。

对企业而言，义务取决于组织扮演的角色、其 AI 系统的使用方式以及涉及的风险级别。

对于那些选择使用 AI 的人，Lumo 提供了一个隐私优先的欧洲 AI 替代方案。我们的 AI 助手绝不记录您的对话，也不会用您的数据进行训练。您的数据受到零访问加密的保护，只有您自己能够读取。即便是 Proton 也无法看到您的数据。

同样的保护也延伸至 Lumo for Business——我们面向团队的 AI 助手。它让组织能够为员工提供经批准的 AI 工具，同时帮助保护公司机密、客户及其他敏感数据的隐私。使用 Lumo 本身并不能使企业符合欧盟人工智能法案的要求，但它可以支持整个组织以更注重隐私的方式采用和治理 AI。

与 Lumo 聊天（新窗口） 获取 Lumo for Business

如果您刚接触 AI，或想了解这些规则背后的技术，请查阅我们的 AI 指南，深入了解 AI 隐私、监控、安全风险，并概览一些最受欢迎的 AI 提供商常具欺骗性的做法。