什么是 AI 代理？

AI 已迅速从新鲜事物演变为许多人每天都会使用的工具。最简单、最常见的用途是编写消息草稿、总结文档或搜索网络。但随着 AI 代理的兴起，一场新的演变正在进行——这类 AI 系统不仅能回答问题，还能半自主地执行任务。

简单来说，AI 代理是一种利用 AI 来追求目标、在您的数字生活中以最少监督采取行动的软件。与一次只响应一个提示不同，代理可以读取信息、决定下一步做什么，并持续执行，直到得出结果或需要您的输入。您无需简单地让 AI“汇总我的电子邮件”，只需告诉代理“帮我管理好收件箱”，它就会在您设定的限制范围内读取、分类、起草甚至发送电子邮件。

正是这种行动能力，使 AI 代理有别于大语言模型等更简单的 AI 工具。本文将深入介绍什么是 AI 代理、它们能做什么、存在哪些风险，以及如何在使用它们时保持安全。

在本文中，您将了解：

AI 代理有什么用途？
AI 代理是如何工作的？
AI 代理的类型
如何开始使用 AI 代理
为什么 AI 代理意味着新的风险
如何在使用 AI 代理时保证安全

AI 代理有什么用途？

AI 代理被部署在数字环境中，用于个人和工作场景，以提高工作效率。

在日常使用中，AI 代理可以：

监控您的收件箱，起草建议回复，并突出显示紧急事项
整理笔记或保存的文章，并生成快速摘要
追踪航班或产品的价格变化，并在降价时通知您
通过建议会议时间并发送邀请来管理日历中的预约
对照片或文件进行分类和标记，方便查阅

在商业场景中，AI 代理常被用于：

帮助客户支持团队对工单进行分拣和分类，并准备回复草稿
协助销售和营销团队汇总帐户信息并生成个性化外联内容供审核
接管重复性的后台任务，例如将发票数据提取到会计工具中，或标记异常交易
协助 IT 和安全团队扫描日志并对相关警报进行分组

在上述所有场景中，实际效益显而易见：AI 代理可以通过跨工具协调多个步骤来节省时间并减少人工操作。然而，虽然 AI 代理能够提升生产力和自动化水平，但它们也带来了新类型的错误、攻击和数据泄露风险，我们将在下文探讨。

AI 代理是如何工作的？

大多数人对 AI 的主要体验是通过 ChatGPT、Google Gemini 或 Microsoft Copilot 等聊天机器人。聊天机器人是一种将 AI 模型包装在对话式界面中的应用。您输入问题，聊天机器人将其发送给模型，然后您会收到回复。

AI 代理在这一基本理念的基础上，增加了几个重要组件。大多数现代代理结合了三个核心部分：

语言模型

许多代理的核心是大语言模型 (LLM)。LLM 负责理解语言指令、对其进行推理并生成文本。它将您为 AI 代理设定的目标转化为具体的步骤和决策。

工具使用（或工具调用）

代理通常连接到外部工具和服务，例如电子邮件、日历、数据库和网络浏览器。代理可以调用这些工具来读取数据或执行操作，例如获取最近的电子邮件、更新记录或会议邀请。

记忆和上下文

AI 代理通常会保留某种形式的记忆，以便追踪已经发生的事情和仍需完成的任务。这可以涵盖从之前的任务到用户首选项在内的各种信息。记忆帮助代理跨多个步骤开展工作，而不是将每次交互都视为孤立的。

一般来说，AI 代理会遵循以下步骤：

您向代理提供目标和相关上下文作为提示
代理解读您的请求并规划一系列步骤
它使用工具来收集信息或执行操作
其记忆会根据已发生的情况不断更新，并指导接下来的操作
该过程不断重复，直到达成目标或需要您做出回应

简单来说，聊天机器人为您提供了一个与模型“对话”并获取答案的界面，而 AI 代理则将该模型与工具和记忆相结合，从而能够在您的应用和帐户中实际执行工作。

AI 代理的类型

根据功能以及决策方式的不同，AI 代理可以分为多种类型。总的来说，AI 代理有五种类型：

简单反射代理

简单反射代理是 AI 代理中最基本的类型，它们仅对当前信息做出反应，遵循预先设定的条件，而不考虑过去的上下文。这类代理最适合重复性的简单任务，例如过滤电子邮件。

基于模型的反射代理

基于模型的反射代理与简单反射代理类似，也使用条件来做决策，但会将过去的决策和情况纳入考量。这使它们能够从先前环境的记忆中学习，并相应地调整自己的模式。自动驾驶汽车和扫地机器人通常使用基于模型的反射代理。

基于目标的代理

基于目标的代理不是简单地对输入做出反应，而是根据期望的目标来做决策。它们更加动态和先进，即使遇到障碍也能调整并制定新的策略。GPS 导航系统就是基于目标的代理的一个例子，您的目的地是预期结果，而路线可能会根据交通状况而改变。

基于效用的代理

基于效用的代理会权衡多个结果的最佳“值”，并根据所选的指标（例如时间、成本或风险）选择能提供最佳权衡的方案。它们在存在相互竞争的优先事项时最为有用——例如，当您需要确定任务的优先级时。

学习型代理

学习型代理旨在不断改进，能够根据经验和反馈调整自己的行为。随着积累和处理更多数据，它们会随着时间的推移变得更加高效，对于虚拟个人助理等快速变化的角色尤其有用。

如何开始使用 AI 代理

刚开始使用 AI 代理时，最好谨慎选择让它们执行的任务，然后逐步优化。

从低风险任务开始
想一个您希望自动化的简单任务，例如让 AI 代理整理新闻通讯文件夹、起草仍由您手动批准的回复，或汇总保存的文章。这样您可以选择最适合该任务的代理类型，并在不授予任何敏感内容访问权限的情况下先观察其表现。
优先使用内置的代理功能
许多工具现在都包含基本的代理功能，例如“智能”收件箱助手、文档组织者或支持机器人。使用这些功能通常比创建自定义代理更安全，尤其是当您在编程和开发方面经验不多时。
逐步添加访问权限
当您确实需要将代理连接到帐户时，请从有限的只读访问权限开始。只有在您对其表现感到满意后，才允许它发送电子邮件、更新记录或进行更改。
持续审查和调整
留意代理做对了什么，以及它在哪些方面表现不佳。大多数系统允许您微调设置或缩小范围，使代理专注于能够发挥最大价值的任务。

在您更加熟悉代理的工作方式和行为之后，就可以在采取适当保障措施的情况下，从小型个人用例过渡到更复杂、集成度更高的工作流程。

为什么 AI 代理意味着新的风险

任何能够代表您采取行动的系统，也都可能代表您犯错或被他人滥用，AI 代理也不例外。以下是 AI 代理的一些常见风险：

更大的攻击面

由于 AI 代理通常可以访问电子邮件、云存储空间、日历和仪表板等应用，这使它们成为更大的攻击目标。如果攻击者能够影响该代理，他们就可能在这所有相互连接的系统中畅行无阻，轻松访问机密数据。

提示注入和恶意内容

许多代理在工作中会例行分析网页、文档和电子邮件。攻击者可以在这些内容中隐藏指令，诱骗代理泄露数据或绕过安全防护措施，因为 AI 代理通常无法辨别真实指令和伪造指令。

权限过高的访问

为了最大化效率而授予代理广泛的访问权限可能很诱人：完全控制收件箱、访问生产数据库，或同时使用许多内部工具。但这也意味着更大的风险：如果权限过高的代理遭到入侵或行为异常，造成的损害将严重得多。

数据泄露和合规问题

许多代理会向第三方 AI 服务发送提示和文档。如果这些服务提供商存储数据或将其用于训练，您分享的信息可能超出预期，从而影响个人隐私和监管合规要求。

但这并不是说使用 AI 代理本身就存在危险；只是需要更加小心，并使用正确的工具和做法来保障安全。

如何在使用 AI 代理时保证安全

我们的目标不是完全避开 AI 代理，而是以尊重您的隐私的方式使用它们，并在出现问题时将影响最小化。无论您是在个人生活中尝试 AI，还是在工作场所部署代理，以下步骤都会有所帮助：

限制代理可以访问的内容。为每个代理提供狭窄且明确定义的范围，而不是广泛的访问权限。例如，让个人代理读取特定的电子邮件标签，而不是您的整个收件箱；或者在您信任其行为之前，只允许财务代理访问测试数据。
对于敏感操作，始终要求人工批准。 涉及金钱、安全设置或在组织外分享数据的任务应要求明确批准。代理可以准备付款、草稿或报告，但任何高影响的事项都应由人工审查和确认。
了解您的数据去向。在将代理连接到真实帐户或文档之前，请检查它使用哪些提供商、数据在哪里处理、存储多久，以及是否用于训练模型。选择能为您提供清晰且尊重隐私的控制选项的工具。
像对待特权软件一样对待代理。记录它们的行为，定期审查，并在出现异常时随时准备迅速撤销访问权限。在组织中，这意味着了解存在哪些代理、它们接触哪些系统，以及如何立即将其关闭。

这正是 Proton Pass 发挥作用的地方。Proton Pass 是一款端到端加密密码管理器，还提供 AI 访问令牌，让您可以控制和监控代理可以访问哪些凭证。

您无需临时与 AI 代理分享用户名、密码和 API（应用程序接口）密钥，Proton Pass 访问令牌会授予对特定项目或保险库的有限访问权限。您可以为不同的代理签发单独的令牌，确保您的所有凭证始终保持加密状态并始终处于您的控制之下。每当代理使用某个项目时，都会创建一条包含访问原因的审计日志，方便您审查和监控代理的活动。

将这些做法结合使用，您既能享受 AI 代理带来的好处，又能将风险控制在可控范围内。