人工智能 (AI) > LLM 安全吗？
LLM 安全吗？ AI 安全风险解析
AI 助手已成为日常工作、研究和沟通的工具。 但正是那些让它们发挥效用的系统，也带来了安全隐患。 以下是您应该了解的关于 LLM 和 AI 的安全风险。
什么是 LLM，它与 AI 及安全有什么关系？
人工智能涵盖数十种机器学习软件，从人脸识别到银行反欺诈检测，再到棋盘游戏。 大语言模型 (LLM) 是 AI 的一种特定类型：它们是您听说过的每个主要 AI 助手背后的引擎，包括 ChatGPT、Microsoft Copilot、Google Gemini 以及 Proton 自研的 Lumo。
LLM 通过处理海量信息——书籍、文章、文档、代码和学术论文——并发现语言运作规律来进行学习。 随着时间的推移，它越来越擅长预测任何文本中接下来应出现的内容，从而使其能够进行完整的会话、总结文档或起草读起来就像真人撰写的电子邮件。
由于 LLM 处理如此多的信息，并且人们越来越多地与其分享敏感的个人和专业详细信息，因此 LLM 安全对于确保机密数据不被窃取或泄露尤为关键。
智能体 AI 在其中处于什么位置？
过去，LLM 仅限于做出响应——您提问，AI 作答。 智能体 AI 则更进一步。 AI 智能体仍然使用 LLM 来进行推理和沟通，但它还可以采取行动：浏览网络、编写和运行代码、发送消息、连接到外部应用以及管理您的文件。 它无需过多的人工监督即可完成多步骤任务，而不仅仅是回答单个问题。
这种更强大的能力也伴随着更高的风险。 当 AI 能够独立行动时，它被欺骗或出错所造成的后果会严重得多。 智能体 AI 的安全问题正是该领域增长最快的担忧之一，因为这些系统越来越多地被嵌入工作工具中，且往往拥有超出其实际所需的访问权限。
LLM 安全与 AI 的潜在危险
AI 和 LLM 的安全风险之所以令人担忧，是因为它们与这些工具设计和部署的基本架构紧密相连。 当您向 AI 助手咨询个人健康问题、分享商业策略或讨论法律情况时，这些信息通常会最终存放在您无法控制的服务器上，并且可能会受到您甚至未曾意识到的法律或行为准则的约束。 LLM 安全不仅是 IT 团队需要考虑的问题，对于任何使用 AI 的人来说，无论用于私有目的还是专业用途，这都是一个切实相关的问题。
最大的 LLM 和 AI 安全风险
LLM 每天都被集成到更多工具中——但它们仍然伴随着一些并非显而易见的安全风险。
大多数 AI 平台在默认情况下都会保留您的提示词、响应和交互数据。 这些信息可能会被公司员工查阅、用于未来的模型训练、出售给第三方，甚至移交给有关部门。 一旦您的会话进入他人的服务器，对于该数据如何存储、使用或分享，您几乎没有任何话语权。
大多数 AI 产品由不同组织和公司构建的组件组成，包括基础模型、插件、应用程序接口和数据管道。 如果该供应链中的某个环节出现安全漏洞，该产品的每个用户都会受到影响，而且通常没有任何明显的异常迹象。
LLM 可能会显示其从未打算分享的数据。 这可能是从训练数据、其他用户的会话中获取的信息，或者是 AI 仍有权限访问的您自己早期的会话。 在多人共享同一个 AI 工具且敏感数据在同一系统中流动的企业环境中，这些泄露可能会造成严重损失。
由于智能体 AI 能够发送电子邮件、运行代码或访问您的文件，它们被操纵的风险显著增加。 拥有过多权限的 AI 智能体可以跨多个连接的系统采取行动，而这往往在任何人察觉到异常之前就已经发生。 您越是让 AI 代表您行动，对其访问权限进行严格控制就越重要。
提示词注入是最普遍的 AI 安全风险之一。 它的运作机制是在提供给 AI 的内容中，例如在 PDF 或网页中隐藏恶意指令，以操纵能够自主行动的 AI 智能体。 这些指令会悄悄覆盖 AI 智能体的行为，可能导致其泄露机密数据、做出违背您利益的行动或产生误导性输出——而表面上一切似乎都很正常。
Lumo 如何以不同方式保障 AI 安全
大多数 AI 助手的架构设计都旨在让平台最大程度地了解您的使用方式。 Lumo 的设计初衷恰恰相反，它为您提供对数据处理方式的更大掌控力和安心感。
绝无日志，始终如一
Lumo 的 LLM 服务器处理您的消息并在生成响应后立即将其丢弃。 不会记录您询问的内容、回答的内容或提问的时间。 服务器上不保留纯文本聊天记录，这意味着不会发生数据泄露、被传唤调取或被滥用的情况。
您的消息在离开您的设备前就已加密
Lumo 使用双向非对称加密——称为“用户至 Lumo (U2L)”加密——来保护您在传输中的消息。 您的实际消息仅可由 LLM 服务器本身读取，并且仅在生成响应所需的时间内可读。
会话历史记录通过零访问加密锁定
生成响应后，您的会话将使用 零访问加密 存储——由仅属于您的密钥进行保护。 Proton 绝无法访问它。 即使 Proton 的服务器遭到完全入侵，您的会话历史记录仍将保持不可读状态。
开源模型和代码允许专家验证 Lumo 的安全性
与 ChatGPT、Copilot 和 Gemini 等闭源 AI 工具不同，Lumo 运行在开源模型和代码上，因此任何人都可以检查我们的架构是否存在漏洞，并验证它是否完全符合我们的声明。
无广告或数据共享
大多数 AI 助手的商业模式依赖于收集和保留您的数据。 Lumo 与众不同。 Proton 的收入来自订阅，而非数据变现，因此我们没有动机记录您的会话日志、与第三方分享，或利用它们向您投放广告。
托管在欧洲，不受美国监视法的管辖
由美国公司构建的 AI 工具可能会根据《云法案》等法律被强制披露您的数据。 Lumo 运行在位于欧洲的 Proton 受控服务器上，享有世界上最严格的隐私保护。 外国政府的访问请求无法触及您的会话。
大家对 Lumo 的评价
这是任何人唯一能看到您会话的地方。
@recant731
发表于 X
刚让 Lumo 帮我规划了一次公路旅行，提供了详细的路线、住宿预算以及汽车油费预算。 @ProtonPrivacy 已经让我非常激动，现在 @asklumo 也同样如此。
@markruffalo
来自 Instagram 评论
还有其他同样好用、更实惠或更私有的聊天应用可供使用，而且不会资助这世上的恶行。 ProtonMail 推出的 Lumo 就是一个很好的选择
@banasnap.bsky.social
发表于 Bluesky
前景喜人的理念：隐私优先的 AI 正是当前行业格局中所缺失的。 在大多数服务都被美中企业主导的背景下，由一支深谙在线隐私的团队打造欧洲本土方案，填补了亟需的空白。 期待试用 Lumo。
tintreack
发表于 Reddit
这太棒了，吉祥物也很可爱。 我真的很喜欢这个品牌形象。 另外，作为一名在工作流程中必须使用 ChatGPT 的 Visionary 用户，非常感谢你们。 我终于可以摆脱它了。 我一直在测试它，体验相当出色！ 团队干得漂亮。
转向真正安全的 AI 助手
大型科技平台构建的 AI 工具旨在提供实用功能，但往往以牺牲您的安全和隐私为代价。 Lumo 为您提供功能强大、已加密的 LLM 和 AI 助手，且无需在安全性上做出任何妥协。
关于 LLM 和 AI 安全的常见问题
- 对于普通用户来说，最大的 AI 安全风险是什么？
- Lumo 适用于机密或敏感工作吗？
- AI 对企业的主要危害是什么？
- Lumo 支持哪些语言？
