AI 聊天日志的隐性风险

随着人工智能的使用日益增多，AI 助手（新窗口）正成为人们信赖的伙伴。数百万人向 ChatGPT、Claude、Gemini、DeepSeek 等聊天机器人提问并解决问题。他们提出的问题可能极为敏感，例如咨询健康问题、分享客户数据，或寻求情感支持和创作灵感。

对许多人来说，这些聊天机器人感觉像真人一样，反应灵敏且 seemingly 保密。但最近的事态发展（一项法律命令已迫使 OpenAI 无限期保存 ChatGPT 输出数据（新窗口），OpenAI 创始人 Sam Altman 也表示 ChatGPT 不提供“法律保密”（新窗口））揭示了这样一种风险：您输入的每一个字都可能被记录、存储、分析，并可能被滥用或泄露给第三方。

下面来看看这可能意味着什么，以及为什么它与我们每个人息息相关。

AI 带来的风险更高

AI 助手的兴起看似一片全新领域，但许多方面我们似曾相识。围绕 AI 聊天日志的担忧与搜索引擎早期出现的问题如出一辙，其中许多担忧后来都被证实并非杞人忧天。搜索日志曾被用于构建利润丰厚的广告定向画像，曾在数据泄露事件中暴露，也曾被法院传唤调取。

有了 AI，风险之所以更高，是因为数据更加个人化、更加详细。越来越多的人不再使用搜索引擎，而是转向 AI 聊天机器人寻找答案，预计到 2026 年，搜索引擎的使用量将下降 25%（新窗口）。搜索栏通常只捕捉简短、零碎的查询，而向聊天机器人提问则像是与另一个人交谈，在此过程中会暴露更多个人信息。一次会话中可能包含个人想法（新窗口）、情感困扰、健康问题（新窗口）、财务焦虑，甚至全名和地址。

简而言之，与搜索引擎日志相比，聊天日志能提供一幅更丰富、更私密的身份图谱，对您的隐私影响也大得多。大型科技公司可以访问您的聊天日志，并利用它们构建您的心理画像，这些画像可能被披露给政府或用于定向广告。例如，Meta 正在利用 AI 聊天数据创建个性化广告。

您的“匿名”聊天未必能一直保持匿名

一种常见的观点认为不必担心聊天日志的隐私，理由是数据量庞大，个别用户不太可能被针对性利用，尤其是在用户未登录的情况下。但近期的事态却讲述了不同的故事。

今年 7 月，记者发现 ChatGPT 中有超过 10 万条会话（新窗口）被 Google 收录并可被搜索。用户点击“分享”按钮将一段会话发送给朋友或同事时，几乎肯定没有意识到自己的私人会话会被互联网上的所有人看到。

这个例子是一个警告：所谓“匿名”的数据很少真正匿名。与 IP 地址、时间戳、设备指纹以及会话和 cookie ID 相结合后，这些日志的可识别性会大大提高。

聊天如何暴露我们的内心世界

热门 AI 平台 ChatGPT（新窗口）、Gemini（新窗口）和 DeepSeek（新窗口）均表示，用户聊天日志用于帮助改进模型性能，不会用于“出售”您的数据进行广告投放或用户画像。但正如 OpenAI 的法律纠纷所示，策略可能一夜之间改变。

例如，Anthropic 于 2025 年 8 月在毫无预警的情况下更新了其隐私政策（新窗口），延长了数据保留期限。日志被无限期存储后，曾经看似无法触及的个人数据可能突然变成有利可图的收入来源。

这种事并非没有先例。1998 年 Google 创立时，联合创始人 Sergey Brin 和 Larry Page 曾警告（新窗口），基于广告的搜索引擎将不可避免地“天然偏向广告主，而无视消费者的需求”。十年后，Google 开始利用搜索记录投放定向广告（新窗口）。

AI 日志可以直接触及人们的内心世界，从而将广告定向推向极致。随着越来越多的用户向聊天机器人寻求情感支持（新窗口），有人可能会倾诉：

“最近我感到不堪重负，孤独无助。”
“你觉得我得了抑郁症吗？”
“如果我下个月付不起房租，该怎么办？”

这些陈述不仅仅是关键词或互动记录的集合，它们清晰地表明了情感和处境。一旦被存储并加以分析，就可能被用来构建心理画像并操纵用户的决策。

担心这类私密、敏感的信息可能被用于剥削目的并非危言耸听——因为大型科技公司确实这样做过。2017 年，Facebook 探索如何在青少年情绪不稳定的时刻，用广告定向情感脆弱的青少年（新窗口），证明任何互动都可以成为其目标。

聊天机器人日志是一扇通往您内心世界的窗户。在一个对数据使用和应用尚无明确准则和法规的行业里，这种程度的访问引发了严重的隐私和伦理担忧。

用户面临的法律风险

搜索记录长期以来在刑事调查和法庭案件中发挥着作用。多起案件的定罪都与在线查询有关，其中最著名的案例之一是美国的 Moira Akers vs State。

Akers 在 2018 年经历死产后被控谋杀，并于 2022 年被判处 30 年监禁。控方案件的一个关键依据，是 Akers 在孕早期进行的有关堕胎的互联网搜索。检方称，这些搜索证明了 Akers 的意图——尽管她实际上将胎儿足月生产。2025 年，马里兰州最高法院推翻了她的定罪，裁定该搜索查询证据不可采纳（新窗口）。但 Akers 此前已在狱中服刑近三年。此案表明，已存储的日志可以被用来编织一个符合不利叙事的故事，即使存在与之相矛盾的证据。

对于可能被用作法律证据的已存储 AI 聊天记录，风险可能更高。与搜索查询不同，这些互动更具对话性，甚至带有试探性质，有时只是为了引导大语言模型（LLM）给出某种类型的回答。一次私密的、并无恶意的 AI 交流，日后在法律环境中可能被解读为具有罪证性质，而无论当时的意图如何。

操纵的强大工具

能够查看聊天机器人日志的人可以获取详细的行为蓝图：个人习惯、情绪触发点、人际关系动态，甚至职业弱点。一旦落入不法之手，这些数据就会成为社会工程攻击的强大工具——这是一种常见的黑客手段，涉及心理操纵。

这种风险绝非假设。2025 年 1 月，AI 平台 DeepSeek 将一个庞大的数据库暴露在网络上（新窗口）。此次数据泄露包括超过 100 万条 AI 聊天日志和 API（应用程序接口）密钥，任何知道查找位置的人都可以公开访问。其中暴露的数据包括纯文本会话，可能涉及有关家庭、财务和机密项目的讨论——这些信息很容易被用于欺诈、勒索或身份盗用。

一旦泄露，这些数据就可能被武器化，用来冒充您或操纵您。攻击者可以引用从过往会话中获取的个人信息，赢得您的信任，再加以利用，造成严重的财务或安全漏洞。

政治监控的阴影

在威权政体中，存储的数字互动可能带来远为严重的后果。例如，出于对运营方如何处理用户个人信息的安全担忧，多个国家已禁止总部位于中国的 AI 平台 DeepSeek 在政府设备上使用（新窗口）。韩国、澳大利亚和台湾地区均表示担忧，认为这些数据可能被中国当局访问，并可能用于监控。

对于持不同政见者、活动人士或记者来说，这不仅是隐私问题，更是安全问题。在言论自由和公民自由保护有限的司法管辖区，一次看似随意的关于抗议权利、媒体法规或庇护途径的聊天，都可能被解读为定罪证据。

对知识产权的威胁

2023 年，三星的工程师在尝试调试一个问题时，误以为自己的查询是私有的，无意中将专有源代码上传（新窗口）到了 ChatGPT。数据一经提交，便成为 OpenAI 训练系统的一部分，引发了人们对与 AI 工具共享的知识产权的安全性和归属权的担忧。

本文开头提到的《纽约时报》起诉 OpenAI（新窗口）这起备受瞩目的版权案，也引发了类似的担忧。在该报指控 OpenAI 未经许可使用其数百万篇文章训练模型后，此案促使法院下令要求 OpenAI 无限期保存所有 ChatGPT 输出数据。尽管此案的核心在于 OpenAI 的网络爬虫抓取新闻内容，但它向向 AI 平台贡献原创作品的创作者——作家、设计师、音乐家及其他人士——提出了更广泛的问题。

如果用户提交的内容被模型保留并重复使用，专有或创意材料就存在在未经署名或同意的情况下被重新分发给其他用户的切实风险。这模糊了用户贡献与 AI 训练数据之间的界限，并对生成式 AI 时代的作者身份和所有权提出了亟待回答的问题。

需要改变什么以及如何保护自己

大多数人在现实生活中都希望并期待隐私得到保护。我们认为，同样的期待也应延伸到人们的数字生活中。我们打造了一套加密服务，让在线隐私对每个人都触手可及，无论是给朋友发送电子邮件、观看您喜爱的节目（新窗口），还是备份照片。纠正互联网早期的错误还为时不晚，而 AI 尚处于起步阶段，我们仍有时间为这项技术开辟一条尊重您隐私的新道路。

我们在设计AI 助手（新窗口） Lumo 时，从架构上就秉持以下关键保护原则：