AI 的
回形针最大化器（新窗口）是一个思想实验，探讨了这一概念：如果为超级智能 AI 指定唯一目标——制造回形针，它可能会不惜一切代价征用世界上的资源来实现目标，将一切变成回形针。最终，它甚至可能意识到，试图阻止它的人类是一种干扰，并将我们消灭：这显然是 AI 与人类利益之间的错位。
虽然回形针问题显然荒诞离奇，但它已成为 AI 的一个流行文化热点。在现实中，各种限制和规则会防止系统超出其预期用途。但许多大型科技公司的创始人和 CEO 利用这一假设来为他们的大语言模型 (LLM) 制造话题。聊天机器人真的有能力让人类灭绝吗？不能。但这能让它们听起来很厉害，更重要的是，它掩盖了当下正在损害我们的真正 AI 对齐问题：大型科技公司的 LLM 正在侵犯我们的隐私、窃取我们的数据，并使我们的信息经济贬值。这既是一种销售策略，也是一种误导，目的是让我们只盯着未来，而看不到我们当下正在让渡的控制权。
我们正在走向一个反乌托邦式的未来吗？
当创始人就其产品”可能”实现的功能发表宽泛的推测性言论时，这主要是一种创造商业机会并为股东创造价值的手段。LLM 和生成式 AI 是商业产品。让你相信他们的工具具有革命性，符合其所有者的利益。
媒体热衷于传播耸人听闻的报道，例如 AI 工具可能帮助用户制造生物武器（新窗口）或对开发者撒谎（新窗口），仿佛生成式 AI 拥有自己的思想（其实并没有）。用极端或毫无根据的观点做标题很容易获得点击，但这些观点并不能准确反映当今实际存在的 AI 技术。
事实上，LLM 只是词语预测机器。它们是消化海量文本的计算机程序，”学习”人类语言的模式，然后针对用户输入构建概率性回复。它们没有自己的思想，甚至不懂语言。实际上，它们必须先将文字转换为数字才能处理信息。LLM 的局限性已被 Gary Marcus 和许多其他研究者充分记录。
监控资本主义的新工具
LLM 不会带来世界末日，但它们相当擅长另一件事：收集关于你的极其细微的信息。这就是为什么 LLM 对企业而言是一座数据金矿，对犯罪分子而言也是一个有吸引力的目标。
LLM 为 ChatGPT、Copilot、Claude 和 Grok 等聊天机器人提供动力，这些聊天机器人的功能类似于搜索引擎。表面上看，你可以用这些聊天机器人做任何事情：它们可以帮你创建购物清单、整理日历、撰写电子邮件或编写代码。它们是你的私人助理、你的老师、你的知己，或者你要求它们扮演的任何角色。
全球已有数亿人在与聊天机器人分享他们的问题、想法、思绪和最深的秘密。运营这些服务的公司还在鼓励这种行为：Open AI 的 CEO Sam Altman 最近指出（新窗口），Z 世代”基本上不会在没有先问 ChatGPT 该怎么做的情况下做人生决定。”公开宣扬并鼓励对一家以盈利为目的且不可靠的聊天机器人抱有这种程度的信任和依赖，是极不负责任的。大型科技公司希望我们通过他们的服务来安排生活、承载想法，因为这样他们就能对我们如何花钱、做什么、想什么拥有发言权。
LLM 背后的企业还将其产品作为面向政府和企业的生产力解决方案来销售，承诺为用户节省时间和精力，同时带来让你受到监控的新机会。在英国，司法部的 AI 系统”预测”囚犯的再犯风险（新窗口）。警察正在使用聊天机器人（新窗口）撰写犯罪报告。将国家权力与有偏见的算法（新窗口）相结合是危险的，并且会加剧现有的偏见。
利用你的数据进行训练
LLM 依靠由庞大训练数据集驱动的 AI 模型运行，为了改进服务，它们需要越来越多的数据。不幸的是，这些数据来自你：你的聊天记录、你的照片、你的网络搜索。公司并不总会征求你的许可，也不总会明确说明它们在从你这里收集什么。
例如，Meta AI 想要扫描（新窗口）你图库中甚至尚未上传到其平台的照片（新窗口）来分析你的人脸数据。许多用户对Microsoft 的 Copilot AI（新窗口） 将每隔几分钟对其设备进行截图这一消息感到不安。你的照片、你发给朋友和挚爱的消息，以及你最私密的想法，都是这些公司想要的有价值的数据点。
查看 Open AI 的隐私政策（新窗口），我们会发现 ChatGPT 会查找并存储：
- 标识符，例如你的姓名、联系人详情、IP 地址和其他设备标识符
- 商业信息，例如你的交易历史
- 网络活动信息，例如内容以及你与 ChatGPT 的互动方式
- 你访问 ChatGPT 时所处的大致位置
这些信息可能会披露给政府、供应商、关联公司、服务提供商和其他第三方。
从本质上讲，LLM 会逐渐了解你。就像搜索引擎一样，它会慢慢理解你的习惯、你的首选项、你的兴趣，以及它能从你的行为中收集到的关于你的方方面面。大型科技公司总会优先寻找获取你个人数据的新方法，因为这有利可图。而他们希望你不会察觉。
想想近年来席卷社交媒体的潮流：自定义吉卜力风格动画（新窗口）违背宫崎骏的意愿，模仿了他独特的风格；以芭比等经典玩具为灵感的自定义 AI 包装玩偶（新窗口）则将人们的个人喜好变成了可视化的图像。这些社交媒体潮流看似无害的乐趣，但用于创建这些图像的 AI 工具能够收集人们的照片和信息，其母公司可以将这些数据用于广告目的，并可能出售给第三方。这只是大型科技公司在让你参与转瞬即逝的潮流的同时悄悄吞噬你个人数据的众多例子中的两个。
LLM 有更好的解决方案
在了解到所有这些风险之后，你可能会认为 LLM 本质上是危险的。但事实并非如此。大型科技公司故意将其 AI 系统设计成具有侵入性且贪求数据的。完全可以构建默认保护人们隐私并确保数据安全的 AI。我们之所以知道，是因为我们用我们隐私优先的 AI 助手（新窗口） Lumo 做到了这一点。
以下是 Lumo 解决真正的 AI 对齐问题的方式：
- Lumo 不会记录你的会话日志。一旦模型处理完你的查询和响应，每次会话都会立即从我们的服务器中删除。
- 会话历史记录以零访问加密方式存储。通过用你的密钥锁定数据，Proton 永远无法访问，因此永远不会分享或意外泄露你的数据。
- 我们不会用你的会话来训练模型。使用会话来训练 AI 模型会使你的数据面临在未来输出中再次出现的风险。与 Lumo 的会话只属于你。
- Lumo 是开放源码的，并且仅使用开放源码模型。由于我们的代码库是公开的，任何人都可以验证我们的应用确实做到了我们所声称的。
- 我们所在的司法管辖区尊重隐私。与受侵入性监控法律约束的美国大型科技 AI 不同，Lumo 位于欧洲，并受强有力的隐私法律保护。
Lumo 在每一个层面都被设计为在提供与其他 LLM 相同功能的同时，避免有风险的外部影响。大型科技公司本可以以同样的方式构建他们的 AI。他们只是选择不这样做，因为你的数据就是他们的货币。
AI 对齐真的是一种威胁吗？
真相其实没有大型科技公司 CEO 们希望我们相信的那样刺激。与其说 AI 会让人们有能力制造生物武器，或耗尽全球所有资源去制造回形针，不如说它更可能只是遵循大型科技公司已经在遵循的指令：窃取并利用私有数据。
不要相信关于 AI 对齐的炒作。这不是我们任何人都应该关注的威胁。监控、对个人和小型企业的剥削，以及已遭破坏的信息生态系统，才是我们在 AI 方面真正应该关注的紧迫问题。
