这位主播遭深度伪造，随后男子们出现在她家门口。

这些男子相信了在线看到的内容：一个网站上满是露骨的 AI 生成图片，把她的脸移接到别人的身体上，旁边还附有她真实的家庭地址。该网站声称她的家是一家妓院。

Sweet Anita 是 Twitch 上最具知名度的主播之一，她深知作为女性身处在线环境的各种风险，并采取了预防措施。她隐藏了自己的真名，设定了界限，还雇了一个团队。但这些都没能阻止有人对她实施深度伪造。

接下来发生的事情，让她始料未及。

Sweet Anita 的故事

一名匿名男子定制了她的 AI 生成色情内容，然后搭建了一个虚假网站，将她塑造成性工作者——并公布了她的家庭地址。这一整套设置都是为了诱使男子抱着可以强迫她发生性关系的错误预期前往她家。“在他这么做了之后，我开始遇到有男子来到我家，尤其是我外出直播、不在家的时候，”她说。“我在自己的家里都感觉不安全。”

有陌生人提着行李袋企图闯入。她害怕从邮递员手中收取邮件。她不得不停止应门，也不敢让房子无人看管。她以前搬过家，但他们总能找到她。

而这种侵害并不仅限于她的门前。她已故的母亲为女儿的工作感到骄傲，会查看 Anita 的社交媒体，却不得不划过一张张露骨的 AI 生成图片。朋友和同事也看到了这些图片。“我可以删除 YouTube、Twitch 和所有社交媒体上的一切，但视频中仍会有大量我的面部图片，可以被用作参考，”她说。

深度伪造是新型霸凌

深度伪造利用 AI 在未经本人同意的情况下生成超逼真的人物照片和视频。这类内容常被用于性侵害、骚扰或恐吓。大多数受害者是妇女和女童。

根据 Girlguiding 的研究（新窗口），超过四分之一的青少年表示，他们见过自己认识之人的露骨深度伪造内容——可能是同学、老师、朋友，甚至他们自己。CNN 报道（新窗口）称，过去一年中，40% 的学生和 29% 的教师表示知道有与所在学校相关人员有关的深度伪造内容，15% 的学生表示见过露骨版本。大多数学校没有应对这种侵害形式的策略。

危害十分严重。受害者可能患上焦虑症、抑郁症，甚至 PTSD。他们可能回避社交、失去朋友，或者因为露骨的伪造内容可能在搜索中浮现而不敢申请工作或大学。有些人甚至被迫花钱试图从互联网上清除相关内容。

世界经济论坛指出（新窗口），虽然深度伪造并未像许多人担心的那样破坏选举稳定，但它们已成为骚扰和诈骗的工具。未经同意的色情内容是最极端的形式，但攻击者还会利用克隆语音和虚假视频通话实施欺诈。2024 年，香港一名金融从业人员在参加一场 Zoom 通话后被骗支付了 2500 万美元，通话中每一位参与者——包括首席财务官——都是深度伪造的（新窗口）。

“在我余生中，我看不出自己有办法能避开这种事，” Anita 说。“而且我认为我也不应该为此负责。这不是我的问题，也不是我的错。”

这种事可能发生在任何人身上

只需要几张图片。一个公开的 Instagram 账户。一张学校照片。一个共享相册。一旦一张脸出现在在线环境，就可能被复制、抓取和滥用。

华威大学网络安全中心的 Carsten Maple 教授表示，借助如今的 AI 工具，仅需 20 张照片就足以创建一个人的逼真资料，甚至是一段 30 秒的视频，从而扩大了潜在危险的范围——而近期受访的家长中有 53% 并不知道这一事实。

《纽约时报》报道了所谓“脱衣应用”的兴起（新窗口），这类应用可以利用 AI 从照片中去除衣物。这些应用价格低廉、易于使用且随处可见。调查人员估计，该行业每年收入约 3600 万美元。尽管美国出台了新法律，规定发布未经同意的伪造裸照属违法行为，但这些应用本身仍然合法。“任何能够访问互联网的孩子，既可能成为受害者，也可能成为加害者，”其团队调查了 85 个此类网站的 Alexios Mantzarlis 告诉《纽约时报》。

私有帐户并不能保证安全。施害者往往是受害者认识的人。即使是看似无害的帖子，例如生日聚会，也可能泄露助长身份盗用的详细信息——2024 年，估计有 110 万儿童受到影响。

“[制作深度伪造内容]的人常常忘记这是很变态、很不妥当的行为——比如，如果他们的同事和朋友知道了，他们会被解雇、被排斥。他们会失去所有认识的人，他们的父母会对他们失望，对吧？”她说。“但是，当身处在线环境、与一群志同道合的变态互相为对方制作这类内容时，这对他们来说就只是一种爱好和消遣。他们完全可以回避、遗忘，并对这种行为给他人生活造成的影响视而不见、自欺欺人。”

深度伪造的风险远不止社交媒体

如今，最大的风险可能来自在社交媒体上分享的内容。但那些您根本没有分享的照片又该如何呢？

Google、Apple、Amazon 等公司都为您的照片提供云存储空间——例如 Google Drive、iCloud 和 Amazon Web Services (AWS)——有时甚至是免费的。但这种便利仍然有代价。Google 至少从 2015 年起就一直在使用您的照片训练 AI，当时它被迫就一对黑人夫妇被归类为“大猩猩”一事道歉（新窗口）。自那时起，所有主要存储服务提供商在人脸识别方面的能力都大有提升。您认为这是怎么实现的？靠的就是源源不断输入 AI 的更多照片。

已存储在大型科技公司手中的数十亿张照片和视频是一座庞大的素材宝库，有朝一日可能成为生成极其细节丰富、栩栩如生的深度伪造内容的原料。

只需在服务条款中悄悄做出一项修改即可。