那些男人相信他們在線上看到的：一個網站充斥著用 AI 生成的將她的臉移花接木到別人身體上的露骨影像，旁邊還有她真實的住家位址。該網站聲稱她的家是一家妓院。

Sweet Anita 是 Twitch 最知名的實況主之一，她了解身為女性在線上的風險並採取了預防措施。她隱藏了自己的真實姓名、設定了界線並僱用了一個團隊。但這一切都沒能阻止有人用深偽技術攻擊她。

沒有什麼能讓她為接下來發生的事情做好準備。

Sweet Anita 的故事

一名匿名男子委託製作了她的 AI 生成色情內容，然後建立了一個假網站將她陷害為性工作者——並列出了她的住家位址。整個局的設計目的是誘騙男人到她家，讓他們誤以為可以強迫她發生性行為。「在他這麼做之後，開始有男人來到我家，尤其是當我直播而我不在家的時候，」她說。「我在自己家裡感到不安全。」

帶著行李袋的陌生人試圖闖入。她害怕從郵差那裡收信。她不得不停止應門，也不敢讓房子無人看管。她以前搬過家，但他們總是能找到她。

而虐待並不僅限於她的前門。她已故的母親為女兒的工作感到驕傲，會查看 Anita 的社群媒體，卻被迫捲動瀏覽露骨的 AI 生成影像。朋友和同事也看到了。「我可以刪除 YouTube、Twitch 和我所有社群媒體上的所有內容——但仍然會有大量我的臉部影像出現在影片中，可以作為參考，」她說。

深偽技術是新型霸凌

Deepfakes use AI to generate hyper-realistic photos and videos of people without their consent. They are often created for sexual abuse, harassment, or intimidation. Most of the victims are women and girls.

根據 Girlguiding 的研究(新視窗)，超過四分之一的青少年表示他們曾看過認識的人的露骨深偽內容——同學、老師、朋友，甚至是他們自己。CNN 報導(新視窗)指出，40% 的學生和 29% 的老師表示他們知道過去一年中有人製作了與他們學校有關的人的深偽內容，15% 的學生表示他們看過露骨版本。大多數學校沒有處理這種形式虐待的政策。

傷害是嚴重的。受害者可能會遭受焦慮、憂鬱，甚至創傷後壓力症候群 (PTSD)。他們可能會在社交上退縮、失去朋友，或避免申請工作或大學，因為露骨的偽造內容可能會在搜尋過程中浮現。有些人甚至被迫花錢試圖從網際網路上清除內容。

世界經濟論壇指出(新視窗)，雖然深偽技術並沒有像許多人擔心的那樣破壞選舉穩定，但它們已成為騷擾和詐騙的工具。未經同意的色情內容是最極端的形式，但攻擊者也使用複製的聲音和假視訊通話來進行詐欺。2024 年，香港一名金融從業人員在加入一個 Zoom 通話後被騙支付了 2,500 萬美元，而在該通話中，包括財務長在內的每一位參與者都是深偽人物(新視窗)。

「在我的餘生中，我看不到任何我可以個人避免這種情況的方法，」Anita 說。「而且我也不認為我應該為此負責。這不是我的問題，也不是我的錯。」

這可能發生在任何人身上

只需要少數幾張影像。公開的 Instagram。學校相片。共享相簿。一旦臉孔出現在線上，它就可能被複製、擷取和濫用。

根據華威大學網路安全中心的 Carsten Maple 教授的說法，使用現今的 AI 工具，只需 20 張相片就足以建立一個逼真的人物檔案，甚至是一段 30 秒的影片，從而擴大了潛在危險的範圍——最近接受調查的 53% 父母並不知道這一事實。

紐約時報報導了所謂「裸體化應用程式」的興起(新視窗)，這些應用程式可以使用 AI 脫去相片中的衣服。這些應用程式便宜、易於使用且廣泛可用。調查人員估計該產業每年帶來約 3,600 萬美元的收入。儘管美國有一項新法律規定發布未經同意的假裸照是違法的，但這些應用程式本身仍然是合法的。「任何能夠存取網際網路的孩子都可能既是受害者又是加害者，」Alexios Mantzarlis 告訴紐約時報，他的團隊調查了 85 個此類網站。

私有帳號並不能保證安全。施虐者通常是受害者認識的人。即使是看似無害的貼文，例如生日派對，也可能洩露助長身分盜竊的詳細資料，這在 2024 年估計影響了 110 萬名兒童。

「那些[製作深偽內容]的人經常忘記這很令人毛骨悚然，這是不恰當的——就像，如果他們的同事和朋友知道了，他們會被解僱和排斥。他們會失去所有認識的人，他們的父母會對他們感到失望，對吧？」她說。「但是，當你在線上與一群志同道合的怪人互相製作這種素材時，對他們來說這只是一種愛好和消遣。他們完全可以迴避、忘記並自欺欺人地忽視它對人們生活的影響。」

深偽風險遠遠超出了社群媒體

如今，最大的風險可能來自社群媒體上分享的內容。但是那些你根本沒有分享的相片呢？

Google、Apple、Amazon、Meta 和其他公司都為您的相片提供雲端儲存空間，有時甚至是免費的。但這種便利仍然是有代價的。Google 至少從 2015 年開始就一直使用您的相片來訓練 AI，當時它被迫為將一對黑人夫婦歸類為「大猩猩」而道歉(新視窗)。從那時起，所有主要的儲存空間提供者在臉部辨識方面都變得更好了。你認為那是怎麼發生的？更多的相片，不斷地餵養 AI。

儲存在大型科技公司的數十億張相片和影片是一個巨大的素材寶庫，有一天可能成為生成極其詳細和逼真深偽內容的素材。

只需要在服務條款中悄悄更改即可。

像保護密碼一樣保護您的回憶

您無法控制他人如何使用您的影像。但您可以控制影像的存放位置以及誰可以存取它們。Proton Drive 為您提供了一種私有、已加密的方式來儲存最重要的相片和檔案。

  • 端對端加密：您的檔案在離開裝置之前就已加密。與大型科技公司不同，即使是 Proton 也無法看到它們。
  • 預設私有：您的資料絕不會被販售、共享或用於訓練 AI。
  • 安全共享：隨時新增密碼、設定過期日期或撤銷存取權限。
  • 自動備份：即使您的手機遺失或被竊，您的回憶也能保持安全。

有了 Proton Drive，您的資料永遠屬於您。