Muži věřili tomu, co viděli online: web plný explicitních obrázků generovaných AI s její tváří na těle někoho jiného, spolu s její skutečnou domácí adresou. Stránka tvrdila, že její domov je nevěstinec.

Sweet Anita, jedna z nejznámějších streamerek na Twitchi, chápala rizika toho být ženou online a přijala opatření. Skryla své skutečné jméno, nastavila hranice a najala tým. Nic z toho nezabránilo tomu, aby se stala obětí deepfake.

Nic ji nepřipravilo na to, co přišlo potom.

Příběh Sweet Anity

Anonymní muž si objednal pornografii generovanou AI s její podobou, poté vytvořil falešný web, který ji vykresloval jako sexuální pracovnici – a uvedl její domácí adresu. Celý tento plán byl navržen tak, aby nalákal muže k jejímu domovu s falešným očekáváním, že ji mohou přinutit k sexu. „Poté, co to udělal, začali k mému domu chodit muži, zvláště když jsem živě vysílala a nebyla jsem doma,“ řekla. „Necítím se bezpečně ve svém vlastním domě.“

Cizí lidé s taškami se pokoušeli vloupat dovnitř. Bála se přebírat poštu od pošťáka. Musela přestat otevírat dveře a nechávat dům bez dozoru. Už se stěhovala, ale stále ji nacházeli.

A zneužívání se neomezovalo jen na její práh. Její zesnulá matka, hrdá na práci své dcery, kontrolovala sociální sítě Anity a byla nucena projíždět explicitní obrázky generované AI. Přátelé a spolupracovníci je viděli také. „Mohla bych smazat všechno z YouTube, Twitche, všech mých sociálních sítí – a stále by existovala spousta obrázků mé tváře ve videích, které by mohly být použity jako reference,“ řekla.

Deepfakes jsou novou šikanou

Deepfakes use AI to generate hyper-realistic photos and videos of people without their consent. They are often created for sexual abuse, harassment, or intimidation. Most of the victims are women and girls.

Podle výzkumu organizace Girlguiding(nové okno) více než jeden ze čtyř teenagerů tvrdí, že viděl explicitní deepfake někoho, koho zná – spolužáka, učitele, přítele nebo dokonce sebe sama. CNN uvádí(nové okno), že 40 % studentů a 29 % učitelů uvedlo, že v minulém roce věděli o deepfake někoho spojeného s jejich školou, a 15 % studentů uvedlo, že viděli explicitní verze. Většina škol nemá zásady pro řešení této formy zneužívání.

Škody jsou vážné. Oběti mohou trpět úzkostí, depresemi a dokonce PTSD. Mohou se společensky stáhnout, ztratit přátele nebo se vyhnout podávání přihlášek do zaměstnání nebo na vysoké školy, protože explicitní podvrhy by se mohly objevit během vyhledávání. Někteří jsou dokonce nuceni utrácet peníze za pokusy vyčistit obsah z internetu.

Světové ekonomické fórum poznamenává(nové okno), že ačkoli deepfakes nedestabilizovaly volby, jak se mnozí obávali, staly se nástrojem pro obtěžování a podvody. Nekonsensuální pornografie je nejextrémnější formou, ale útočníci také používají klonované hlasy a falešné videohovory k páchání podvodů. V roce 2024 byl finanční pracovník v Hongkongu podveden, aby zaplatil 25 milionů dolarů poté, co se připojil k hovoru na Zoomu, ve kterém byl každý účastník – včetně finančního ředitele – deepfake(nové okno).

„Po zbytek života nevidím způsob, jak bych se tomu mohla osobně vyhnout,“ řekla Anita. „A nemyslím si, že bych za to měla být zodpovědná. Není to můj problém a není to moje chyba.“

To se může stát komukoli

Stačí jen hrstka obrázků. Veřejný Instagram. Školní fotka. Sdílené album. Jakmile je tvář online, může být zkopírována, stažena a zneužita.

Podle profesora Carstena Maplea z Centra kybernetické bezpečnosti na University of Warwick stačí s dnešními nástroji AI pouhých 20 fotografií k vytvoření realistického profilu někoho, nebo dokonce 30sekundové video, což rozšiřuje rozsah potenciálních nebezpečí – fakt, který 53 % nedávno dotazovaných rodičů nevědělo.

The New York Times informoval o vzestupu takzvaných „svlékacích aplikací“(nové okno), které dokážou pomocí AI odstranit oblečení z fotografií. Tyto aplikace jsou levné, snadno použitelné a široce dostupné. Vyšetřovatelé odhadují, že toto odvětví přináší kolem 36 milionů dolarů ročně. Navzdory novému zákonu v USA, který činí zveřejňování nekonsensuálních falešných aktů nezákonným, zůstávají samotné aplikace legální. „Každé dítě s přístupem k internetu může být obětí i pachatelem,“ řekl Alexios Mantzarlis, jehož tým vyšetřoval 85 takových stránek, pro New York Times.

Soukromé účty nejsou zárukou bezpečnosti. Zneužívateli jsou často lidé, které oběť zná. I zdánlivě neškodné příspěvky, jako jsou narozeninové oslavy, mohou odhalit detaily, které podporují krádež identity, což v roce 2024 postihlo odhadem 1,1 milionu dětí.

„Lidé, kteří [vytvářejí deepfakes], často zapomínají, že je to děsivé, že je to nevhodné – jako kdyby to věděli jejich spolupracovníci a přátelé, dostali by výpověď a byli by vyloučeni ze společnosti. Ztratili by všechny, které znají, jejich rodiče by z nich byli zklamaní, že?“ řekla. „Ale když jste online a vytváříte tento materiál jeden pro druhého se skupinou stejně smýšlejících podivínů, pak je to pro ně jen koníček a zábava. Zcela se vyhýbají, zapomínají a nechávají se klamat ohledně dopadu, jaký to má na životy lidí.“

Riziko deepfake sahá daleko za hranice sociálních sítí

Dnes může největší riziko pocházet z toho, co se sdílí na sociálních sítích. Ale co všechny ty fotografie, které vůbec nesdílíte?

Google, Apple, Amazon, Meta a další nabízejí cloudové úložiště pro vaše fotografie, někdy zdarma. Ale toto pohodlí stále něco stojí. Google používá vaše fotografie k trénování AI nejméně od roku 2015, kdy se musel omluvit za klasifikaci černošského páru jako „goril“.(nové okno) Od té doby se všichni hlavní poskytovatelé úložišť výrazně zlepšili v rozpoznávání obličejů. Jak myslíte, že se to stalo? Více fotek, neustálé krmení AI.

Miliardy fotografií a videí uložených u technologických gigantů (Big Tech) jsou obrovským pokladem materiálu, který by jednoho dne mohl být potravou pro generování neuvěřitelně detailních a realistických deepfakes.

Stačí jen tichá změna v podmínkách služby.

Chraňte své vzpomínky stejně jako svá hesla

Nemůžete ovlivnit, co s vaším obrazem udělají ostatní. Ale můžete ovlivnit, kde jsou vaše obrázky uloženy a kdo k nim má přístup. Proton Drive vám poskytuje soukromý, šifrovaný způsob ukládání fotografií a souborů, na kterých záleží nejvíce.

  • Koncové šifrování: Vaše soubory jsou zašifrovány ještě předtím, než opustí vaše zařízení. Na rozdíl od technologických gigantů je nevidí ani Proton.
  • Soukromí ve výchozím nastavení: Vaše data nejsou nikdy prodávána, sdílena ani používána k trénování AI.
  • Bezpečné sdílení: Přidejte hesla, nastavte data vypršení platnosti nebo kdykoli zrušte přístup.
  • Automatická záloha: I když se váš telefon ztratí nebo vám ho ukradnou, vaše vzpomínky zůstanou v bezpečí.

S Proton Drive zůstávají vaše data vaše – navždy.