Titulky v médiích se často zaměřují na neuvěřitelně realistické výsledky vytvořené nástroji pro generování obrazů pomocí umělé inteligence, málokdy ale upozorňují na to, jak přesně tyto deepfake materiály vznikají a za jakou cenu.

Mnoho deepfake materiálů vzniká z běžných fotek, videí a hlasových nahrávek — každodenního obsahu, který dobrovolně nahráváme a zveřejňujeme na sociálních sítích, jako je Instagram nebo Facebook, a cloud úložištích, jako je Google Drive nebo OneDrive.

Málokdy bereme v úvahu, že tyto digitální stopy mohou být znovu zneužity způsoby, které jsme nikdy neměli v úmyslu podstoupit, a to včetně vytváření deepfakes bez našeho vědomí nebo souhlasu. Obvykle to znamená ztrátu soukromí a kontroly nad tím, jak se objevujeme online, což může vést k podvodům, krádeži identity, obtěžování, kyberšikaně, poškození pověsti a emoční tísni — často s nevratnými následky(nové okno).

Nekonsensuální deepfake snímky, jaké byly k vidění v případu Sweet Anity, se staly závažnou formou zneužívání. V USA se zákon DEFIANCE Act(nové okno) zaměřuje na posílení možností právní ochrany obětí a zákon Take It Down Act(nové okno) se soustředí na rychlejší odstraňování škodlivého obsahu online.

V EU vedly zprávy o tom, že je Grok na X používán ke generování sexualizovaných deepfake obrázků (včetně obrázků žen a nezletilých), k tomu, že regulátoři ochrany soukromí zahájili vyšetřování(nové okno), zda by to mohlo porušovat zákony GDPR o ochraně dat. Současně země jako Španělsko(nové okno) postupují vpřed s vnitrostátní legislativou, která má kriminalizovat deepfaky vytvářené bez souhlasu.

Dokud zákony nedoženou rychlost, s jakou se technologie deepfakes vyvíjí (často až do bodu, kdy je obtížné rozeznat, co je skutečné), je důležité být proaktivní v ochraně svých fotek, videí a hlasových nahrávek. Zabráníte tak jejich zneužití mnohem snadněji, než když později budete muset řešit vzniklé škody.

Jak zabránit deepfakes

Deepfakes závisí na třech faktorech: kvalitě dat, množství dostupných dat a tom, jak snadné je k nim přistupovat. Zde je vysvětlení toho, jak se proti deepfakes chránit:

tipy jak zabránit deepfakes

Pečlivě vybírejte to, co veřejně sdílíte

Čím více obsahu ve vysokém rozlišení je k dispozici, tím snazší je reálné klonování. Zde je návod, jak snížit množství veřejně dostupných médií vysoké kvality s Vaší osobou:

  • Vyhněte se přidávání příspěvků s detailními záběry Vaší tváře v HD kvalitě nebo dlouhým zřetelným (jasným) videím, zvláště těm se stálými úhly záběru a konstantním osvětlením. 
  • Odeberte stará veřejná média, která už online nepotřebujete.
  • Oddělujte veřejné a soukromé účty v maximální možné míře.
  • Požádejte ostatní, aby Vás bez Vašeho svolení neoznačovali nebo nenahrávali obsah s Vámi.
  • Zkontrolujte oprávnění aplikací a odeberte nepoužívané aplikace třetích stran, které mohou mít přístup k Vašemu fotoaparátu.

Ztěžte možnost opětovného zneužití Vašich veřejných fotek a videí

Když sdílíte fotky nebo videa veřejně, existují způsoby, jak systémům umělé inteligence znesnadnit jejich kopírování, analyzování a opětovné využití. Tyto metody deepfakes ani trénink umělé inteligence plně nezastaví, mohou ale zneužití výrazně odradit:

Upravte ovládací prvky soukromí na sociálních sítích

Mnoho z těchto ovládacích prvků se snadno přehlíží, ale mohou znamenat obrovský rozdíl v tom, že omezí, jak velká část Vašeho obsahu je viditelná pro cizí lidi a systémy shromažďující data:

  • Tam, kde je to možné, si nastavte účty jako soukromé.
  • Omezte okruh těch, kdo si mohou prohlížet minulé i budoucí příspěvky (nastavení pouze pro přátele namísto pro veřejnost).
  • Omezte, kdo si smí stáhnout, sdílet nebo přeposlat Váš obsah.
  • Pokud to platforma umožňuje, vypněte funkce rozpoznávání obličeje.
  • Upravte nastavení značek tak, abyste museli příspěvky, v nichž jste označeni, nejprve schválit.
  • Omezte možnost Vás vyhledat pomocí e-mailu nebo telefonního čísla.

Pamatujte, že samotná platforma může k Vašim datům nadále přistupovat a zpracovávat je podle svých vlastních podmínek. Proto stojí za to si čas od času znovu přečíst jejich zásady o ochraně soukromí a využívání AI. Pokud Vám není příjemné, v jakém rozsahu mohou být Vaše data využívána, zvažte omezení toho, co se rozhodnete nahrát, nebo zda budete takovou platformu vůbec využívat.

Meta může například využívat veškeré interakce přes Meta AI k tvorbě cílených reklam a vylepšování svých AI systémů. Obsah, který sdílíte ve zdánlivě soukromé konverzaci s přáteli – například když připojíte vlastní fotografii a požádáte Meta AI o vytvoření vtipné verze – tak může skončit v databázi pro AI, u níž nemáte žádnou kontrolu nad tím, co se s Vaším snímkem dále stane.

Zvolte si nástroje, které respektují Vaše soukromí

Některé aplikace jsou navrženy tak, aby shromažďovaly co nejméně osobních údajů a nabídly Vám plnou kontrolu nad tím, jak je Váš obsah uložený a sdílený – to je důležitou součástí digitální suverenity. Žádný samostatný nástroj nedokáže šíření deepfakes zcela zastavit, protože vždy do značné míry záleží na tom, co o sobě sami zveřejníte. Ale služby zaměřené na soukromí, jako jsou ty v ekosystému Proton, Vám mohou pomoci omezit množství fotografií, videí a hlasových nahrávek, ke kterým lze veřejně přistupovat, nebo které jsou dostupné pro trénování AI.

Proton Drive je bezplatná a bezpečná služba cloudového úložiště a sdílení souborů, která využívá koncové šifrování. To znamená, že k Vašim datům můžete přistupovat pouze Vy a lidé, se kterými soubory výslovně sdílíte, dokonce ani Proton ne. Soubory, fotografie nebo alba můžete sdílet prostřednictvím omezených e-mailových pozvánek pro menší skupiny nebo prostřednictvím bezpečných veřejných odkazů, které lze chránit heslem a nastavit tak, aby automaticky vypršely. Proton Drive Vám umožňuje snadno sledovat stahování a kdykoli odvolat přístup.

Začněte s 5 GB zdarma

Čas od času zkontrolujte svou digitální stopu

Vaše digitální stopa roste pasivně s postupem času. I když si dnes dáváte pozor, starší příspěvky, nahrávky, fotografie, na nichž jste označeni, nebo média uložená v archivu mohou znovu vyplout na povrch a zůstat veřejně přístupná, aniž byste si to uvědomili. Platformy mohou navíc měnit výchozí nastavení soukromí.

Jednou za pár měsíců byste měli zkontrolovat, co vše je o Vás dostupné online a co by případně mohlo být využito k vytvoření deepfake obsahu. Zde je návod:

  • Pravidelně vyhledávejte své jméno a obrázky ve vyhledávačích.
  • Kontrolujte viditelnost svých příspěvků.
  • Prohlédněte si seznamy svých sledujících nebo kontaktů a odhalte neznámé či podezřelé účty.
  • Odeberte neaktuální obsah nebo omezte jeho viditelnost pro menší okruhy uživatelů.
  • Zavřete nepoužívané účty.
  • Po aktualizacích platformy znovu zkontrolujte výchozí nastavení soukromí a nastavení využití pro trénování AI.

Tipy na prevenci deepfakes pro rodiny

K vytvoření realistického digitálního profilu člověka stačí pouhých 20 fotografií nebo 30sekundové video. Znamená to, že běžné rodinné fotografie, videa ze školních představení, hlasové zprávy nebo příspěvky na sociálních sítích se mohou nedopatřením stát materiálem k tréninku nástrojů pro tvorbu deepfakes.

U rodin není prevence deepfake útoků o přísné kontrole nebo vyvolávání strachu. Je to spíše o uvědomělém přístupu, komunikaci a promyšleném chování při sdílení — a to především u dětí, které dlouhodobá rizika spojená s online světem ještě nejsou schopny plně chápat.

Klíčové je pomoci dětem si co nejdříve vytvořit správné digitální návyky: aby se před přidáváním příspěvků poradily, zvažovaly publikum a pochopily, jak mohou být biometrická data zneužita. U dospělých je zas podstatné záměrně rozlišovat, co chtějí sdílet veřejně a co soukromě, a tím snížit zbytečné odhalení a přesto bezpečně uchovat cenné vzpomínky.

Rodiny by měly mít na paměti následující způsoby, jak předcházet hrozbě deepfake videí:

Pro rodiče

  • Vyhněte se nezdravému „sharentingu“, tedy nadměrnému sdílení, a zvlášť veřejným albům, důležitým milníkům v životě dítěte či publikaci konkrétních údajů o školách a detailech ohledně umístění.
  • Dětské tváře se postupem růstu mění, ale přesto staré záběry mohou stále posloužit pro trénování AI modelů. Proto pomůže, když zredukujete starší veřejné foto archivy.
  • Místo sdílení na veřejných sociálních sítích raději používejte soukromé kanály — například rodinné konverzace na aplikaci Signal, případně soukromá alba na službě Proton Drive.
  • Pravidelně kontrolujte nastavení soukromí a nastavení sdílení oprávnění pro označování na Vašich vlastních účtech.
  • Promluvte si otevřeně se svými příbuznými, přáteli a pedagogy, aby Vaše dítě bez dovolení nepřidávali do příspěvků a veřejně nepřeposílali na internet.
  • Všímejte si, na kterých dalších místech mohou ostatní sdílet fotografie – např. ve školách, v klubech, sportovních týmech či od fotografů — a kde to jde, zrušte svůj souhlas s tímto sdílením.

Pro děti a mládež

  • Před přidáváním příspěvku zapřemýšlejte: Nevadilo by Ti, kdyby se tahle fotka nebo video rozšířila mimo Tvé přátele?
  • Buďte opatrní u populárních virálních výzev, aplikací zaměřujících se na obličejové filtry nebo aplikací s AI avatary.
  • Spolu s fotografiemi a videi nesdílejte žádné osobní detaily (např. svou školu, adresu bydliště, svoje pravidelné denní rituály).
  • Než zveřejníš cizí tvář, zeptej se svých přátel, a naopak vyžaduj tentýž respekt i od nich k sobě.
  • Uvědomte si, že smazání určitého obsahu nemusí nutně znamenat, že budou odebrány také všechny jeho kopie. Je vždy mnohem bezpečnější se úplně vyhnout přidání samotného příspěvku v prvé řadě.
  • Cítíte-li se kvůli nečemu na online síti nepříjemně, dejte na svůj instinkt. Pokud od Vás někdo žádá Vaše fotografie, hlasové stopy nebo jakýkoliv jiný neobvyklý obsah, okamžitě to řekněte rodiči nebo jinému dospělému, kterému důvěřujete.

Udržte si kontrolu nad svou digitální identitou

Deepfake útoky mění to, jak dnes funguje identita, soukromí a vzájemná důvěra v lidi a firmy v online světě. Zatímco zákony a zásady platforem se postupně vyvíjejí, často postupují pomaleji než samotná technologie. Proto jsou dnes prevence a proaktivní zvyky ohledně chování v digitálním světě o to důležitější – jak pro Vás, tak pro lidi ve Vašem okolí.

I když tím, že pečlivě zvažujete, co sdílíte, kde to ukládáte a kdo k tomu může přistupovat, nevyloučíte všechna rizika úplně, uděláte velký krok správným směrem. Tento přístup zaměřený na kontrolu a soukromí je jádrem mise společnosti Proton: vyvíjet takové nástroje, které lidem umožní, aby měli online svá data pevně pod kontrolou.