Mennene trodde på det de så pålogget: et nettsted fylt med eksplisitte KI-genererte bilder av ansiktet hennes på en annens kropp, sammen med hennes virkelige adresse. Nettstedet hevdet at hjemmet hennes var et bordell.

Sweet Anita, en av Twitchs mest gjenkjennelige strømmere, forsto risikoen ved å være kvinne pålogget og tok forholdsregler. Hun skjulte sitt virkelige navn, satte grenser og ansatte et team. Ingenting av det stoppet noen fra å deepfake henne.

Ingenting forberedte henne på det som kom deretter.

Sweet Anitas historie

En anonym mann bestilte AI-generert pornografi av henne, bygget deretter et falskt nettsted som fremstilte henne som sexarbeider – og oppga hjemmeadressen hennes. Hele oppsettet var designet for å lokke menn til hjemmet hennes med den falske forventningen om at de kunne tvinge henne til sex. «Etter at han gjorde det, begynte jeg å få menn som kom til huset mitt, spesielt når jeg strømmet live og var borte hjemmefra,» sa hun. «Jeg føler meg ikke trygg i mitt eget hjem.»

Fremmede med bagger prøvde å bryte seg inn. Hun var redd for å få post fra postmannen. Hun måtte slutte å åpne døren og la huset stå ubevoktet. Hun har flyttet før, men de fortsatte å finne henne.

Og misbruket var ikke begrenset til trappen hennes. Hennes avdøde mor, som var stolt av datterens arbeid, sjekket Anitas sosiale medier og ble tvunget til å rulle forbi eksplisitte, AI-genererte bilder. Venner og kolleger så dem også. «Jeg kunne slette alt fra YouTube, Twitch og alle mine sosiale medier – og det ville fortsatt være massevis av bilder av ansiktet mitt i videoer som kunne brukes som referanse,» sa hun.

Deepfakes er den nye mobbingen

Deepfakes use AI to generate hyper-realistic photos and videos of people without their consent. They are often created for sexual abuse, harassment, or intimidation. Most of the victims are women and girls.

Ifølge forskning fra Girlguiding(nytt vindu) sier mer enn én av fire tenåringer at de har sett en eksplisitt deepfake av noen de kjenner – en klassekamerat, en lærer, en venn eller til og med seg selv. CNN rapporterer(nytt vindu) at 40 % av elevene og 29 % av lærerne sa de var klar over en deepfake av noen som var koblet til skolen deres det siste året, og 15 % av elevene sa de hadde sett eksplisitte versjoner. De fleste skoler har ikke retningslinjer for å håndtere denne formen for misbruk.

Skadene er alvorlige. Ofre kan lide av angst, depresjon og til og med PTSD. De kan trekke seg tilbake sosialt, miste venner eller unngå å søke på jobber eller universiteter fordi eksplisitte forfalskninger kan dukke opp under et søk. Noen tvinges til og med til å bruke penger på å prøve å fjerne innhold fra internett.

World Economic Forum bemerker(nytt vindu) at selv om deepfakes ikke destabiliserte valg som mange fryktet, har de blitt et verktøy for trakassering og svindel. Pornografi uten samtykke er den mest ekstreme formen, men angripere bruker også klonede stemmer og falske videosamtaler for å begå svindel. I 2024 ble en finansarbeider i Hong Kong lurt til å betale 25 millioner dollar etter å ha deltatt i en Zoom-samtale der alle deltakerne — inkludert finansdirektøren — var en deepfake(nytt vindu).

«For resten av livet ser jeg ingen måte jeg noen gang kan unngå dette personlig på», sa Anita. «Og jeg synes ikke jeg burde være ansvarlig for det heller. Det er ikke mitt problem, og det er ikke min feil.»

Dette kan skje med hvem som helst

Det tar bare en håndfull bilder. En offentlig Instagram. Et skolebilde. Et delt album. Når et ansikt er pålogget, kan det kopieres, skrapes og misbrukes.

Ifølge professor Carsten Maple fra University of Warwicks Cyber Security Centre er så få som 20 bilder nok med dagens KI-verktøy til å skape en realistisk profil av noen, eller til og med en 30- sekunders video, noe som utvider omfanget av potensielle farer — et faktum som 53 % av nylig spurte foreldre ikke visste.

The New York Times rapporterte om økningen av såkalte «nudifier-apper»(nytt vindu) som kan fjerne klær fra bilder ved hjelp av KI. Disse appene er billige, enkle å bruke og allment tilgjengelige. Etterforskere anslår at bransjen drar inn rundt 36 millioner dollar i året. Til tross for en ny amerikansk lov som gjør det ulovlig å legge ut falske nakenbilder uten samtykke, forblir selve appene lovlige. «Ethvert barn med tilgang til internett kan være både et offer eller en gjerningsperson», sa Alexios Mantzarlis, hvis team undersøkte 85 slike nettsteder, til The New York Times.

Private kontoer er ikke en garanti for sikkerhet. Overgripere er ofte personer offeret kjenner. Selv tilsynelatende ufarlige artikler, som bursdagsfester, kan avsløre detaljer som gir næring til identitetstyveri, som rammet anslagsvis 1,1 millioner barn i 2024.

«Folk som [lager deepfakes] glemmer ofte at det er skummelt, at det er upassende — for eksempel, hvis kollegene og vennene deres visste det, ville de fått sparken og blitt utfryst. De ville miste alle de kjenner, foreldrene deres ville bli skuffet over dem, ikke sant?» sa hun. «Men når du er pålogget og lager dette materialet for hverandre med en gjeng likesinnede tullinger, så er det bare en hobby og et tidsfordriv for dem. De kan fullstendig omgå, glemme og bli villedet om hvilken innvirkning det har på folks liv.»

Deepfake-risikoen strekker seg langt utover sosiale medier

I dag kommer kanskje den største risikoen fra det som deles på sosiale medier. Men hva med alle bildene du ikke deler i det hele tatt?

Google, Apple, Amazon, Meta og andre tilbyr alle skylagring for bildene dine, noen ganger gratis. Men den bekvemmeligheten har fortsatt en pris. Google har brukt bildene dine til å trene KI siden i det minste 2015, da de ble tvunget til å beklage for å ha klassifisert et svart par som «gorillaer».(nytt vindu) Siden den gang har alle de store leverandørene av lagring blitt mye bedre på ansiktsgjenkjenning. Hvordan tror du det skjedde? Flere bilder som konstant mater KI-en.

De milliarder av bilder og videoer som blir lagret hos Big Tech er en enorm skattekiste av materiale som en dag kan være fôr for å generere utrolig detaljerte og naturtro deepfakes.

Alt som skal til er en stille endring i bruksvilkårene.

Beskytt minnene dine som du beskytter passordene dine

Du kan ikke kontrollere hva andre gjør med bildet ditt. Men du kan kontrollere hvor bildene dine befinner seg og hvem som har tilgang til dem. Proton Drive gir deg en privat, kryptert måte å lagre bildene og filene som betyr mest for deg.

  • Ende-til-ende-kryptering: Filene dine er kryptert før de i det hele tatt forlater enheten din. I motsetning til Big Tech, kan ikke en gang Proton se dem.
  • Privat som standard: Dataene dine blir aldri solgt, delt eller brukt til å trene KI.
  • Sikker deling: Legg til passord, angi utløpsdatoer eller tilbakekall tilgang når som helst.
  • Automatisk sikkerhetskopi: Selv om telefonen din mistes eller blir stjålet, forblir minnene dine trygge.

Med Proton Drive forblir dataene dine dine — alltid.