Mennene trodde på det de så pålogget: et nettsted fylt med eksplisitte KI-genererte bilder av ansiktet hennes på en annens kropp, sammen med hennes virkelige adresse. Nettstedet hevdet at hjemmet hennes var et bordell.
Sweet Anita, en av Twitchs mest gjenkjennelige strømmere, forsto risikoen ved å være kvinne pålogget og tok forholdsregler. Hun skjulte sitt virkelige navn, satte grenser og ansatte et team. Ingenting av det stoppet noen fra å deepfake henne.
Ingenting forberedte henne på det som kom deretter.
Sweet Anitas historie
En anonym mann bestilte AI-generert pornografi av henne, bygget deretter et falskt nettsted som fremstilte henne som sexarbeider – og oppga hjemmeadressen hennes. Hele oppsettet var designet for å lokke menn til hjemmet hennes med den falske forventningen om at de kunne tvinge henne til sex. «Etter at han gjorde det, begynte jeg å få menn som kom til huset mitt, spesielt når jeg strømmet live og var borte hjemmefra,» sa hun. «Jeg føler meg ikke trygg i mitt eget hjem.»
Fremmede med bagger prøvde å bryte seg inn. Hun var redd for å få post fra postmannen. Hun måtte slutte å åpne døren og la huset stå ubevoktet. Hun har flyttet før, men de fortsatte å finne henne.
Og misbruket var ikke begrenset til trappen hennes. Hennes avdøde mor, som var stolt av datterens arbeid, sjekket Anitas sosiale medier og ble tvunget til å rulle forbi eksplisitte, AI-genererte bilder. Venner og kolleger så dem også. «Jeg kunne slette alt fra YouTube, Twitch og alle mine sosiale medier – og det ville fortsatt være massevis av bilder av ansiktet mitt i videoer som kunne brukes som referanse,» sa hun.
Deepfakes er den nye mobbingen
Deepfakes bruker KI til å generere hyperrealistiske bilder og videoer av personer uten deres samtykke. De blir ofte opprettet for seksuelt misbruk, trakassering eller intimidering. De fleste av ofrene er kvinner og jenter.
Ifølge forskning fra Girlguiding(nytt vindu) sier mer enn én av fire tenåringer at de har sett en eksplisitt deepfake av noen de kjenner – en klassekamerat, en lærer, en venn eller til og med seg selv. CNN rapporterer(nytt vindu) at 40 % av elevene og 29 % av lærerne sa de var klar over en deepfake av noen som var koblet til skolen deres det siste året, og 15 % av elevene sa de hadde sett eksplisitte versjoner. De fleste skoler har ikke retningslinjer for å håndtere denne formen for misbruk.
Skadene er alvorlige. Ofre kan lide av angst, depresjon og til og med PTSD. De kan trekke seg tilbake sosialt, miste venner eller unngå å søke på jobber eller universiteter fordi eksplisitte forfalskninger kan dukke opp under et søk. Noen tvinges til og med til å bruke penger på å prøve å fjerne innhold fra internett.
World Economic Forum bemerker(nytt vindu) at selv om deepfakes ikke destabiliserte valg som mange fryktet, har de blitt et verktøy for trakassering og svindel. Pornografi uten samtykke er den mest ekstreme formen, men angripere bruker også klonede stemmer og falske videosamtaler for å begå svindel. I 2024 ble en finansarbeider i Hong Kong lurt til å betale 25 millioner dollar etter å ha deltatt i en Zoom-samtale der alle deltakerne — inkludert finansdirektøren — var en deepfake(nytt vindu).
«For resten av livet ser jeg ingen måte jeg noen gang kan unngå dette personlig på», sa Anita. «Og jeg synes ikke jeg burde være ansvarlig for det heller. Det er ikke mitt problem, og det er ikke min feil.»
Dette kan skje med hvem som helst
Det kreves bare en håndfull bilder. En offentlig Instagram. Et skolebilde. Et delt album. Så snart et ansikt er pålogget, kan det kopieres, skrapes og misbrukes.
Ifølge professor Carsten Maple fra University of Warwicks Cyber Security Centre er så få som 20 bilder nok med dagens KI-verktøy til å opprette en realistisk profil av noen, eller til og med en 30-sekunders video, noe som utvider omfanget av potensielle farer – et faktum som 53 % av nylig spurte overordnede ikke visste om.
The New York Times rapporterte om økningen av såkalte «nudifier-apper»(nytt vindu) som kan fjerne klær fra bilder ved hjelp av KI. Disse appene er billige, enkle å bruke og allment tilgjengelige. Etterforskere anslår at bransjen drar inn rundt 36 millioner dollar i året. Til tross for en ny amerikansk lov som gjør det ulovlig å legge ut falske nakenbilder uten samtykke, forblir selve appene lovlige. «Ethvert barn med tilgang til internett kan være både et offer eller en gjerningsperson», sa Alexios Mantzarlis, hvis team undersøkte 85 slike nettsteder, til The New York Times.
Private kontoer er ingen garanti for sikkerhet. Overgripere er ofte personer offeret kjenner. Selv tilsynelatende harmløse artikler, som bursdagsselskaper, kan avsløre detaljer som bidrar til identitetstyveri, noe som rammet anslagsvis 1,1 millioner barn i 2024.
«Folk som [lager deepfakes] glemmer ofte at det er skummelt, at det er upassende — for eksempel, hvis kollegene og vennene deres visste det, ville de fått sparken og blitt utfryst. De ville miste alle de kjenner, foreldrene deres ville bli skuffet over dem, ikke sant?» sa hun. «Men når du er pålogget og lager dette materialet for hverandre med en gjeng likesinnede tullinger, så er det bare en hobby og et tidsfordriv for dem. De kan fullstendig omgå, glemme og bli villedet om hvilken innvirkning det har på folks liv.»
Deepfake-risikoen strekker seg langt utover sosiale medier
I dag kommer kanskje den største risikoen fra det som deles på sosiale medier. Men hva med alle bildene du ikke deler i det hele tatt?
Google, Apple, Amazon og andre tilbyr alle skylagring for bildene dine – slik som Google Drive, iCloud og Amazon Web Services (AWS) – noen ganger helt gratis. Men denne lettvintheten har fortsatt en pris. Google har brukt bildene dine til å trene KI siden minst 2015, da de ble tvunget til å beklage å ha klassifisert et svart par som «gorillaer».(nytt vindu) Siden den gang har alle de store lagringsleverandørene blitt mye bedre på ansiktsgjenkjenning. Hvordan tror du det skjedde? Flere bilder som stadig fôrer KI-en.
De milliarder av bilder og videoer som er lagret hos Big Tech, er en enorm mengde materiale som en dag kan bli råstoff for å generere utrolig detaljerte og virkelighetstro deepfakes.
Alt som skal til er en stille endring i bruksvilkårene.
Beskytt minnene dine som du beskytter passordene dine
Du kan ikke kontrollere hva andre gjør med bildet ditt. Men du kan kontrollere hvor bildene dine befinner seg og hvem som har tilgang til dem. Proton Drive gir deg en privat, kryptert måte å lagre bildene og filene som betyr mest.
- Ende-til-ende-kryptering: Filene dine blir kryptert før de i det hele tatt forlater enheten din. I motsetning til Big Tech kan ikke engang Proton se dem.
- Privat som standard: Dataene dine blir aldri solgt, delt eller brukt til å trene KI.
- Sikker deling: Legg til passord, angi utløpsdatoer og tilbakekall tilgang når som helst.
- Automatisk sikkerhetskopi av bilder: Selv om telefonen din blir mistet eller stjålet, forblir minnene dine trygge.
Med Proton Drive forblir dataene dine dine — alltid.
