Miehet uskoivat, mitä näkivät verkossa: verkkosivusto oli täynnä selkeitä tekoälyn luomia kuvia hänen kasvoistaan jonkun toisen vartalossa, rinnalla hänen oikea kotiosoitteensa. Sivusto väitti hänen kotinsa olevan bordelli.

Sweet Anita, yksi Twitchin tunnistettavimmista suoratoistajista, ymmärsi riskit olla nainen verkossa ja ryhtyi varotoimiin. Hän piilotti oikean nimensä, asetti rajat ja palkkasi tiimin. Mikään näistä ei estänyt jotakuta tekemästä hänestä syväväärennöstä.

Mikään ei valmistanut häntä siihen, mitä tapahtui seuraavaksi.

Sweet Anitan tarina

Nimetön mies tilasi hänestä tekoälyn luomaa pornografiaa ja rakensi sitten valesivuston, joka leimasi hänet seksityöläiseksi – ja listasi hänen kotiosoitteensa. Koko järjestely oli suunniteltu houkuttelemaan miehiä hänen kotiinsa siinä väärässä toivossa, että he voisivat pakottaa hänet seksiin. “Sen jälkeen kun hän teki sen, miehiä alkoi tulla talolleni, varsinkin kun suoratoistin ja olin poissa kotoa”, hän sanoi. “En tunne oloani turvalliseksi omassa kodissani.”

Vieraat varustekasseineen yrittivät murtautua sisään. Hän pelkäsi hakea postia postinkantajalta. Hänen oli lopetettava oven avaaminen ja talon jättäminen vartioimatta. Hän on muuttanut ennenkin, mutta he löysivät hänet aina uudelleen.

Eikä hyväksikäyttö rajoittunut hänen etuovelleen. Hänen edesmennyt äitinsä, joka oli ylpeä tyttärensä työstä, tarkisti Anitan sosiaalisen median ja joutui selaamaan ohi selkeiden, tekoälyn luomien kuvien. Myös ystävät ja työtoverit näkivät ne. “Voisin poistaa kaiken YouTubesta, Twitchistä, kaikista sosiaalisen median kanavistani – ja silti videoissa olisi valtavasti kuvia kasvoistani, joita voitaisiin käyttää referenssinä”, hän sanoi.

Syväväärennökset ovat uutta kiusaamista

Deepfakes use AI to generate hyper-realistic photos and videos of people without their consent. They are often created for sexual abuse, harassment, or intimidation. Most of the victims are women and girls.

Girlguidingin tutkimuksen mukaan(uusi ikkuna) yli joka neljäs teini-ikäinen sanoo nähneensä selkeän syväväärennöksen jostakusta tuntemastaan – luokkatoverista, opettajasta, ystävästä tai jopa itsestään. CNN raportoi(uusi ikkuna), että 40 % opiskelijoista ja 29 % opettajista sanoi olleensa tietoisia syväväärennöksestä, joka liittyi johonkuhun heidän koulussaan kuluneen vuoden aikana, ja 15 % opiskelijoista sanoi nähneensä selkeitä versioita. Useimmilla kouluilla ei ole käytäntöjä tämän hyväksikäytön muodon käsittelemiseksi.

Haitat ovat vakavia. Uhrit voivat kärsiä ahdistuksesta, masennuksesta ja jopa traumaperäisestä stressihäiriöstä. He saattavat vetäytyä sosiaalisesti, menettää ystäviä tai välttää hakemasta työpaikkoja tai opiskelupaikkoja, koska selkeät väärennökset voisivat nousta esiin haun aikana. Jotkut joutuvat jopa käyttämään rahaa yrittäessään poistaa sisältöä internetistä.

Maailman talousfoorumi toteaa(uusi ikkuna), että vaikka syväväärennökset eivät horjuttaneet vaaleja kuten monet pelkäsivät, niistä on tullut väline häirintään ja huijauksiin. Ilman suostumusta tehty pornografia on äärimmäisin muoto, mutta hyökkääjät käyttävät myös kloonattuja ääniä ja väärennettyjä videopuheluita petosten tekemiseen. Vuonna 2024 rahoitusalan työntekijä Hongkongissa huijattiin maksamaan 25 miljoonaa dollaria sen jälkeen, kun hän liittyi Zoom-puheluun, jossa jokainen osallistuja – mukaan lukien talousjohtaja – oli syväväärennös(uusi ikkuna).

“En näe keinoa, jolla voisin koskaan henkilökohtaisesti välttää tämän loppuelämäni aikana”, Anita sanoi. “Enkä usko, että minun pitäisi olla siitä vastuussa. Se ei ole minun ongelmani, eikä se ole minun syyni.”

Tämä voi tapahtua kenelle tahansa

Siihen tarvitaan vain kourallinen kuvia. Julkinen Instagram. Koulukuva. Jaettu albumi. Kun kasvot ovat verkossa, ne voidaan kopioida, kerätä ja käyttää väärin.

Warwickin yliopiston kyberturvallisuuskeskuksen professori Carsten Maplen mukaan nykypäivän tekoälytyökaluilla jo 20 valokuvaa riittää luomaan realistisen profiilin jostakusta, tai jopa 30 sekunnin video, mikä laajentaa mahdollisten vaarojen laajuutta – tosiasia, jota 53 % äskettäin kyselyyn vastanneista vanhemmista ei tiennyt.

The New York Times raportoi niin kutsuttujen “nudifier-sovellusten” noususta(uusi ikkuna), jotka voivat riisua vaatteet valokuvista tekoälyn avulla. Nämä sovellukset ovat halpoja, helppokäyttöisiä ja laajasti saatavilla. Tutkijat arvioivat alan tuottavan noin 36 miljoonaa dollaria vuodessa. Huolimatta uudesta Yhdysvaltain laista, joka tekee ilman suostumusta tehtyjen väärennettyjen alastonkuvien julkaisemisesta laitonta, itse sovellukset pysyvät laillisina. “Mikä tahansa lapsi, jolla on pääsy internetiin, voi olla sekä uhri että tekijä”, Alexios Mantzarlis, jonka tiimi tutki 85 tällaista sivustoa, kertoi New York Timesille.

Yksityiset tilit eivät ole tae turvallisuudesta. Hyväksikäyttäjät ovat usein ihmisiä, jotka uhri tuntee. Jopa näennäisesti harmittomat julkaisut, kuten syntymäpäiväjuhlat, voivat paljastaa tietoja, jotka ruokkivat henkilöllisyysvarkauksia, jotka koskettivat arviolta 1,1 miljoonaa lasta vuonna 2024.

“Ihmiset, jotka [tekevät syväväärennöksiä], unohtavat usein, että se on karmivaa, että se on sopimatonta – ikään kuin, jos heidän työtoverinsa ja ystävänsä tietäisivät, he saisivat potkut ja joutuisivat syrjityiksi. He menettäisivät kaikki tuntemansa, heidän vanhempansa olisivat pettyneitä heihin, eikö niin?” hän sanoi. “Mutta kun olet verkossa ja teet tätä materiaalia toisillenne samanmielisten hiippareiden kanssa, se on heille vain harrastus ja ajanvietettä. He saavat täysin sivuuttaa ja unohtaa ja olla harhaluuloisia siitä vaikutuksesta, joka sillä on ihmisten elämään.”

Syväväärennösriski ulottuu paljon sosiaalista mediaa pidemmälle

Nykyään suurin riski saattaa tulla siitä, mitä jaetaan sosiaalisessa mediassa. Mutta entä kaikki valokuvat, joita ette jaa ollenkaan?

Google, Apple, Amazon, Meta ja muut tarjoavat kaikki pilvitallennustilaa valokuvillenne, joskus maksutta. Mutta sillä mukavuudella on silti hintansa. Google on käyttänyt valokuvianne tekoälyn kouluttamiseen ainakin vuodesta 2015 lähtien, jolloin se joutui pyytämään anteeksi mustan pariskunnan luokittelemista “gorilloiksi”.(uusi ikkuna) Sen jälkeen kaikki suuret tallennuspalveluntarjoajat ovat tulleet paljon paremmiksi kasvojentunnistuksessa. Miten luulette sen tapahtuneen? Lisää valokuvia, jotka ruokkivat tekoälyä jatkuvasti.

Miljardit valokuvat ja videot, joita säilytetään suurten teknologiayritysten hallussa, ovat valtava aineistovarasto, joka voisi jonain päivänä olla syötettä uskomattoman yksityiskohtaisten ja aidonoloisten syväväärennösten luomiseen.

Siihen tarvitaan vain hiljainen muutos palveluehdoissa.

Suojatkaa muistonne kuten suojaatte salasananne

Ette voi hallita sitä, mitä muut tekevät kuvallanne. Mutta voitte hallita sitä, missä kuvanne ovat ja kenellä on pääsy niihin. Proton Drive antaa teille yksityisen, salatun tavan tallentaa tärkeimmät valokuvat ja tiedostot.

  • Päästä päähän -salaus: Tiedostonne salataan ennen kuin ne koskaan poistuvat laitteeltanne. Toisin kuin suuret teknologiayritykset, edes Proton ei voi nähdä niitä.
  • Yksityinen oletuksena: Tietojanne ei koskaan myydä, jaeta tai käytetä tekoälyn kouluttamiseen.
  • Turvallinen jakaminen: Lisätkää salasanoja, asettakaa vanhentumispäiviä tai mitätöikää käyttöoikeus milloin tahansa.
  • Automaattinen varmuuskopiointi: Vaikka puhelimenne katoaisi tai varastettaisiin, muistonne pysyvät turvassa.

Proton Driven avulla tietonne pysyvät teidän – aina.