Pria-pria itu memercayai apa yang mereka lihat secara daring: sebuah situs web yang penuh dengan gambar eksplisit buatan AI yang menampilkan wajahnya di tubuh orang lain, beserta alamat rumah aslinya. Situs tersebut mengeklaim rumahnya adalah rumah bordil.
Sweet Anita, salah satu streamer paling terkenal di Twitch, memahami risiko menjadi seorang wanita di dunia daring dan melakukan tindakan pencegahan. Dia menyembunyikan nama aslinya, menetapkan batasan, dan menyewa tim. Semua itu tidak menghentikan seseorang untuk memalsukan dirinya menggunakan deepfake.
Tidak ada yang bisa mempersiapkannya menghadapi apa yang terjadi selanjutnya.
Kisah Sweet Anita
Seorang pria anonim memesan pornografi buatan AI yang menampilkan dirinya, lalu membangun situs web palsu yang memfitnahnya sebagai pekerja seks — dan mencantumkan alamat rumahnya. Seluruh pengaturan dirancang untuk memancing para pria ke rumahnya dengan harapan palsu bahwa mereka dapat memaksanya untuk berhubungan seks. “Setelah dia melakukan itu, saya mulai didatangi pria-pria ke rumah saya, terutama ketika saya melakukan siaran langsung dan saya sedang berada di luar rumah,” katanya. “Saya tidak merasa aman di rumah saya sendiri.”
Orang asing dengan tas ransel mencoba membobol masuk. Dia takut menerima surat dari tukang pos. Dia harus berhenti membukakan pintu dan tidak bisa meninggalkan rumah tanpa pengawasan. Dia sudah pernah pindah rumah sebelumnya, tetapi mereka terus menemukannya.
Dan pelecehan itu tidak terbatas di depan pintu rumahnya saja. Mendiang ibunya yang bangga dengan pekerjaan putrinya, akan memeriksa media sosial Anita dan terpaksa melewati gambar-gambar eksplisit buatan AI. Teman dan rekan kerja juga melihatnya. “Saya bisa menghapus semua hal dari YouTube, Twitch, dan semua media sosial saya — namun tetap saja akan ada banyak gambar wajah saya di video-video yang dapat digunakan sebagai referensi,” katanya.
Deepfake adalah bentuk perundungan baru
Deepfake menggunakan AI untuk menghasilkan foto dan video orang yang sangat realistis tanpa persetujuan mereka. Konten ini sering kali dibuat untuk pelecehan seksual, perundungan, atau intimidasi. Sebagian besar korbannya adalah perempuan dan anak perempuan.
Menurut penelitian oleh Girlguiding(jendela baru), lebih dari satu dari empat remaja mengatakan bahwa mereka pernah melihat deepfake eksplisit dari seseorang yang mereka kenal — teman sekelas, guru, teman, atau bahkan diri mereka sendiri. CNN melaporkan(jendela baru) bahwa 40% siswa dan 29% guru mengatakan mereka mengetahui adanya deepfake dari seseorang yang terhubung dengan sekolah mereka dalam setahun terakhir, dan 15% siswa mengatakan mereka telah melihat versi eksplisitnya. Sebagian besar sekolah tidak memiliki kebijakan untuk menangani bentuk pelecehan ini.
Dampaknya sangat parah. Korban dapat mengalami kecemasan, depresi, bahkan PTSD. Mereka mungkin menarik diri dari pergaulan sosial, kehilangan teman, atau menghindari melamar pekerjaan atau perguruan tinggi karena konten palsu yang eksplisit dapat muncul saat pencarian. Beberapa bahkan terpaksa mengeluarkan uang untuk mencoba membersihkan konten tersebut dari internet.
World Economic Forum mencatat(jendela baru) bahwa meskipun deepfake tidak mengacaukan pemilu seperti yang dikhawatirkan banyak orang, teknologi ini telah menjadi alat untuk pelecehan dan penipuan. Pornografi tanpa persetujuan adalah bentuk yang paling ekstrem, tetapi penyerang juga menggunakan kloning suara dan panggilan video palsu untuk melakukan penipuan. Pada tahun 2024, seorang karyawan keuangan di Hong Kong tertipu hingga membayar $25 juta setelah bergabung dalam panggilan Zoom di mana setiap peserta — termasuk CFO — adalah deepfake(jendela baru).
“Seumur hidup saya, saya tidak melihat cara bagaimana saya bisa menghindarinya secara pribadi,” kata Anita. “Dan saya rasa saya juga tidak seharusnya bertanggung jawab atas hal itu. Ini bukan isu saya, dan ini bukan salah saya.”
Ini bisa terjadi pada siapa saja
Hanya dibutuhkan beberapa gambar. Instagram publik. Foto sekolah. Album bersama. Begitu wajah ada secara daring, wajah tersebut dapat disalin, diambil datanya, dan disalahgunakan.
Menurut Profesor Carsten Maple dari Cyber Security Centre University of Warwick, dengan alat AI saat ini, hanya 20 foto sudah cukup untuk membuat profil seseorang yang realistis, atau bahkan video 30 detik, memperluas cakupan potensi bahaya — fakta yang tidak diketahui oleh 53% induk yang baru-baru ini disurvei.
The New York Times melaporkan tentang maraknya aplikasi yang disebut “aplikasi penelanjang (nudifier)”(jendela baru) yang dapat menanggalkan pakaian dari foto menggunakan AI. Aplikasi ini murah, mudah digunakan, dan tersedia secara luas. Para penyelidik memperkirakan industri ini menghasilkan sekitar $36 juta setahun. Meskipun undang-undang baru AS melarang memposting foto bugil palsu tanpa persetujuan, aplikasi itu sendiri tetap legal. “Setiap anak yang memiliki akses ke internet dapat menjadi korban sekaligus pelaku,” kata Alexios Mantzarlis, yang timnya menyelidiki 85 situs semacam itu, kepada New York Times.
Akun pribadi bukan jaminan keamanan. Pelaku pelecehan sering kali merupakan orang yang dikenal korban. Bahkan postingan yang tampaknya tidak berbahaya, seperti pesta ulang tahun, dapat mengungkapkan rincian yang memicu pencurian identitas, yang berdampak pada sekitar 1,1 juta anak pada tahun 2024.
“Orang-orang yang [membuat deepfake] sering kali lupa bahwa tindakan itu menyeramkan dan tidak pantas — seperti, jika rekan kerja dan teman-teman mereka tahu, mereka akan dipecat dan dikucilkan. Mereka akan kehilangan semua orang yang mereka kenal, orang tua mereka akan kecewa pada mereka, bukan?” katanya. “Namun, ketika berada di dunia daring dan membuat materi ini untuk satu sama lain bersama sekelompok orang aneh yang berpikiran sama, maka itu hanya menjadi hobi dan kesenangan bagi mereka. Mereka benar-benar dapat menghindari, melupakan, dan berhalusinasi tentang dampak yang ditimbulkannya pada kehidupan orang-orang.”
Risiko deepfake jauh melampaui media sosial
Saat ini, risiko terbesar mungkin datang dari apa yang dibagikan di media sosial. Namun, bagaimana dengan semua foto yang sama sekali tidak dibagikan?
Google, Apple, Amazon, dan lainnya semuanya menawarkan penyimpanan cloud untuk foto — seperti Google Drive, iCloud, and Amazon Web Services (AWS) — terkadang gratis. Namun kenyamanan tersebut tetap harus dibayar mahal. Google telah menggunakan foto untuk melatih AI setidaknya sejak tahun 2015, ketika terpaksa meminta maaf karena mengklasifikasikan pasangan Kulit Hitam sebagai “gorila.”(jendela baru) Sejak saat itu, semua penyedia penyimpanan utama telah menjadi jauh lebih baik dalam pengenalan wajah. Bagaimana hal itu bisa terjadi? Lebih banyak foto, terus-menerus memberi makan AI.
Miliaran foto dan video yang tersimpan di Big Tech merupakan tumpukan materi luar biasa besar yang suatu hari nanti dapat menjadi bahan untuk menghasilkan deepfake yang sangat terperinci dan tampak nyata.
Hanya butuh perubahan diam-diam pada Ketentuan Layanan.
Lindungi kenangan Anda seperti Anda melindungi kata sandi Anda
Tidak dapat mengontrol apa yang dilakukan orang lain dengan gambar diri. Namun, lokasi penyimpanan gambar dan pihak yang memiliki akses ke sana tetap dapat dikontrol. Proton Drive memberikan cara yang pribadi dan terenkripsi untuk menyimpan foto dan file yang paling penting.
- Enkripsi end-to-end: File terenkripsi sebelum meninggalkan perangkat. Berbeda dengan Big Tech, bahkan Proton sekalipun tidak dapat melihatnya.
- Pribadi secara bawaan: Data Anda tidak pernah dijual, dibagikan, atau digunakan untuk melatih AI.
- Berbagi dengan aman: Tambahkan kata sandi, tetapkan tanggal kedaluwarsa, dan cabut akses kapan saja.
- Cadangan foto otomatis: Meskipun ponsel hilang atau dicuri, kenangan tetap aman.
Dengan Proton Drive, data Anda tetap menjadi milik Anda — selalu.
