Seiring meningkatnya penggunaan kecerdasan buatan, asisten AI(jendela baru) menjadi pendamping yang tepercaya. Jutaan orang beralih ke chatbot seperti ChatGPT, Claude, Gemini, DeepSeek, dan lainnya untuk mengajukan pertanyaan serta menyelesaikan masalah. Kueri mereka bisa sangat sensitif, seperti menanyakan masalah kesehatan, membagikan data klien, atau mencari dukungan emosional dan inspirasi kreatif.

Bagi banyak orang, chatbot ini terasa manusiawi, responsif, dan rahasia. Namun perkembangan baru-baru ini (Perintah hukum telah memaksa OpenAI untuk menyimpan data keluaran ChatGPT(jendela baru) tanpa batas waktu, dan Sam Altman, pendiri OpenAI, mengatakan ChatGPT tidak menawarkan “kerahasiaan hukum”(jendela baru)) menyoroti risiko bahwa setiap kata yang diketik dapat dicatat sebagai log, disimpan, dianalisis, dan mungkin disalahgunakan atau dibobokan ke pihak ketiga.

Berikut adalah arti dari hal tersebut, dan mengapa hal itu harus menjadi perhatian kita semua.

Risikonya lebih tinggi dengan AI

Kehadiran asisten AI terasa seperti perbatasan baru, tetapi dalam banyak hal, hal ini sudah pernah dialami sebelumnya. Kekhawatiran seputar log obrolan AI mirip dengan kekhawatiran yang muncul pada masa-masa awal mesin pencari, yang sebagian besar terbukti beralasan. Log pencarian telah digunakan untuk membangun profil penargetan iklan yang menguntungkan, terekspos dalam pembobolan data, dan dipanggil di pengadilan.

Dengan AI, risikonya lebih tinggi karena data tersebut lebih pribadi dan terperinci. Makin banyak orang beralih dari mesin pencari ke chatbot AI untuk mendapatkan jawaban mereka, dengan prediksi bahwa penggunaan mesin pencari akan turun sebesar 25% pada tahun 2026(jendela baru). Berbeda dengan bilah pencarian, yang biasanya menangkap kueri singkat yang terfragmentasi, pertanyaan kepada chatbot disusun seolah-olah penanya sedang berbicara dengan orang lain, sehingga mengungkapkan lebih banyak hal tentang diri mereka dalam prosesnya. Satu percakapan dapat berisi pikiran pribadi(jendela baru), perjuangan emosional, kekhawatiran kesehatan(jendela baru), ketakutan finansial, atau bahkan nama lengkap dan alamat.

Singkatnya, log obrolan menawarkan peta identitas yang sangat kaya dan intim, jauh lebih mendalam daripada log mesin pencari — dan dengan implikasi yang jauh lebih besar bagi privasi. Big Tech dapat mengakses log obrolan dan menggunakannya untuk membangun profil psikologis pengguna yang dapat diungkapkan kepada pemerintah atau digunakan untuk iklan bertarget. Sebagai contoh, Meta menggunakan data obrolan AI untuk membuat iklan yang dipersonalisasi.

Obrolan ‘anonim’ tidak akan selalu tetap seperti itu

Argumen umum yang menolak kekhawatiran tentang privasi log obrolan adalah bahwa jumlah data yang sangat besar membuat eksploitasi individu tidak mungkin terjadi, terutama ketika pengguna tidak masuk. Namun sejarah baru-baru ini menunjukkan cerita yang berbeda.

Pada bulan Juli, wartawan menemukan bahwa lebih dari 100.000 percakapan di ChatGPT(jendela baru) diindeks oleh Google dan dapat dicari. Pengguna yang mengeklik tombol “bagikan” untuk mengirim percakapan ke teman atau kolega hampir pasti tidak menyadari bahwa percakapan pribadi mereka akan terlihat oleh semua orang di internet.

Contoh ini adalah peringatan: Data yang disebut “anonim” jarang sekali benar-benar anonim. Dipasangkan dengan alamat IP, stempel waktu, sidik jari perangkat, serta ID sesi dan kuki, log ini menjadi jauh lebih mudah diidentifikasi.

Bagaimana obrolan dapat mengungkap kehidupan batin kita

Platform AI populer ChatGPT(jendela baru), Gemini(jendela baru), dan DeepSeek(jendela baru) semuanya menyatakan bahwa log obrolan pengguna digunakan untuk membantu meningkatkan performa model dan tidak digunakan untuk “menjual” data Anda untuk iklan atau pembuatan profil pengguna. Namun, kebijakan dapat berubah dalam sekejap, seperti yang ditunjukkan oleh pertarungan hukum OpenAI.

Sebagai contoh, Anthropic memperbarui kebijakan privasinya(jendela baru) tanpa peringatan pada Agustus 2025 untuk memperpanjang periode retensi data. Dengan log yang tersimpan tanpa batas waktu, data pribadi yang dulunya tampak terlarang tiba-tiba bisa menjadi sumber keuntungan yang menggiurkan.

Ini bukan pertama kalinya hal itu terjadi. Ketika Google diluncurkan pada tahun 1998, pendiri Sergey Brin dan Larry Page memperingatkan(jendela baru) bahwa mesin pencari berbasis iklan pasti akan “secara inheren berpihak pada pengiklan dan mengabaikan kebutuhan konsumen”. Satu dekade kemudian, Google mulai menggunakan riwayat pencarian untuk menargetkan iklan(jendela baru).

Dengan akses langsung ke kehidupan batin orang-orang, log AI dapat mendorong penargetan iklan hingga ke batasnya. Dengan meningkatnya jumlah pengguna yang beralih ke chatbot untuk mendapatkan dukungan emosional(jendela baru), seseorang mungkin bercerita:

  • “Saya merasa sangat lelah dan kesepian akhir-akhir ini.”
  • “Apakah menurut Anda saya mengalami depresi?”
  • “Apa yang bisa saya lakukan jika tidak bisa membayar sewa bulan depan?”

Pernyataan-pernyataan ini bukan sekadar kata kunci atau kumpulan interaksi, melainkan penanda emosional dan situasional yang jelas. Jika tersimpan dan dianalisis, pernyataan tersebut dapat digunakan untuk membangun profil psikologis dan memanipulasi keputusan pengguna.

Bukan hal yang berlebihan untuk menyatakan bahwa informasi intim dan sensitif seperti itu dapat digunakan untuk tujuan eksploitatif — karena perusahaan Raksasa Teknologi telah melakukan hal tersebut. Pada tahun 2017, Facebook membuktikan bahwa tidak ada interaksi yang terlarang dengan menjajaki berbagai cara untuk menargetkan remaja yang rentan secara emosional(jendela baru) dengan iklan selama momen-momen ketidakamanan.

Log chatbot adalah jendela ke dalam jiwa Anda. Dan tingkat akses tersebut menimbulkan kekhawatiran privasi dan etika yang signifikan di sektor yang belum memiliki panduan dan regulasi yang jelas tentang penggunaan serta aplikasi data.

Risiko hukum bagi pengguna

Riwayat pencarian telah lama memainkan peran dalam investigasi kriminal dan kasus pengadilan. Ada banyak contoh di mana kueri daring berkontribusi pada putusan bersalah, terutama dalam kasus Moira Akers vs State di AS.

Setelah mengalami keguguran pada tahun 2018, Akers didakwa atas pembunuhan dan pada tahun 2022 dijatuhi hukuman 30 tahun penjara. Bagian penting dari kasus jaksa adalah pencarian internet Akers tentang aborsi, yang dilakukan selama tahap awal kehamilannya. Menurut jaksa penuntut, pencarian ini berfungsi sebagai bukti niat Akers — terlepas dari fakta bahwa dia menjalani kehamilan hingga melahirkan. Mahkamah Agung Maryland membatalkan hukumannya pada tahun 2025, memutuskan bahwa bukti kueri pencarian tidak dapat diterima(jendela baru). Namun Akers telah menghabiskan hampir tiga tahun di penjara. Kasus ini menyoroti bagaimana log yang tersimpan dapat digunakan untuk menceritakan sebuah kisah agar sesuai dengan narasi yang tidak menguntungkan, bahkan jika ada bukti yang membantahnya.

Risikonya bisa lebih tinggi lagi dengan obrolan tersimpan AI yang mungkin menjadi subjek bukti hukum. Tidak seperti kueri pencarian, interaksi ini lebih bersifat percakapan dan bahkan spekulatif, terkadang sebagai cara untuk memicu jenis tanggapan tertentu dari LLM, atau model bahasa besar. Percakapan pribadi yang tidak bersalah dengan AI nantinya dapat ditafsirkan sebagai hal yang memberatkan dalam pengaturan hukum, terlepas dari niat pada saat itu.

Alat yang ampuh untuk manipulasi

Mereka yang dapat melihat log chatbot dapat memperoleh akses ke cetak biru perilaku yang terperinci: kebiasaan pribadi, pemicu emosional, dinamika hubungan, dan bahkan kerentanan profesional. Di tangan yang salah, data ini adalah alat yang ampuh untuk rekayasa sosial, yang merupakan taktik peretasan umum yang melibatkan manipulasi psikologis.

Risiko ini jauh dari hipotesis. Pada Januari 2025, platform AI DeepSeek membiarkan basis data besar terekspos secara daring(jendela baru). Pembobolan tersebut mencakup lebih dari satu juta log obrolan AI dan kunci API, semuanya dapat diakses secara publik oleh siapa saja yang tahu tempat mencarinya. Di antara data yang terekspos adalah percakapan teks biasa yang mungkin berisi diskusi tentang keluarga, keuangan, dan proyek rahasia — informasi yang dapat dengan mudah dieksploitasi untuk penipuan, pemerasan, atau pencurian identitas.

Setelah bocor, data ini dapat dijadikan senjata untuk meniru identitas Anda atau memanipulasi Anda. Dengan merujuk rincian pribadi yang diambil dari percakapan masa lalu, penyerang dapat memperoleh kepercayaan Anda dan mengeksploitasinya untuk menciptakan kerentanan keuangan atau keamanan yang serius.

Momok pengawasan politik

Di rezim otoriter, konsekuensi dari interaksi digital yang tersimpan bisa jauh lebih parah. Sebagai contoh, beberapa negara telah melarang platform AI yang berbasis di Tiongkok, DeepSeek, digunakan pada perangkat pemerintah(jendela baru) karena kekhawatiran keamanan tentang bagaimana informasi pribadi pengguna dikelola oleh operator. Korea Selatan, Australia, dan Taiwan menyampaikan kekhawatiran bahwa data ini dapat diakses oleh otoritas Tiongkok dan berpotensi digunakan untuk pengawasan.

Bagi para pembangkang, aktivis, atau jurnalis, ini bukan sekadar isu privasi, ini adalah masalah keselamatan. Obrolan yang tampak santai tentang hak protes, undang-undang media, atau rute suaka dapat ditafsirkan sebagai bukti yang memberatkan di yurisdiksi dengan perlindungan terbatas untuk kebebasan berbicara dan kebebasan sipil.

Ancaman terhadap kekayaan intelektual

Pada tahun 2023, para insinyur Samsung secara tidak sengaja mengunggah kode sumber milik mereka(jendela baru) ke ChatGPT saat mencoba men-debug suatu isu, dengan keyakinan yang keliru bahwa kueri mereka bersifat pribadi. Setelah dikirimkan, data tersebut menjadi bagian dari sistem pelatihan OpenAI, memicu kekhawatiran tentang keamanan dan kepemilikan kekayaan intelektual yang dibagikan dengan alat AI.

Kekhawatiran terkait muncul dalam kasus hak cipta profil tinggi yang diajukan oleh The New York Times terhadap OpenAI(jendela baru) yang disebutkan di awal artikel ini. Kasos tersebut memicu perintah pengadilan yang mengharuskan OpenAI untuk menyimpan semua data hasil ChatGPT tanpa batas waktu setelah adanya tuduhan bahwa perusahaan tersebut menggunakan jutaan artikel surat kabar untuk melatih modelnya tanpa izin. Meskipun kasus ini berpusat pada perayap web OpenAI yang menyalin konten berita, hal ini menimbulkan pertanyaan yang lebih luas bagi para kreator — penulis, desainer, musisi, dan lainnya — yang menyumbangkan karya orisinal ke platform AI.

Jika konten yang dikirimkan pengguna disimpan dan digunakan kembali oleh model, ada risiko nyata bahwa materi kepemilikan atau kreatif dapat didistribusikan kembali ke pengguna lain tanpa atribusi atau persetujuan. Hal ini mengaburkan batas antara kontribusi pengguna dan data pelatihan AI, serta menimbulkan pertanyaan mendesak tentang kepengarangan dan kepemilikan di era AI generatif.

Apa yang perlu diubah dan cara melindungi diri Anda

Sebagian besar orang menginginkan dan mengharapkan privasi dalam kehidupan nyata mereka. Kami percaya bahwa harapan yang sama juga harus diperluas ke kehidupan digital masyarakat. Kami membangun rangkaian layanan terenkripsi yang membuat privasi daring dapat diakses oleh siapa saja, baik saat mengirim email ke teman, streaming acara favorit(jendela baru), atau mencadangkan foto. Belum terlambat untuk memperbaiki kesalahan-kesalahan awal internet, dan dengan AI yang masih berada di masa-masa awal, masih ada waktu untuk memetakan arah baru bagi teknologi ini yang menghormati privasi Anda.

Kami membangun asisten AI(jendela baru) Lumo kami dengan cara yang menjunjung tinggi perlindungan utama sejak awal:

  • Tanpa pencatatan data: Pengguna harus dapat berinteraksi dengan chatbot tanpa khawatir bahwa kiriman mereka akan tersimpan, digunakan untuk keuntungan, atau digunakan untuk merugikan mereka. 
  • Tanpa pelatihan model: Obrolan pribadi tidak boleh dieksploitasi sebagai data pelatihan, karena berisiko muncul kembali di hasil model di kemudian hari.
  • Transparansi dalam penanganan data: Harus jelas bagaimana data pengguna yang tersimpan digunakan, siapa yang dapat memperoleh akses ke data tersebut, di mana data itu disimpan, berapa lama data itu disimpan, dan bagaimana data itu dapat dihapus.
  • Enkripsi tanpa akses secara bawaan: Percakapan harus diamankan dengan menggunakan kunci enkripsi pengguna, sehingga penyedia AI sekalipun tidak dapat memperoleh akses.
Mulai obrolan pribadi(jendela baru)

Meskipun bahaya chatbot yang diam-diam mencatat data kita adalah hal yang nyata dan mendesak, kita tidaklah tidak berdaya. Dengan memilih alat AI yang mengutamakan privasi serta menuntut transparansi dan akuntabilitas dari pembuatnya, kita dapat mengembalikan keseimbangan kekuatan ke tangan pengguna, menegaskan keyakinan bahwa privasi adalah hak, bukan hak istimewa.