Menggunakan chatbot berarti berjalan melewati ladang ranjau privasi dan sensor.

Aplikasi obrolan AI seperti ChatGPT mengumpulkan data pengguna, menyaring tanggapan, dan membuat keputusan moderasi konten yang tidak selalu transparan. Namun DeepSeek — chatbot AI baru yang dikembangkan di Tiongkok yang menarik perhatian yang belum pernah terjadi sebelumnya sebagai ancaman besar bagi (jendela baru)perusahaan teknologi (jendela baru)Barat(jendela baru) — melakukan semua itu dan lebih banyak lagi.

Bahkan, chatbot ini membawa risiko yang jauh lebih besar: DeepSeek secara hukum wajib mematuhi tuntutan pemerintah Tiongkok untuk akses data dan kontrol konten, tanpa ada upaya hukum untuk menolaknya.

Meskipun pemerintah di seluruh dunia — termasuk AS dan UE — dapat memanggil data dari perusahaan teknologi, perusahaan Barat memiliki jalur hukum untuk menentang permintaan ini di pengadilan. OpenAI, Google, dan Meta, misalnya, dapat menolak sebagian besar tuntutan pemerintah yang berlebihan, mengajukan banding di pengadilan independen, atau menolak permintaan yang melanggar undang-undang privasi seperti GDPR. Namun, DeepSeek beroperasi di bawah Undang-Undang Intelijen Nasional Tiongkok(jendela baru), yang memaksa perusahaan untuk bekerja sama dengan upaya intelijen pemerintah tanpa transparansi atau kemampuan untuk menolak secara hukum. Ini berarti bahwa jika pemerintah Tiongkok menginginkan akses ke data pengguna atau memanipulasi tanggapan yang dihasilkan AI, DeepSeek tidak memiliki pilihan selain mematuhinya.

Artikel ini membahas apa saja yang dikumpulkan DeepSeek dan mengapa hal itu penting terkait dengan privasi, sensor, dan kontrol pemerintah.

Apa itu DeepSeek?

DeepSeek adalah perusahaan rintisan AI yang dimiliki oleh High-Flyer, sebuah hedge fund yang berbasis di Tiongkok(jendela baru). Platform ini dipromosikan sebagai alternatif open-source untuk ChatGPT, yang mampu menghasilkan tanggapan seperti manusia, membantu pengodean, dan memecahkan masalah kompleks — semuanya dilakukan dengan biaya murah(jendela baru).

Model ini mendapat perhatian internasional(jendela baru) karena diduga menyamai kinerja model AI terkemuka Barat dengan biaya yang jauh lebih murah. Pada Januari 2025, DeepSeek telah melampaui ChatGPT dalam unduhan dari App Store milik Apple(jendela baru), memicu aksi jual global saham teknologi dan menimbulkan kekhawatiran tentang miliaran dolar yang disalurkan perusahaan teknologi di AS ke dalam perluasan pusat data yang boros energi, pengeluaran yang mereka klaim sangat penting bagi terobosan AI berikutnya.

Namun, seiring orang-orang mengunduh DeepSeek dan membagikan pengalaman mereka bermain dengan chatbot tersebut, menjadi jelas bahwa menggunakan DeepSeek disertai dengan kompromi yang sudah tidak asing lagi untuk kelas teknologi ini: privasi dan keamanan informasi yang paling sensitif.

Celah keamanan yang mendalam

Penelitian baru mengungkapkan bahwa praktik keamanan DeepSeek mungkin sama mengkhawatirkannya dengan kebijakan datanya, yang akan dibahas nanti.

Pada tanggal 29 Januari 2025, perusahaan keamanan siber Wiz melaporkan(jendela baru) bahwa DeepSeek secara tidak sengaja membiarkan lebih dari satu juta baris data sensitif terpapar di internet terbuka. Kebocoran tersebut mencakup kunci perangkat lunak digital, yang berpotensi memungkinkan akses tidak sah ke sistem DeepSeek, dan log obrolan dari pengguna nyata, yang menampilkan perintah sebenarnya yang diberikan kepada chatbot.

Para peneliti Wiz mengatakan mereka menemukan database tersebut segera dengan pemindaian minimal. Dalam waktu 30 menit setelah Wiz menghubungi DeepSeek, database tersebut dikunci, tetapi tidak jelas apakah aktor jahat telah mengakses atau mengunduh data tersebut sebelum diamankan. Mengingat betapa mudahnya data itu ditemukan, skenario tersebut sangat mungkin terjadi.

Ami Luttwak, kepala petugas teknologi Wiz, mengatakan kepada Wired(jendela baru) bahwa kebocoran tersebut adalah “kesalahan dramatis,” memberikan peringatan bahwa sistem DeepSeek belum cukup matang “untuk digunakan dengan data sensitif apa pun sama sekali.”

Namun, kebocoran ini memperjelas setidaknya satu hal: DeepSeek tidak hanya mengumpulkan dan menyimpan sejumlah besar data pengguna — platform ini juga tampaknya tidak memiliki tindakan keamanan yang diperlukan untuk melindunginya.

Data apa yang dikumpulkan DeepSeek?

Menurut kebijakan privasi(jendela baru), DeepSeek mengumpulkan berbagai macam data pribadi, termasuk:

  • Informasi profil: Nama pengguna, email, nomor telepon, kata sandi, dan tanggal lahir.
  • Input pengguna: Semua yang diketik atau diunggah, termasuk riwayat obrolan, perintah, dan input audio.
  • Data perangkat dan jaringan: Alamat IP, model perangkat, sistem operasi, bahasa sistem, dan pola penekanan tombol.
  • Data penggunaan: Fitur yang digunakan, tindakan yang dilakukan, dan log kinerja sistem.
  • Kuki dan pelacak: Web beacon dan teknologi pelacakan lainnya untuk memantau perilaku pengguna.
  • Data pihak ketiga: Informasi dari akun yang tertaut dan mitra periklanan yang melacak aktivitas di berbagai situs web, aplikasi, dan toko.

Penanganan dan penyimpanan data ini oleh DeepSeek di server di Tiongkok, tempat data tersebut menjadi subjek akses pemerintah, telah menimbulkan kekhawatiran di kalangan regulator Eropa.

DeepSeek sedang diselidiki di Eropa

Baik Komisi Perlindungan Data (DPC) Irlandia(jendela baru) maupun Otoritas Perlindungan Data (DPA) Italia(jendela baru) telah meluncurkan penyelidikan(jendela baru) tentang bagaimana perusahaan tersebut mengumpulkan, menyimpan, dan memproses data pengguna.

DPA Italia telah memblokir akses ke DeepSeek di negara tersebut setelah perusahaan gagal memberikan informasi yang cukup tentang penanganan data pribadinya. Regulator ingin mengetahui data apa yang dikumpulkan DeepSeek, di mana data tersebut tersimpan, dan apakah data tersebut mematuhi undang-undang privasi UE seperti GDPR.

DPC Irlandia juga telah meminta rincian tentang bagaimana DeepSeek memproses data dari pengguna Irlandia. Sementara itu, aplikasi DeepSeek telah dihapus dari toko aplikasi Apple dan Google di Italia, meskipun tidak jelas apakah penghapusan tersebut bersifat sukarela atau dipaksakan.

Jika DeepSeek gagal mematuhi undang-undang privasi Eropa, platform ini dapat menghadapi denda, larangan, atau pembatasan lebih lanjut di UE.

DeepSeek bersifat open source, tetapi apakah aman?

DeepSeek bersifat open source, artinya kode dapat dimodifikasi(jendela baru) pada aplikasi sendiri untuk membuat versi yang mandiri — dan lebih aman. Hal ini membuat beberapa orang berharap bahwa versi DeepSeek yang lebih ramah privasi dapat dikembangkan. Namun, menggunakan DeepSeek dalam bentuknya yang sekarang — seperti yang ada saat ini, yang di-host di Tiongkok — membawa risiko serius bagi siapa pun yang mengkhawatirkan informasi pribadi mereka yang paling sensitif.

Model apa pun yang dilatih atau dioperasikan di server DeepSeek masih menjadi subjek hukum data Tiongkok, yang berarti pemerintah Tiongkok dapat meminta akses kapan saja.

Jika mencari pengalaman AI yang lebih pribadi, menjalankan model secara lokal adalah opsi yang lebih baik. Alat seperti LM Studio(jendela baru) memungkinkan pengunduhan dan pengoperasian model AI secara langsung di perangkat sendiri, menjaga data tetap pribadi.

Meskipun teknologi DeepSeek menjanjikan, praktik data dan kewajiban hukumnya menjadikannya risiko privasi dan keamanan yang serius.

DeepSeek menjadi subjek undang-undang pengawasan Tiongkok

DeepSeek beroperasi di bawah Undang-Undang Intelijen Nasional Tiongkok 2017(jendela baru) — undang-undang yang memaksa semua perusahaan Tiongkok untuk membantu pemerintah dalam urusan keamanan nasional. Ini berarti perusahaan Tiongkok mana pun, mulai dari TikTok, RedNote, hingga DeepSeek, dapat dipaksa untuk membagikan data pengguna dengan otoritas Tiongkok(jendela baru) bahkan jika data tersebut berasal dari pengguna di Amerika Serikat atau di tempat lain.

Undang-undang ini mengharuskan semua perusahaan Tiongkok untuk:

  • Memberikan akses ke data pengguna kepada pemerintah berdasarkan permintaan
  • Membantu dalam operasi intelijen nasional
  • Tetap merahasiakan pembagian data yang diwajibkan oleh negara

DeepSeek tidak memiliki pilihan selain mematuhinya, baik itu berarti menyerahkan data pengguna pribadi atau menyesuaikan keluaran AI-nya agar sesuai dengan narasi yang disetujui negara(jendela baru).

DeepSeek sudah menyensor informasi

Semua aplikasi obrolan AI arus utama memiliki kebijakan, aturan, dan batasan moderasi konten yang digunakan terutama untuk mencegah bahaya — bukan mengontrol narasi politik. Namun tampaknya DeepSeek secara aktif menulis ulang sejarah dan mendorong pesan yang disetujui pemerintah.

Seorang karyawan Proton, misalnya, mengetik perintah ini ke DeepSeek, mencari informasi tentang protes Lapangan Tiananmen 1989, sebuah gerakan yang dipimpin mahasiswa yang mengubah pemerintahan Tiongkok: “Acara besar dunia pada tanggal 15 April 1989.” DeepSeek mulai menghasilkan tanggapan, tetapi dengan cepat menghapusnya, dan menawarkan jawaban ini sebagai gantinya: “Maaf, itu di luar cakupan saya saat ini. Mari kita bicara tentang hal lain.”

Menurut pengujian lebih lanjut oleh The Diplomat(jendela baru), DeepSeek:

  • Menolak mengakui acara bersejarah utama: Ketika ditanya tentang Revolusi Kebudayaan, ia bertindak seolah-olah acara tersebut tidak pernah terjadi.
  • Menyensor fakta-fakta yang tidak menguntungkan secara politik: Ketika ditanya tentang intelektual yang dianiaya Chu Anping, ia mengabaikan hilangnya intelektual tersebut dan sebaliknya memuji PKT atas dukungannya terhadap para intelektual.
  • Mempromosikan propaganda negara: Ketika ditanya tentang ekonomi Tiongkok, DeepSeek mengalihkan percakapan ke arah kepercayaan pada kepemimpinan pemerintah.
  • Mengedit jawaban tentang sengketa internasional: Ketika ditanya siapa pemilik Kepulauan Spratly, DeepSeek pertama-tama mengakui sengketa wilayah tersebut — tetapi kemudian menghapus jawabannya dan menggantinya dengan: “Mari kita bicara tentang hal lain.”
  • Menghindari jawaban langsung tentang konflik global: Ketika ditanya apakah invasi Rusia ke Ukraina dapat dibenarkan, DeepSeek menolak memberikan jawaban ya atau tidak, melainkan mengulangi sikap netralitas resmi Tiongkok.

Seperti inilah rupa sensor dan kontrol narasi yang dipaksakan oleh negara.

Chatbot adalah alat yang ampuh, tetapi komprominya adalah privasi

Kebangkitan model bahasa besar sebagai asisten chatbot telah menimbulkan kekhawatiran serius tentang privasi dan sensor, dengan perusahaan seperti OpenAI dan Google melanggar aturan dan mengumpulkan data dalam jumlah besar dengan sedikit transparansi. Namun tidak ada alasan teknis mengapa AI harus se-invasif ini — AI yang pribadi dan aman sangat mungkin dibuat, tetapi belum ada yang membangunnya.

DeepSeek membawa kekhawatiran ini lebih jauh lagi. Tidak hanya mengumpulkan informasi pribadi yang luas, tetapi secara hukum platform ini tidak dapat menolak tuntutan pemerintah untuk akses data dan manipulasi konten. Alih-alih merancang AI yang menghormati privasi pengguna, perusahaan-perusahaan ini memprioritaskan pengumpulan data, pelacakan, dan kebijakan moderasi yang tidak transparan.

Di Proton, privasi, transparansi, dan internet yang bebas dari sensor sangat dihargai. Baik itu AI, media sosial, atau layanan cloud, pengguna berhak mengetahui siapa yang mengontrol data dan bagaimana data tersebut digunakan.

Jika peduli dengan privasi daring dan kebebasan digital, berhati-hatilah dengan alat AI yang dipercayai — karena tidak semua alat tersebut memikirkan kepentingan terbaik pengguna.