Artificial Intelligence (AI) > Pengawasan AI dan pengumpulan data

Penjelasan tentang pengawasan AI dan pengumpulan data AI

Pengawasan AI dan pengumpulan data tidak terbatas pada alat yang sengaja digunakan. Hal ini terjadi melalui iklan, media sosial, alat yang digunakan di tempat kerja, bahkan di ruang publik. Berikut ulasan lebih mendalam tentang pengawasan AI dan pengumpulan data — serta dampaknya terhadap privasi.

Definisi pengawasan AI dan pengumpulan data AI

Pengawasan AI merujuk pada penggunaan AI untuk mengawasi orang — baik mengenali wajah di kerumunan, mendeteksi perilaku mencurigakan di ruang publik, atau memantau aktivitas karyawan di tempat kerja. Tujuannya biasanya berupa pengamatan, identifikasi, atau pengendalian.

Pengumpulan data AI adalah fondasi yang membuat pengawasan tidak hanya menjadi mungkin dilakukan, tetapi juga sangat efektif. Informasi yang dikumpulkan dari aplikasi, perangkat, layanan, dan platform semuanya digunakan untuk menyusun profil orang, termasuk kebiasaan, preferensi, dan perilaku mereka. Pengumpulan data tidak selalu hanya memantau secara real-time; proses ini juga bisa terjadi secara diam-diam di latar belakang. Meskipun data ini dapat mendukung pengawasan, data tersebut juga berfungsi untuk tujuan lain, termasuk melatih model AI dan menargetkan iklan.

Tabel
Contoh pengawasan AI	Contoh pengumpulan data AI
Kamera pengenal wajah di mal dan bandara	Percakapan yang dicatat dalam chatbot
Pemantauan ketukan tombol dan aktivitas layar di tempat kerja	Aplikasi melacak lokasi di latar belakang
Perangkat pintar yang dapat mendeteksi gerakan atau suara	Situs web merekam klik dan kebiasaan menjelajah

Pengawasan dan pengumpulan data — dahulu dan sekarang

Sebelum era AI, pengawasan skala besar masih membutuhkan orang untuk memantau layar secara manual, menyaring catatan, atau mencocokkan kumpulan data secara silang. AI mengubah hal tersebut dengan menjadikannya lebih cepat dan lebih murah untuk memindai gambar, mentranskripsikan percakapan, menandai pola, dan menggabungkan berbagai sumber data yang berbeda ke dalam satu profil.

Hasilnya bukan sekadar peningkatan pengumpulan data; melainkan peningkatan inferensi dan hilangnya privasi. Bahkan jika tidak pernah secara eksplisit membagikan minat, kebiasaan, atau keyakinan, AI sering kali dapat menyimpulkannya dari jejak lokasi, pola penjelajahan, dan perilaku sosial. Hal itulah yang membuat pengawasan dan pengumpulan data AI menjadi lebih kuat — dan lebih berbahaya — dibandingkan dengan pelacakan biasa saja.

Pengawasan AI untuk pengendalian

Ketika digunakan untuk pengendalian, AI mengubah ruang publik, jalan raya, tempat kerja, dan platform sosial menjadi lingkungan dengan pengawasan massal yang tidak hanya mudah tetapi juga rutin dilakukan.

Pemantauan ruang publik

Di berbagai kota di seluruh dunia, pengawasan AI hadir dalam bentuk pengenalan wajah, CCTV pintar, analisis kerumunan, dan pembaca pelat nomor otomatis. Sistem ini dapat mengidentifikasi individu, melacak pergerakan, dan mendeteksi anomali secara real-time.

Konsekuensi praktisnya adalah terkikisnya anonimitas dalam kehidupan publik. Teknologi yang mencocokkan wajah, kendaraan, atau perangkat di berbagai lokasi dapat mencatat dan merekonstruksi pergerakan biasa — bahkan ketika seseorang tidak melakukan kesalahan apa pun.

Dalam penegakan hukum dan pemantauan warga

Kepolisian dan lembaga sipil semakin sering menggabungkan rekaman kamera, catatan pelat nomor, basis data publik, dan aktivitas media sosial ke dalam sistem investigasi terpadu. AI kemudian dapat memindai volume rekaman dan postingan yang besar untuk memunculkan pola, menandai individu, atau mengidentifikasi koneksi antarorang.

Hal yang membuat ini sangat memprihatinkan adalah bagaimana rekaman dan data tersebut dapat digunakan untuk melanggar hak privasi. Sebagai contoh, kehadiran dalam protes, jaringan sosial, atau pergerakan sehari-hari dapat menjadi titik data, yang dapat menyebabkan orang melakukan sensor diri atau menghindari pertemuan publik karena takut diawasi.

Di tempat kerja

Pemantauan tempat kerja modern telah berkembang dari sekadar pelacakan waktu sederhana menjadi analisis perilaku yang mendalam. Sistem kini mencatat ketukan tombol, melacak gerakan mouse, memantau aktivitas layar, dan menggunakan AI untuk menganalisis sentimen komunikasi. Salah satu contohnya melibatkan rencana Meta untuk merekam aktivitas karyawan seperti klik dan ketukan tombol untuk tujuan pelatihan AI, sementara Walmart dan Starbucks dilaporkan menggunakan alat AI untuk memantau komunikasi karyawan(jendela baru).

Meskipun pemberi kerja sering kali mengemas alat ini sebagai ukuran produktivitas, pemantauan perilaku secara terus-menerus menimbulkan kekhawatiran privasi yang serius — dan di beberapa wilayah hukum, hal ini melanggar batas hukum. Penggunaan sistem pelacakan produktivitas tertentu melanggar undang-undang privasi Uni Eropa dan ilegal di negara-negara seperti Italia.

Di platform sosial

Media sosial adalah salah satu lingkungan pengawasan yang paling kaya data, tempat identitas, hubungan, komunikasi, dan perilaku semuanya menyatu. AI menganalisis postingan, foto, suka, dan struktur jaringan untuk menyimpulkan segalanya mulai dari minat hingga koneksi sosial. Karena algoritme ini beroperasi di balik layar mesin rekomendasi dan alat moderasi, pengguna sering kali tidak menyadari kedalaman inferensi yang terjadi dari aktivitas biasa mereka.

Kapitalisme pengawasan dan pembuatan profil AI

Kapitalisme pengawasan adalah model bisnis yang mengumpulkan segala hal yang dilakukan secara daring — dan mengubah data tersebut menjadi keuntungan. AI memperkuat hal ini dengan mempermudah penggabungan data dari aplikasi, situs web, platform, dan broker data ke dalam profil perilaku yang sangat terperinci yang digunakan untuk membentuk rekomendasi dan menyajikan iklan bertarget.

Berbeda dengan pengawasan negara (yang biasanya terkait dengan kontrol, penegakan hukum, atau keamanan), kapitalisme pengawasan didorong oleh keuntungan. Tujuannya adalah untuk memahami perilaku pengguna dengan cukup baik agar dapat memengaruhi apa yang mereka lihat, lakukan, dan beli.

Pada ponsel dan aplikasi

Perangkat seluler sangat terbuka karena banyaknya data pribadi yang dikandungnya. Aplikasi sering kali mengumpulkan ID iklan, data lokasi yang tepat, alamat IP, dan telemetri penggunaan — sering kali tanpa sepengetahuan Anda. Seiring waktu, data tersebut dapat mengungkap tempat tinggal, tempat kerja, tempat berbelanja, tempat mencari perawatan medis, dan tempat ibadah Anda.

Di seluruh situs web dan jaringan adtech

Setiap kali mengunjungi situs web, piksel dan kuki secara diam-diam mencatat aktivitas, termasuk berapa lama Anda tinggal dan ke mana Anda pergi selanjutnya. Informasi tersebut diteruskan ke jaringan perusahaan adtech, yang masing-masing menambahkan rincian lebih lanjut ke profil perilaku Anda. Pada saat iklan muncul di layar, data mungkin telah berpindah melalui puluhan perusahaan yang belum pernah didengar sebelumnya.

Namun, di luar sekadar menjual produk, infrastruktur yang sama ini juga dapat mendukung pengawasan tingkat negara. Lembaga pemerintah AS juga telah membeli data lokasi dari broker iklan internet, yang menggambarkan bagaimana sistem pelacakan komersial juga dapat dialihfungsikan untuk penegakan hukum dan penyelidikan.

Melalui broker data

Broker data membuat profil terperinci tentang individu melalui banyak sumber, termasuk media sosial, lokasi, dan aktivitas daring, kemudian menjual data tersebut kepada pihak ketiga, sering kali tanpa persetujuan individu tersebut. Korporasi-korporasi ini sebagian besar beroperasi di luar pengawasan, tetapi tindakan penegakan hukum baru-baru ini menunjukkan betapa meluasnya masalah ini. Pada bulan Januari 2025, FTC melarang Mobilewalla(jendela baru) menjual data lokasi sensitif setelah menemukan bahwa mereka telah mengumpulkan dan menjual data jutaan orang secara ilegal tanpa sepengetahuan mereka.

Dalam alat dan asisten AI

Platform AI sendiri adalah bagian dari ekonomi ini. Tergantung pada alat yang digunakan, perintah, file yang diunggah, riwayat percakapan, dan metadata teknis dapat disimpan, ditinjau, atau digunakan untuk melatih model. Karena orang-orang semakin banyak menggunakan AI untuk pekerjaan, perencanaan, dan tugas-tugas sensitif, semua percakapan Anda dapat dikumpulkan, dipantau, dan dimonetisasi.

Seberapa banyak data yang dikumpulkan AI?

Cakupan pengumpulan data AI sangat besar dan terus berkembang. Model GPT-3 OpenAI, misalnya, dilatih menggunakan sekitar 300 miliar token teks, sementara model-model yang lebih baru diperkirakan menggunakan triliunan token. Pengumpulan data AI dapat mencakup segala hal, mulai dari biometrik seperti wajah, suara, dan sidik jari, hingga kebiasaan menjelajah, keyakinan, dan pola perilaku.

Jika menggunakan platform AI, jumlah dan jenis data yang dikumpulkan bergantung pada paket dan penggunaan Anda. Berikut adalah jenis data yang dikumpulkan oleh alat AI populer, menurut kebijakan privasi masing-masing.

Tabel
Platform	Jenis data yang dikumpulkan
ChatGPT	Perintah, konten yang diunggah, informasi akun, data penggunaan, dan data teknis
Gemini	Teks, suara, file, foto, masukan, informasi perangkat, dan konteks layanan yang terhubung
Claude	Percakapan, file, masukan, rincian akun, dan data teknis
Grok	Perintah, data yang terintegrasi dengan X (termasuk postingan dan interaksi X), lokasi, dan data teknis
Meta AI	Perintah, percakapan, informasi akun dan profil, serta perilaku lintas aplikasi dari Facebook, Instagram, Messenger, WhatsApp
Copilot	Perintah, percakapan, interaksi, file, pengaturan personalisasi, input suara, dan data penggunaan

Cara mengurangi pengawasan AI dan pengumpulan data

Meskipun tidak layak untuk menghilangkan setiap bentuk pemantauan, langkah-langkah dapat diambil untuk mengurangi jumlah data yang dikumpulkan tentang Anda:

Hindari memasukkan informasi pribadi, keuangan, hukum, medis, atau pekerjaan yang sensitif ke platform AI atau membuatnya tersedia untuk umum.

Jika menggunakan alat atau perangkat lunak AI, tinjau kebijakan privasi dan pengaturan bawaannya dengan cermat.

Batasi izin aplikasi dan peramban, terutama untuk lokasi, mikrofon, kamera, foto, dan kontak.

Berhati-hatilah dengan akun yang terhubung, karena integrasi email, kalender, file cloud, dan perpesanan dapat memperluas hal-hal yang dapat diakses oleh alat AI.

Pilih alat AI yang tidak memantau, mencatat log, atau menggunakan obrolan untuk pelatihan secara bawaan.

Beralih ke asisten AI pribadi

Lumo dirancang untuk orang-orang yang menginginkan asisten AI yang tepercaya. Lumo tidak pernah melatih model dengan obrolan atau menyimpan log apa pun, memastikan data sepenuhnya pribadi. Bahkan Proton sekalipun tidak dapat mengaksesnya.

Coba Lumo sekarang Gunakan Lumo for Business

Pertanyaan yang sering diajukan mengenai keamanan AI dan LLM

Apakah pengumpulan data AI selalu digunakan untuk melatih model?: Tidak selalu, tetapi hal ini umum terjadi. Selain pelatihan model, beberapa penyedia juga menggunakan data untuk meningkatkan layanan, menegakkan keamanan, atau mempersonalisasi pengalaman. Asumsi paling aman adalah bahwa apa pun yang Anda bagikan mungkin disimpan dan digunakan untuk pelatihan, kecuali jika penyedia menyatakan sebaliknya secara eksplisit.
Dapatkah saya menghentikan perusahaan menggunakan data saya untuk pelatihan AI?: Paparan dapat dikurangi, tetapi biasanya tidak dapat dihilangkan sama sekali. Langkah praktisnya adalah membatasi apa yang dibagikan, menyesuaikan pengaturan privasi, memilih penyedia yang mengutamakan privasi, dan menghindari alat yang bergantung pada teknologi iklan atau penautan akun yang luas.
Apakah ada alat AI yang tidak mengumpulkan data?: Banyak alat AI populer dirancang untuk mengumpulkan data sebanyak mungkin, tetapi Proton Lumo adalah asisten AI yang benar-benar pribadi di mana semua obrolan dan aset tetap rahasia serta tidak pernah digunakan untuk pelatihan atau pengawasan.