Kekhawatiran soal uang pada pukul 02:00 dini hari. Gejala medis yang terlalu memalukan untuk diperiksakan ke dokter. Cara terbaik untuk mengajak seseorang kencan.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Sekitar dua pertiga pengguna chatbot AI pernah mendiskusikan setidaknya satu topik sensitif. Namun pada saat yang sama, kurang dari satu dari lima orang mengatakan memiliki tingkat kepercayaan yang tinggi pada perusahaan AI untuk melindungi informasi pribadi mereka.

“AI mempelajari jauh lebih banyak tentang kita daripada mesin pencari. Mesin pencari hanya tahu apa yang Anda cari. AI menangkap keraguan, pertanyaan tindak lanjut, dan konteks pribadi yang tersirat di antara baris,” kata Eamonn Maguire, direktur rekayasa AI di Proton. “Kini kita menyerahkan lebih dari sekadar pertanyaan. Dan ketika teknologi mengetahui begitu banyak tentang kita, privasi tidak bisa dianggap remeh.”

Untuk memahami lebih lanjut bagaimana orang menggunakan dan memandang AI, kami mensurvei 4.014 pengguna chatbot AI saat ini di Prancis, Jerman, Inggris, dan AS. Kami menanyakan apa yang telah mereka bagikan, mengapa mereka memilih melakukannya, dan apa yang membuat mereka lebih atau kurang bersedia membagikannya.

Temuan utama

  • 66% pengguna chatbot AI pernah mendiskusikan setidaknya satu topik sensitif dengan chatbot, termasuk keuangan pribadi, kesehatan seksual, dan hubungan.
  • 42% pengguna kurang percaya atau tidak percaya sama sekali pada perusahaan AI untuk melindungi informasi sensitif yang dibagikan dengan chatbot.
  • Uang, kesehatan mental, dan masalah karier adalah tiga topik sensitif yang paling sering didiskusikan.
  • Pengguna AI masih lebih memilih mendiskusikan topik sensitif dengan teman dan keluarga, dibandingkan chatbot AI dan terapis.
  • Kemudahan dan keterbebasan dari penilaian adalah alasan yang paling sering disebut untuk memilih AI daripada orang lain.
  • 48% pengguna mengatakan lebih bersedia membagikan informasi sensitif jika percakapan mereka dijamin tidak digunakan untuk melatih model AI.
  • Delapan dari 10 pengguna menyatakan tertarik pada chatbot AI yang dirancang khusus untuk privasi.

Sebagian besar pengguna chatbot telah membagikan sesuatu yang sensitif

66% responden mengatakan mendiskusikan setidaknya satu topik sensitif dengan chatbot AI. Delapan topik tersebut mencakup keuangan pribadi, hubungan, kesehatan mental, seks, rahasia, ketertarikan romantis, pekerjaan, dan konflik keluarga.

Dari negara-negara yang disurvei, masyarakat AS melaporkan tingkat pengungkapan informasi sensitif kepada chatbot tertinggi, yaitu 68,4%, sementara Prancis paling rendah dengan 60,3%. Kesenjangan ini menunjukkan bahwa keterbukaan untuk menceritakan sesuatu pada AI bukan sekadar pilihan pribadi, tetapi juga bisa dipengaruhi oleh sikap budaya yang lebih luas terhadap privasi dan teknologi.

Uang, kesehatan mental, dan pekerjaan mendominasi topik sensitif

Keuangan pribadi, kesehatan mental, dan masalah karier adalah tiga topik sensitif yang paling sering dilaporkan didiskusikan responden dengan AI.

Topik yang paling sering didiskusikan berbeda di setiap negara. Kesehatan mental menempati urutan pertama di Jerman, sedangkan masalah karier menempati urutan pertama di AS, dan keuangan pribadi menempati urutan pertama di Prancis dan Inggris.

Hasil ini menunjukkan topik sensitif apa saja yang didiskusikan responden dengan AI, tetapi bukan mengapa mereka memilih mendiskusikannya.

Teman dan keluarga tetap menjadi pilihan utama, bahkan saat penggunaan AI meningkat

Teman dan keluarga menjadi pilihan utama untuk mendiskusikan setiap topik sensitif yang disurvei, mengalahkan chatbot AI, terapis, dan penasihat keagamaan. Namun, AI sudah bersaing dengan sumber dukungan tradisional di beberapa area, terutama uang dan pekerjaan.

Kesenjangan antara saran AI dan saran manusia paling kecil dalam hal uang. Di Prancis, AI hanya terpaut 2 poin persentase dari teman dan keluarga sebagai pilihan utama untuk mendiskusikan keuangan pribadi.

Dan pengaruh AI tidak berhenti pada percakapan. Orang menggunakannya untuk mengambil keputusan tentang uang, kesehatan, hubungan, karier, dan pembelian mereka.

Kemudahan dan keterbebasan dari penilaian menjadi daya tarik terbesar untuk menggunakan AI

Kemudahan dan keterbebasan dari penilaian adalah alasan yang paling sering disebut untuk memilih chatbot AI daripada orang lain saat mendiskusikan topik sensitif. Privasi juga menjadi alasan yang umum, tetapi peringkatnya lebih rendah.

Alasan umumnya berbeda di setiap negara dan topik. Dari tiga topik sensitif yang paling sering didiskusikan, masalah pekerjaan dan karier adalah satu-satunya yang keempat negara sepakat pada alasan utama yang sama, yaitu kemudahan. Keuangan pribadi tidak jauh berbeda, dengan setiap negara kecuali Inggris juga memilih kemudahan. Kesehatan mental terbelah dua: Prancis dan Jerman sama-sama memilih kemudahan sebagai alasan utama, sementara AS dan Inggris lebih menghargai keterbebasan dari penilaian. Sementara itu, ketertarikan romantis menjadikan kepercayaan dan privasi sebagai pilihan utama di Jerman, Inggris, dan AS, sedangkan kesehatan seksual menjadikan terbebas dari penilaian sebagai alasan utama di Prancis, AS, dan Inggris.

Secara keseluruhan, hal ini menunjukkan bahwa kemudahan lebih diutamakan untuk topik praktis, sedangkan privasi dan keterbebasan dari penilaian lebih berarti untuk percakapan pribadi.

Pemrofilan iklan menimbulkan kekhawatiran lebih besar daripada pelatihan model AI

Responden lebih mengkhawatirkan percakapan mereka yang digunakan untuk membuat profil iklan dibandingkan digunakan untuk melatih model AI.

Perbedaan paling besar terjadi di AS, tempat 65,3% lebih mengkhawatirkan pemrofilan iklan dibandingkan 57,6% untuk pelatihan model. Hasil ini menunjukkan bahwa cara data percakapan digunakan itu penting, dengan kekhawatiran utama bukan pada percakapan yang disimpan dan diingat, melainkan pada data tersebut yang diubah menjadi aset komersial untuk keuntungan finansial.

Kepercayaan pada perusahaan AI tetap rendah di semua negara

Meskipun topik sensitif banyak dibagikan kepada chatbot AI, hanya 11% sampai 20% responden yang melaporkan tingkat kepercayaan yang tinggi pada perusahaan AI terhadap informasi pribadi mereka. Kepercayaan yang rendah paling umum terjadi di Prancis dengan 47,7%, diikuti 41,6% di Inggris, 40,5% di Jerman, dan 38,8% di AS.

Komitmen terhadap privasi meningkatkan kemauan untuk membagikan

Jaminan bahwa percakapan tidak akan digunakan untuk melatih model AI membuat 44% responden lebih bersedia membagikan informasi sensitif. Angka ini paling tinggi di AS dengan 47,7%, diikuti Inggris dengan 44,3%, Jerman dengan 43,9%, dan Prancis dengan 40,7%.

Minat juga tinggi terhadap chatbot AI yang dirancang dengan mengutamakan privasi. Lebih dari 70% orang mengatakan lebih mungkin menggunakannya, dengan rentang dari 71,1% di Jerman hingga 82% di Inggris.

Temuan ini menunjukkan bahwa komitmen terhadap privasi masih sangat dihargai oleh pengguna chatbot AI, meskipun bukan alasan awal seorang pengguna memilih menggunakan AI.

Kesimpulan: AI harus meraih kepercayaan penggunanya

Percakapan pribadi dengan chatbot AI sudah menjadi hal yang umum. Lebih dari dua pertiga responden di empat negara yang disurvei pernah mendiskusikan setidaknya satu topik sensitif dengan chatbot AI, mulai dari kekhawatiran soal uang hingga rahasia pribadi. Namun, hanya satu dari lima orang yang melaporkan tingkat kepercayaan yang tinggi pada perusahaan AI terhadap informasi pribadi mereka.

Orang membuka diri kepada AI jauh lebih cepat daripada mempercayainya, tetapi bukan karena AI telah menggantikan koneksi manusia. Teman dan keluarga tetap menjadi pilihan pertama untuk setiap topik sensitif. Sebaliknya, AI menjadi pilihan yang dijangkau orang ketika kemudahan dan keterbebasan dari penilaian lebih diutamakan.

Kemudahan memang membuka pintu bagi seseorang untuk menggunakan AI, tetapi kepercayaan yang menentukan seberapa jauh mereka akan melangkah. Jaminan tanpa pelatihan sudah cukup membuat 44% pengguna lebih bersedia membagikan, dan delapan dari 10 orang mengatakan lebih mungkin memilih AI pribadi. Orang sudah memutuskan bahwa AI cukup berguna untuk mendengarkan masalah uang, keraguan, dan kekhawatiran sehari-hari mereka. Penyedia yang membuktikan, bukan sekadar menjanjikan, bahwa mereka dapat menjaga keamanan informasi ini-lah yang akan dipercaya orang untuk sisanya.

Metodologi

Survei ini melibatkan 4.014 responden di Prancis, Jerman, Inggris, dan AS. Semua responden telah disaring untuk mengonfirmasi bahwa mereka saat ini menggunakan chatbot atau asisten AI.

Survei ini dilakukan secara daring dan terdiri dari sekitar 12 pertanyaan tentang penggunaan chatbot AI. Responden tidak diberi tahu perusahaan mana yang memesan penelitian ini. Desain tanpa merek ini dimaksudkan untuk mengurangi pengaruh yang dibentuk oleh reputasi perusahaan mana pun.

Keterbatasan

Survei ini menggambarkan sikap, preferensi, dan perilaku masa lalu yang dilaporkan sendiri oleh responden. Survei ini tidak mengamati percakapan chatbot responden yang sebenarnya maupun memverifikasi secara independen apa yang telah mereka bagikan. Survei ini mencakup pengguna chatbot saat ini di empat negara, dan tidak sebaiknya ditafsirkan sebagai representasi negara lain maupun orang yang saat ini tidak menggunakan chatbot AI.