(jendela baru)Agen AI baru Meta, Muse, mengirim orang asing ke rumah seorang pengguna dan mengatakan bahwa penjual sedang menunggu di depan pintu.
Namun, penjual sama sekali tidak tahu bahwa transaksi telah disepakati.
Berikut kisah tentang apa yang terjadi dan mengapa hal itu penting.
Apa yang terjadi di Facebook Marketplace
Semuanya bermula ketika YouTuber teknologi Matt Robb membiarkan Muse menangani pesan dari pembeli untuk keyboard yang ia tawarkan di Facebook Marketplace.
Namun, Muse menerima tawaran itu tanpa persetujuannya, memberikan alamat rumahnya kepada pembeli sebagai titik pengambilan, lalu membalas “Ya, saya di sini!” saat pembeli tiba. Robb baru mengetahuinya setelah pembeli menunggu lebih dari 20 menit dan pergi.
Robb mengatakan ia memilih “Izinkan Selalu(jendela baru)” saat pengaturan awal, karena mengira Muse masih akan mengecek dengannya sebelum menerima tawaran. Alih-alih, pengaturan itu membuat Muse mengirim pesan dengan templat tersimpan yang berisi alamat pengambilan miliknya.
David Singleton dari Superintelligence Labs milik Meta secara terbuka membantah adanya kesalahan(jendela baru), dengan menulis di X bahwa penyelidikan sebelumnya menemukan “Muse mengikuti instruksi langsung dan meminta izin dengan benar,” lalu membalas Robb bahwa Meta telah mengonfirmasi “tidak ada pembobolan kontrol privasi.”
Namun, tim Muse meninjau log tersebut bersama Robb dan sepakat membuat permintaan izin lebih jelas.
Mengapa agen AI lebih berisiko terhadap privasi daripada chatbot
Orang sudah menyerahkan lebih banyak kepada AI daripada yang mereka percayai. Dalam survei Proton terhadap 4.014 pengguna chatbot AI, 66% mengatakan mereka pernah membahas setidaknya satu topik sensitif dengan chatbot, sementara hanya satu dari lima yang mengaku sangat percaya bahwa perusahaan AI akan melindungi informasi pribadi mereka.
Agen seperti Muse meminta lebih banyak: akses ke akun Anda dan izin untuk bertindak berdasarkan apa yang ditemukannya. Pola serupa juga kami lihat pada plugin Apple Messages milik ChatGPT dan peramban AI seperti ChatGPT Atlas.
Meta sudah menggunakan percakapan Anda dengan Meta AI untuk menargetkan iklan, dan pengguna melaporkan Meta AI memindai galeri kamera mereka tanpa izin. Produk saudara Muse, pembuat gambar Muse Image, secara bawaan memasukkan foto pengguna ke dalam remix AI. Agen yang dibuat oleh perusahaan yang meraup untung dari data pribadi akan mengambil sebanyak mungkin data Anda sejauh izinnya memungkinkan. Izin yang sempit adalah satu-satunya penghalang antara agen dan data Anda, dan layar yang tidak dapat dipahami pengguna tidak memberi perlindungan itu.
Sebelum membiarkan agen AI mana pun mengirim pesan kepada orang atas nama Anda, matikan persetujuan permanen, jangan sertakan alamat Anda dalam balasan tersimpan, dan atur sendiri pengambilan barang. Anda juga dapat mematikan Meta AI di Facebook dan mengikuti daftar periksa untuk menghentikan pelacakan Meta terhadap Anda.
Gunakan asisten AI yang tidak memerlukan akun Anda
Kita membutuhkan AI pribadi sebelum terlambat. Menghubungkan AI ke akun, pesan, dan alamat Anda bukanlah syarat untuk mendapatkan bantuan menulis deskripsi barang atau membalas pembeli.
Lumo melakukan pekerjaan itu tanpa memerlukan akses tersebut. Lumo tidak pernah mencatat, melatih model dengan, atau membagikan percakapan Anda, dan obrolan tersimpan dilindungi dengan enkripsi tanpa akses, sehingga hanya Anda yang dapat membacanya.
