Anda memasukkan prompt, mendapat jawaban, dan tidak terjadi apa-apa sampai Anda memasukkan prompt berikutnya. Begitulah cara sebagian besar asisten AI bekerja, tetapi AI proaktif mengubahnya.

AI proaktif tidak perlu prompt untuk bertindak. AI ini bisa melakukan check-in penerbangan atau mengirimkan lamaran atas nama Anda, dengan mengambil keputusan berdasarkan konteks yang telah dikumpulkannya seiring waktu. Dengan asisten AI proaktif seperti Muse dan Instinct milik Meta yang viral, hal-hal fiksi ilmiah tiba-tiba terasa dekat dengan kenyataan.

Namun, seperti kisah fiksi ilmiah yang bagus, teknologi ini bagaikan pedang bermata dua. Mari kita telusuri cara kerja AI proaktif dan apa yang Anda korbankan demi kenyamanan yang ditawarkannya.

Untuk mengetahui lebih jauh apa yang dipertaruhkan, simak panduan lengkap kami tentang AI dan privasi — atau coba alat jejak data AI kami untuk melihat persis data apa yang mungkin dikumpulkan chatbot AI arus utama tentang Anda melalui percakapan Anda.

Apa yang membuat AI proaktif

Agen AI proaktif berjalan di atas model bahasa besar yang sama dengan chatbot AI yang biasa kita gunakan. Yang membedakannya adalah tiga hal berikut yang bekerja secara bersamaan:

  1. Selalu mengamati: Alih-alih menunggu diminta, agen proaktif memantau sejumlah sumber dan menangkap perubahan begitu terjadi.
  2. Memiliki memori yang bertahan: Agen proaktif membangun model kerja atas kebiasaan dan preferensi Anda seiring waktu. Itulah yang memungkinkannya mengantisipasi apa yang mungkin Anda butuhkan berikutnya, bukan sekadar mengingat fakta saat Anda memintanya.
  3. Memutuskan bagaimana dan apakah akan bertindak: Agen proaktif dapat “bernalar”. Agen menimbang suatu situasi berdasarkan kebiasaan Anda, menilai apakah layak ditindaklanjuti, dan memutuskan sejauh mana tindakan itu sebelum mengonfirmasi kepada Anda.

AI proaktif menggabungkan otomatisasi dengan pertimbangan. Jika otomatisasi sederhana berjalan setiap kali suatu kondisi terpenuhi, agen proaktif mengantisipasi kebutuhan Anda dan menilai apakah suatu tindakan berguna sebelum memilih untuk bertindak.

Hal itu bisa membantu, tetapi juga bisa menimbulkan konsekuensi yang tidak diinginkan. Misalnya, Instinct sedang membeli sesuatu untuk pengguna, tetapi ketika terhalang halaman masuk, ia langsung mengatur ulang kata sandi pengguna(jendela baru) tanpa bertanya. Inisiatif semacam ini membuat agen AI proaktif mengesankan sekaligus berisiko.

Contoh penggunaan agen AI proaktif

Agen proaktif berguna untuk tugas-tugas yang biasanya Anda lupakan atau habiskan sepanjang malam untuk mengerjakannya. Berikut beberapa contohnya:

Merapikan rencana perjalanan

Agen proaktif dapat memantau perubahan pada jadwal perjalanan Anda. Jika penerbangan dijadwalkan ulang dan membahayakan koneksi Anda, agen menangkapnya dan memberi tahu Anda. Agen bahkan berpotensi memesan ulang penerbangan Anda agar rencana perjalanan tetap lancar.

Mengambil barang yang biasanya Anda lewatkan

Pemantauan dan penantian yang sama bisa diterapkan pada apa pun yang persediaannya terbatas, misalnya sepasang sepatu yang habis dalam ukuran Anda. Agen terus memantau dan langsung memesan begitu stok kembali tersedia.

Menindaklanjuti email

Agen proaktif dapat memantau kotak masuk untuk email yang Anda tunggu. Jika email Anda ke perwakilan layanan pelanggan belum dibalas, agen bisa menyadarinya, menulis pesan pengingat, lalu mengirimkannya atau menyiapkannya agar Anda tinggal mengirim.

Memangkas langganan

Karena hampir semua hal kini dibayar dengan langganan, agen proaktif dapat mengaudit penggunaan Anda dan membatalkan langganan layanan yang Anda bayar tetapi tidak rutin gunakan.

Memantau operasional bisnis

Dalam bisnis, agen proaktif dapat memantau infrastruktur TI untuk mendeteksi tanda-tanda masalah sejak dini dan memicu perbaikan sebelum keadaan memburuk. Agen juga dapat memantau peluang bisnis dan mencegahnya mendingin dengan menghubungi calon pelanggan secara proaktif ketika tim Anda mungkin sedang kewalahan.

Perbedaan AI proaktif dan AI reaktif

Asisten AI reaktif, seperti ChatGPT, hanya bergerak saat Anda menyuruhnya. Bahkan asisten yang memiliki memori tetap diam di antara prompt, menyimpan apa yang Anda katakan sampai Anda bertanya hal lain. AI proaktif menghapus penantian itu. AI mengawasi pemicu dan memutuskan sendiri apakah akan bertindak.

Dengan kata lain, AI reaktif adalah alat yang Anda operasikan. AI proaktif bertindak atas nama Anda dan mengambil alih kendali Anda.

Kenyamanan agen proaktif ada harganya

Agar dapat melakukan tugasnya, agen AI proaktif membutuhkan akses terus-menerus ke akun Anda. Risikonya berbeda dengan risiko yang timbul dari penggunaan asisten AI.

Anda memberi satu perusahaan akses penuh ke seluruh data Anda

Kita memang waspada terhadap banyaknya data yang dikumpulkan Google, tetapi bahkan Google tidak memiliki akses penuh ke semua informasi pribadi Anda. Google mungkin memiliki data lokasi(jendela baru) Anda, tetapi data kesehatan Anda tersimpan di Apple Health. Preferensi streaming Anda tersimpan di Netflix, dan keuangan Anda di aplikasi bank.

Menggunakan agen AI proaktif berarti menyerahkan semua itu dan banyak lagi kepada satu perusahaan. Agen ini dirancang untuk menghubungkan seluruh data Anda; itulah yang memungkinkannya mengenali pola dan bertindak. Bergantung pada agennya, data itu bisa mencakup nama pengguna dan kata sandi akun pihak ketiga, rincian pembayaran, dan lain-lain.

Muse menunjukkan betapa lapar data agen proaktif. Seorang peninjau WIRED(jendela baru) menemukan bahwa Muse tampak lebih tertarik mengumpulkan data daripada menyelesaikan tugas, berulang kali menyarankannya menghubungkan semakin banyak layanan. Perilaku itu sejalan dengan rekam jejak Meta yang kita ketahui.

Harga dari kenyamanan itu adalah semua hal tentang Anda kini berada di tangan satu perusahaan. Kecuali perusahaan tersebut menjalani audit independen, Anda tidak punya cara nyata untuk mengetahui apakah data Anda dikelola dengan aman. Jika akun Anda dibobol atau dijual, pihak ketiga yang tidak pernah Anda setujui kini memiliki wawasan penuh tentang di mana Anda berada, dengan siapa Anda berbicara, apa yang Anda beli, dan apa yang Anda katakan secara pribadi. Hal ini membuka peluang Anda menjadi korban ancaman seperti pencurian identitas dan penipuan yang menyasar Anda.

Memutuskan koneksi tidak sama dengan menghapus

TechCrunch(jendela baru) melaporkan bahwa tangkapan layar ketentuan Instinct menunjukkan lisensi “abadi dan tidak dapat ditarik” atas data pengguna. Instinct sejak itu merevisinya, dan ketentuan layanan serta kebijakan privasi yang berlaku saat ini tidak memuat pernyataan tersebut.

Ketentuan baru itu tetap penting. Ketentuan Instinct yang berlaku saat artikel ini ditulis mengizinkannya “mengakses, menyalin, mengumpulkan, dan mengindeks data(jendela baru)” dari layanan yang Anda hubungkan, dan baik ketentuan maupun kebijakan privasinya menyatakan bahwa memutuskan koneksi akun tidak menghapus data Anda(jendela baru) kecuali Anda memintanya. Seorang pengguna awal(jendela baru) mengatakan ia memutuskan akses Instinct ke akun Google-nya namun tetap menerima ringkasan email terbarunya beberapa jam kemudian. Saat ia bertanya mengapa, Instinct mengonfirmasi bahwa email tersebut disimpannya dalam teks biasa untuk pencarian di kemudian hari. Jika Anda memutuskan koneksi layanan dari Instinct, pastikan juga meminta penghapusan data.

Menolak pelatihan AI di Instinct juga punya jebakan, yaitu hanya “berlaku untuk ke depan(jendela baru)“. Jadi data apa pun yang telah diserap model tentang Anda akan tetap menjadi bagian dari pelatihan dan pengetahuannya. Muse bekerja berbeda; penolakan pelatihan AI berlaku surut untuk interaksi sebelumnya(jendela baru). Namun, menghapus data dari Muse tidak berarti data Anda benar-benar dihapus. Meta menyatakan bahwa model tersebut masih bisa mengingat apa yang Anda hapus(jendela baru), dan fitur “lupakan” miliknya bekerja berdasarkan upaya terbaik(jendela baru).

Kesalahan agen itu nyata, bukan sekadar keliru

Ketika chatbot seperti Gemini berhalusinasi, dampak buruknya hanya terjadi jika Anda menindaklanjuti informasi itu. Ketika agen proaktif melakukan kesalahan, Anda bahkan mungkin tidak menyadarinya sampai menghadapi konsekuensi nyata.

Bayangkan jika agen proaktif memutuskan memesan kursi kelas satu untuk perjalanan Anda. Anda kini harus menanggung tagihan yang tidak pernah Anda setujui. Misalnya, saat Anda menyetujui ketentuan Instinct, Anda memberi wewenang untuk membuat perjanjian yang mengikat atas nama Anda(jendela baru) — agen dapat menggunakan uang Anda tanpa persetujuan Anda, dan Anda tidak bisa secara hukum mengklaim agen bertindak di luar kendali. Lebih buruk lagi, ketentuan itu menyatakan bahwa pengaman konfirmasi(jendela baru) apa pun tidak dijamin dapat mencegah tindakan yang tidak diinginkan.

Hal ini tidak hanya terjadi pada Instinct. Agen proaktif SpaceXAI, Grok Bot, memiliki ketentuan serupa. Persetujuan tindakan hanya “bersifat membantu(jendela baru)” dan mungkin tidak mencegah tindakan yang tidak diinginkan. Demikian pula, segala tanggung jawab yang timbul dari tindakan agen AI sepenuhnya menjadi beban Anda(jendela baru). Ketentuan Meta untuk penggunaan Muse membuat Anda bertanggung jawab penuh(jendela baru) atas semua yang dilakukan agennya. Polanya cukup jelas: tindakan agen adalah tindakan Anda.

Agen bisa dikelabui untuk merugikan Anda

Agen proaktif dapat mengambil keputusan secara mandiri, tetapi ketika agen tidak bisa membedakan instruksi Anda dari teks yang ditanam orang lain dan tidak mengonfirmasi tindakan kepada Anda, agen mudah dikelabui. Seorang pengguna Instinct(jendela baru) menemukan bahwa agen proaktifnya terkena serangan prompt injection — agen mengikuti instruksi berbahaya yang dikirim pengguna itu sendiri. Penipu tidak perlu meretas agen; mereka hanya perlu membuat agen membaca tulisan mereka lalu membiarkannya bertindak berdasarkan itu.

Bahkan Instinct(jendela baru), Meta(jendela baru), SpaceXAI(jendela baru), dan OpenClaw(jendela baru) semuanya mengakui prompt injection sebagai ancaman yang sudah dikenal. Saat ini tidak ada yang menawarkan perlindungan penuh terhadap serangan ini, paling banyak hanya menjanjikan bahwa pertahanan agen berfungsi mengurangi risiko tersebut.

Sadari apa yang Anda serahkan

AI proaktif bekerja karena banyaknya data yang Anda berikan. Semakin banyak yang diketahuinya tentang Anda, semakin banyak yang bisa dilakukannya untuk Anda, tetapi semakin besar pula catatan hidup Anda yang tersimpan di satu perusahaan.

Sebuah pola industri telah muncul. Asisten ini dapat berlatih dengan data Anda yang paling pribadi kecuali Anda memilih untuk tidak ikut, dan mematikannya tidak menjamin data yang sudah dikumpulkannya benar-benar terhapus. Dan ketika agen melakukan sesuatu yang tidak Anda maksudkan, ketentuannya menempatkan konsekuensinya pada Anda, bukan pada perusahaan. Yang patut diakui, perusahaan-perusahaan menjelaskan semua ini secara terbuka. Tetapi bersikap terbuka tidak membatalkan hak Anda atas privasi data.

Pada akhirnya, Andalah yang memutuskan apakah kenyamanan semacam ini sepadan dengan privasi dan keamanan data Anda. Tetapi sebelum berkata ya, ketahui apa yang sebenarnya dapat dilihat asisten, apa yang boleh dilakukannya tanpa bertanya lebih dulu kepada Anda, dan apakah Anda benar-benar dapat menarik kembali data Anda setelah masuk. Pastikan ini benar-benar keputusan yang Anda buat sendiri, bukan keputusan yang Anda lepaskan karena sesuatu menjadi viral.

Jika Anda sama sekali tidak ingin melakukan pertukaran itu, beralihlah ke asisten AI kami, Lumo. Kami membangunnya dengan pendekatan sebaliknya: tanpa log, tanpa pelatihan menggunakan data Anda, tidak ada yang disimpan lebih lama dari yang Anda inginkan. Anda kehilangan sedikit keajaiban AI proaktif, tetapi Anda mempertahankan hal yang dimintanya untuk Anda lepaskan: kendali atas hidup Anda.