AI telah berkembang pesat dari sesuatu yang baru menjadi sesuatu yang digunakan banyak orang setiap hari. Penggunaan paling sederhana dan umum adalah untuk membuat draf pesan, merangkum dokumen, atau mencari di web. Namun, evolusi baru sedang berlangsung dengan munculnya agen AI — sistem AI yang tidak hanya menjawab pertanyaan tetapi juga bertindak secara semi-otonom untuk melaksanakan tugas.

Secara sederhana, agen AI adalah perangkat lunak yang menggunakan AI untuk mengejar tujuan dan mengambil tindakan dalam kehidupan digital dengan pengawasan minimal. Alih-alih merespons satu perintah dalam satu waktu, agen dapat membaca informasi, memutuskan apa yang harus dilakukan selanjutnya, dan terus berjalan hingga mencapai hasil atau memerlukan input. Daripada sekadar meminta AI untuk “Merangkum email saya”, agen dapat diberi tahu untuk “Membantu menjaga kotak masuk tetap terkendali,” dan agen tersebut akan membaca, menyortir, membuat draf, dan bahkan mengirim email dalam batas yang telah ditentukan.

Kemampuan untuk bertindak inilah yang membedakan agen AI dari alat AI yang lebih sederhana seperti model bahasa besar. Berikut adalah ulasan lebih mendalam tentang apa itu agen AI, kemampuannya, risiko yang terlibat, dan cara agar tetap aman saat menggunakannya.

Dalam artikel ini, akan dibahas:

Untuk apa agen AI digunakan?

Agen AI diterapkan di lingkungan digital dan digunakan dalam pengaturan pribadi maupun profesional untuk meningkatkan produktivitas.

Untuk penggunaan sehari-hari, agen AI dapat:

  • Memantau kotak masuk, membuat draf saran balasan, dan menyoroti hal penting yang mendesak
  • Mengatur catatan atau artikel yang disimpan dan menghasilkan ringkasan cepat
  • Melacak perubahan harga penerbangan atau produk, dan memberikan notifikasi saat harganya turun
  • Mengelola janji temu di kalender dengan menyarankan waktu pertemuan dan mengirimkan undangan
  • Menyortir dan menandai foto atau file untuk referensi mudah

Dalam kasus bisnis, agen AI sering digunakan untuk:

  • Membantu tim dukungan pelanggan memilah tiket, mengklasifikasikannya, dan menyiapkan draf tanggapan
  • Membantu tim penjualan dan pemasaran dengan merangkum informasi akun dan menghasilkan jangkauan yang dipersonalisasi untuk ditinjau
  • Mengambil alih tugas-tugas back-office yang berulang, seperti mengekstrak data faktur ke dalam alat akuntansi atau menandai transaksi yang tidak biasa
  • Membantu tim IT dan keamanan dengan memindai log dan mengelompokkan peringatan terkait

Dalam semua kasus ini, manfaat praktisnya sangat jelas: agen AI dapat menghemat waktu dan mengurangi upaya manual dengan mengoordinasikan beberapa langkah di berbagai alat. Namun, meskipun agen AI dapat meningkatkan produktivitas dan otomatisasi, mereka juga membuka pintu bagi jenis kesalahan, serangan, dan pembobolan data baru, seperti yang akan dijelaskan di bawah ini.

Bagaimana cara kerja agen AI?

Sebagian besar pengalaman utama orang dengan AI adalah melalui chatbot seperti ChatGPT, Google Gemini, atau Microsoft Copilot. Chatbot adalah aplikasi yang membungkus model AI dalam antarmuka percakapan. Pengguna mengetik pertanyaan, chatbot mengirimkannya ke model, dan balasan pun diterima.

Agen AI dibangun berdasarkan ide dasar tersebut tetapi menambahkan beberapa komponen penting. Sebagian besar agen modern menggabungkan tiga bagian inti:

Model bahasa

Di jantung banyak agen terdapat model bahasa besar (LLM). LLM bertanggung jawab untuk memahami instruksi bahasa, menalarkannya, dan menghasilkan teks. Model ini mengubah hasil yang ditentukan untuk agen AI menjadi langkah-langkah dan keputusan konkret.

Penggunaan alat (atau pemanggilan alat)

Agen biasanya terhubung ke alat dan layanan eksternal, seperti email, kalender, basis data, dan peramban web. Agen dapat memanggil alat-alat ini untuk membaca data atau mengambil tindakan, seperti mengambil email terbaru dan memperbarui catatan atau undangan pertemuan.

Memori dan konteks

Agen AI sering kali menyimpan beberapa bentuk memori sehingga mereka dapat melacak apa yang telah terjadi dan apa yang masih perlu dilakukan. Ini dapat mencakup semuanya, mulai dari tugas sebelumnya hingga preferensi pengguna. Memori membantu agen bekerja di berbagai langkah, alih-alih memperlakukan setiap interaksi secara terpisah.

Secara umum, agen AI mengikuti langkah-langkah berikut:

  • Berikan perintah kepada agen berupa tujuan dan konteks yang relevan
  • Agen menafsirkan permintaan dan merencanakan serangkaian langkah
  • Agen menggunakan alat untuk mengumpulkan informasi atau mengambil tindakan
  • Memorinya terus diperbarui berdasarkan apa yang terjadi dan menginformasikan apa yang harus dilakukan selanjutnya
  • Proses berulang hingga tujuan tercapai atau respons diperlukan

Sederhananya, chatbot memberikan antarmuka untuk “berbicara” dengan model dan menerima jawaban, tetapi agen AI menggabungkan model tersebut dengan alat dan memori sehingga mereka benar-benar dapat melakukan pekerjaan di dalam aplikasi dan akun.

Jenis-jenis agen AI

Agen AI dapat dikelompokkan ke dalam berbagai jenis, tergantung pada fungsi dan cara mereka membuat keputusan. Secara umum, ada lima jenis agen AI:

Agen refleks sederhana

Jenis agen AI yang paling dasar, agen refleks sederhana hanya bereaksi terhadap informasi saat ini dan mengikuti kondisi yang telah ditentukan sebelumnya tanpa melihat konteks masa lalu. Jenis ini paling cocok untuk tugas-tugas yang berulang dan sederhana, seperti memfilter email.

Agen refleks berbasis model

Mirip dengan agen refleks sederhana, agen refleks berbasis model juga menggunakan kondisi untuk membuat keputusan, tetapi memperhitungkan keputusan dan situasi masa lalu. Hal ini memungkinkan mereka belajar dari memori lingkungan sebelumnya dan menyesuaikan pola mereka. Mobil otonom dan robot penyedot debu umumnya menggunakan agen refleks berbasis model.

Agen berbasis tujuan

Alih-alih sekadar bereaksi terhadap input, agen berbasis tujuan membuat keputusan sesuai dengan sasaran yang diinginkan. Agen ini lebih dinamis dan canggih, serta dapat berkembang dan memetakan strategi baru bahkan jika muncul rintangan. Sistem navigasi GPS adalah contoh agen berbasis tujuan, di mana tujuan merupakan hasil yang diinginkan dan rute dapat berubah tergantung pada kondisi lalu lintas.

Agen berbasis utilitas

Agen berbasis utilitas menimbang “nilai” optimal dari beberapa hasil dan memilih opsi yang menawarkan kompromi terbaik menurut metrik yang dipilih, seperti waktu, biaya, atau risiko. Jenis ini paling berguna dalam situasi dengan prioritas yang bersaing — misalnya, saat harus memprioritaskan tugas.

Agen pembelajaran

Didesain untuk terus berkembang, agen pembelajaran dapat menyesuaikan perilaku mereka berdasarkan pengalaman dan masukan. Hal ini membuat mereka lebih efektif dari waktu ke waktu seiring dengan akumulasi dan pemrosesan lebih banyak data, dan sangat berguna untuk peran yang cepat berubah seperti asisten pribadi virtual.

Cara memulai penggunaan agen AI

Saat baru memulai dengan agen AI, sebaiknya berhati-hatilah dengan tugas yang diberikan, lalu sempurnakan secara bertahap.

  1. Mulailah dengan tugas berisiko rendah
    Pikirkan tugas sederhana yang ingin diotomatiskan, seperti meminta agen AI untuk mengatur folder buletin, membuat draf balasan yang masih disetujui secara manual, atau merangkum artikel yang disimpan. Hal ini memungkinkan penentuan jenis agen terbaik untuk pekerjaan tersebut, dan memungkinkan untuk mengamati terlebih dahulu bagaimana perilakunya tanpa memberikan akses ke hal sensitif apa pun.
  2. Gunakan fitur agen bawaan terlebih dahulu
    Banyak alat kini menyertakan kemampuan agen dasar, seperti asisten kotak masuk “pintar”, penyelenggara dokumen, atau bot dukungan. Menggunakannya sering kali lebih aman daripada membuat agen khusus, terutama jika belum memiliki banyak pengalaman dalam pengodean dan pengembangan.
  3. Tambahkan akses langkah demi langkah
    Saat menghubungkan agen ke akun, mulailah dengan akses terbatas yang hanya bisa dibaca. Izinkan agen mengirim email, memperbarui catatan, atau membuat perubahan hanya setelah merasa nyaman dengan kinerjanya.
  4. Tinjau dan sesuaikan secara konsisten
    Perhatikan apa yang dilakukan agen dengan benar dan di mana agen tersebut mengalami kesulitan. Sebagian besar sistem memungkinkan penyesuaian pengaturan atau mempersempit cakupan agar agen tetap fokus pada tugas yang memberikan nilai paling besar.

Setelah lebih familier dengan cara kerja dan perilaku agen, penggunaan dapat ditingkatkan dari kasus penggunaan pribadi yang kecil ke alur kerja yang lebih kompleks dan terintegrasi — dengan pengamanan yang sesuai.

Mengapa agen AI menimbulkan risiko baru

Sistem apa pun yang dapat bertindak atas nama pengguna juga dapat membuat kesalahan atas nama pengguna atau disalahgunakan oleh orang lain, tidak terkecuali agen AI. Berikut adalah beberapa risiko umum dari agen AI:

Permukaan serangan yang lebih luas

Karena agen AI umumnya memiliki akses ke aplikasi seperti email, penyimpanan cloud, kalender, dan dasbor, hal ini menjadikannya target yang lebih besar. Jika penyerang dapat memengaruhi agen tersebut, mereka berpotensi menembus semua sistem yang terhubung dan dengan mudah mengakses data rahasia.

Injeksi prompt dan konten berbahaya

Banyak agen secara rutin mengurai halaman web, dokumen, dan email sebagai bagian dari pekerjaan mereka. Penyerang dapat menyembunyikan instruksi dalam konten tersebut, menipu agen agar membocorkan data atau melompati pengamanan karena agen AI umumnya tidak dapat membedakan antara instruksi yang asli dan yang palsu.

Akses dengan hak istimewa berlebih

Memberikan akses luas kepada agen untuk memperbesar efisiensi mungkin tampak menggoda: kontrol kotak masuk penuh, basis data produksi, atau banyak alat internal sekaligus. Namun, ini juga berarti risiko yang lebih besar: jika agen dengan hak istimewa berlebih dikompromikan atau salah bertindak, kerusakannya akan jauh lebih parah.

Kebocoran data dan isu kepatuhan

Banyak agen mengirimkan prompt dan dokumen ke layanan AI pihak ketiga. Jika penyedia tersebut menyimpan data atau menggunakannya untuk pelatihan, informasi yang dibagikan mungkin lebih banyak daripada yang dimaksudkan, dengan implikasi terhadap privasi pribadi dan persyaratan regulasi.

Namun, semua ini bukan berarti bahwa menggunakan agen AI secara inheren berbahaya; ini hanya membutuhkan kehati-hatian yang lebih besar serta alat dan praktik yang tepat untuk menjaga agar tetap aman.

Cara tetap aman saat menggunakan agen AI

Tujuannya bukan untuk menghindari agen AI sama sekali, melainkan untuk menggunakannya dengan cara yang menghormati privasi dan memperkecil dampak jika terjadi kesalahan. Baik saat bereksperimen dengan AI dalam kehidupan pribadi atau menerapkan agen di tempat kerja, langkah-langkah ini dapat membantu:

  1. Batasi apa yang dapat diakses oleh agen. Berikan setiap agen cakupan yang sempit dan didefinisikan secara jelas, alih-alih akses yang luas. Misalnya, izinkan agen pribadi untuk membaca dari label email tertentu daripada seluruh kotak masuk, atau berikan agen keuangan akses hanya ke data uji hingga perilakunya dapat dipercaya.
  2. Selalu wajibkan persetujuan manusia untuk interaksi sensitif. Tugas yang melibatkan uang, pengaturan keamanan, atau membagikan data ke luar organisasi harus memerlukan persetujuan eksplisit. Agen dapat menyiapkan pembayaran, draf, atau laporan, tetapi seseorang harus meninjau dan mengonfirmasi apa pun yang berdampak tinggi.
  3. Pahami ke mana data dikirim. Sebelum menghubungkan agen ke akun atau dokumen nyata, periksa penyedia mana yang digunakannya, di mana data diproses, berapa lama data tersimpan, dan apakah data tersebut digunakan untuk melatih model. Pilihlah alat yang memberikan kontrol yang jelas dan menghormati privasi.
  4. Perlakukan agen seperti perangkat lunak dengan hak istimewa. Catat aktivitasnya dalam log, tinjau secara berkala, dan bersiaplah untuk mencabut akses dengan cepat jika ada yang tampak mencurigakan. Di dalam organisasi, itu berarti mengetahui agen mana saja yang ada, sistem apa yang mereka sentuh, dan cara mematikannya secara instan.

Di sinilah Proton Pass memberikan perbedaan. Proton Pass adalah pengelola kata sandi terenkripsi ujung-ke-ujung yang juga menawarkan token akses AI, memungkinkan kontrol dan pemantauan kredensial yang dapat diakses oleh agen.

Alih-alih membagikan nama pengguna, kata sandi, dan kunci API dengan agen AI secara ad hoc, token akses Proton Pass memberikan akses terbatas ke item atau brankas tertentu. Token terpisah dapat diterbitkan untuk agen yang berbeda, memastikan semua kredensial tetap terenkripsi dan selalu berada di bawah kendali. Setiap kali agen menggunakan item, sistem akan membuat log audit termasuk alasan akses, sehingga aktivitas agen dapat ditinjau dan dipantau.

Jika digunakan bersama-sama, praktik ini memungkinkan untuk memanfaatkan manfaat dari agen AI sambil menjaga risiko tetap terkendali.

Bekerja dan lakukan otomatisasi agen AI dengan aman menggunakan Proton Pass

Agen AI adalah langkah logis berikutnya dalam cara kita menggunakan AI. Agen ini melangkah lebih jauh dari sekadar menjawab pertanyaan untuk benar-benar membantu pekerjaan sehari-hari, di dalam kotak masuk, file, dan sistem penting. Hal itu membuatnya sangat andal — dan sesuatu yang layak mendapatkan perlindungan yang sama seperti perangkat lunak sensitif lainnya.

Risiko yang datang dengan gelombang otomatisasi baru ini dapat dikurangi secara drastis dengan membatasi apa yang dapat diakses oleh setiap agen, menjaga manusia tetap terlibat dalam keputusan penting, memahami di mana data diproses, dan menolak untuk membagikan kredensial mentah. Menambahkan pengelola kata sandi yang mengutamakan privasi seperti Proton Pass memberikan cara yang aman untuk mengelola kredensial yang digunakan agen, dengan token akses AI yang memberikan kontrol tepat atas alat mana yang dapat mengakses brankas mana.

Dan seperti halnya teknologi apa pun yang memerlukan informasi rahasia, hal terpenting yang harus diingat saat menggunakan agen AI adalah membangun kebiasaan keamanan yang baik. Mulailah dari hal kecil, jaga agar akses tetap terbatas, dan gunakan alat yang selalu memberikan kendali penuh atas data dan kata sandi.