Kecerdasan Buatan (AI) > Apakah LLM aman?
Apakah LLM aman? Penjelasan risiko keamanan AI
Asisten AI telah menjadi alat sehari-hari untuk bekerja, penelitian, dan komunikasi. Namun, sistem yang sama yang membuatnya berguna juga membuatnya menjadi liabilitas keamanan. Berikut hal-hal yang harus diketahui tentang risiko keamanan LLM dan AI.
Apa itu LLM dan bagaimana hubungannya dengan AI dan keamanan?
Kecerdasan buatan mencakup puluhan jenis perangkat lunak pembelajaran mesin, mulai dari pengenalan wajah hingga deteksi penipuan bank hingga permainan papan. Model bahasa besar (LLM) adalah salah satu jenis AI yang spesifik: LLM merupakan mesin di balik setiap asisten AI utama yang pernah Anda dengar, termasuk ChatGPT, Microsoft Copilot, Google Gemini, dan Lumo milik Proton sendiri.
LLM belajar dengan memproses informasi dalam jumlah yang sangat besar — buku, artikel, dokumentasi, kode, dan makalah akademis — serta menemukan pola tentang cara kerja bahasa. Seiring waktu, LLM menjadi lebih baik dalam memprediksi apa yang harus ditulis selanjutnya dalam tulisan apa pun, mengaktifkannya untuk melakukan percakapan utuh, merangkum dokumen, atau menyusun draf email yang terdengar seperti ditulis oleh orang sungguhan.
Karena LLM memproses begitu banyak informasi, dan karena orang-orang semakin sering membagikan rincian pribadi dan profesional yang sensitif dengannya, keamanan LLM sangat penting untuk memastikan data rahasia tidak dicuri atau mengalami kebocoran.
Di mana peran AI agensial (agentic AI)?
Dahulu, LLM terbatas pada tanggapan — ketika mengajukan sesuatu, AI akan menjawab. AI agensial melangkah lebih jauh. Agen AI masih menggunakan LLM untuk menalar dan berkomunikasi, tetapi juga dapat mengambil tindakan: menjelajahi web, menulis dan menjalankan kode, mengirim pesan, terhubung ke aplikasi eksternal, dan mengelola file. Alih-alih menjawab satu pertanyaan, agen AI dapat mengerjakan tugas multitahap dengan sedikit pengawasan manusia.
Kemampuan ekstra tersebut disertai dengan peningkatan risiko. Ketika AI dapat bertindak secara mandiri, dampak akibat AI dikelabui atau salah bertindak menjadi jauh lebih serius. Keamanan AI agensial merupakan salah satu kekhawatiran yang paling cepat berkembang di kolom ini justru karena sistem ini semakin banyak diintegrasikan ke dalam alat kerja, sering kali dengan akses yang lebih besar daripada yang sebenarnya dibutuhkan.
Keamanan LLM dan potensi bahaya AI
Risiko keamanan AI dan LLM sangat mengkhawatirkan karena terintegrasi dengan arsitektur dasar bagaimana alat-alat ini dirancang dan diterapkan. Saat mengajukan pertanyaan kesehatan pribadi kepada asisten AI, membagikan strategi bisnis, atau membicarakan situasi hukum, informasi tersebut biasanya berakhir di server yang tidak dikontrol dan dapat menjadi subjek undang-undang atau standar perilaku yang mungkin bahkan tidak disadari. Keamanan LLM bukan hanya sesuatu yang perlu dipikirkan oleh tim IT; ini adalah isu praktis bagi siapa saja yang menggunakan AI, baik untuk tujuan pribadi maupun profesional.
Risiko keamanan LLM dan AI terbesar
LLM diintegrasikan ke dalam lebih banyak alat setiap hari — tetapi masih memiliki beberapa risiko keamanan
yang tidak langsung terlihat jelas.
Sebagian besar platform AI menyimpan prompt, respons, dan data interaksi secara bawaan. Informasi tersebut dapat dibaca oleh staf perusahaan, dimasukkan ke dalam pelatihan model di masa mendatang, dijual ke pihak ketiga, atau bahkan diserahkan kepada pihak berwenang. Begitu percakapan mendarat di server orang lain, tidak banyak yang bisa dilakukan terhadap cara data tersebut tersimpan, digunakan, atau dibagikan.
Sebagian besar produk AI terdiri dari komponen yang dibuat oleh organisasi dan perusahaan yang berbeda, termasuk model dasar, plugin, API, dan alur data. Jika ada sesuatu dalam rantai pasokan tersebut yang dikompromikan, setiap pengguna produk tersebut akan terkena dampaknya, sering kali tanpa ada indikasi jelas bahwa ada sesuatu yang salah.
LLM dapat memunculkan data yang sebenarnya tidak pernah dimaksudkan untuk dibagikan. Ini bisa berupa informasi yang diperoleh dari data pelatihan, sesi pengguna lain, atau percakapan terdahulu yang masih dapat diakses oleh AI. Dalam pengaturan bisnis, tempat beberapa orang membagikan alat AI yang sama dan data sensitif mengalir melalui sistem yang sama, kebocoran ini dapat menyebabkan kerusakan serius.
Karena AI agensial memiliki kemampuan untuk mengirim email, menjalankan kode, atau mengakses file, risiko jika AI tersebut dimanipulasi akan meningkat secara signifikan. Agen AI dengan izin yang terlalu banyak dapat mengambil tindakan di berbagai sistem yang terhubung, sering kali sebelum ada yang menyadari adanya kesalahan. Semakin sering membiarkan AI bertindak atas nama Anda, semakin penting agar aksesnya dikontrol dengan ketat.
Injeksi prompt (prompt injection) adalah salah satu risiko keamanan AI yang paling meluas. Cara kerjanya adalah dengan menyembunyikan instruksi berbahaya di dalam konten yang dimasukkan ke AI, seperti dalam PDF atau halaman web, untuk memanipulasi agen AI yang dapat bertindak secara otonom. Instruksi tersebut secara diam-diam mengambil alih perilaku agen AI, yang berpotensi menyebabkannya membocorkan data rahasia, bertindak bertentangan dengan kepentingan Anda, atau menghasilkan output yang menipu — sementara semuanya tampak normal di permukaan.
Bagaimana Lumo menyikapi keamanan AI secara berbeda
Sebagian besar asisten AI dirancang untuk memberikan wawasan maksimal kepada platform tentang cara penggunaannya. Lumo dirancang untuk melakukan hal sebaliknya, memberikan kontrol lebih besar dan ketenangan pikiran atas pengelolaan data.
Tanpa log, selamanya
Server LLM Lumo memproses pesan dan langsung menghapusnya begitu respons dibuat. Tidak ada log tentang apa yang ditanyakan, apa yang dijawab, atau kapan. Tidak ada obrolan teks biasa yang disimpan di server, artinya tidak ada yang bisa dibobol, dituntut secara hukum, atau disalahgunakan.
Pesan dienkripsi sebelum keluar dari perangkat
Lumo menggunakan enkripsi asimetris dua arah — disebut enkripsi User-to-Lumo (U2L) — untuk melindungi pesan selama transit. Pesan yang sebenarnya hanya dapat dibaca oleh server LLM itu sendiri, dan hanya selama waktu yang dibutuhkan untuk menghasilkan respons.
Riwayat percakapan dikunci dengan enkripsi tanpa akses
Setelah respons dibuat, percakapan disimpan menggunakan enkripsi tanpa akses — dilindungi oleh kunci yang hanya dimiliki sendiri. Proton tidak pernah memiliki akses ke riwayat tersebut. Bahkan jika server Proton sepenuhnya disusupi, riwayat percakapan akan tetap tidak dapat dibaca.
Model dan kode sumber terbuka memungkinkan para ahli memverifikasi keamanan Lumo
Berbeda dengan alat AI sumber tertutup seperti ChatGPT, Copilot, dan Gemini, Lumo berjalan pada model dan kode sumber terbuka, sehingga siapa saja dapat memeriksa arsitektur kami untuk mencari celah keamanan dan memverifikasi bahwa Lumo hanya melakukan apa yang diklaim.
Tanpa iklan atau pembagian data
Sebagian besar asisten AI dibangun di atas model bisnis yang bergantung pada pengumpulan dan penyimpanan data. Lumo berbeda. Pendapatan Proton berasal dari langganan, bukan monetisasi data, sehingga tidak ada insentif untuk mencatat log percakapan, membagikannya kepada pihak ketiga, atau menggunakannya untuk menayangkan iklan.
Dihosting di Eropa, tidak tunduk pada undang-undang pengawasan AS
Alat AI yang dibuat oleh perusahaan AS dapat dipaksa untuk mengungkapkan data berdasarkan undang-undang seperti CLOUD Act. Lumo berjalan di server yang dikontrol Proton di Eropa, di bawah beberapa perlindungan privasi terkuat di dunia. Percakapan berada di luar jangkauan permintaan akses pemerintah asing.
Bergabunglah dengan ekosistem terenkripsi yang menjaga keamanan di mana saja
Lumo adalah bagian dari ekosistem yang mengutamakan privasi yang melindungi data dengan enkripsi yang kuat. Tidak ada yang dapat melihat data Anda selain Anda dan orang yang Anda pilih untuk membagikannya — bahkan kami pun tidak.
Buat akun Lumo gratis dan juga akan membuka akses ke VPN(jendela baru), email, kalender, penyimpanan cloud, editor dokumen, editor spreadsheet, pengelola kata sandi, konferensi video, dan banyak lagi.
Apa kata orang-orang tentang Lumo
Ini adalah satu-satunya tempat di mana percakapan Anda tidak akan dilihat oleh orang lain.
@recant731
di X
Baru saja menggunakan Lumo untuk membantu merencanakan perjalanan darat, lengkap dengan rute mendetail serta anggaran penginapan dan bahan bakar mobil. @ProtonPrivacy sudah membuat saya antusias dan sekarang @asklumo juga.
@markruffalo
via komentar Instagram
Ada aplikasi obrolan lain yang bisa digunakan yang sebenarnya sama bagusnya, lebih murah, atau lebih pribadi serta tidak mendanai kejahatan di dunia. Lumo dari ProtonMail langsung terlintas di pikiran
@banasnap.bsky.social
di Bluesky
Premis yang menjanjikan: AI yang mengutamakan privasi adalah apa yang selama ini hilang dari lanskap saat ini. Dengan sebagian besar layanan didominasi oleh perusahaan AS dan Tiongkok, memiliki opsi yang berbasis di Eropa, dari tim yang sudah sangat berpengalaman dalam privasi daring, mengisi celah yang sangat dibutuhkan. Sangat menantikan untuk mencoba Lumo.
tintreack
di Reddit
Ini sangat luar biasa, dan maskotnya cukup menggemaskan. Sangat menyukai branding ini. Selain itu, sebagai pengguna visioner yang harus menggunakan ChatGPT untuk alur kerja, terima kasih. Akhirnya bisa menyingkirkan hal itu. Sudah mencobanya, dan ini sangat bagus! Kerja bagus, tim.
Beralih ke asisten AI yang benar-benar aman
Alat-alat AI yang dibangun oleh platform teknologi terbesar dirancang untuk membantu, tetapi sering kali mengorbankan keamanan dan privasi. Lumo menghadirkan asisten AI dan LLM terenkripsi yang mumpuni tanpa mengorbankan keamanan sedikit pun.
Pertanyaan yang sering diajukan mengenai keamanan AI dan LLM
- Apa saja risiko keamanan AI terbesar bagi pengguna sehari-hari?
- Apakah Lumo aman untuk pekerjaan rahasia atau sensitif?
- Apa saja bahaya utama AI bagi bisnis?
- Bahasa apa saja yang didukung oleh Lumo?
