Ketika karyawan Anda menggunakan alat AI yang belum Anda setujui, mereka membuat akun yang tidak dapat Anda lihat, amankan, atau tutup, yang masing-masing menyimpan riwayat obrolan berisi data bisnis Anda.
Penelitian baru yang diterbitkan oleh SOCRadar(jendela baru) menemukan bahwa lebih dari 80.000 organisasi di seluruh dunia pernah mengalami kemunculan kredensial AI karyawan mereka di log infostealer. Infostealer adalah jenis malware yang mengumpulkan kata sandi, kuki sesi, data keuangan dan pribadi, serta log obrolan dari perangkat yang terinfeksi lalu mengirimkannya kembali ke penyerang. Data tersebut membuat serangan phishing atau ransomware jauh lebih efektif.
Menurut penelitian tersebut, log itu diambil oleh malware infostealer ternama yang telah dijual di Telegram sejak 2022. Karena malware ini sudah dijual selama bertahun-tahun, tidak mungkin mengetahui berapa banyak penjahat yang menggunakannya dan bagaimana mereka menginfeksi perangkat orang. Yang dapat dipastikan adalah mereka menyasar perangkat dengan akses korporat dan membajak sesi Claude milik karyawan. Pengguna bisnis menyadari penggunaan berbayar mereka terkuras dalam semalam begitu penjahat dunia maya mendapatkan akses.
Penelitian SOCRadar menunjukkan bahwa kredensial sesi AI sangat berharga bagi penyerang. Satu kredensial AI saja dapat membuka “arsip yang dapat dicari, mesin eksekusi, sumber daya yang dapat ditagih, dan sebuah identitas, lalu sesi yang dicuri menyerahkan semuanya tanpa permintaan kata sandi,” seperti yang dinyatakan dalam laporan tersebut. Bagi penjahat, ini tambang emas.
Yang perlu dicermati oleh bisnis yang mengadopsi AI saat ini adalah kredensial ini tidak bocor karena keamanan platform AI itu sendiri. Kredensial tersebut bocor karena dua faktor yang kurang kentara: banyaknya karyawan yang menggunakan alat AI dan makin besarnya porsi penggunaan tersebut yang terjadi di luar kendali TI.
Apa yang diungkap penelitian ini?
Secara keseluruhan, laporan tersebut menemukan bahwa kredensial layanan AI muncul di log infostealer dalam jumlah yang signifikan. Poin utama yang perlu diketahui adalah:
- Lebih dari 1.000.000 catatan yang terhubung ke layanan AI terungkap di 80.000 domain korporat unik.
- Dari kumpulan tersebut, sebanyak 482 organisasi dalam sampel lintas sektor terverifikasi sebagai perusahaan besar, sebagian besar di Amerika Utara, dan 68% di antaranya merupakan organisasi bernilai miliaran dolar.
- Perusahaan teknologi menjadi kelompok terbesar, dengan 144 perusahaan dan 40% catatan.
- Ke-482 organisasi tersebut mencakup 5.434 catatan log yang terikat pada 1.500 alamat email korporat.
- Paparan ini masih baru: 295 dari 482 organisasi tersebut memiliki catatan log infostealer yang muncul dalam 90 hari terakhir.
- ChatGPT muncul di log 358 dari 482 organisasi dan pada sekitar 90% catatan, disusul Zapier, Notion, Hugging Face, Replit, Lovable, dan ElevenLabs.
Statistik terakhir itu memunculkan pertanyaan yang jelas: mengapa ChatGPT? Penjelasan SOCRadar lebih berkaitan dengan cara karyawan menggunakannya daripada dengan alatnya sendiri.
Shadow AI menciptakan risiko
Shadow AI adalah alat AI apa pun yang digunakan karyawan tanpa persetujuan atau sepengetahuan perusahaan. Karyawan membawa shadow AI ke jaringan bisnis ketika akun korporat mereka terbatas, atau saat alat yang tersedia tidak efektif untuk tugas yang sedang mereka kerjakan.
Seorang peneliti di SOCRadar berkomentar:
“Kami membaca dominasi ChatGPT yang hampir menyeluruh sebagai sinyal shadow AI, bukan penilaian atas keamanan vendor mana pun. Keunggulan ChatGPT sebagai pemain pertama berarti pengguna korporatnya kemungkinan jauh lebih banyak, banyak di antaranya mendaftar dengan email kantor di perangkat pribadi, di luar kebijakan apa pun. Itulah populasi yang disasar infostealer. Claude dan Gemini nyaris tidak muncul karena jauh lebih sedikit karyawan yang diam-diam membuat akun di sana, bukan karena kredensial tersebut lebih aman untuk dicuri. Seiring adopsi asisten lain di perusahaan menyusul, kami memperkirakan grafik ini akan merata.”
Jadi, keamanan ChatGPT bukan penyebab menonjolnya alat ini di log infostealer. ChatGPT memuncaki daftar karena memiliki pengguna korporat terbanyak dan karena begitu banyak dari mereka menggunakannya di luar kebijakan perusahaan.
Karyawan mungkin juga berusaha menghindari kebijakan TI yang membatasi pilihan tercepat atau termudah, tetapi bisa juga mereka benar-benar tidak tahu kebijakan atau batasan apa yang berlaku. Bisnis Anda tidak dapat melindungi akun yang bahkan tidak diketahui keberadaannya, atau kueri yang dibuat di luar akun bisnis.
Terlepas dari niatnya, ketika pekerja menggabungkan penggunaan AI pribadi dan bisnis, mereka melanggar kebijakan penggunaan data perusahaan Anda dan justru tunduk pada ketentuan konsumen OpenAI.
OpenAI menyatakan tidak melatih model dengan data bisnis, tetapi ketika karyawan beroperasi di luar pedoman penggunaan wajar bisnis atau memakai akun pribadi untuk keperluan bisnis, mereka kehilangan kendali atas data tersebut: arsip obrolan mereka, termasuk data bisnis sensitif atau informasi yang dapat mengidentifikasi pribadi (PII), dikumpulkan, dicatat dalam log, dan berpotensi digunakan untuk melatih model OpenAI.
OpenAI dapat membagikan data bisnis kepada pihak ketiga atau melalui integrasi aplikasi: pada 2025, peretas dapat menembus vendor OpenAI dan mencuri data pelanggan bisnis termasuk nama, email, lokasi, dan rincian sistem. Sebagai perusahaan AS, OpenAI juga dapat dipaksa membagikan data kepada pemerintah AS berdasarkan Patriot Act atau FISA, bahkan tanpa memberi tahu Anda.
Cara melindungi bisnis Anda dari shadow AI
Shadow AI terjadi ketika karyawan tidak memiliki alat yang diizinkan untuk digunakan, atau alat yang cukup baik. Jadi, langkah pertama adalah memberi mereka alat tersebut.
Lumo, yang dikembangkan oleh Proton, memberi tim Anda alternatif resmi selain akun pribadi dan menjaga data bisnis tetap pribadi. Lumo tidak menyimpan log atau melatih modelnya dengan percakapan bisnis maupun pribadi. Semua riwayat obrolan yang disimpan dilindungi enkripsi zero-access, sehingga tidak ada seorang pun, bahkan Proton, yang dapat membacanya.
Enkripsi melindungi data yang tersimpan, tetapi tidak dapat membantu jika penyerang sudah berada di perangkat karyawan. Untuk menutup celah tersebut, lakukan langkah berikut:
- Temukan akun yang tidak Anda ketahui. Periksa apakah domain perusahaan Anda sudah muncul di log stealer dan tanyakan kepada tim alat AI apa yang benar-benar mereka gunakan.
- Perlakukan temuan di log stealer sebagai insiden endpoint. Jika kredensial karyawan muncul di log, perangkat tersebut terinfeksi. Mengatur ulang kata sandi saja membiarkan sesi curian penyerang tetap aktif, jadi cabut sesi yang aktif dan bersihkan atau ganti mesin tersebut.
- Letakkan setiap alat AI yang disetujui di balik SSO dengan sesi berdurasi singkat. Kuki curian yang kedaluwarsa dalam beberapa jam nilainya jauh lebih kecil daripada kuki yang bertahan berminggu-minggu.
- Amankan kunci API. Batasi cakupannya sesuai kebutuhan, rotasikan secara berkala, dan jangan pernah menyimpannya di aplikasi catatan atau dokumen bersama.
- Jauhkan pekerjaan dari perangkat yang tidak terkelola. Jika staf memerlukan AI di perangkat pribadi, wajibkan mereka masuk melalui akun perusahaan yang dapat Anda pantau dan cabut.
- Siapkan Monitoring Dark Web. Fitur ini memberi tahu Anda saat kredensial karyawan muncul dalam kebocoran, sehingga Anda dapat bertindak sebelum penyerang melakukannya.
Karyawan Anda akan tetap menggunakan AI, apa pun pilihannya. Tawarkan kepada mereka alternatif ChatGPT yang tidak menyimpan log, tidak pernah melatih model dengan data Anda, dan mengunci setiap obrolan yang disimpan di balik enkripsi yang bahkan Proton tidak dapat membukanya.
