Çalışanlarınız onaylamadığınız yapay zeka araçlarını kullandığında, göremediğiniz, güvenliğini sağlayamadığınız veya kapatamadığınız hesaplar oluştururlar ve bu hesapların her birinde iş verilerinizle dolu bir sohbet geçmişi bulunur.
SOCRadar(yeni pencere) tarafından yayımlanan yeni bir araştırma, dünya genelinde 80.000’den fazla kuruluşun çalışanlarına ait yapay zeka oturum açma bilgilerinin infostealer günlüklerinde görüldüğünü ortaya koydu. Infostealer’lar, enfekte ettikleri aygıtlardan parolaları, oturum tanımlama bilgilerini, finansal ve kişisel verileri ve sohbet günlüklerini toplayıp saldırgana gönderen bir kötü amaçlı yazılım türüdür. Bu veriler kimlik avı girişimi veya fidye yazılımı saldırılarını çok daha etkili hale getirir.
Araştırmaya göre bu günlükler, 2022’den bu yana Telegram’da satılan tanınmış bir infostealer kötü amaçlı yazılımı tarafından ele geçirilmiş. Kötü amaçlı yazılım yıllardır satıldığı için kaç suçlunun onu kullandığını ve insanların aygıtlarını nasıl enfekte ettiğini bilmek imkansız: bildiğimiz tek şey, kurumsal erişimi olan aygıtları hedefleyip Claude oturumlarını ele geçirdikleri. İş kullanıcıları, siber suçlular erişim sağladıktan sonra ücretli kullanımlarının bir gecede tükendiğini fark etti.
SOCRadar’ın araştırması, yapay zeka oturum kimlik doğrulama bilgilerinin saldırganlar için son derece değerli olduğunu ortaya koyuyor. Raporun ifadesiyle, tek bir yapay zeka oturum açma bilgisi “aranabilir bir arşivin, bir yürütme motorunun, faturalandırılabilir bir kaynağın ve bir kimliğin kilidini açabilir ve çalınan oturum bunların hepsini parola istemi olmadan teslim eder.” Bir suçlu için bu bir altın madeni.
Bugün yapay zekayı benimseyen işletmeler için endişe verici çıkarım, bu kimlik doğrulama bilgilerinin yapay zeka platformlarının kendi güvenliği nedeniyle sızmaması. Bu bilgiler iki daha az belirgin faktör yüzünden sızıyor: yapay zeka araçlarını kullanan çalışanların çokluğu ve bu kullanımın giderek artan bir payının BT’nin kontrolü dışında gerçekleşmesi.
Araştırma neleri ortaya koyuyor?
Genel olarak rapor, yapay zeka hizmetlerine ait kimlik doğrulama bilgilerinin infostealer günlüklerinde önemli sayılarda göründüğünü tespit ediyor. Öne çıkan bulgular şunlar:
- 80.000 benzersiz kurumsal etki alanı genelinde yapay zeka hizmetlerine bağlı 1.000.000’dan fazla kayıt ortaya çıktı.
- Bu kümeden yapılan doğrulamada, 482 kuruluşluk bir kesitin çoğunlukla Kuzey Amerika’daki büyük işletmeler olduğu belirlendi; bunların %68’i milyar dolarlık kuruluşlar.
- Teknoloji şirketleri, 144 şirket ve kayıtların %40’ıyla en büyük grubu oluşturuyor.
- Bu 482 kuruluş, 1.500 kurumsal e-posta adresine bağlı 5.434 günlük kaydına karşılık geliyor.
- Maruz kalma yakın tarihli: bu 482 kuruluşun 295’inde son 90 gün içinde infostealer günlük kayıtları ortaya çıktı.
- ChatGPT, 482 kuruluştan 358’inin günlüklerinde ve kayıtların yaklaşık %90’ında görüldü; onu Zapier, Notion, Hugging Face, Replit, Lovable ve ElevenLabs izledi.
Bu son istatistik akla bariz bir soru getiriyor: neden ChatGPT? SOCRadar’ın açıklaması araçlarla değil, çalışanların bunları nasıl kullandığıyla daha çok ilgili.
Gölge yapay zeka risk yaratıyor
Gölge yapay zeka, çalışanların şirketlerinin onayı veya bilgisi olmadan kullandığı her türlü yapay zeka aracıdır. Çalışanlar, kurumsal hesapları sınırlı olduğunda ya da sahip oldukları araçlar yürüttükleri görev için yeterince etkili olmadığında gölge yapay zekayı iş ağlarına dahil eder.
SOCRadar’da bir araştırmacı şöyle diyor:
“ChatGPT’nin neredeyse tam bir baskınlık göstermesini bir gölge yapay zeka sinyali olarak okuyoruz; herhangi bir tedarikçinin güvenliğine dair bir hüküm olarak değil. ChatGPT’nin ilk hamle avantajı, muhtemelen katbekat daha fazla kurumsal kullanıcısı olduğu anlamına geliyor; bu kullanıcıların çoğu kişisel bir aygıtta, herhangi bir ilkeden bağımsız olarak iş e-postasıyla hesap açıyor. Infostealer’ların topladığı kitle tam olarak bu. Claude ve Gemini neredeyse hiç görünmüyor, çünkü henüz çok daha az sayıda çalışan sessizce bu platformlarda hesap açtı; bu, söz konusu kimlik doğrulama bilgilerinin çalınmasının daha güvenli olduğu anlamına gelmiyor. Diğer asistanların kurumsal kullanımı yetiştiğinde bu çizelgenin dengeleneceğini öngörüyoruz.”
Yani ChatGPT’nin infostealer günlüklerindeki bu belirginliğinin sorumlusu kendi güvenliği değil. ChatGPT listenin başında çünkü en fazla kurumsal kullanıcıya sahip ve bu kullanıcıların pek çoğu onu şirket ilkelerinin dışında kullanıyor.
Çalışanlar, en hızlı veya en kolay seçeneği seçmelerini engelleyen kısıtlayıcı BT ilkelerinden kaçınmaya çalışabilir, ancak gerçekten hangi ilkelerin veya kısıtlamaların yürürlükte olduğunu bilmiyor da olabilirler. İşletmeniz, varlığından haberdar olmadığı hesapları ya da kurumsal bir hesap dışında yapılan sorguları koruyamaz.
Niyet ne olursa olsun, çalışanlar kişisel ve kurumsal yapay zeka kullanımını birleştirdiğinde şirketinizin veri kullanım ilkeleriyle çelişir ve bunun yerine OpenAI’nin tüketici koşullarına tabi olurlar.
OpenAI, iş verileriyle model eğitmediğini söylüyor; ancak bir çalışan kurumsal kabul edilebilir kullanım yönergelerinin dışında hareket ettiğinde veya kişisel bir hesabı iş amaçlarıyla kullandığında o verilerin kontrolünü kaybeder: sohbet arşivi (hassas iş verileri veya kişisel olarak tanımlanabilir bilgiler (PII) dahil) toplanır, günlüğe kaydedilir ve muhtemelen OpenAI’nin modellerini eğitmek için kullanılır.
OpenAI, iş verilerini üçüncü taraflarla veya uygulama entegrasyonları yoluyla paylaşabilir: 2025’te bilgisayar korsanları bir OpenAI tedarikçisini ele geçirerek adlar, e-postalar, konumlar ve sistem ayrıntıları dahil olmak üzere kurumsal müşteri verilerini çaldı. Bir ABD şirketi olarak, Patriot Act veya FISA kapsamında, sizi bilgilendirmeden bile verilerini ABD hükümetiyle paylaşmaya zorlanabilir.
İşletmenizi gölge yapay zekadan nasıl korursunuz
Gölge yapay zeka, çalışanların kullanmasına izin verilen bir aracı olmadığında ya da yeterince iyi bir aracı bulunmadığında ortaya çıkar. Bu yüzden ilk çözüm onlara bir tane sunmak.
Proton tarafından geliştirilen Lumo, ekibinize kişisel hesaplara onaylı bir alternatif sunar ve iş verilerinin gizliliğini korur. Günlük tutmaz, iş veya kişisel yazışmalarla model eğitmez. Kaydedilen tüm sohbet geçmişi sıfır erişimli şifreleme ile korunur, böylece kimse (Proton bile) bunu okuyamaz.
Şifreleme kaydedilen verileri korur, ancak bir saldırgan çoktan çalışanın aygıtına girdiyse işe yaramaz. Bu açığı kapatmak için şu adımları izleyin:
- Hakkında bilginiz olmayan hesapları bulun. Şirketinizin etki alanlarının infostealer günlüklerinde görünüp görünmediğini kontrol edin ve ekiplere gerçekte hangi yapay zeka araçlarını kullandıklarını sorun.
- Bir infostealer günlüğü isabetini uç nokta olayı olarak değerlendirin. Bir çalışanın kimlik doğrulama bilgileri bir günlükte görünüyorsa aygıt enfekte olmuş demektir. Yalnızca parolayı sıfırlamak, saldırganın çalınmış oturumunu canlı bırakır; bu nedenle etkin oturumları geçersiz kılın ve makineyi temizleyin ya da değiştirin.
- Onaylı tüm yapay zeka araçlarını kısa ömürlü oturumlarla SSO arkasına alın. Saatler içinde süresi dolan çalınmış bir tanımlama bilgisi, haftalarca geçerli olan bir tanesinden çok daha az değerlidir.
- API anahtarlarını kilitleyin. Onları yalnızca ihtiyaç duydukları kapsamla sınırlayın, düzenli olarak yenileyin ve asla not uygulamalarında veya paylaşılan belgelerde saklamayın.
- İşi yönetilmeyen aygıtlardan uzak tutun. Personel kişisel aygıtlarda yapay zekaya ihtiyaç duyuyorsa, izleyip geçersiz kılabileceğiniz şirket hesapları üzerinden oturum açmalarını şart koşun.
- Karanlık ağ izlemeyi ayarlayın. Çalışanların kimlik doğrulama bilgileri sızıntılarda göründüğünde sizi uyarır, böylece bir saldırgan harekete geçmeden önce siz harekete geçebilirsiniz.
Çalışanlarınız yapay zekayı her durumda kullanacak. Onlara günlük tutmayan, verilerinizle asla model eğitmeyen ve kaydedilen her sohbeti Proton’un bile açamayacağı bir şifrelemenin arkasına kilitleyen bir ChatGPT alternatifi sunun.
