Gdy pracownicy korzystają z niezatwierdzonych narzędzi AI, tworzą konta, których firma nie widzi, nie może zabezpieczyć ani zablokować, a każde z nich zawiera historię czatów pełną danych firmowych.
Nowe badanie opublikowane przez SOCRadar(nowe okno) wykazało, że dane logowania pracowników do AI z ponad 80 000 organizacji na całym świecie pojawiły się w logach infostealerów. Infostealery to rodzaj złośliwego oprogramowania, które zbiera hasła, pliki cookies sesji, dane finansowe i osobowe oraz logi czatów z zainfekowanych urządzeń i wysyła je z powrotem do atakującego. Takie dane sprawiają, że ataki polegające na próbie wyłudzenia informacji lub ataki ransomware stają się znacznie skuteczniejsze.
Zgodnie z wynikami badania logi zostały przechwycone przez znane złośliwe oprogramowanie typu infostealer, które od 2022 roku jest sprzedawane na Telegramie. Ponieważ złośliwe oprogramowanie jest w sprzedaży od lat, nie sposób ustalić, ilu przestępców z niego korzystało i w jaki sposób infekowali urządzenia. Wiadomo natomiast, że obierali za cel urządzenia z dostępem firmowym i przejmowali ich sesje Claude’a. Użytkownicy biznesowi zauważyli, że ich opłacone limity zostały wyczerpane przez noc, gdy cyberprzestępcy uzyskali dostęp.
Badanie SOCRadar dowodzi, że dane logowania do sesji AI są dla atakujących niezwykle cenne. Pojedynczy login do AI może odblokować „przeszukiwalne archiwum, silnik wykonawczy, zasób rozliczany i tożsamość — a skradziona sesja przekazuje je wszystkie bez monitu o hasło”, jak ujmuje to raport. Dla przestępcy to istna kopalnia złota.
Niepokojący wniosek dla firm, które dziś wdrażają AI, jest taki, że te dane logowania nie wyciekają z powodu bezpieczeństwa samych platform AI. Wyciekają z dwóch mniej oczywistych powodów: ogromnej liczby pracowników korzystających z narzędzi AI oraz rosnącego udziału tego użycia, które odbywa się poza kontrolą IT.
Co ujawnia badanie?
Ogólnie rzecz biorąc, raport wskazuje, że dane logowania do usług AI pojawiają się w logach infostealerów w znaczących ilościach. Najważniejsze wnioski:
- W ponad 80 000 unikalnych domen firmowych ujawniono ponad 1 000 000 rekordów powiązanych z usługami AI.
- Z tego zbioru zweryfikowano przekrój 482 organizacji, które uznano za duże przedsiębiorstwa, głównie w Ameryce Północnej — 68% z nich to organizacje warte miliardy dolarów.
- Największą grupę stanowią firmy technologiczne — 144 przedsiębiorstwa i 40% rekordów.
- Te 482 organizacje odpowiadają za 5 434 wpisy w logach powiązane z 1 500 firmowymi adresami e-mail.
- Ujawnienie jest świeże: w przypadku 295 z tych 482 organizacji rekordy z logów infostealerów pojawiły się w ciągu ostatnich 90 dni.
- ChatGPT pojawił się w logach 358 z 482 organizacji i w około 90% rekordów, a za nim znalazły się Zapier, Notion, Hugging Face, Replit, Lovable i ElevenLabs.
Ta ostatnia statystyka nasuwa oczywiste pytanie: dlaczego ChatGPT? Wyjaśnienie SOCRadar ma mniej wspólnego z samymi narzędziami, a więcej z tym, jak korzystają z nich pracownicy.
Shadow AI stwarza ryzyko
Shadow AI to każde narzędzie AI, z którego pracownicy korzystają bez zgody lub wiedzy firmy. Pracownicy wprowadzają shadow AI do firmowych sieci, gdy ich konta służbowe są ograniczone albo dostępne narzędzia nie sprawdzają się w zadaniu, które wykonują.
Badacz z SOCRadar komentuje:
„Ogromną dominację ChatGPT odczytujemy jako sygnał shadow AI, a nie osąd o bezpieczeństwie któregokolwiek dostawcy. Przewaga ChatGPT jako pierwszego gracza na rynku oznacza, że ma on prawdopodobnie o rząd wielkości więcej użytkowników biznesowych — wielu z nich rejestruje się firmowym adresem e-mail na prywatnym urządzeniu, poza jakimikolwiek zasadami. Dokładnie tę grupę wyłuskują infostealery. Claude i Gemini pojawiają się rzadko, bo znacznie mniej pracowników zdążyło po cichu założyć na nich konta — nie dlatego, że te dane logowania trudniej ukraść. Gdy wdrożenia innych asystentów w firmach dogonią ChatGPT, spodziewamy się, że ten wykres się wyrówna.”
Bezpieczeństwo ChatGPT nie jest więc winowajcą tego, że to narzędzie tak często pojawia się w logach infostealerów. ChatGPT zajmuje pierwsze miejsce, bo ma najwięcej użytkowników biznesowych i wielu z nich korzysta z niego wbrew firmowym zasadom.
Pracownicy mogą też próbować omijać restrykcyjne zasady IT, które nie pozwalają im wybrać najszybszej lub najłatwiejszej opcji, ale równie dobrze mogą po prostu nie wiedzieć, jakie zasady lub ograniczenia obowiązują. Firma nie może chronić kont, o których istnieniu nie wie, ani zapytań kierowanych poza kontem służbowym.
Niezależnie od intencji, gdy pracownicy łączą prywatne i służbowe korzystanie z AI, naruszają zasady wykorzystania danych obowiązujące w firmie i zamiast tego podlegają warunkom konsumenckim OpenAI.
OpenAI twierdzi, że nie trenuje na danych biznesowych, ale gdy pracownik działa poza firmowymi wytycznymi dotyczącymi dopuszczalnego użytku lub używa prywatnego konta do celów służbowych, traci kontrolę nad tymi danymi: jego archiwum czatów (w tym wrażliwe dane biznesowe lub dane umożliwiające identyfikację osoby (PII)) jest gromadzone, zapisywane w logach i potencjalnie wykorzystywane do trenowania modeli OpenAI.
OpenAI może udostępniać dane biznesowe podmiotom trzecim lub za pośrednictwem integracji z aplikacjami: w 2025 roku hakerzy zdołali włamać się do dostawcy OpenAI i ukraść dane klientów biznesowych, w tym nazwiska, adresy e-mail, lokalizacje i szczegóły systemów. Jako firma z USA może też zostać zobowiązana do udostępnienia danych rządowi USA na mocy Patriot Act lub FISA, nawet bez powiadamiania o tym.
Jak chronić firmę przed shadow AI
Do shadow AI dochodzi wtedy, gdy pracownicy nie mają narzędzia, którego mogą używać, albo nie mają wystarczająco dobrego. Pierwszym rozwiązaniem jest dać im takie narzędzie.
Lumo, stworzone przez Proton, daje zespołowi zatwierdzoną alternatywę dla prywatnych kont i sprawia, że dane firmowe pozostają prywatne. Nie przechowuje logów ani nie trenuje na rozmowach służbowych czy prywatnych. Cała zapisana historia czatów jest chroniona szyfrowaniem z zerowym dostępem, więc nikt (nawet Proton) nie może jej przeczytać.
Szyfrowanie chroni przechowywane dane, ale nie pomoże, jeśli atakujący jest już na urządzeniu pracownika. Aby zamknąć tę lukę, podejmij następujące kroki:
- Znajdź konta, o których nie wiesz. Sprawdź, czy domeny firmy pojawiają się już w logach stealerów, i zapytaj zespoły, z jakich narzędzi AI faktycznie korzystają.
- Traktuj trafienie w logach stealerów jak incydent dotyczący punktu końcowego. Jeśli dane logowania pracownika pojawią się w logu, urządzenie jest zainfekowane. Samo zresetowanie hasła pozostawia skradzioną sesję atakującego aktywną, dlatego unieważnij aktywne sesje i wyczyść lub wymień komputer.
- Umieść każde zatwierdzone narzędzie AI za SSO z krótkotrwałymi sesjami. Skradziony plik cookie, który wygasa w ciągu kilku godzin, jest wart znacznie mniej niż taki, który działa tygodniami.
- Zabezpiecz klucze interfejsu API. Ogranicz je do niezbędnego zakresu, regularnie je rotuj i nigdy nie przechowuj ich w aplikacjach do notatek ani współdzielonych dokumentach.
- Trzymaj pracę poza niezarządzanymi urządzeniami. Jeśli pracownicy potrzebują AI na prywatnych urządzeniach, wymagaj logowania przez firmowe konta, które możesz monitorować i unieważniać.
- Skonfiguruj Monitoring dark web. Informuje cię, gdy dane logowania pracowników pojawią się w wyciekach, dzięki czemu możesz działać, zanim zrobi to atakujący.
Pracownicy i tak będą korzystać z AI. Zaproponuj im alternatywę dla ChatGPT, która nie przechowuje logów, nigdy nie trenuje na danych i chroni każdy zapisany czat szyfrowaniem, którego nie otworzy nawet Proton.
