Když vaši zaměstnanci používají nástroje AI, které jste neschválili, vytvářejí si účty, které nevidíte, nemůžete zabezpečit ani zrušit. Každý z nich má přitom historii chatu plnou vašich obchodních dat.
Nový výzkum, který zveřejnila společnost SOCRadar(nové okno), zjistil, že více než 80 000 organizací po celém světě mělo přihlášení svých zaměstnanců k AI uvedená v logech infostealerů. Infostealery jsou typ malwaru, který z infikovaných zařízení shromažďuje hesla, cookies relace, finanční a osobní údaje i záznamy chatů a odesílá je zpět útočníkovi. Díky těmto datům jsou phishingové nebo ransomwarové útoky mnohem účinnější.
Podle výzkumu logy zachytil známý infostealerový malware, který je v prodeji na Telegramu od roku 2022. Protože je malware v prodeji už roky, nelze zjistit, kolik zločinců ho použilo a jak infikovali zařízení lidí. Víme jen to, že cílili na zařízení s firemním přístupem a přebírali jejich relace s Claudem. Firemní uživatelé si všimli, že jakmile kyberzločinci získali přístup, bylo jejich placené využití přes noc vyčerpáno.
Výzkum společnosti SOCRadar dokazuje, že přihlašovací údaje k relacím AI jsou pro útočníky nesmírně cenné. Jedno přihlášení k AI může odemknout „prohledávatelný archiv, spouštěcí engine, zpoplatnitelný zdroj a identitu – a ukradená relace předá všechny bez výzvy k zadání hesla“, jak uvádí zpráva. Pro zločince je to zlatý důl.
Znepokojivým závěrem pro firmy, které dnes zavádějí AI, je, že tyto přihlašovací údaje neunikají kvůli zabezpečení samotných platforem AI. Unikají ze dvou méně zřejmých důvodů: kvůli obrovskému počtu zaměstnanců, kteří nástroje AI používají, a rostoucímu podílu tohoto využívání, které probíhá mimo kontrolu IT.
Co výzkum odhalil?
Celkově zpráva uvádí, že se přihlašovací údaje ke službám AI objevují v logech infostealerů ve významném množství. Hlavní zjištění jsou:
- V 80 000 jedinečných firemních doménách bylo odhaleno více než 1 000 000 záznamů spojených se službami AI.
- Z tohoto souboru ověřila průřez 482 organizací, které byly označeny za velké podniky, většinou v Severní Americe – 68 % z nich jsou organizace s miliardovým obratem.
- Největší skupinou jsou technologické firmy se 144 společnostmi a 40 % záznamů.
- Těchto 482 organizací představuje 5 434 záznamů v logech spojených s 1 500 firemními e-mailovými adresami.
- Expozice je nedávná: u 295 z těchto 482 organizací se záznamy v logech infostealerů objevily za posledních 90 dní.
- ChatGPT se objevil v logech u 358 z 482 organizací a v přibližně 90 % záznamů. Následují jej Zapier, Notion, Hugging Face, Replit, Lovable a ElevenLabs.
Poslední údaj vyvolává zřejmou otázku: proč právě ChatGPT? Vysvětlení společnosti SOCRadar souvisí méně se samotnými nástroji a více s tím, jak je zaměstnanci používají.
Shadow AI vytváří riziko
Shadow AI je jakýkoli nástroj AI, který zaměstnanci používají bez schválení nebo vědomí své společnosti. Zaměstnanci zavádějí shadow AI do firemních sítí, když jsou jejich firemní účty omezené nebo když nástroje, které mají, nejsou pro úkol, který plní, dostatečně účinné.
Výzkumník společnosti SOCRadar uvádí:
„Naprostou dominanci ChatGPT vnímáme jako signál shadow AI, nikoli jako hodnocení zabezpečení kteréhokoli dodavatele. Díky výhodě prvního hráče na trhu má ChatGPT pravděpodobně o řád více firemních uživatelů – mnoho z nich se registruje pracovním e-mailem na osobním zařízení, mimo jakoukoli zásadu. Přesně na tuto skupinu se infostealery zaměřují. Claude a Gemini se objevují jen minimálně, protože si na nich dosud potichu vytvořilo účty mnohem méně zaměstnanců – ne proto, že by bylo bezpečnější tyto přihlašovací údaje ukrást. Jakmile se ostatní asistenti ve firmách rozšíří ve srovnatelné míře, očekáváme, že se tento graf vyrovná.“
Zabezpečení ChatGPT tedy není důvodem, proč tento nástroj v logech infostealerů tak vyčnívá. ChatGPT je na prvním místě proto, že má nejvíce firemních uživatelů a že tolik z nich ho používá mimo firemní zásady.
Zaměstnanci se mohou snažit obejít omezující zásady IT, které jim brání zvolit nejrychlejší nebo nejsnazší možnost, ale také prostě nemusí vědět, jaké zásady nebo omezení platí. Vaše firma nemůže chránit účty, o kterých neví, že existují, ani dotazy provedené mimo firemní účet.
Bez ohledu na úmysl platí, že když zaměstnanci kombinují osobní a pracovní využívání AI, dostávají se do rozporu se zásadami vaší společnosti pro nakládání s daty a ocitají se namísto toho pod spotřebitelskými podmínkami OpenAI.
OpenAI tvrdí, že na firemních datech netrénuje, ale když zaměstnanec postupuje mimo pravidla přijatelného používání pro firmy nebo používá osobní účet k pracovním účelům, ztrácí nad těmito daty kontrolu: jeho archiv chatu (včetně citlivých obchodních dat nebo osobně identifikovatelných údajů (PII)) je shromažďován, zaznamenáván a může být použit k trénování modelů OpenAI.
OpenAI může obchodní data sdílet s třetími stranami nebo prostřednictvím integrací aplikací: v roce 2025 se hackerům podařilo napadnout dodavatele OpenAI a ukrást data firemních zákazníků včetně jmen, e-mailů, umístění a údajů o systémech. Jako americká společnost může být navíc nucena sdílet data s vládou USA na základě zákona Patriot Act nebo FISA, a to i bez toho, aby vás o tom informovala.
Jak chránit svou firmu před shadow AI
Shadow AI vzniká, když zaměstnanci nemají nástroj, který smějí používat, nebo dost dobrý nástroj. Prvním řešením je tedy jim ho dát.
Lumo od společnosti Proton dává vašemu týmu schválenou alternativu k osobním účtům a zajišťuje, že obchodní data zůstávají soukromá. Nevede logy ani netrénuje na firemních či osobních konverzacích. Veškerá uložená historie chatů je chráněna šifrováním s nulovým přístupem, takže ji nikdo (dokonce ani Proton) nemůže přečíst.
Šifrování chrání uložená data, ale nepomůže, když už je útočník v zařízení zaměstnance. Abyste tuto mezeru uzavřeli, podnikněte tyto kroky:
- Najděte účty, o kterých nevíte. Zkontrolujte, zda se domény vaší společnosti už neobjevují v logech stealerů, a zeptejte se týmů, které nástroje AI skutečně používají.
- Berte zásah v logech stealerů jako incident na koncovém bodu. Pokud se přihlašovací údaje zaměstnance objeví v logu, zařízení je infikované. Pouhé resetování hesla ponechá ukradenou relaci útočníka aktivní, proto odvolejte aktivní relace a zařízení vyčistěte nebo vyměňte.
- Zařaďte každý schválený nástroj AI za SSO s krátkodobými relacemi. Ukradený cookie, který vyprší za hodiny, má mnohem menší hodnotu než ten, který vydrží týdny.
- Zabezpečte klíče API. Omezte je jen na to, co potřebují, pravidelně je obměňujte a nikdy je neukládejte do aplikací pro poznámky ani do sdílených dokumentů.
- Nepracujte na nespravovaných zařízeních. Pokud zaměstnanci potřebují AI na osobních zařízeních, vyžadujte, aby se přihlašovali přes firemní účty, které můžete sledovat a odvolat.
- Nastavte sledování temného webu. Upozorní vás, když se přihlašovací údaje zaměstnanců objeví v únicích, takže můžete jednat dřív než útočník.
Vaši zaměstnanci budou AI používat tak jako tak. Nabídněte jim alternativu k ChatGPT, která nevede žádné logy, nikdy netrénuje na vašich datech a každý uložený chat uzamyká za šifrováním, které nedokáže otevřít ani Proton.
