Când angajații dumneavoastră folosesc instrumente AI pe care nu le-ați aprobat, aceștia creează conturi pe care nu le puteți vedea, securiza sau închide, fiecare cu un istoric de conversații plin de datele dumneavoastră de business.
O cercetare nouă publicată de SOCRadar(fereastră nouă) a constatat că, la nivel global, datele de conectare la AI ale angajaților din peste 80.000 de organizații au apărut în jurnalele de tip infostealer. Infostealerii sunt un tip de malware care colectează parole, cookie-uri de sesiune, date financiare și personale, precum și jurnale de conversații de pe dispozitivele infectate și le trimit înapoi atacatorului. Aceste date fac atacurile de phishing sau ransomware mult mai eficiente.
Potrivit cercetării, jurnalele au fost captate de un program malware infostealer bine cunoscut, aflat în vânzare pe Telegram din 2022. Deoarece malware-ul este în vânzare de ani de zile, este imposibil de știut câți infractori l-au folosit și cum au infectat dispozitivele oamenilor: ceea ce știm este că au vizat dispozitive cu acces corporativ și au deturnat sesiunile Claude ale acestora. Utilizatorii de business au observat că utilizarea lor plătită a fost epuizată peste noapte, odată ce infractorii cibernetici au obținut acces.
Cercetarea SOCRadar susține că acreditările de sesiune AI sunt extrem de valoroase pentru atacatori. O singură conectare la AI poate debloca „o arhivă în care se poate căuta, un motor de execuție, o resursă facturabilă și o identitate, iar sesiunea furată le predă pe toate fără a cere parola”, după cum se arată în raport. Pentru un infractor, aceasta este o mină de aur.
Concluzia îngrijorătoare pentru companiile care adoptă AI astăzi este că aceste acreditări nu se divulgă din cauza securității platformelor AI în sine. Ele se divulgă din cauza a doi factori mai puțin evidenți: numărul enorm de angajați care folosesc instrumente AI și ponderea tot mai mare a acestei utilizări care are loc în afara controlului IT.
Ce dezvăluie cercetarea?
În general, raportul identifică faptul că acreditările pentru serviciile AI apar în jurnalele de tip infostealer într-un număr semnificativ. Principalele concluzii sunt:
- Peste 1.000.000 de înregistrări legate de serviciile AI au fost dezvăluite în 80.000 de domenii corporative unice.
- Din acest set, a fost verificată o secțiune transversală de 482 de organizații identificate ca întreprinderi majore, majoritatea în America de Nord. 68% dintre ele sunt organizații de miliarde de dolari.
- Firmele de tehnologie sunt cel mai mare grup, cu 144 de companii și 40% din înregistrări.
- Cele 482 de organizații reprezintă 5.434 de înregistrări de jurnal legate de 1.500 de adrese de e-mail corporative.
- Expunerea este recentă: 295 dintre cele 482 de organizații au avut înregistrări în jurnalele de tip infostealer apărute în ultimele 90 de zile.
- ChatGPT a apărut în jurnale pentru 358 dintre cele 482 de organizații și în aproximativ 90% din înregistrări, fiind urmat de Zapier, Notion, Hugging Face, Replit, Lovable și ElevenLabs.
Ultima statistică ridică o întrebare evidentă: de ce ChatGPT? Explicația SOCRadar are mai puțin de-a face cu instrumentele și mai mult cu modul în care le folosesc angajații.
Shadow AI creează riscuri
Shadow AI reprezintă orice instrument AI pe care angajații îl folosesc fără aprobarea sau știrea companiei. Angajații introduc Shadow AI în rețelele companiei atunci când conturile corporative sunt limitate sau instrumentele de care dispun nu sunt eficiente pentru sarcina pe care o desfășoară.
Un cercetător de la SOCRadar comentează:
„Citim dominația aproape totală a ChatGPT ca pe un semnal de Shadow AI, nu ca pe o sentință privind securitatea vreunui furnizor. Avantajul de a fi fost primul pe piață înseamnă că ChatGPT are probabil cu un ordin de mărime mai mulți utilizatori corporativi, mulți dintre ei înregistrându-se cu un e-mail de serviciu pe un dispozitiv personal, în afara oricărei politici. Exact acesta este grupul pe care îl vânează infostealerii. Claude și Gemini apar abia, pentru că mult mai puțini angajați și-au creat încă discret conturi pe ele, nu pentru că acele acreditări ar fi mai sigure de furat. Pe măsură ce adoptarea altor asistenți la nivel de întreprindere recuperează din urmă, ne așteptăm ca această diagramă să se uniformizeze.”
Prin urmare, securitatea ChatGPT nu este vinovată pentru prominența instrumentului în jurnalele de tip infostealer. ChatGPT se află în fruntea listei pentru că are cei mai mulți utilizatori corporativi și pentru că foarte mulți dintre ei îl folosesc în afara politicii companiei.
Angajații pot încerca, de asemenea, să eludeze politicile IT restrictive care îi împiedică să aleagă opțiunea cea mai rapidă sau mai ușoară, dar s-ar putea să nu știe nici măcar ce politici sau restricții există. Compania dumneavoastră nu poate proteja conturi despre care nu știe că există sau interogări făcute în afara unui cont de business.
Indiferent de intenție, atunci când angajații combină utilizarea personală și cea de business a AI, ei încalcă politicile companiei dumneavoastră privind utilizarea datelor și ajung, în schimb, sub incidența termenilor pentru consumatori ai OpenAI.
OpenAI afirmă că nu antrenează modele pe date de business, dar atunci când un angajat acționează în afara normelor de utilizare acceptabilă pentru business sau folosește un cont personal în scopuri de business, pierde controlul asupra acelor date: arhiva de conversații, care include date de business sensibile sau informații de identificare personală (PII), este colectată, înregistrată în jurnale și posibil folosită pentru a antrena modelele OpenAI.
OpenAI poate partaja date de business cu terți sau prin integrări în aplicații: în 2025, hackerii au reușit să spargă un furnizor al OpenAI și să fure date ale clienților de business, inclusiv nume, adrese de e-mail, locații și detalii de sistem. Întrucât este o companie din SUA, poate fi și obligată să partajeze date cu guvernul american în temeiul Patriot Act sau FISA, chiar fără să vă notifice.
Cum să vă protejați compania de Shadow AI
Shadow AI apare atunci când angajații nu au un instrument pe care au voie să îl folosească sau unul suficient de bun. Așadar, prima soluție este să le oferiți unul.
Lumo, creat de Proton, oferă echipei dumneavoastră o alternativă autorizată la conturile personale și menține datele de business private. Nu păstrează jurnale și nu antrenează modele pe conversații de business sau personale. Întregul istoric de conversații salvat este protejat prin criptare cu acces zero, astfel încât nimeni, nici măcar Proton, nu îl poate citi.
Criptarea protejează datele stocate, dar nu ajută dacă atacatorul se află deja pe dispozitivul angajatului. Pentru a acoperi această lacună, urmați acești pași:
- Identificați conturile despre care nu știți. Verificați dacă domeniile companiei dumneavoastră apar deja în jurnalele de tip stealer și întrebați echipele ce instrumente AI folosesc de fapt.
- Tratați o apariție în jurnalele de tip stealer ca pe un incident la nivel de endpoint. Dacă acreditările unui angajat apar într-un jurnal, dispozitivul este infectat. Doar resetarea parolei lasă sesiunea furată a atacatorului activă, așa că revocați sesiunile active și curățați sau înlocuiți dispozitivul.
- Puneți fiecare instrument AI autorizat în spatele SSO, cu sesiuni de scurtă durată. Un cookie furat care expiră în câteva ore valorează mult mai puțin decât unul care durează săptămâni.
- Securizați cheile API. Limitați-le la ce au nevoie, rotiți-le regulat și nu le stocați niciodată în aplicații de note sau documente partajate.
- Țineți activitatea departe de dispozitivele neadministrate. Dacă personalul are nevoie de AI pe dispozitive personale, cereți-le să se conecteze prin conturi de companie pe care le puteți monitoriza și revoca.
- Configurați monitorizarea dark web. Vă alertează când acreditările angajaților apar în divulgări, astfel încât să puteți acționa înainte de atacator.
Angajații dumneavoastră vor folosi AI oricum. Oferiți-le o alternativă la ChatGPT care nu păstrează jurnale, nu se antrenează niciodată pe datele dumneavoastră și protejează fiecare conversație salvată în spatele unei criptări pe care nici măcar Proton nu o poate deschide.
