Quando i tuoi dipendenti usano strumenti AI che non hai approvato, creano account che non puoi vedere, proteggere o chiudere, ognuno con una cronologia chat piena dei dati della tua azienda.

Una nuova ricerca pubblicata da SOCRadar(nuova finestra) ha rilevato che più di 80.000 organizzazioni in tutto il mondo hanno visto i login AI dei propri dipendenti comparire nei log degli infostealer. Gli infostealer sono un tipo di malware che raccoglie password, cookie di sessione, dati finanziari e personali e log delle chat dai dispositivi infetti e li invia all’attaccante. Questi dati rendono gli attacchi di phishing o ransomware molto più efficaci.

Secondo la ricerca, i log sono stati catturati da un noto malware infostealer in vendita su Telegram dal 2022. Poiché il malware è in vendita da anni, è impossibile sapere quanti criminali lo abbiano usato e come abbiano infettato i dispositivi delle persone: quello che sappiamo è che hanno preso di mira dispositivi con accesso aziendale e dirottato le loro sessioni Claude. Gli utenti business hanno notato che il loro utilizzo a pagamento era stato esaurito nel giro di una notte, una volta che i cybercriminali avevano ottenuto l’accesso.

La ricerca di SOCRadar sostiene che le credenziali di sessione AI sono estremamente preziose per gli attaccanti. Un singolo login AI può sbloccare “un archivio ricercabile, un motore di esecuzione, una risorsa fatturabile e un’identità — e la sessione rubata le consegna tutte senza chiedere una password”, come si legge nel report. Per un criminale, è una miniera d’oro.

La conclusione preoccupante per le aziende che oggi adottano l’AI è che queste credenziali non trapelano a causa della sicurezza delle piattaforme AI stesse. Trapelano per due fattori meno evidenti: l’enorme numero di dipendenti che usano strumenti AI e la quota crescente di questo utilizzo che avviene fuori dal controllo dell’IT.

Cosa rivela la ricerca?

Nel complesso, il report rileva che le credenziali dei servizi AI compaiono in numero significativo nei log degli infostealer. I punti chiave sono:

  • Più di 1.000.000 di record collegati a servizi AI sono emersi in 80.000 domini aziendali unici.
  • Da questo insieme, è stato verificato un campione trasversale di 482 organizzazioni identificate come grandi imprese, per lo più in Nord America: il 68% di esse è costituito da organizzazioni da miliardi di dollari.
  • Le aziende tecnologiche sono il gruppo più numeroso, con 144 imprese e il 40% dei record.
  • Queste 482 organizzazioni rappresentano 5.434 record di log riconducibili a 1.500 indirizzi email aziendali.
  • L’esposizione è recente: 295 delle 482 organizzazioni hanno visto comparire record di log di infostealer negli ultimi 90 giorni.
  • ChatGPT è comparso nei log di 358 delle 482 organizzazioni e in circa il 90% dei record, seguito da Zapier, Notion, Hugging Face, Replit, Lovable ed ElevenLabs.

Quest’ultimo dato solleva una domanda ovvia: perché ChatGPT? La spiegazione di SOCRadar ha meno a che fare con gli strumenti che con il modo in cui i dipendenti li usano.

Lo Shadow AI crea rischi

Shadow AI è qualunque strumento AI che i dipendenti usano senza l’approvazione o la conoscenza dell’azienda. I dipendenti introducono lo Shadow AI nelle reti aziendali quando i loro account aziendali sono limitati o gli strumenti di cui dispongono non sono efficaci per l’attività che devono svolgere.

Un ricercatore di SOCRadar commenta:

“Leggiamo la dominanza quasi totale di ChatGPT come un segnale di shadow AI, non come un verdetto sulla sicurezza di alcun fornitore. Il vantaggio di ChatGPT come first mover significa che probabilmente ha un ordine di grandezza in più di utenti aziendali — molti dei quali si registrano con un’email di lavoro su un dispositivo personale, al di fuori di qualsiasi policy. È esattamente la popolazione che gli infostealer raccolgono. Claude e Gemini compaiono appena perché finora molti meno dipendenti hanno creato account in silenzio su di loro, non perché quelle credenziali siano più sicure da rubare. Man mano che l’adozione aziendale degli altri assistenti recupera terreno, ci aspettiamo che questo grafico si uniformi.”

Quindi la sicurezza di ChatGPT non è la causa della prominenza dello strumento nei log degli infostealer. ChatGPT è in cima alla lista perché ha il maggior numero di utenti aziendali e perché molti di loro lo usano al di fuori delle policy aziendali.

I dipendenti possono anche cercare di eludere policy IT restrittive che impediscono loro di scegliere l’opzione più rapida o più semplice, ma possono anche non sapere davvero quali policy o restrizioni siano in vigore. La tua azienda non può proteggere account di cui non conosce l’esistenza, né le query effettuate al di fuori di un account aziendale.

Indipendentemente dall’intenzione, quando i lavoratori combinano l’uso personale e aziendale dell’AI, violano le policy di utilizzo dei dati della tua azienda e ricadono invece nelle condizioni per consumatori di OpenAI.

OpenAI afferma di non addestrare i modelli sui dati aziendali, ma quando un dipendente opera al di fuori delle linee guida di utilizzo accettabile per le aziende o usa un account personale per scopi aziendali, perde il controllo di quei dati: il suo archivio chat (che include dati aziendali sensibili o informazioni di identificazione personale (PII)) viene raccolto, registrato nei log e potenzialmente usato per addestrare i modelli di OpenAI.

OpenAI può condividere i dati aziendali con terze parti o tramite integrazioni di app: nel 2025, gli hacker sono riusciti a violare un fornitore di OpenAI e a rubare i dati dei clienti business, tra cui nomi, email, posizioni e dettagli dei sistemi. In quanto azienda statunitense, può anche essere obbligata a condividere i dati con il governo degli Stati Uniti ai sensi del Patriot Act o del FISA, anche senza avvisarti.

Come proteggere la tua azienda dallo Shadow AI

Lo Shadow AI si verifica quando i dipendenti non hanno uno strumento che sono autorizzati a usare, o non ne hanno uno abbastanza buono. Quindi la prima soluzione è fornirgliene uno.

Lumo, sviluppato da Proton, offre al tuo team un’alternativa autorizzata agli account personali e mantiene privati i dati aziendali. Non conserva log né si addestra su conversazioni aziendali o personali. Tutta la cronologia chat salvata è protetta da crittografia zero-access, quindi nessuno (nemmeno Proton) può leggerla.

La crittografia protegge i dati archiviati, ma non può aiutare se un attaccante è già sul dispositivo del dipendente. Per colmare questa lacuna, segui questi passaggi:

  • Individua gli account di cui non sei a conoscenza. Verifica se i domini della tua azienda compaiono già nei log degli stealer e chiedi ai team quali strumenti AI usano davvero.
  • Tratta un’occorrenza nei log degli stealer come un incidente su endpoint. Se le credenziali di un dipendente compaiono in un log, il dispositivo è infetto. Reimpostare solo la password lascia attiva la sessione rubata dall’attaccante, quindi revoca le sessioni attive e pulisci o sostituisci la macchina.
  • Metti ogni strumento AI autorizzato dietro l’SSO con sessioni di breve durata. Un cookie rubato che scade in poche ore vale molto meno di uno che dura settimane.
  • Proteggi le chiavi API. Limitale a ciò che serve, ruotale regolarmente e non salvarle mai in app per note o documenti condivisi.
  • Tieni il lavoro fuori dai dispositivi non gestiti. Se il personale ha bisogno dell’AI su dispositivi personali, chiedi di accedere tramite account aziendali che puoi monitorare e revocare.
  • Configura il Monitoraggio del Dark Web. Ti avvisa quando le credenziali dei dipendenti compaiono in perdite di dati, così puoi agire prima che lo faccia un attaccante.

I tuoi dipendenti useranno l’AI in ogni caso. Offri loro un’alternativa a ChatGPT che non conserva log, non si addestra mai sui tuoi dati e protegge ogni chat salvata con una crittografia che nemmeno Proton può aprire.

Prova Lumo for Business.