Quando seus funcionários usam ferramentas de IA que você não aprovou, eles criam contas que você não consegue ver, proteger nem encerrar, cada uma com um histórico de conversas cheio de dados da sua empresa.
Uma nova pesquisa publicada pela SOCRadar(nova janela) descobriu que mais de 80.000 organizações no mundo todo tiveram inícios de sessão de IA de seus funcionários expostos em registros de infostealer. Os infostealers são um tipo de malware que coleta senhas, cookies de sessão, dados financeiros e pessoais e registros de conversas de dispositivos infectados e os envia de volta ao atacante. Esses dados tornam os ataques de phishing ou ransomware muito mais eficazes.
De acordo com a pesquisa, os registros foram capturados por um conhecido malware infostealer que está à venda no Telegram desde 2022. Como o malware está à venda há anos, é impossível saber quantos criminosos o usaram e como infectaram os dispositivos das pessoas: o que sabemos é que eles têm como alvo dispositivos com acesso corporativo e sequestram suas sessões do Claude. Usuários empresariais perceberam que seu uso pago foi esgotado da noite para o dia assim que os cibercriminosos obtiveram acesso.
A pesquisa da SOCRadar defende que as credenciais de sessão de IA são extremamente valiosas para os atacantes. Um único início de sessão de IA pode desbloquear “um arquivo pesquisável, um motor de execução, um recurso faturável e uma identidade — e a sessão roubada entrega todos eles sem solicitar senha”, como diz o relatório. Para um criminoso, isso é uma mina de ouro.
A conclusão preocupante para as empresas que adotam IA hoje é que essas credenciais não estão vazando por causa da segurança das próprias plataformas de IA. Elas estão vazando por dois fatores menos óbvios: o grande número de funcionários que usam ferramentas de IA e a parcela crescente desse uso que acontece fora do controle do setor de TI.
O que a pesquisa revela?
No geral, o relatório identifica que credenciais de serviços de IA estão aparecendo em registros de infostealer em números significativos. As principais conclusões são:
- Mais de 1.000.000 de registros conectados a serviços de IA foram revelados em 80.000 domínios corporativos únicos.
- Desse conjunto, uma amostra de 482 organizações foi identificada como grandes empresas, em sua maioria na América do Norte. Dessas, 68% são organizações bilionárias.
- As empresas de tecnologia formam o maior grupo, com 144 companhias e 40% dos registros.
- Essas 482 organizações representam 5.434 registros vinculados a 1.500 endereços de e-mail corporativos.
- A exposição é recente: 295 dessas 482 organizações tiveram registros de infostealer revelados nos últimos 90 dias.
- O ChatGPT apareceu nos registros de 358 das 482 organizações e em cerca de 90% dos registros, seguido por Zapier, Notion, Hugging Face, Replit, Lovable e ElevenLabs.
Esse último dado levanta uma pergunta óbvia: por que o ChatGPT? A explicação da SOCRadar tem menos a ver com as ferramentas do que com a forma como os funcionários as usam.
A Shadow AI está criando riscos
A Shadow AI é qualquer ferramenta de IA que os funcionários usam sem a aprovação ou o conhecimento da empresa. Os funcionários introduzem a shadow AI nas redes corporativas quando suas contas corporativas são limitadas ou quando as ferramentas disponíveis não são eficazes para a tarefa que precisam realizar.
Um pesquisador da SOCRadar comenta:
“Interpretamos o domínio quase total do ChatGPT como um sinal de shadow AI, e não um veredito sobre a segurança de qualquer fornecedor. A vantagem de pioneirismo do ChatGPT significa que ele provavelmente tem uma ordem de magnitude a mais de usuários corporativos — muitos deles criando conta com um e-mail de trabalho em um dispositivo pessoal, fora de qualquer política. É exatamente essa população que os infostealers capturam. Claude e Gemini quase não aparecem porque muito menos funcionários já criaram contas discretamente neles — não porque essas credenciais sejam mais seguras de roubar. À medida que a adoção empresarial de outros assistentes aumentar, esperamos que este gráfico se equilibre.”
Portanto, a segurança do ChatGPT não é a culpada pela proeminência da ferramenta nos registros de infostealer. O ChatGPT lidera a lista porque tem o maior número de usuários corporativos e porque muitos deles o usam fora das políticas da empresa.
Os funcionários também podem tentar contornar políticas restritivas de TI que os impedem de escolher a opção mais rápida ou mais fácil, mas também pode ser que realmente não saibam quais políticas ou restrições estão em vigor. Sua empresa não consegue proteger contas que não sabe que existem, nem consultas feitas fora de uma conta corporativa.
Independentemente da intenção, quando os colaboradores combinam o uso pessoal e profissional de IA, eles violam as políticas de uso de dados da sua empresa e passam a ficar sujeitos aos termos de consumo da OpenAI.
A OpenAI afirma que não treina com dados empresariais, mas quando um funcionário atua fora das diretrizes de uso aceitável da empresa ou usa uma conta pessoal para fins profissionais, ele perde o controle desses dados: seu arquivo de conversas (incluindo dados empresariais sensíveis ou informações de identificação pessoal (PII)) é coletado, registrado e potencialmente usado para treinar os modelos da OpenAI.
A OpenAI pode compartilhar dados empresariais com terceiros ou por meio de integrações de aplicativos: em 2025, hackers conseguiram invadir um fornecedor da OpenAI e roubar dados de clientes empresariais, incluindo nomes, e-mails, localizações e detalhes do sistema. Como empresa dos Estados Unidos, ela também pode ser obrigada a compartilhar dados com o governo norte-americano com base no Patriot Act ou na FISA, mesmo sem avisar você.
Como proteger sua empresa da shadow AI
A shadow AI acontece quando os funcionários não têm uma ferramenta que lhes seja permitida ou uma que seja boa o suficiente. Então a primeira solução é oferecer uma a eles.
O Lumo, desenvolvido pela Proton, oferece à sua equipe uma alternativa autorizada às contas pessoais e mantém os dados da empresa privados. Ele não mantém registros nem treina com conversas profissionais ou pessoais. Todo o histórico de conversas salvo é protegido por criptografia de acesso zero, então ninguém (nem mesmo a Proton) pode lê-lo.
A criptografia protege os dados armazenados, mas não ajuda se um atacante já estiver no dispositivo do funcionário. Para fechar essa lacuna, siga estas etapas:
- Encontre as contas que você não conhece. Verifique se os domínios da sua empresa já aparecem em registros de stealer e pergunte às equipes quais ferramentas de IA elas realmente usam.
- Trate um resultado em registros de stealer como um incidente de ponto de extremidade. Se as credenciais de um funcionário aparecerem em um registro, o dispositivo está infectado. Apenas redefinir a senha mantém a sessão roubada do atacante ativa, então revogue as sessões ativas e limpe ou substitua a máquina.
- Coloque todas as ferramentas de IA autorizadas atrás de SSO com sessões de curta duração. Um cookie roubado que expira em horas vale muito menos do que um que dura semanas.
- Proteja as chaves de API. Limite-as ao que elas precisam, faça rotação delas regularmente e nunca as armazene em aplicativos de notas ou documentos compartilhados.
- Mantenha o trabalho fora de dispositivos não gerenciados. Se a equipe precisar de IA em dispositivos pessoais, exija que iniciem sessão por meio de contas corporativas que você possa monitorar e revogar.
- Configure o Monitoramento da Dark Web. Ele avisa quando as credenciais de funcionários aparecem em vazamentos, para que você possa agir antes do atacante.
Seus funcionários vão usar IA de qualquer forma. Ofereça a eles uma alternativa ao ChatGPT que não mantém registros, nunca treina com seus dados e protege cada conversa salva com uma criptografia que nem a Proton consegue abrir.
