Quando os seus colaboradores usam ferramentas de IA que não aprovou, criam contas que não consegue ver, proteger ou encerrar, cada uma com um histórico de conversa cheio de dados da sua empresa.
Uma nova investigação publicada pela SOCRadar(nova janela) concluiu que mais de 80 000 organizações em todo o mundo viram os inícios de sessão de IA dos seus colaboradores aparecerem em registos de infostealer. O infostealer é um tipo de malware que recolhe palavras-passe, cookies de sessão, informações financeiras e pessoais e registos de conversas de dispositivos infetados, enviando-os de volta para o atacante. Esses dados tornam os ataques de phishing ou de ransomware muito mais eficazes.
Segundo a investigação, os registos foram capturados por um conhecido infostealer que está à venda no Telegram desde 2022. Como o malware está à venda há anos, é impossível saber quantos criminosos o utilizaram e como infetaram os dispositivos das pessoas: o que sabemos é que têm visado dispositivos com acesso empresarial e sequestrado as suas sessões do Claude. Os utilizadores empresariais aperceberam-se de que o seu consumo pago tinha sido esgotado durante a noite, assim que os cibercriminosos obtiveram acesso.
A investigação da SOCRadar defende que as credenciais de sessão de IA são extremamente valiosas para os atacantes. Um único início de sessão de IA pode desbloquear «um arquivo pesquisável, um motor de execução, um recurso faturável e uma identidade — e a sessão roubada entrega todos eles sem pedir a palavra-passe», como refere o relatório. Para um criminoso, isto é uma mina de ouro.
A conclusão preocupante para as empresas que hoje adotam a IA é que estas credenciais não estão a ser expostas por causa da segurança das próprias plataformas de IA. Estão a ser expostas devido a dois fatores menos óbvios: o elevado número de colaboradores que usam ferramentas de IA e a crescente proporção dessa utilização que acontece fora do controlo da TI.
O que revela a investigação?
No geral, o relatório identifica que as credenciais de serviços de IA estão a aparecer em registos de infostealer em números significativos. As principais conclusões são:
- Foram revelados mais de 1 000 000 de registos ligados a serviços de IA em 80 000 domínios empresariais únicos.
- A partir desse conjunto, verificou que uma amostra de 482 organizações foi identificada como grandes empresas, sobretudo na América do Norte — 68% delas são organizações de mil milhões de dólares.
- As empresas de tecnologia são o maior grupo, com 144 empresas e 40% dos registos.
- Essas 482 organizações representam 5 434 registos ligados a 1 500 endereços de e-mail empresariais.
- A exposição é recente: 295 dessas 482 organizações tiveram registos de infostealer revelados nos últimos 90 dias.
- O ChatGPT apareceu em registos de 358 das 482 organizações e em cerca de 90% dos registos, seguido de Zapier, Notion, Hugging Face, Replit, Lovable e ElevenLabs.
Esse último dado levanta uma questão óbvia: porque razão o ChatGPT? A explicação da SOCRadar tem menos a ver com as ferramentas do que com a forma como os colaboradores as utilizam.
Shadow AI está a criar riscos
Shadow AI é qualquer ferramenta de IA que os colaboradores usam sem a aprovação ou o conhecimento da empresa. Os colaboradores introduzem a shadow AI nas redes da empresa quando as suas contas empresariais são limitadas ou quando as ferramentas de que dispõem não são eficazes para a tarefa que estão a realizar.
Um investigador da SOCRadar comenta:
«Interpretamos a quase total dominância do ChatGPT como um sinal de shadow AI, e não como um veredicto sobre a segurança de qualquer fornecedor. A vantagem de pioneiro do ChatGPT significa que provavelmente tem utilizadores empresariais numa ordem de grandeza superior — muitos deles registam-se com um e-mail de trabalho num dispositivo pessoal, fora de qualquer política. É exatamente essa a população que os infostealer recolhem. O Claude e o Gemini quase não aparecem porque ainda são muito menos os colaboradores que criaram contas neles de forma discreta — não porque essas credenciais sejam mais seguras de roubar. À medida que a adoção empresarial de outros assistentes aumentar, esperamos que este gráfico se equilibre.»
Portanto, a segurança do ChatGPT não é a culpada pela proeminência da ferramenta nos registos de infostealer. O ChatGPT lidera a lista porque tem o maior número de utilizadores empresariais e porque muitos deles o usam fora da política da empresa.
Os colaboradores podem também tentar contornar políticas de TI restritivas que os impedem de escolher a opção mais rápida ou mais fácil, mas também é possível que simplesmente não saibam que políticas ou restrições estão em vigor. A sua empresa não pode proteger contas que não sabe que existem nem pedidos feitos fora de uma conta empresarial.
Independentemente da intenção, quando os trabalhadores combinam o uso pessoal e profissional da IA, violam as políticas de utilização de dados da sua empresa e ficam sujeitos aos termos de utilização para consumidores da OpenAI.
A OpenAI diz que não treina com dados empresariais, mas quando um colaborador atua fora das diretrizes de utilização aceitável da empresa ou usa uma conta pessoal para fins profissionais, perde o controlo desses dados: o seu arquivo de conversas, que inclui dados empresariais sensíveis ou informações de identificação pessoal (PII), é recolhido, registado e pode ser usado para treinar os modelos da OpenAI.
A OpenAI pode partilhar dados empresariais com terceiros ou através de integrações de aplicações: em 2025, os piratas informáticos conseguiram comprometer um fornecedor da OpenAI e roubar dados de clientes empresariais, incluindo nomes, e-mails, localizações e detalhes de sistemas. Enquanto empresa norte-americana, pode também ser obrigada a partilhar dados com o governo dos EUA ao abrigo do Patriot Act ou da FISA, mesmo sem o notificar.
Como proteger a sua empresa da shadow AI
A shadow AI acontece quando os colaboradores não têm uma ferramenta que lhes seja permitido usar, ou uma suficientemente boa. Por isso, a primeira solução é dar-lhes uma.
O Lumo, criado pela Proton, oferece à sua equipa uma alternativa autorizada às contas pessoais e mantém os dados da empresa privados. Não guarda registos nem treina com conversas empresariais ou pessoais. Todo o histórico de conversas guardado está protegido com encriptação de acesso zero, pelo que ninguém, nem sequer a Proton, o pode ler.
A encriptação protege os dados armazenados, mas não ajuda se um atacante já estiver no dispositivo do colaborador. Para colmatar esta lacuna, siga estes passos:
- Encontre as contas que desconhece. Verifique se os domínios da sua empresa já aparecem em registos de stealer e pergunte às equipas que ferramentas de IA usam realmente.
- Trate um registo de stealer como um incidente de ponto final. Se as credenciais de um colaborador aparecerem num registo, o dispositivo está infetado. Repor a palavra-passe por si só deixa a sessão roubada do atacante ativa, por isso revogue as sessões ativas e limpe ou substitua a máquina.
- Coloque todas as ferramentas de IA autorizadas atrás de SSO com sessões de curta duração. Um cookie roubado que expira em horas vale muito menos do que um que dura semanas.
- Proteja as chaves de API. Atribua-lhes apenas o âmbito necessário, rode-as regularmente e nunca as guarde em aplicações de notas ou documentos partilhados.
- Mantenha o trabalho fora de dispositivos não geridos. Se os colaboradores precisarem de IA em dispositivos pessoais, exija que iniciem sessão através de contas da empresa que possa monitorizar e revogar.
- Configure a monitorização da dark web. Alerta-o quando as credenciais dos colaboradores aparecem em fugas, para que possa agir antes do atacante.
Os seus colaboradores vão usar IA de qualquer forma. Ofereça-lhes uma alternativa ao ChatGPT que não guarda registos, nunca treina com os seus dados e protege cada conversa guardada com uma encriptação que nem a própria Proton consegue abrir.
