Shadow AI é um risco oculto para a sua empresa

As ferramentas de IA fazem agora parte do trabalho diário, ajudando a resumir notas de reuniões, redigir e-mails de rascunho, depurar código, analisar folhas de cálculo e transformar documentos em apresentações. No entanto, quando utilizadas sem aprovação ou supervisão, podem suscitar sérias preocupações de privacidade de IA, expor informações empresariais confidenciais e deixar as equipas de TI sem conseguir ver para onde vão os dados da empresa.

Este guia explica o que é a shadow AI, como se espalha dentro das organizações e os riscos graves que cria. Vamos mostrar como identificar ferramentas não aprovadas e implementar salvaguardas práticas para proteger os dados da sua empresa — sem abrandar a sua equipa.

• O que é a shadow AI?
• Shadow AI vs. shadow IT
• Como acontece a shadow AI?
• A IA treina automaticamente com os seus dados?
• Exemplos de shadow AI
• Quais são os riscos da shadow AI?
• Como detetar a shadow AI
• Como reduzir os riscos da shadow AI
• O que fazer se já tiverem sido partilhados dados sensíveis
• Um assistente de IA privado para equipas

O que é a shadow AI?

Shadow AI é qualquer utilização de inteligência artificial para o trabalho que fique fora dos sistemas e políticas aprovados pela empresa. Pode envolver uma ferramenta não aprovada, uma conta pessoal utilizada para o trabalho da empresa ou um serviço de IA aprovado utilizado com dados ou para tarefas que a organização não autorizou.

A shadow AI começa frequentemente com as pressões diárias do local de trabalho: um prazo apertado, a necessidade de encontrar uma forma mais rápida ou melhor de trabalhar, ou uma ferramenta que não está a cumprir o seu objetivo. Às vezes, está disponível uma ferramenta de IA aprovada, mas as pessoas recorrem a outra opção por estarem mais familiarizadas com ela.

Shadow AI vs. shadow IT

Shadow IT é o termo mais abrangente para qualquer software ou hardware utilizado sem a aprovação ou supervisão de uma organização. Exemplos comuns incluem o uso pessoal de armazenamento na nuvem para o trabalho, aplicações de mensagens não autorizadas e plataformas de gestão de projetos não aprovadas.

A shadow AI é uma forma específica de shadow IT que envolve sistemas de IA e funcionalidades baseadas em IA. A IA introduz um desafio adicional de governação de dados porque as informações da empresa podem ser submetidas a um sistema externo ou processadas de formas desconhecidas fora do controlo da organização.

Como acontece a shadow AI?

Os colaboradores podem introduzir grandes quantidades de informação da empresa numa janela de chat de IA em poucos segundos. Dependendo das definições da IA, a ferramenta pode reter os dados introduzidos, partilhá-los com terceiros (como mediadores de dados ou fornecedores de análises, como no caso do incidente de dados da OpenAI) ou utilizá-los para anúncios direcionados ou desenvolvimento do modelo.

A shadow AI espalha-se geralmente devido a algumas lacunas organizacionais comuns.

Sem alternativa aprovada

Os colaboradores têm maior probabilidade de utilizar ferramentas de shadow AI quando a empresa não disponibilizou uma opção aprovada. Um estudo da BlackFog(nova janela) realizado junto de 2 000 trabalhadores revelou que 49% dos colaboradores adotam ferramentas de IA sem a aprovação do empregador, 63% consideram aceitável utilizar IA quando não existe uma opção aprovada pela empresa e 51% ligaram ferramentas de IA aos sistemas de trabalho sem o conhecimento da equipa de TI.

Políticas pouco claras

Os colaboradores podem não ter a certeza sobre quais as ferramentas, tarefas e tipos de informação permitidos. As orientações da empresa podem restringir claramente dados altamente sensíveis, dizendo pouco sobre notas de reuniões internas, e-mails de rascunho, folhas de cálculo, código-fonte ou conversas com clientes.

Um estudo da IT Brew(nova janela) realizado junto de 241 profissionais de TI revelou que 35% têm pouca ou nenhuma confiança de que os colaboradores conhecem a utilização de IA e as políticas de segurança de dados da sua empresa, e apenas 12% se sentem “muito confiantes”. Um outro estudo da WorkNest(nova janela) junto de 505 profissionais de RH/empregadores revelou que 54% das organizações não têm qualquer política de IA, 24% ainda estão a desenvolver uma e apenas 13% têm regras claras e documentadas.

Processos de aprovação lentos

A pressão para cumprir prazos pode fazer com que uma morosa avaliação de segurança ou de aquisição pareça impraticável. Quando os colaboradores podem aceder a uma ferramenta gratuita de imediato, os processos internos lentos tornam as soluções não oficiais mais prováveis.

Novas funcionalidades de IA em software aprovado

Um fornecedor pode adicionar funcionalidades de IA generativa a uma aplicação que já passou por uma avaliação de segurança, e o software permanece na lista de aprovados mesmo que ninguém tenha avaliado como a nova funcionalidade processa, armazena ou partilha dados da empresa. O colaborador não violou qualquer política, mas o resultado é o mesmo das outras causas: os dados da empresa passam agora por um canal que ninguém analisou adequadamente.

Conhecimento limitado sobre o tratamento de dados

Os colaboradores podem não saber como os fornecedores de IA como o ChatGPT e o Gemini retêm as instruções, processam ficheiros carregados, utilizam conversas para a melhoria de serviços ou partilham dados com outros fornecedores. Podem presumir que o que introduzem desaparece ao fechar o separador do navegador, mesmo quando permanecem cópias no histórico da conta, registos, cópias de segurança ou sistemas ligados.

O relatório da Kolide(nova janela) revelou que, embora 89% dos colaboradores utilizem IA mensalmente, apenas 56% das empresas explicaram os riscos de segurança da IA aos funcionários.

Exemplos de shadow AI

Equipa	Exemplo de shadow AI	Informação potencialmente exposta	Impacto potencial
Desenvolvimento de software	Colar código interno num chatbot público para depurar	Código-fonte, credenciais, arquitetura do sistema e funcionalidades não lançadas	Código proprietário ou segredos podem ser retidos fora dos sistemas da empresa
Produto	Carregar um plano de desenvolvimento para sumarização	Datas de lançamento, estratégia de produto, preços e informações de parceiros	Planos de negócios confidenciais podem permanecer sem gestão em servidores de terceiros
Marketing e design	Introduzir planos de campanha numa ferramenta de escrita ou design com IA	Produtos não lançados, pesquisas de clientes, ativos de marca e dados de audiência	Informação sensível de campanhas pode ser processada sem avaliação jurídica ou de segurança
Análise de dados	Carregar conjuntos de dados de clientes para uma ferramenta de análise externa	Dados pessoais, registos comercialmente sensíveis e informações confidenciais	Informações protegidas ou regulamentadas podem ser divulgadas a terceiros não aprovados
Recursos humanos	Utilizar uma ferramenta de IA para avaliar candidaturas ou resumir entrevistas	Dados de candidatos, informações sobre emprego e critérios de avaliação	A exposição de dados de pessoal pode violar o GDPR ou a CCPA
Vendas	Carregar transcrições de chamadas ou notas de contas para análise	Identidades de clientes, detalhes de contratos, preços e estratégia de vendas	A exposição de dados de clientes pode violar o GDPR ou a CCPA
Apoio ao cliente	Colar pedidos de apoio ao cliente num chatbot público	Nomes de clientes, detalhes da conta, reclamações e correspondência	Registos de apoio ao cliente retidos podem violar o GDPR ou a CCPA
Finanças	Pedir a um assistente de IA para analisar folhas de cálculo internas	Orçamentos, previsões, informações sobre folhas de pagamento e registos de transações	Dados financeiros podem ser processados sem as salvaguardas adequadas
Jurídico	Carregar contratos ou ficheiros de processos para sumarização	Aconselhamento confidencial, termos contratuais e informações de clientes	O uso indevido de dados de clientes pode violar o GDPR ou a CCPA e afetar o segredo profissional
Liderança	Utilizar um serviço de IA para rever documentos do conselho de administração ou planos estratégicos	Planos de aquisição, metas internas e discussões executivas	Informações empresariais altamente sensíveis podem ficar expostas

A IA treina automaticamente com os seus dados?

Os modelos de linguagem de grande escala (LLMs) não se reconfiguram nem se retreinam automaticamente com cada instrução em tempo real, pelo que uma conversa não se tornará inevitavelmente parte do modelo de IA nem aparecerá na resposta de outro utilizador. Contudo, o nível de risco depende do fornecedor, do tipo de conta, das definições de privacidade, do contrato e de como o serviço foi configurado.

Um fornecedor de IA pode reter as instruções e os ficheiros carregados, disponibilizá-los para revisão humana, utilizá-los para melhorar os seus serviços ou partilhá-los com fornecedores de infraestruturas e modelos.

Mesmo quando o treino do modelo está desativado, as informações podem aparecer no histórico da conta, registos operacionais, sistemas de monitorização de abusos, cópias de segurança, registos do navegador, serviços ligados ou integrações de terceiros. Se o seu conteúdo já tiver contribuído para o treino do modelo, desativar esta opção não fará com que o modelo se esqueça das suas conversas passadas.

Quais são os riscos da shadow AI?

A IA pode influenciar decisões, gerar material para clientes, escrever código ou analisar dados pessoais, o que cria riscos que vêm além da segurança da própria ferramenta:

Incidente de dados

O relatório Cost of a Data Breach Report(nova janela) de 2025 da IBM revelou que uma em cada cinco organizações tinha sofrido um incidente associado à shadow AI, embora apenas 37% tivessem políticas concebidas para a gerir ou detetar.

As organizações com níveis elevados de shadow AI enfrentaram custos de incidentes em média $670 000 superiores aos das organizações com pouca ou nenhuma shadow AI. Além disso, os incidentes que envolveram shadow AI expuseram informações pessoais e propriedade intelectual com maior frequência do que a média global.

Exposição de informações confidenciais

Os colaboradores podem partilhar documentos internos, código-fonte, informações financeiras, contratos, registos de clientes, planos de produtos ou segredos comerciais sem perceberem que o fornecedor de IA retém os dados introduzidos. Mesmo quando a informação é excluída do treino de modelos, pode continuar exposta a comprometição da conta, incidentes de segurança, acesso pelo fornecedor, integrações inseguras ou exigências legais.

Por exemplo, a Samsung proibiu o ChatGPT(nova janela) em toda a empresa em maio de 2023 depois de colaboradores colarem material confidencial na ferramenta três vezes em 20 dias, incluindo código-fonte de semicondutores, algoritmos de deteção de defeitos e uma reunião interna transcrita.

Perda de propriedade intelectual

O conhecimento proprietário é frequentemente o ativo mais valioso de uma empresa. O carregamento de código, pesquisas, designs de produtos, processos ou documentos de estratégia para um serviço externo de IA pode entrar em conflito com acordos de confidencialidade ou enfraquecer a capacidade da empresa de controlar essa informação. Um colaborador também pode utilizar conteúdo gerado por IA sem compreender as suas origens, restrições de licenciamento ou semelhança com material de terceiros.

Violações de privacidade e regulamentares

Os dados pessoais continuam sujeitos à legislação de privacidade de dados quando são processados através de uma ferramenta de IA. A shadow AI pode contornar as salvaguardas de privacidade porque as equipas jurídicas relevantes nunca tomam conhecimento de que o processamento está a ocorrer. O Information Commissioner’s Office do Reino Unido alerta que os sistemas de IA podem amplificar os riscos de segurança existentes(nova janela). As infrações graves ao GDPR podem levar a sanções até 20 milhões de euros ou 4% do volume de negócios anual global da organização do exercício financeiro anterior, consoante o valor que for mais elevado.

Integrações inseguras e acesso excessivo

As ferramentas de IA podem ligar-se ao e-mail, armazenamento na nuvem, calendários, repositórios de código, bases de dados de clientes e plataformas de colaboração. Permissões amplas, APIs mal protegidas, fugas de tokens de acesso, extensões de navegador maliciosas e serviços de terceiros comprometidos podem expor sistemas e dados da empresa para além da informação introduzida numa única instrução.

No incidente de segurança do Salesloft Drift, os atacantes roubaram tokens OAuth do Drift, uma integração de assistente de vendas de IA, e usaram-nos para extrair dados de instâncias do Salesforce em mais de 700 organizações, incluindo contactos de negócios, chaves de API e credenciais na nuvem incorporadas em casos de apoio ao cliente.

Ataques de injeção de instruções

Esta vulnerabilidade existe em qualquer sistema de IA ligado, aprovado ou não — os atacantes podem manipular um sistema de IA através de instruções ocultadas em documentos, páginas web, e-mails ou outro conteúdo que este processe, fazendo com que revele informações, ignore as suas instruções originais ou tome ações não intencionais.

A shadow AI aumenta o risco porque uma ferramenta não aprovada ou um agente de IA pode nunca ter sido avaliado relativamente a injeção de instruções ou limitado às permissões necessárias. Se um ataque tiver êxito, as equipas de segurança podem ter pouca visibilidade sobre o que aconteceu ou como contê-lo. As consequências são especialmente graves quando o agente de IA pode aceder a dados sensíveis ou tomar ações sem revisão humana.

Falta de responsabilidade

A atividade de shadow AI não deixa frequentemente qualquer registo de auditoria central. As equipas de segurança podem ser incapazes de determinar que informação foi submetida, que modelo a processou, que resultados produziu ou como o resultado influenciou uma decisão. Investigar um erro, uma reclamação, um incidente de dados ou uma questão regulamentar torna-se muito mais difícil sem esses registos.

Custos inesperados e dependência de fornecedores

Subscrições e contas de API separadas podem criar despesas duplicadas entre departamentos. Ferramentas experimentais também podem ficar incorporadas em fluxos de trabalho importantes antes que as equipas de aquisições tenham avaliado o seu preço, fiabilidade ou disponibilidade a longo prazo. Um serviço gratuito pode tornar-se crítico para o negócio sem um acordo de serviço, plano de continuidade ou forma prática de transferir o fluxo de trabalho para outro local.

Como detetar a shadow AI

A shadow AI pode ser difícil de detetar porque os colaboradores podem utilizar contas pessoais, extensões do navegador, funcionalidades de IA incorporadas, navegadores de IA ou ferramentas que se misturam com o tráfego web normal. Como tal, as organizações precisam de visibilidade sobre quais os serviços que estão a ser utilizados e como os dados da empresa se movimentam através deles.

A monitorização deve manter-se proporcional e respeitar a privacidade dos colaboradores. O objetivo deve ser identificar ferramentas e fluxos de dados de risco sem inspecionar rotineiramente o conteúdo de cada instrução ou conversa.

Aqui ficam algumas dicas para identificar a shadow AI na sua organização:

Criar um inventário da utilização de IA

Pergunte às equipas quais as ferramentas de IA que utilizam atualmente, para que tarefas as utilizam e o que as impede de utilizar alternativas aprovadas. Um inquérito curto, entrevistas com os responsáveis de departamento e um período de divulgação voluntária podem revelar utilizações que os controlos técnicos não detetam. É mais provável que os colaboradores sejam honestos quando o objetivo é compreender as suas necessidades em vez de punir a experimentação inicial.

Rever a atividade da rede e das aplicações

As equipas de segurança podem utilizar registos de rede, inventários de software e ferramentas de segurança de acesso à nuvem para identificar ligações a serviços de IA conhecidos. A monitorização pode mostrar a que serviços se está a aceder e que quantidade de dados é transferida sem capturar o conteúdo de cada conversa.

Auditar extensões e suplementos do navegador

As extensões do navegador podem adicionar funcionalidades de escrita, sumarização, tradução, reuniões e código por IA a quase qualquer fluxo de trabalho. Reveja quais as extensões instaladas, que permissões solicitam e se conseguem ler conteúdos de páginas web, e-mail, documentos ou informações de início de sessão.

Verificar despesas e registos de aquisições

Relatórios de despesas de colaboradores, extratos de cartões de empresa e registos de aquisições podem revelar subscrições pagas de IA que nunca concluíram uma avaliação de segurança. Pagamentos repetidos de equipas diferentes também podem revelar ferramentas duplicadas e contas não oficiais.

Pesquisar chaves de API e integrações não geridas

Reveja repositórios de código, gestores de segredos, ambientes de nuvem, painéis de controlo de faturação e plataformas de automatização para detetar ligações a fornecedores externos de IA. Chaves de API não geridas ou cobranças de utilização desconhecidas podem indicar um protótipo, integração ou ferramenta interna que não tenha sido formalmente aprovada.

Utilizar controlos de prevenção de perda de dados

As ferramentas de prevenção de perda de dados podem identificar tentativas de carregar categorias sensíveis de informação, tais como registos pessoais, credenciais, dados financeiros e código-fonte. Os controlos devem ser proporcionais e claramente comunicados. Os colaboradores precisam de compreender o que é monitorizado, porque é necessário e como realizar trabalho legítimo através de sistemas aprovados.

Trabalhar com os colaboradores em vez de os contornar

A monitorização técnica por si só não revelará todos os casos de shadow AI. Os colaboradores podem utilizar contas pessoais, dispositivos móveis ou ferramentas que surgem como tráfego web normal. Conversas regulares com as equipas podem identificar onde os fluxos de trabalho existentes criam fricção e por que razão os colaboradores procuram ferramentas externas.

Como reduzir os riscos da shadow AI

Reduzir a shadow AI exige alternativas práticas, políticas claras, controlos de acesso adequados, formação dos colaboradores e revisão contínua. As salvaguardas eficazes devem apoiar a utilização legítima da IA mantendo os dados da empresa em sistemas aprovados:

Fornecer aos colaboradores uma ferramenta de IA aprovada

É menos provável que os colaboradores pesquisem alternativas quando lhes disponibiliza um assistente de IA empresarial que vá ao encontro das suas necessidades práticas. Qualquer ferramenta aprovada deve oferecer fortes proteções de privacidade, termos claros de tratamento de dados, controlo empresarial adequado e capacidade suficiente para apoiar as tarefas comuns.

Evitar uma proibição total

Uma proibição total pode empurrar a utilização de IA ainda mais para a clandestinidade, especialmente quando os colaboradores já dependem destas ferramentas. Alguns podem mudar para contas pessoais, dispositivos móveis, extensões do navegador ou serviços de IA de menor confiança que são mais difíceis de identificar pela organização.

Criar uma política de utilização aceitável de IA

Utilize exemplos baseados em fluxos de trabalho reais. “Não partilhar informações sensíveis” deixa demasiado espaço para interpretação. Uma política mais clara pode indicar aos colaboradores para nunca carregarem exportações do apoio ao cliente, código-fonte, contratos, credenciais, resultados financeiros não divulgados ou registos de colaboradores identificáveis para um serviço não aprovado.

Classificar os dados antes de definir as regras de IA

Identifique que categorias de informação são públicas, internas, confidenciais, regulamentadas ou altamente restritas. Ligue cada categoria às utilizações de IA permitidas. Textos de marketing públicos podem ser adequados para uma gama mais ampla de ferramentas, enquanto dados pessoais, credenciais, segredos comerciais e material jurídico confidencial podem exigir um sistema rigidamente controlado ou ser inteiramente excluídos.

Rever periodicamente o software aprovado relativamente a novas funcionalidades de IA

Uma aplicação pode processar dados de forma diferente após adicionar um assistente de IA, transcrição automática, geração de conteúdos ou análise preditiva. Avaliações regulares aos fornecedores podem identificar estas alterações e confirmar se as ferramentas anteriormente aprovadas continuam a cumprir os requisitos de segurança, privacidade e conformidade da organização.

Limitar permissões

Dê às ferramentas de IA acesso apenas aos dados e sistemas necessários para uma tarefa aprovada. Utilize contas geridas pela empresa, autenticação única (SSO), autenticação de dois fatores (2FA), permissões baseadas no cargo e remoção centralizada de contas, quando disponível. Evite ligar um assistente de IA empresarial a toda uma unidade, caixa de entrada ou base de dados de clientes quando uma fonte mais restrita for suficiente.

Definir regras por cargo e caso de utilização

Equipas diferentes têm necessidades e níveis de risco diferentes. Os programadores podem precisar de acesso à API para testes ou prototipagem. As equipas de marketing podem precisar de geração de texto e imagens. As equipas jurídicas ou de RH podem trabalhar com informações que exijam restrições muito mais fortes. Regras baseadas no cargo podem manter a política realista enquanto limitam o acesso a dados sensíveis e funções de alto risco.

Formar os colaboradores

Os colaboradores precisam de literacia suficiente em IA para compreender tanto os benefícios como as limitações dos sistemas que utilizam. A formação deve abranger a privacidade de IA, confidencialidade, alucinações, enviesamento, propriedade intelectual, injeção de instruções, revisão humana e comunicação de incidentes. O nível de formação adequado depende do conhecimento e experiência do pessoal, bem como do contexto em que a IA é utilizada.

Criar um processo de aprovação simples

Um processo funcional pode recolher o nome da ferramenta, a tarefa pretendida, os dados envolvidos, as integrações necessárias e o benefício empresarial esperado. As equipas jurídicas e de segurança podem então aprovar, restringir, testar, isolar em sandbox ou rejeitar com base no risco real. Um processo de aquisição longo pode incentivar os colaboradores a encontrar a sua própria solução alternativa. Defina uma meta de revisão razoável e explique que informação é necessária para tomar uma decisão.

Manter as pessoas responsáveis pelos resultados

O trabalho assistido por IA deve ter um responsável humano. Exija uma revisão antes que os resultados afetem clientes, colaboradores, finanças, decisões jurídicas, código de produção, informações publicadas ou outras áreas de elevado impacto. Qualquer pessoa que utilize uma ferramenta de IA permanece responsável por verificar a sua precisão, adequação, confidencialidade e conformidade com a política da empresa.

Documentar decisões importantes assistidas por IA

Mantenha um registo claro quando a IA contribuir para decisões que afetem clientes, colaboradores, finanças, questões jurídicas ou outras áreas de elevado impacto. Um registo de auditoria fiável apoia a prestação de contas e ajuda as organizações a investigar erros, explicar resultados e responder a reclamações ou questões regulamentares.

O que fazer se já tiverem sido partilhados dados sensíveis

Trate uma divulgação acidental para uma ferramenta de IA como qualquer outro potencial incidente de dados. Avance rapidamente através dos passos seguintes.

Identificar o que foi partilhado: confirme que informação foi introduzida ou carregada, que ferramenta e conta foram utilizadas, quando ocorreu a divulgação e quem poderá ter tido acesso aos dados.

Remover a informação sempre que possível: elimine a conversa e quaisquer ficheiros carregados da ferramenta. Consulte os termos e opções de apoio ao cliente do fornecedor para verificar se pode submeter um pedido formal de eliminação.

Verificar o que o fornecedor pode reter: remover um chat da vista nem sempre apaga todas as cópias. Reveja e documente o que o fornecedor indica sobre registos operacionais, cópias de segurança, revisão humana, treino de modelos e prazos de eliminação para ajudar a determinar se ainda podem restar dados.

Proteger os sistemas afetados: revogue as permissões concedidas à ferramenta de IA ou aos suplementos ligados. Modifique quaisquer palavras-passe, chaves de API, tokens de acesso ou outras credenciais que tenham surgido na instrução ou nos ficheiros anexados.

Notificar as equipas relevantes: comunique o incidente à equipa de segurança, privacidade, jurídica ou de proteção de dados da organização. Estas equipas podem avaliar as obrigações contratuais, os requisitos regulamentares e se os clientes ou parceiros afetados precisam de ser informados.

Aprender com o incidente: documente o sucedido e utilize a situação para melhorar a formação, os controlos e as alternativas aprovadas. Evite punir colaboradores que comuniquem erros genúncios, uma vez que uma resposta punitiva pode desincentivar outros de comunicar futuros incidentes.

Um assistente de IA privado para equipas

O Lumo for Business dá à sua equipa um assistente de IA fiável para resumir documentos, analisar dados, rever código, redigir rascunhos de conteúdos e explorar ideias, ajudando a sua empresa a manter o controlo da informação confidencial.

O nosso assistente de IA empresarial não guarda registos das conversas nem as utiliza para treinar modelos de IA, e qualquer histórico de chat que opte por guardar está protegido com encriptação sem acesso, o que significa que nunca temos acesso aos seus dados

O Lumo é totalmente de código aberto, desenvolvido na Europa e concebido para apoiar a conformidade com o GDPR e a HIPAA através da certificação ISO 27001 e da atestação SOC 2 Type II da Proton.

Disponibilizar à sua equipa um assistente de IA capaz e focado na privacidade reduz a dependência de ferramentas não aprovadas e ajuda-o a manter a utilização de IA dentro dos sistemas que supervisiona.