Inteligência Artificial (IA) > Os LLM são seguros?
Os LLM são seguros? Riscos de segurança de IA explicados
Os assistentes de IA tornaram-se ferramentas do dia a dia para o trabalho, investigação e comunicação. Mas os mesmos sistemas que os tornam úteis também os tornam uma vulnerabilidade de segurança. Eis o que deve saber sobre os riscos de segurança dos LLM e da IA.
O que é um LLM e como se relaciona com a IA e com a segurança?
A inteligência artificial abrange dezenas de tipos de software de aprendizagem automática, desde o reconhecimento facial à deteção de fraudes bancárias e a jogos de tabuleiro. Os grandes modelos de linguagem (LLM) são um tipo específico de IA: são o motor por trás de todos os principais assistentes de IA de que já ouviu falar, incluindo o ChatGPT, o Microsoft Copilot, o Google Gemini e o próprio Lumo da Proton.
Um LLM aprende ao processar enormes quantidades de informação — livros, artigos, documentação, código e artigos académicos — e ao encontrar padrões no funcionamento da linguagem. Com o tempo, torna-se melhor a prever o que deve vir a seguir em qualquer texto, o que lhe permite manter conversas inteiras, resumir documentos ou criar rascunhos de e-mails que parecem ter sido escritos por uma pessoa real.
Como os LLM processam tanta informação, e dado que as pessoas partilham cada vez mais detalhes pessoais e profissionais confidenciais com eles, a segurança dos LLM é especialmente crucial para garantir que os dados confidenciais não sejam roubados ou alvo de fuga.
Onde se enquadra a IA agente?
No passado, os LLM limitavam-se a respostas — o utilizador perguntava algo, a IA respondia. A IA agente vai mais longe. Um agente de IA continua a usar um LLM para raciocinar e comunicar, mas também pode tomar medidas: navegar na web, escrever e executar código, enviar mensagens, ligar-se a aplicações externas e gerir os seus ficheiros. Em vez de responder a uma única pergunta, pode realizar uma tarefa de várias etapas com pouca supervisão humana.
Essa capacidade extra acarreta um maior risco. Quando uma IA pode agir de forma independente, as consequências de ser enganada ou de correr mal são muito mais graves. A segurança da IA agente é uma das preocupações que mais cresce nesta área precisamente porque estes sistemas são cada vez mais integrados em ferramentas de trabalho, muitas vezes com mais acesso do que realmente precisam.
A segurança dos LLM e os perigos potenciais da IA
Os riscos de segurança da IA e dos LLM são tão preocupantes porque estão integrados na própria arquitetura básica de conceção e implementação destas ferramentas. Quando faz uma pergunta de saúde pessoal a um assistente de IA, partilha uma estratégia de negócios ou aborda uma situação jurídica, essa informação normalmente vai parar a servidores que não controla e pode estar sujeita a leis ou normas de conduta das quais pode nem sequer ter conhecimento. A segurança dos LLM não é algo em que apenas as equipas de TI precisam de pensar; é um problema prático para qualquer pessoa que use IA, seja para fins privados ou profissionais.
Os maiores riscos de segurança de LLM e IA
Os LLM são integrados em mais ferramentas todos os dias — mas ainda apresentam vários riscos de segurança que não são imediatamente óbvios.
A maioria das plataformas de IA retém as suas instruções, respostas e dados de interação por predefinição. Essa informação pode ser lida pela equipa da empresa, alimentada em treinos de modelos futuros, vendida a terceiros ou até entregue às autoridades. Assim que as suas conversas chegam aos servidores de outra pessoa, tem pouco controlo sobre a forma como esses dados são armazenados, usados ou partilhados.
A maioria dos produtos de IA é composta por componentes desenvolvidos por diferentes organizações e empresas, incluindo modelos de base, plug-ins, API e pipelines de dados. Se algo nessa cadeia de abastecimento for comprometido, todos os utilizadores desse produto serão afetados, frequentemente sem qualquer indicação óbvia de que algo está errado.
Os LLM podem expor dados que nunca deveriam partilhar. Isto pode incluir informações obtidas a partir de dados de treino, de sessões de outros utilizadores ou das suas próprias conversas anteriores às quais a IA ainda tem acesso. Em ambientes empresariais, onde várias pessoas partilham a mesma ferramenta de IA e os dados confidenciais fluem pelo mesmo sistema, estas fugas de informação podem causar danos graves.
Como as IA agentes têm a capacidade de enviar e-mails, executar código ou aceder aos seus ficheiros, os riscos de serem manipuladas aumentam consideravelmente. Um agente de IA com demasiadas permissões pode tomar medidas em vários sistemas ligados, muitas vezes antes que alguém se aperceba de que algo está errado. Quanto mais permitir que uma IA aja em seu nome, mais importante se torna que o seu acesso seja rigidamente controlado.
A injeção de instruções (prompt injection) é um dos riscos de segurança de IA mais generalizados. Funciona ao ocultar instruções maliciosas dentro de conteúdos fornecidos à IA, como num PDF ou numa página web, de modo a manipular agentes de IA que conseguem agir de forma autónoma. Essas instruções anulam discretamente o comportamento do agente de IA, podendo fazer com que este revele dados confidenciais, aja contra os seus interesses ou produza resultados enganosos — tudo isto enquanto tudo parece normal à superfície.
Como o Lumo aborda a segurança da IA de forma diferente
A maioria dos assistentes de IA foi concebida para dar à plataforma a máxima perceção sobre como os utiliza. O Lumo foi concebido para fazer o oposto, dando-lhe um maior controlo e tranquilidade sobre a forma como os seus dados são tratados.
Sem registos, nunca
O servidor de LLM do Lumo processa a sua mensagem e descarta-a no momento em que uma resposta é gerada. Não há registo do que perguntou, do que foi respondido ou de quando. Nenhuma conversa em texto simples é retida no servidor, o que significa que não há nada para ser violado, intimado ou utilizado indevidamente.
As suas mensagens são encriptadas antes de saírem do seu dispositivo
O Lumo utiliza encriptação assimétrica bidirecional — designada encriptação Utilizador para Lumo (U2L) — para proteger as suas mensagens em trânsito. A sua mensagem real só pode ser lida pelo próprio servidor de LLM e apenas durante o tempo necessário para produzir uma resposta.
O histórico de conversas está bloqueado com encriptação de acesso zero
Após a criação de uma resposta, a sua conversa é armazenada utilizando encriptação de acesso zero — protegida por uma chave que apenas o utilizador possui. A Proton nunca tem acesso a ela. Mesmo que os servidores da Proton fossem totalmente comprometidos, o seu histórico de conversas permaneceria ilegível.
Os modelos e o código de código aberto permitem aos especialistas verificar a segurança do Lumo
Ao contrário das ferramentas de IA de código fechado, como o ChatGPT, o Copilot e o Gemini, o Lumo corre em modelos e código de código aberto, pelo que qualquer pessoa pode inspecionar a nossa arquitetura à procura de vulnerabilidades e verificar se faz apenas exatamente o que afirmamos.
Sem anúncios nem partilha de dados
A maioria dos assistentes de IA baseia-se em modelos de negócio que dependem da recolha e retenção dos seus dados. O Lumo é diferente. As receitas da Proton provêm de subscrições, não da monetização de dados, pelo que não há incentivo para registar as suas conversas, partilhá-las com terceiros ou utilizá-las para lhe apresentar anúncios.
Alojado na Europa, não sujeito às leis de vigilância dos EUA
As ferramentas de IA desenvolvidas por empresas dos EUA podem ser obrigadas a divulgar os seus dados ao abrigo de leis como a CLOUD Act. O Lumo é executado em servidores controlados pela Proton na Europa, sob algumas das proteções de privacidade mais robustas do mundo. As suas conversas estão fora do alcance de pedidos de acesso de governos estrangeiros.
Adira a um ecossistema encriptado que o mantém seguro em qualquer lugar
O Lumo faz parte de um ecossistema que privilegia a privacidade e protege os seus dados com uma encriptação poderosa. Ninguém pode ver os seus dados exceto si e as pessoas com quem decidir partilhá-los — nem mesmo nós.
Crie uma conta gratuita do Lumo e irá também desbloquear o acesso à nossa VPN(nova janela), e-mail, calendário, armazenamento na nuvem, editor de documentos, editor de folhas de cálculo, gestor de palavras-passe, videoconferência e muito mais.
Mais de 100 milhões de pessoas e empresas em todo o mundo confiam na Proton
Elemnta, Austrália
50 a 200 funcionários
"Os registos de atividade são verdadeiramente importantes, assim como o controlo granular. A mudança para o Proton Pass beneficiou-nos imenso."
GILAI, Suíça
Gestão das TI de mais de 1000 funcionários
"Precisávamos de um gestor de palavras-passe que fosse fácil de utilizar para o utilizador final e fácil de gerir para o administrador. Não precisei de fazer qualquer documentação específica, nem qualquer demonstração, exceto para o aprovisionamento da conta, porque é muito, muito intuitivo."
Novalytica AG, Suíça
11 a 50 funcionários
"A integração foi muito fácil. Todos estão a usar e funciona, e ninguém quer voltar a escrever palavras-passe à mão numa folha ou num caderno."
Morning
350 funcionários
"Queria que a experiência de utilização fosse agradável. Quando se migra 300 ou 400 utilizadores, penso que é importante escolher uma solução que não seja demasiado difícil de usar ou com uma interface desagradável. Penso que é importante para as equipas comerciais terem algo fácil de utilizar. Foi o caso com o Proton Pass."
Mude para um assistente de IA verdadeiramente seguro
As ferramentas de IA criadas pelas maiores plataformas tecnológicas são concebidas para serem úteis, mas frequentemente à custa da sua segurança e privacidade. O Lumo oferece-lhe um assistente de IA e LLM capaz e encriptado sem quaisquer cedências em termos de segurança.
Perguntas frequentes sobre LLMs e segurança de IA
- Quais são os maiores riscos de segurança da IA para os utilizadores comuns?
- O Lumo é seguro para trabalhos confidenciais ou sensíveis?
- Quais são os principais perigos da IA para as empresas?
- Que línguas suporta o Lumo?
