Inteligência Artificial (IA) > Os LLM são seguros?
Os LLM são seguros? Riscos de segurança de IA explicados
Os assistentes de IA tornaram-se ferramentas do dia a dia para o trabalho, investigação e comunicação. Mas os mesmos sistemas que os tornam úteis também os tornam uma vulnerabilidade de segurança. Eis o que deve saber sobre os riscos de segurança dos LLM e da IA.
O que é um LLM e como se relaciona com a IA e com a segurança?
A inteligência artificial abrange dezenas de tipos de software de aprendizagem automática, desde o reconhecimento facial à deteção de fraudes bancárias e a jogos de tabuleiro. Os grandes modelos de linguagem (LLM) são um tipo específico de IA: são o motor por trás de todos os principais assistentes de IA de que já ouviu falar, incluindo o ChatGPT, o Microsoft Copilot, o Google Gemini e o próprio Lumo da Proton.
Um LLM aprende ao processar enormes quantidades de informação — livros, artigos, documentação, código e artigos académicos — e ao encontrar padrões no funcionamento da linguagem. Com o tempo, torna-se melhor a prever o que deve vir a seguir em qualquer texto, o que lhe permite manter conversas inteiras, resumir documentos ou criar rascunhos de e-mails que parecem ter sido escritos por uma pessoa real.
Como os LLM processam tanta informação, e dado que as pessoas partilham cada vez mais detalhes pessoais e profissionais confidenciais com eles, a segurança dos LLM é especialmente crucial para garantir que os dados confidenciais não sejam roubados ou alvo de fuga.
Onde se enquadra a IA agente?
No passado, os LLM limitavam-se a respostas — o utilizador perguntava algo, a IA respondia. A IA agente vai mais longe. Um agente de IA continua a usar um LLM para raciocinar e comunicar, mas também pode tomar medidas: navegar na web, escrever e executar código, enviar mensagens, ligar-se a aplicações externas e gerir os seus ficheiros. Em vez de responder a uma única pergunta, pode realizar uma tarefa de várias etapas com pouca supervisão humana.
Essa capacidade extra acarreta um maior risco. Quando uma IA pode agir de forma independente, as consequências de ser enganada ou de correr mal são muito mais graves. A segurança da IA agente é uma das preocupações que mais cresce nesta área precisamente porque estes sistemas são cada vez mais integrados em ferramentas de trabalho, muitas vezes com mais acesso do que realmente precisam.
A segurança dos LLM e os perigos potenciais da IA
Os riscos de segurança da IA e dos LLM são tão preocupantes porque estão integrados na própria arquitetura básica de conceção e implementação destas ferramentas. Quando faz uma pergunta de saúde pessoal a um assistente de IA, partilha uma estratégia de negócios ou aborda uma situação jurídica, essa informação normalmente vai parar a servidores que não controla e pode estar sujeita a leis ou normas de conduta das quais pode nem sequer ter conhecimento. A segurança dos LLM não é algo em que apenas as equipas de TI precisam de pensar; é um problema prático para qualquer pessoa que use IA, seja para fins privados ou profissionais.
Os maiores riscos de segurança de LLM e IA
Os LLM são integrados em mais ferramentas todos os dias — mas ainda apresentam vários riscos de segurança que não são imediatamente óbvios.
A maioria das plataformas de IA retém as suas instruções, respostas e dados de interação por predefinição. Essa informação pode ser lida pela equipa da empresa, alimentada em treinos de modelos futuros, vendida a terceiros ou até entregue às autoridades. Assim que as suas conversas chegam aos servidores de outra pessoa, tem pouco controlo sobre a forma como esses dados são armazenados, usados ou partilhados.
A maioria dos produtos de IA é composta por componentes desenvolvidos por diferentes organizações e empresas, incluindo modelos de base, plug-ins, API e pipelines de dados. Se algo nessa cadeia de abastecimento for comprometido, todos os utilizadores desse produto serão afetados, frequentemente sem qualquer indicação óbvia de que algo está errado.
Os LLM podem expor dados que nunca deveriam partilhar. Isto pode incluir informações obtidas a partir de dados de treino, de sessões de outros utilizadores ou das suas próprias conversas anteriores às quais a IA ainda tem acesso. Em ambientes empresariais, onde várias pessoas partilham a mesma ferramenta de IA e os dados confidenciais fluem pelo mesmo sistema, estas fugas de informação podem causar danos graves.
Como as IA agentes têm a capacidade de enviar e-mails, executar código ou aceder aos seus ficheiros, os riscos de serem manipuladas aumentam consideravelmente. Um agente de IA com demasiadas permissões pode tomar medidas em vários sistemas ligados, muitas vezes antes que alguém se aperceba de que algo está errado. Quanto mais permitir que uma IA aja em seu nome, mais importante se torna que o seu acesso seja rigidamente controlado.
A injeção de instruções (prompt injection) é um dos riscos de segurança de IA mais generalizados. Funciona ao ocultar instruções maliciosas dentro de conteúdos fornecidos à IA, como num PDF ou numa página web, de modo a manipular agentes de IA que conseguem agir de forma autónoma. Essas instruções anulam discretamente o comportamento do agente de IA, podendo fazer com que este revele dados confidenciais, aja contra os seus interesses ou produza resultados enganosos — tudo isto enquanto tudo parece normal à superfície.
Como o Lumo aborda a segurança da IA de forma diferente
A maioria dos assistentes de IA foi concebida para dar à plataforma a máxima perceção sobre como os utiliza. O Lumo foi concebido para fazer o oposto, dando-lhe um maior controlo e tranquilidade sobre a forma como os seus dados são tratados.
Sem registos, nunca
O servidor de LLM do Lumo processa a sua mensagem e descarta-a no momento em que uma resposta é gerada. Não há registo do que perguntou, do que foi respondido ou de quando. Nenhuma conversa em texto simples é retida no servidor, o que significa que não há nada para ser violado, intimado ou utilizado indevidamente.
As suas mensagens são encriptadas antes de saírem do seu dispositivo
O Lumo utiliza encriptação assimétrica bidirecional — designada encriptação Utilizador para Lumo (U2L) — para proteger as suas mensagens em trânsito. A sua mensagem real só pode ser lida pelo próprio servidor de LLM e apenas durante o tempo necessário para produzir uma resposta.
O histórico de conversas está bloqueado com encriptação de acesso zero
Após a criação de uma resposta, a sua conversa é armazenada utilizando encriptação de acesso zero — protegida por uma chave que apenas o utilizador possui. A Proton nunca tem acesso a ela. Mesmo que os servidores da Proton fossem totalmente comprometidos, o seu histórico de conversas permaneceria ilegível.
Os modelos e o código de código aberto permitem aos especialistas verificar a segurança do Lumo
Ao contrário das ferramentas de IA de código fechado, como o ChatGPT, o Copilot e o Gemini, o Lumo corre em modelos e código de código aberto, pelo que qualquer pessoa pode inspecionar a nossa arquitetura à procura de vulnerabilidades e verificar se faz apenas exatamente o que afirmamos.
Sem anúncios nem partilha de dados
A maioria dos assistentes de IA baseia-se em modelos de negócio que dependem da recolha e retenção dos seus dados. O Lumo é diferente. As receitas da Proton provêm de subscrições, não da monetização de dados, pelo que não há incentivo para registar as suas conversas, partilhá-las com terceiros ou utilizá-las para lhe apresentar anúncios.
Alojado na Europa, não sujeito às leis de vigilância dos EUA
As ferramentas de IA desenvolvidas por empresas dos EUA podem ser obrigadas a divulgar os seus dados ao abrigo de leis como a CLOUD Act. O Lumo é executado em servidores controlados pela Proton na Europa, sob algumas das proteções de privacidade mais robustas do mundo. As suas conversas estão fora do alcance de pedidos de acesso de governos estrangeiros.
Adira a um ecossistema encriptado que o mantém seguro em qualquer lugar
O Lumo faz parte de um ecossistema que privilegia a privacidade e protege os seus dados com uma encriptação poderosa. Ninguém pode ver os seus dados exceto si e as pessoas com quem decidir partilhá-los — nem mesmo nós.
Crie uma conta gratuita do Lumo e irá também desbloquear o acesso à nossa VPN(nova janela), e-mail, calendário, armazenamento na nuvem, editor de documentos, editor de folhas de cálculo, gestor de palavras-passe, videoconferência e muito mais.
O que os utilizadores dizem sobre o Lumo
É o único local onde alguém poderá ver as suas conversas.
@recant731
no X
Acabei de usar o Lumo para ajudar a planear uma viagem de carro, com rotas detalhadas e orçamentos para estadias e combustível para o meu carro. O @ProtonPrivacy já me tinha conquistado e agora foi a vez do @asklumo .
@markruffalo
via comentário no Instagram
Existem outras aplicações de chat que pode utilizar que são, na verdade, tão boas, mais baratas ou mais privadas, e que não financiam o mal no mundo. O Lumo do ProtonMail vem à mente
@banasnap.bsky.social
no Bluesky
Premissa promissora: uma IA focada na privacidade é exatamente o que faltava ao panorama atual. Com a maioria dos serviços dominados por empresas dos EUA e da China, ter uma opção sediada na Europa, de uma equipa já muito conhecedora da privacidade online, preenche uma lacuna muito necessária. Estou ansioso por experimentar o Lumo.
tintreack
no Reddit
Isto é fantástico, e a mascote é adorável. Adoro a identidade visual deste produto. Além disso, como alguém que precisa do ChatGPT para o seu fluxo de trabalho, obrigado. Finalmente posso livrar-me disto. Tenho estado a testá-lo e é muito bom! Bom trabalho, equipa.
Mude para um assistente de IA verdadeiramente seguro
As ferramentas de IA desenvolvidas pelas maiores plataformas tecnológicas foram concebidas para serem úteis, mas frequentemente à custa da sua segurança e privacidade. O Lumo oferece-lhe um LLM e assistente de IA encriptados e competentes, sem quaisquer concessões em termos de segurança.
Perguntas frequentes sobre LLMs e segurança de IA
- Quais são os maiores riscos de segurança de IA para os utilizadores comuns?
- O Lumo é seguro para trabalhos confidenciais ou sensíveis?
- Quais são os principais perigos da IA para as empresas?
- Que línguas suporta o Lumo?
