(nova janela)O novo agente de IA da Meta, Muse, enviou um estranho à casa de um usuário e disse a ele que o vendedor estava esperando na porta.
O vendedor, no entanto, não tinha ideia de que uma venda havia sido acertada.
Esta é a história do que aconteceu e por que isso importa.
O que aconteceu no Facebook Marketplace
Tudo começou quando o YouTuber de tecnologia Matt Robb deixou o Muse cuidar das mensagens de compradores de um teclado que ele havia anunciado no Facebook Marketplace.
“Acabei de descobrir que ele informou meu endereço para as pessoas, aceitou um preço muito abaixo e depois elas apareceram sem que ele nem sequer me avisasse até tarde da noite(nova janela)“, ele publicou no X.
O Muse, no entanto, aceitou a oferta sem a aprovação dele, informou ao comprador o endereço de sua casa como ponto de retirada e depois respondeu “Sim, estou aqui!” quando o comprador chegou. Robb só descobriu depois que o comprador esperou mais de 20 minutos e foi embora.
Robb disse que escolheu “Permitir sempre(nova janela)” durante a configuração, acreditando que o Muse ainda iria consultá-lo antes de aceitar uma oferta. Em vez disso, a configuração permitiu que o Muse enviasse mensagens usando um modelo salvo que continha seu endereço de retirada.
David Singleton, dos Superintelligence Labs da Meta, contestou publicamente qualquer culpa(nova janela), escrevendo no X que investigações anteriores concluíram que “o Muse estava seguindo instruções diretas e pediu permissão corretamente”, e depois respondeu a Robb que a Meta havia confirmado “nenhuma violação dos controles de privacidade”.
A equipe do Muse, no entanto, revisou os registros com Robb e concordou em deixar a solicitação de permissão mais clara.
Por que um agente representa um risco maior à privacidade do que um chatbot
As pessoas já entregam à IA mais do que confiam nela. Em uma pesquisa da Proton com 4.014 usuários de chatbots de IA, 66% disseram que já discutiram pelo menos um assunto sensível com um chatbot, enquanto apenas um em cada cinco afirmou confiar muito nas empresas de IA para proteger suas informações privadas.
Agentes como o Muse pedem mais: acesso às suas contas e permissão para agir com base no que encontram. Vimos o mesmo padrão com o plug-in Apple Messages do ChatGPT e com navegadores de IA como o ChatGPT Atlas.
A Meta já usa suas conversas com o Meta AI para direcionar anúncios, e usuários relataram que o Meta AI escaneia suas galerias de fotos sem permissão. O produto irmão do Muse, o gerador de imagens Muse Image, incluiu as fotos dos usuários em remixes de IA por padrão. Um agente criado por uma empresa que lucra com dados pessoais vai buscar o máximo dos seus dados que suas permissões permitirem. Permissões restritas são a única barreira entre um agente e seus dados, e uma tela que os usuários não conseguem interpretar não oferece essa proteção.
Antes de deixar qualquer agente de IA enviar mensagens para pessoas em seu nome, desative as aprovações permanentes, mantenha seu endereço fora das respostas salvas e organize as retiradas por conta própria. Você também pode desativar o Meta AI no Facebook e seguir nossa lista de verificação para impedir que a Meta rastreie você.
Use um assistente de IA que não precisa das suas contas
Precisamos de IA privada antes que seja tarde demais. E conectar uma IA às suas contas, mensagens e endereço não é pré-requisito para ajudar a escrever um anúncio ou responder a um comprador.
O Lumo faz esse trabalho sem esse acesso. O Lumo nunca registra, treina com ou compartilha suas conversas, e os chats salvos são protegidos com criptografia de acesso zero, então só você pode lê-los.
