(nova janela)O novo agente de IA da Meta, Muse, enviou um desconhecido a casa de um utilizador e disse-lhe que o vendedor estava à espera à porta.
O vendedor, no entanto, não fazia ideia de que tinha sido acordada uma venda.
Eis a história do que aconteceu e porque é que isso importa.
O que aconteceu no Facebook Marketplace
Tudo começou quando o YouTuber de tecnologia Matt Robb deixou o Muse tratar das mensagens dos compradores de um teclado que tinha posto à venda no Facebook Marketplace.
No entanto, o Muse aceitou a oferta sem a sua aprovação, deu ao comprador o seu endereço de casa como ponto de recolha e depois respondeu «Sim, estou aqui!» quando o comprador chegou. Robb só descobriu depois de o comprador ter esperado mais de 20 minutos e ter ido embora.
Robb afirmou que tinha escolhido «Permitir sempre(nova janela)» durante a configuração, acreditando que o Muse iria confirmar com ele antes de aceitar uma oferta. Em vez disso, a definição permitiu ao Muse enviar mensagens com um modelo guardado que continha o seu endereço de recolha.
David Singleton, dos Superintelligence Labs da Meta, contestou publicamente qualquer falha(nova janela), a escrever no X que investigações anteriores concluíram que «o Muse estava a seguir instruções diretas e pediu permissão corretamente», e mais tarde disse a Robb, em resposta, que a Meta tinha confirmado que não houve «qualquer violação dos controlos de privacidade».
No entanto, a equipa do Muse analisou os registos com Robb e concordou em tornar o pedido de permissão mais claro.
Porque é que um agente representa um risco maior para a privacidade do que um chatbot
As pessoas já entregam à IA mais do que aquilo em que confiam nela. Num inquérito da Proton a 4014 utilizadores de chatbots de IA, 66% afirmaram ter abordado pelo menos um tema sensível com um chatbot, enquanto apenas um em cada cinco declarou ter muita confiança nas empresas de IA para proteger as suas informações privadas.
Agentes como o Muse pedem mais: acesso às suas contas e permissão para agir com base no que encontram. O mesmo padrão foi observado com o plug-in Apple Messages do ChatGPT e com navegadores de IA como o ChatGPT Atlas.
A Meta já usa as suas conversas com a Meta AI para direcionar anúncios, e há utilizadores que relatam que a Meta AI digitaliza as suas galerias de fotografias sem autorização. O produto irmão do Muse, o gerador de imagens Muse Image, ativou por predefinição a utilização das fotografias dos utilizadores em remisturas de IA. Um agente criado por uma empresa que lucra com dados pessoais vai procurar obter tanto dos seus dados quanto as permissões permitirem. Permissões restritas são a única barreira entre um agente e os seus dados, e um ecrã que os utilizadores não conseguem interpretar não assegura essa barreira.
Antes de deixar que qualquer agente de IA envie mensagens em seu nome, desative as autorizações permanentes, não inclua o seu endereço nas respostas guardadas e combine as recolhas diretamente. Também pode desativar a Meta AI no Facebook e seguir a nossa lista de verificação para impedir que a Meta o rastreie.
Use um assistente de IA que não precisa das suas contas
Precisamos de IA privada antes que seja demasiado tarde. E ligar uma IA às suas contas, mensagens e endereço não é um pré-requisito para obter ajuda a escrever um anúncio ou a responder a um comprador.
O Lumo faz esse trabalho sem precisar de acesso. O Lumo nunca regista as suas conversas, não as usa para treino nem as partilha, e as conversas guardadas estão protegidas com encriptação de acesso zero, pelo que só podem ser lidas por si.
