(nouvelle fenêtre)Le nouvel agent IA de Meta, Muse, a envoyé un inconnu au domicile d’un utilisateur et lui a dit que le vendeur l’attendait à la porte.
Or, le vendeur n’avait aucune idée qu’une vente avait été conclue.
Voici le récit de ce qui s’est passé et pourquoi cela compte.
Ce qui s’est passé sur Facebook Marketplace
Tout a commencé lorsque le youtubeur tech Matt Robb a laissé Muse gérer les messages des acheteurs pour un clavier qu’il avait mis en vente sur Facebook Marketplace.
« Je viens de découvrir qu’il a donné mon adresse à des gens et accepté un prix dérisoire, puis qu’ils se sont présentés sans même qu’il me prévienne avant tard ce soir(nouvelle fenêtre) », a-t-il publié sur X.
Muse a accepté l’offre sans son accord, a toutefois transmis à l’acheteur son adresse personnelle comme point de retrait, puis a répondu « Oui, je suis là ! » lorsque l’acheteur est arrivé. Robb ne l’a découvert qu’une fois l’acheteur reparti, après plus de 20 minutes d’attente.
Robb a raconté avoir choisi « Toujours autoriser(nouvelle fenêtre) » pendant la configuration, persuadé que Muse le consulterait malgré tout avant d’accepter une offre. Or, ce paramètre a permis à Muse d’envoyer des messages à partir d’un modèle enregistré contenant son adresse de retrait.
David Singleton, des Superintelligence Labs de Meta, a publiquement contesté toute responsabilité(nouvelle fenêtre), affirmant sur X que des enquêtes antérieures avaient conclu que « Muse suivait des instructions directes et avait correctement demandé l’autorisation », puis il a répondu à Robb que Meta avait confirmé « aucune violation des contrôles de confidentialité ».
L’équipe Muse a toutefois passé en revue les journaux avec Robb et a accepté de rendre la demande d’autorisation plus claire.
Pourquoi un agent présente un risque plus élevé pour la vie privée qu’un chatbot
Les gens confient déjà à l’IA plus qu’ils ne lui font confiance. Dans une enquête de Proton menée auprès de 4 014 utilisateurs de chatbots IA, 66 % des personnes interrogées déclaraient avoir discuté d’au moins un sujet sensible avec un chatbot, alors qu’une sur cinq seulement affirmait faire grandement confiance aux entreprises d’IA pour protéger ses informations privées.
Les agents comme Muse demandent davantage : accès à vos comptes et autorisation d’agir sur ce qu’ils y trouvent. Nous avons observé le même schéma avec l’extension Apple Messages de ChatGPT et des navigateurs IA comme ChatGPT Atlas.
Meta utilise déjà vos conversations avec Meta AI pour cibler des publicités, et des utilisateurs ont signalé que Meta AI scannait leur galerie photos sans autorisation. Le produit frère de Muse, le générateur d’images Muse, intégrait par défaut les photos des utilisateurs dans des remix IA. Un agent conçu par une entreprise qui tire profit des données personnelles cherchera à en collecter autant que ses autorisations le permettent. Des autorisations limitées sont la seule barrière entre un agent et vos données, et un écran que les utilisateurs ne parviennent pas à interpréter ne fait pas office de barrière.
Avant de laisser un agent IA envoyer des messages à votre place, désactivez les autorisations permanentes, évitez de mentionner votre adresse dans vos réponses enregistrées et organisez vous-même les remises. Vous pouvez aussi désactiver Meta AI sur Facebook et suivre notre liste de vérification pour empêcher Meta de vous traquer.
Utilisez un assistant IA qui n’a pas besoin de vos comptes
Il nous faut une IA privée avant qu’il ne soit trop tard. Et connecter une IA à vos comptes, vos messages et votre adresse n’a rien d’un prérequis pour vous aider à rédiger une annonce ou à répondre à un acheteur.
Lumo fait ce travail sans cet accès. Lumo ne journalise jamais vos conversations, ne les utilise jamais pour son entraînement et ne les partage jamais, et les conversations enregistrées sont protégées par un chiffrement à accès zéro, de sorte que personne d’autre que vous ne peut les lire.
