(nuova finestra)Il nuovo agente IA di Meta, Muse, ha inviato uno sconosciuto a casa di un utente e gli ha detto che il venditore lo aspettava alla porta.
Il venditore, però, non aveva idea che fosse stata concordata una vendita.
Ecco la storia di ciò che è accaduto e del perché è importante.
Che cosa è successo su Facebook Marketplace
Tutto è iniziato quando il YouTuber di tecnologia Matt Robb ha lasciato che Muse gestisse i messaggi degli acquirenti per una tastiera che aveva messo in vendita su Facebook Marketplace.
“Ho appena scoperto che ha rivelato in giro il mio indirizzo e ha accettato un’offerta al ribasso, e poi si sono presentati senza che me lo dicesse fino a tarda sera(nuova finestra)“, ha scritto su X.
Muse, però, ha accettato l’offerta senza la sua approvazione, ha comunicato all’acquirente il suo indirizzo di casa come punto di ritiro e poi ha risposto “Sì, sono qui!” quando l’acquirente è arrivato. Robb lo ha scoperto solo dopo che l’acquirente aveva atteso più di 20 minuti ed era andato via.
Robb ha detto di aver scelto “Consenti sempre(nuova finestra)” durante la configurazione, convinto che Muse lo avrebbe comunque consultato prima di accettare un’offerta. Invece, l’impostazione ha permesso a Muse di inviare messaggi usando un modello salvato che conteneva il suo indirizzo di ritiro.
David Singleton, dei Superintelligence Labs di Meta, ha contestato pubblicamente qualsiasi responsabilità(nuova finestra), scrivendo su X che indagini passate avevano rilevato che “Muse seguiva istruzioni dirette e ha chiesto correttamente il permesso”, e in seguito ha risposto a Robb che Meta aveva confermato “nessuna violazione dei controlli sulla privacy”.
Il team di Muse, però, ha esaminato i log con Robb e ha accettato di rendere più chiaro il messaggio di richiesta del permesso.
Perché un agente comporta un rischio maggiore per la privacy rispetto a un chatbot
Le persone affidano già all’IA più di quanto si fidino a consegnarle. In un sondaggio di Proton su 4.014 utenti di chatbot IA, il 66% ha dichiarato di aver discusso almeno un argomento sensibile con un chatbot, mentre solo una persona su cinque ha dichiarato di avere molta fiducia nelle aziende di IA per la protezione delle proprie informazioni private.
Agenti come Muse chiedono di più: accesso ai tuoi account e il permesso di agire su ciò che trovano. Lo stesso schema si è visto con il plugin Apple Messages di ChatGPT e con browser IA come ChatGPT Atlas.
Meta usa già le tue conversazioni con Meta AI per indirizzare gli annunci, e gli utenti hanno segnalato che Meta AI scansiona i loro rullini fotografici senza permesso. Il prodotto gemello di Muse, il generatore di immagini Muse, ha incluso per impostazione predefinita le foto degli utenti nei remix IA. Un agente creato da un’azienda che trae profitto dai dati personali cercherà di ottenere quanti più tuoi dati possibili, nei limiti dei permessi concessi. Permessi ristretti sono l’unica barriera tra un agente e i tuoi dati, e una schermata che gli utenti non riescono a interpretare non li fornisce.
Prima di lasciare che un agente IA invii messaggi al posto tuo, disattiva le approvazioni permanenti, tieni il tuo indirizzo fuori dalle risposte salvate e organizza personalmente i ritiri. Puoi anche disattivare Meta AI su Facebook e seguire la nostra checklist per impedire a Meta di tracciarti.
Usa un assistente IA che non ha bisogno dei tuoi account
Ci serve un’IA privata prima che sia troppo tardi. E collegare un’IA ai tuoi account, ai tuoi messaggi e al tuo indirizzo non è un prerequisito per ricevere aiuto nello scrivere un annuncio o nel rispondere a un acquirente.
Lumo svolge questo lavoro senza bisogno di quell’accesso. Lumo non registra mai le tue conversazioni, non le usa per l’addestramento e non le condivide, e le chat salvate sono protette con la crittografia ad accesso zero, quindi solo tu puoi leggerle.
