(fereastră nouă)Noul agent AI al Meta, Muse, a trimis un necunoscut la domiciliul unui utilizator și i-a spus că vânzătorul așteaptă la ușă.
Vânzătorul însă nu avea habar că se încheiase o vânzare.
Iată povestea a ceea ce s-a întâmplat și de ce este important.
Ce s-a întâmplat pe Facebook Marketplace
Totul a început când youtuberul de tehnologie Matt Robb i-a permis lui Muse să gestioneze mesajele cumpărătorilor pentru o tastatură pe care o listase pe Facebook Marketplace.
„Tocmai am aflat că le-a spus oamenilor adresa mea, a acceptat un preț derizoriu, iar apoi au apărut fără ca măcar să-mi spună până noaptea târziu(fereastră nouă)”, a scris el pe X.
Muse a acceptat oferta fără aprobarea lui, i-a dat cumpărătorului adresa de domiciliu ca punct de ridicare și apoi a răspuns „Da, sunt aici!” când cumpărătorul a ajuns. Robb a aflat abia după ce cumpărătorul așteptase mai bine de 20 de minute și plecase.
Robb a spus că alesese „Permite întotdeauna(fereastră nouă)” în timpul configurării, crezând că Muse îl va consulta totuși înainte de a accepta o ofertă. În schimb, setarea i-a permis lui Muse să trimită mesaje folosind un șablon salvat care conținea adresa de ridicare.
David Singleton, de la Superintelligence Labs al Meta, a contestat public orice vină(fereastră nouă), scriind pe X că investigațiile anterioare au constatat că „Muse urma instrucțiuni directe și a cerut permisiunea în mod corect”, iar ulterior i-a spus lui Robb, într-un răspuns, că Meta a confirmat „nicio încălcare a controlului confidențialității”.
Echipa Muse a analizat însă jurnalele împreună cu Robb și a fost de acord să facă mai clar mesajul care solicită permisiunea.
De ce un agent prezintă un risc mai mare pentru confidențialitate decât un chatbot
Oamenii îi oferă deja AI mai mult decât ar avea încredere să-i ofere. Într-un sondaj Proton realizat pe 4.014 utilizatori de chatbot AI, 66% au declarat că au discutat cel puțin un subiect sensibil cu un chatbot, în timp ce doar o cincime a afirmat că are încredere mare că firmele de AI le protejează informațiile private.
Agenți precum Muse cer mai mult: acces la conturile dumneavoastră și permisiunea de a acționa pe baza a ceea ce găsesc. Același tipar s-a observat la pluginul Apple Messages al ChatGPT și la browserele AI precum ChatGPT Atlas.
Meta folosește deja conversațiile cu Meta AI pentru a direcționa reclame, iar utilizatorii au raportat că Meta AI le scanează galeriile foto fără permisiune. Produsul înrudit al Muse, generatorul Muse Image, a inclus implicit fotografiile utilizatorilor în remixuri AI. Un agent creat de o companie care profită din date personale va viza cât mai multe dintre datele dumneavoastră, atât cât îi permit permisiunile. Permisiunile restrânse sunt singura barieră între un agent și datele dumneavoastră, iar un ecran pe care utilizatorii nu îl pot interpreta nu constituie o astfel de barieră.
Înainte de a lăsa vreun agent AI să trimită mesaje în numele dumneavoastră, dezactivați aprobările permanente, nu păstrați adresa în răspunsurile salvate și stabiliți personal ridicările. Puteți, de asemenea, să dezactivați Meta AI pe Facebook și să parcurgeți lista noastră de verificare pentru a opri urmărirea din partea Meta.
Folosiți un asistent AI care nu are nevoie de conturile dumneavoastră
Avem nevoie de AI privat înainte să fie prea târziu. Iar conectarea unui AI la conturi, mesaje și adresă nu este o condiție prealabilă pentru a primi ajutor la scrierea unui anunț sau la răspunsul către un cumpărător.
Lumo face acest lucru fără să aibă acces. Lumo nu înregistrează, nu folosește pentru antrenare și nu partajează conversațiile dumneavoastră, iar conversațiile salvate sunt protejate prin criptare cu acces zero, astfel încât doar dumneavoastră le puteți citi.
