(nytt vindu)Metas nye AI-agent, Muse, sendte en fremmed person til hjemmet til en bruker og fortalte ham at selgeren ventet på døren.
Selgeren hadde imidlertid ingen anelse om at et salg var inngått.
Her er historien om hva som skjedde og hvorfor det er viktig.
Hva som skjedde på Facebook Marketplace
Det startet da teknikk-YouTuberen Matt Robb lot Muse håndtere kjøpernes meldinger for et tastatur han hadde lagt ut på Facebook Marketplace.
«Fant nettopp ut at den fortalte folk adressen min og godtok et skambud, og så dukket de opp uten at den engang sa fra til meg før sent i natt(nytt vindu)», skrev han på X.
Muse godtok imidlertid tilbudet uten hans godkjenning, ga kjøperen hjemmeadressen hans som hentested og svarte «Jepp, jeg er her!» da kjøperen dukket opp. Robb fikk først vite det etter at kjøperen hadde ventet i over 20 minutter og gitt seg.
Robb sa at han hadde valgt «Tillat alltid(nytt vindu)» under oppsettet, i tro på at Muse fortsatt ville sjekke med ham før den godtok et tilbud. I stedet lot innstillingen Muse sende meldinger med en lagret mal som inneholdt henteadressen hans.
David Singleton i Metas Superintelligence Labs bestred offentlig at noe var galt(nytt vindu), og skrev på X at tidligere undersøkelser viste at «Muse fulgte direkte instrukser og ba korrekt om tillatelse», og fortalte senere Robb i et svar at Meta hadde bekreftet at det ikke var «noe brudd på personvernkontrollene».
Muse-teamet gikk imidlertid gjennom loggene sammen med Robb og ble enige om å gjøre tillatelsesforespørselen tydeligere.
Hvorfor en agent utgjør en større personvernrisiko enn en chatbot
Folk overlater allerede mer til AI enn de egentlig stoler på. I en Proton-undersøkelse blant 4.014 brukere av AI-chatboter svarte 66 % at de hadde diskutert minst ett sensitivt tema med en chatbot, mens bare én av fem oppga at de hadde høy tillit til at AI-selskaper beskytter deres private informasjon.
Agenter som Muse ber om mer: tilgang til kontoene dine og tillatelse til å handle ut fra det de finner. Vi så det samme mønsteret med ChatGPTs tillegg for Apple Messages og AI-nettlesere som ChatGPT Atlas.
Meta bruker allerede samtalene dine med Meta AI til å målrette annonser, og brukere har rapportert at Meta AI skanner kamerarullen deres uten tillatelse. Muses søsterprodukt, Muse Image-generatoren, satte brukernes bilder inn i AI-remikser som standard. En agent bygget av et selskap som tjener penger på personopplysninger, vil tilegne seg så mye av dine data som tillatelsene tillater. Snevre tillatelser er den eneste barrieren mellom en agent og dataene dine, og en skjermflate brukerne ikke klarer å tolke, er ingen slik barriere.
Før du lar en AI-agent sende meldinger til folk på dine vegne, bør du slå av permanente godkjenninger, holde adressen din utenfor lagrede svar og avtale henting selv. Du kan også slå av Meta AI på Facebook og gå gjennom sjekklisten vår for å stoppe Meta fra å spore deg.
Bruk en AI-assistent som ikke trenger kontoene dine
Vi trenger privat AI før det er for sent. Og å koble en AI til kontoene, meldingene og adressen din er ikke en forutsetning for hjelp med å skrive en annonse eller svare en kjøper.
Lumo gjør den jobben uten tilgangen. Lumo logger aldri, trener aldri på eller deler aldri samtalene dine, og lagrede chatter er beskyttet med nulltilgangskryptering, slik at bare du kan lese dem.
