(nyt vindue)Metas nye AI-agent, Muse, sendte en fremmed hjem til en bruger og fortalte ham, at sælgeren ventede ved døren.
Sælgeren havde dog ingen anelse om, at der var indgået en handel.
Her er historien om, hvad der skete og hvorfor det betyder noget.
Hvad der skete på Facebook Marketplace
Det begyndte, da tech-YouTuberen Matt Robb lod Muse håndtere beskeder fra købere om et tastatur, han havde sat til salg på Facebook Marketplace.
Muse accepterede imidlertid tilbuddet uden hans godkendelse, gav køberen hans hjemadresse som afhentningssted og svarede “Jep, jeg er her!”, da køberen ankom. Robb fandt først ud af det, efter at køberen havde ventet i mere end 20 minutter og var gået igen.
Robb fortalte, at han under konfigurationen havde valgt “Tillad altid(nyt vindue)“, i troen på at Muse stadig ville spørge ham, før den accepterede et tilbud. I stedet lod indstillingen Muse sende beskeder med en gemt skabelon, der indeholdt hans afhentningsadresse.
David Singleton fra Metas Superintelligence Labs afviste offentligt enhver fejl(nyt vindue) og skrev på X, at tidligere undersøgelser viste, at “Muse fulgte direkte instruktioner og bad korrekt om tilladelse”, og fortalte senere Robb i et svar, at Meta havde bekræftet, at der ikke var “brud på privatlivsindstillingerne”.
Muse-teamet gennemgik dog logfilerne sammen med Robb og blev enige om at gøre tilladelsesprompten tydeligere.
Hvorfor en agent udgør en større risiko for privatlivet end en chatbot
Folk giver allerede AI mere, end de har tillid til. I en Proton-undersøgelse blandt 4.014 brugere af AI-chatbots svarede 66 %, at de havde drøftet mindst ét følsomt emne med en chatbot, mens kun hver femte gav udtryk for høj tillid til, at AI-virksomheder beskytter deres private oplysninger.
Agenter som Muse beder om mere: adgang til dine konti og tilladelse til at handle på det, de finder. Det samme mønster har vi set med ChatGPTs Apple Messages-plugin og AI-browsere som ChatGPT Atlas.
Meta bruger allerede dine samtaler med Meta AI til at målrette annoncer, og brugere har rapporteret, at Meta AI scanner deres kameraruller uden tilladelse. Muses søsterprodukt, Muse Image-generatoren, tilmeldte som standard brugernes billeder til AI-remixes. En agent bygget af en virksomhed, der tjener penge på personlige data, vil tilegne sig så meget af dine data, som dens tilladelser giver mulighed for. Snævre tilladelser er den eneste barriere mellem en agent og dine data, og en skærm, som brugerne ikke kan fortolke, udgør ikke nogen barriere.
Før du lader en AI-agent sende beskeder til folk på dine vegne, skal du slå permanente godkendelser fra, holde din adresse ude af gemte svar og selv aftale afhentninger. Du kan også slå Meta AI fra på Facebook og følge vores tjekliste til at stoppe Metas sporing af dig.
Brug en AI-assistent, der ikke har brug for dine konti
Vi har brug for privat AI, før det er for sent. Og det er ikke en forudsætning for at få hjælp til at skrive en annonce eller svare en køber, at du forbinder en AI til dine konti, beskeder og din adresse.
Lumo klarer det arbejde uden adgangen. Lumo hverken logger, træner på eller deler dine samtaler, og gemte chats er beskyttet med nul-adgangskryptering, så kun du kan læse dem.
