Metas Muse AI-agent skickade en helt främmande person hem till en användare

(nytt fönster)Metas nya AI-agent Muse skickade en främmande person hem till en användare och uppgav att säljaren väntade vid dörren.

Säljaren hade dock ingen aning om att en försäljning hade avtalats.

Här är historien om vad som hände och varför det spelar roll.

Vad som hände på Facebook Marketplace

Allt började när teknik-YouTubern Matt Robb lät Muse hantera köparmeddelanden för ett tangentbord han hade lagt ut på Facebook Marketplace.

“Fick precis veta att den berättade min adress för folk och gick med på ett skambud, och sedan dök de upp utan att den ens sade något till mig förrän sent i kväll(nytt fönster)“, skrev han på X.

Muse accepterade dock budet utan hans godkännande, gav köparen hans hemadress som upphämtningsplats och svarade sedan “Japp, jag är här!” när köparen anlände. Robb fick reda på det först efter att köparen hade väntat i mer än 20 minuter och gett sig av.

Robb sade att han hade valt “Tillåt alltid(nytt fönster)” under konfigurationen, i tron att Muse ändå skulle stämma av med honom innan den accepterade ett bud. I stället lät inställningen Muse skicka meddelanden med en sparad mall som innehöll hans upphämtningsadress.

David Singleton vid Metas Superintelligence Labs tillbakavisade offentligt att det hade begåtts något fel(nytt fönster) och skrev på X att tidigare utredningar hade visat att “Muse följde direkta instruktioner och bad om tillstånd på rätt sätt”, och sade senare i ett svar till Robb att Meta hade bekräftat att det inte hade skett “något intrång i integritetskontrollerna”.

Muse-teamet gick dock igenom loggarna tillsammans med Robb och enades om att göra behörighetsfrågan tydligare.

Varför en agent innebär en större integritetsrisk än en chattbot

Människor ger redan AI mer än de känner förtroende för. I en Proton-undersökning bland 4 014 användare av AI-chattbotar uppgav 66 % att de hade diskuterat minst ett känsligt ämne med en chattbot, medan bara en av fem uppgav ett högt förtroende för att AI-företag skyddar deras privata information.

Agenter som Muse begär mer: åtkomst till dina konton och tillstånd att agera på det de hittar. Vi såg samma mönster med ChatGPTs insticksprogram för Apple Messages och AI-webbläsare som ChatGPT Atlas.

Meta använder redan dina konversationer med Meta AI för att rikta annonser, och användare har rapporterat att Meta AI skannar deras kamerarullar utan tillstånd. Muses systerprodukt, Muse Image-generatorn, inkluderade användarnas foton i AI-remixer som standard. En agent som byggts av ett företag som tjänar pengar på personuppgifter kommer att eftersträva så mycket av dina som dess behörigheter tillåter. Snäva behörigheter är det enda hindret mellan en agent och dina data, och en skärm som användare inte kan tolka ger dem inget sådant skydd.

Innan du låter en AI-agent skicka meddelanden till folk åt dig bör du stänga av stående godkännanden, hålla din adress borta från sparade svar och ordna upphämtningar själv. Du kan också stänga av Meta AI på Facebook och gå igenom vår checklista för att stoppa Metas spårning av dig.

Använd en AI-assistent som inte behöver dina konton

Det behövs privat AI innan det är för sent. Och att koppla en AI till dina konton, meddelanden och din adress är inte en förutsättning för hjälp att skriva en annons eller svara en köpare.

Lumo utför det arbetet utan åtkomsten. Lumo loggar aldrig, tränar aldrig på och delar aldrig dina konversationer, och sparade chattar skyddas med nollåtkomstkryptering, så bara du kan läsa dem.