(nieuw venster)De nieuwe AI-agent van Meta, Muse, stuurde een onbekende naar het huis van een gebruiker en vertelde hem dat de verkoper bij de deur wachtte.

De verkoper had echter geen idee dat er een verkoop was overeengekomen.

Dit is het verhaal van wat er is gebeurd en waarom het ertoe doet.

Wat er gebeurde op Facebook Marketplace

Het begon toen tech-YouTuber Matt Robb Muse de berichten van kopers liet afhandelen voor een toetsenbord dat hij op Facebook Marketplace had gezet.

“Kwam er net achter dat het mensen mijn adres heeft verteld en een te laag bod heeft geaccepteerd, en toen kwamen ze opdagen zonder dat het me iets liet weten tot laat vanavond(nieuw venster),” schreef hij op X.

Muse accepteerde het bod echter zonder zijn goedkeuring, gaf de koper zijn huisadres als ophaaladres en antwoordde “Ja, ik ben er!” toen de koper aankwam. Robb kwam er pas achter nadat de koper meer dan 20 minuten had gewacht en weer weg was.

Robb zei dat hij tijdens de setup voor “Altijd toestaan(nieuw venster)” had gekozen, in de veronderstelling dat Muse nog steeds met hem zou overleggen voordat er een bod werd geaccepteerd. In plaats daarvan kon Muse dankzij deze instelling berichten verzenden met een opgeslagen sjabloon met daarin zijn ophaaladres.

David Singleton van Meta’s Superintelligence Labs betwistte publiekelijk elke schuld(nieuw venster) en schreef op X dat uit eerdere onderzoeken bleek dat “Muse directe instructies volgde en correct om toestemming vroeg”, en vertelde Robb later in een reactie dat Meta had bevestigd dat er “geen schending van de privacy-instellingen” was.

Het Muse-team bekeek de logboeken echter samen met Robb en stemde ermee in de toestemmingsprompt duidelijker te maken.

Waarom een agent een groter privacyrisico vormt dan een chatbot

Mensen geven AI nu al meer dan ze vertrouwen. In een Proton-onderzoek onder 4 014 gebruikers van AI-chatbots zei 66% dat ze minstens één gevoelig onderwerp met een chatbot hadden besproken, terwijl slechts één op de vijf aangaf veel vertrouwen te hebben dat AI-bedrijven hun privégegevens beschermen.

Agents zoals Muse vragen meer: toegang tot uw accounts en toestemming om te handelen op basis van wat ze vinden. Hetzelfde patroon zagen we bij de Apple Messages-invoegtoepassing van ChatGPT en bij AI-browsers zoals ChatGPT Atlas.

Meta gebruikt uw gesprekken met Meta AI om advertenties te richten, en gebruikers hebben gemeld dat Meta AI hun camera roll scant zonder toestemming. Het zusterproduct van Muse, de Muse Image-generator, nam de foto’s van gebruikers standaard op in AI-remixen. Een agent van een bedrijf dat profiteert van persoonsgegevens zal zoveel van uw gegevens verzamelen als de machtigingen toelaten. Beperkte machtigingen zijn de enige barrière tussen een agent en uw gegevens, en een scherm dat gebruikers niet kunnen begrijpen vormt die barrière niet.

Voordat u een AI-agent namens u berichten laat sturen, schakelt u permanente goedkeuringen uit, houdt u uw adres buiten opgeslagen antwoorden en regelt u het ophalen zelf. U kunt ook Meta AI op Facebook uitschakelen en onze checklist doorlopen om te voorkomen dat Meta u volgt.

Gebruik een AI-assistent die uw accounts niet nodig heeft

We hebben privé-AI nodig voordat het te laat is. En een AI verbinden met uw accounts, berichten en adres is geen voorwaarde om hulp te krijgen bij het schrijven van een advertentie of het beantwoorden van een koper.

Lumo doet dat werk zonder die toegang. Lumo logt uw gesprekken nooit, traint er niet op en deelt ze niet, en opgeslagen chats zijn beveiligd met zero-access-versleuteling, zodat alleen u ze kunt lezen.

Start een privéchat(nieuw venster)