(nové okno)Nový AI agent Muse od společnosti Meta poslal cizího člověka k domu uživatele a řekl mu, že prodejce čeká u dveří.
Prodejce však vůbec netušil, že byla nějaká koupě dohodnuta.
Přinášíme příběh o tom, co se stalo a proč na tom záleží.
Co se stalo na Facebook Marketplace
Začalo to tím, že technologický youtuber Matt Robb nechal Muse vyřizovat zprávy od kupujících o klávesnici, kterou inzeroval na Facebook Marketplace.
Muse však nabídku bez jeho souhlasu přijala, kupujícímu poskytla jeho domácí adresu jako místo vyzvednutí a když kupující dorazil, odpověděla: „Jo, už jsem tady!“ Robb se o tom dozvěděl až poté, co kupující čekal déle než 20 minut a odešel.
Robb uvedl, že při nastavení zvolil možnost „Vždy povolit(nové okno)“ a myslel si, že se ho Muse před přijetím nabídky ještě zeptá. Místo toho díky tomuto nastavení mohla Muse odesílat zprávy pomocí uložené šablony, která obsahovala jeho adresu pro vyzvednutí.
David Singleton z laboratoří Superintelligence Labs společnosti Meta veřejně odmítl jakoukoli chybu(nové okno) a na síti X napsal, že předchozí šetření zjistila, že „Muse postupovala podle přímých pokynů a správně si vyžádala svolení“, a později Robbovi v odpovědi uvedl, že Meta potvrdila, že „nedošlo k narušení soukromí“.
Tým Muse si však s Robbem prošel záznamy a dohodl se, že výzvu k udělení oprávnění zobrazí srozumitelněji.
Proč je agent větším rizikem pro soukromí než chatbot
Lidé už AI svěřují víc, než jí důvěřují. V průzkumu Protonu mezi 4 014 uživateli AI chatbotů uvedlo 66 % lidí, že s chatbotem probrali alespoň jedno citlivé téma, zatímco jen jeden z pěti uvedl, že má velkou důvěru v to, že AI firmy ochrání jeho soukromé informace.
Agenti jako Muse žádají víc: přístup k vašim účtům a oprávnění jednat na základě toho, co najdou. Stejný vzorec se objevil u pluginu ChatGPT pro Apple Messages a u AI prohlížečů, jako je ChatGPT Atlas.
Meta už konverzace s Meta AI využívá k cílení reklam a uživatelé hlásili, že Meta AI bez svolení skenuje jejich fotogalerie. Sesterský produkt Muse, generátor obrázků Muse Image, ve výchozím nastavení zapojoval fotky uživatelů do AI remixů. Agent, kterého vytvořila firma vydělávající na osobních údajích, bude usilovat o co největší množství těch vašich, jak jen mu to jeho oprávnění dovolí. Úzká oprávnění jsou jedinou bariérou mezi agentem a vašimi daty a obrazovka, které uživatelé nedokážou porozumět, je nenahradí.
Než necháte nějakého AI agenta posílat zprávy za vás, vypněte trvalá schválení, odstraňte svou adresu z uložených odpovědí a vyzvednutí si domluvte sami. Můžete také vypnout Meta AI na Facebooku a projít si kontrolní seznam, jak zastavit sledování ze strany společnosti Meta.
Využijte AI asistenta, který nepotřebuje vaše účty
Potřebujeme soukromou AI, dokud není pozdě. A propojení AI s vašimi účty, zprávami a adresou není podmínkou pro to, aby vám pomohla napsat inzerát nebo odpovědět kupujícímu.
Lumo tuhle práci zvládne bez přístupu. Lumo vaše konverzace nikdy nezaznamenává, nepoužívá je k trénování ani je nesdílí a uložené chaty chrání šifrování s nulovým přístupem, takže si je můžete přečíst jen vy.
