(nowe okno)Nowy agent AI od Meta, Muse, wysłał obcego człowieka do domu użytkownika i powiedział mu, że sprzedawca czeka pod drzwiami.

Sprzedawca nie miał jednak pojęcia, że doszło do uzgodnienia sprzedaży.

Oto historia tego, co się stało i dlaczego ma to znaczenie.

Co się stało na Facebook Marketplace

Zaczęło się, gdy youtuber technologiczny Matt Robb pozwolił Muse obsługiwać wiadomości od kupujących dotyczące klawiatury, którą wystawił na Facebook Marketplace.

„Właśnie dowiedziałem się, że podał ludziom mój adres i zgodził się na zaniżoną cenę, a potem pojawili się, nie informując mnie o tym aż do późnego wieczora(nowe okno)” – napisał na X.

Muse przyjął jednak ofertę bez jego zgody, podał kupującemu jego domowy adres jako miejsce odbioru, a gdy kupujący przyjechał, odpowiedział: „Tak, jestem na miejscu!”. Robb dowiedział się o tym dopiero po tym, jak kupujący czekał ponad 20 minut i odszedł.

Robb powiedział, że podczas konfiguracji wybrał opcję „Zawsze zezwalaj(nowe okno)”, wierząc, że Muse i tak skonsultuje się z nim przed przyjęciem oferty. Zamiast tego to ustawienie pozwoliło Muse wysyłać wiadomości z zapisanego szablonu zawierającego jego adres odbioru.

David Singleton z Meta Superintelligence Labs publicznie zakwestionował jakąkolwiek winę(nowe okno), pisząc na X, że wcześniejsze dochodzenia wykazały, iż „Muse postępował zgodnie z bezpośrednimi instrukcjami i prawidłowo poprosił o zgodę”, a później odpowiedział Robbowi, że Meta potwierdziła „brak naruszenia kontroli prywatności”.

Zespół Muse przeanalizował jednak z Robbiem logi i zgodził się uczynić monit o zgodę wyraźniejszym.

Dlaczego agent stwarza większe ryzyko dla prywatności niż chatbot

Ludzie już powierzają AI więcej, niż są jej skłonni zaufać. W badaniu Proton przeprowadzonym na 4 014 użytkownikach chatbotów AI 66% osób przyznało, że rozmawiało z chatbotem na co najmniej jeden wrażliwy temat, a tylko jedna na pięć zadeklarowała duże zaufanie do firm AI w zakresie ochrony prywatnych informacji.

Agenci tacy jak Muse proszą o więcej: dostęp do kont i zgodę na działanie na podstawie tego, co znajdą. Ten sam schemat zaobserwowano w przypadku wtyczki ChatGPT do Apple Messages i przeglądarek AI, takich jak ChatGPT Atlas.

Meta już wykorzystuje twoje rozmowy z Meta AI do targetowania reklam, a użytkownicy zgłaszali, że Meta AI skanuje ich biblioteki zdjęć bez zgody. Pokrewny produkt Muse, generator obrazów Muse Image, domyślnie włączał zdjęcia użytkowników do remiksów AI. Agent stworzony przez firmę, która zarabia na danych osobowych, będzie pozyskiwał ich tyle, na ile pozwolą mu uprawnienia. Wąskie uprawnienia to jedyna bariera między agentem a twoimi danymi, a ekran, którego użytkownik nie potrafi zinterpretować, ich nie zapewnia.

Zanim pozwolisz jakiemukolwiek agentowi AI wysyłać wiadomości w twoim imieniu, wyłącz stałe zgody, trzymaj swój adres z dala od zapisanych odpowiedzi i sam ustalaj odbiór. Możesz też wyłączyć Meta AI na Facebooku i przejść przez naszą listę kontrolną, która pomoże ci powstrzymać Meta przed śledzeniem.

Korzystaj z asystenta AI, który nie potrzebuje dostępu do twoich kont

Potrzebna jest prywatna AI, zanim będzie za późno. A podłączanie AI do kont, wiadomości i adresu nie jest warunkiem koniecznym, by pomogła napisać ogłoszenie albo odpowiedzieć kupującemu.

Lumo wykonuje tę pracę bez dostępu do twoich danych. Lumo nigdy nie rejestruje, nie wykorzystuje do trenowania ani nie udostępnia twoich rozmów, a zapisane czaty są chronione szyfrowaniem z zerowym dostępem, więc tylko ty możesz je przeczytać.

Rozpocznij prywatny czat(nowe okno)