(cửa sổ mới)AI agent mới của Meta, Muse, đã gửi một người lạ đến nhà của một người dùng và bảo anh ta rằng người bán đang chờ ở cửa.
Tuy nhiên, người bán không hề biết rằng một giao dịch đã được thỏa thuận.
Đây là câu chuyện về những gì đã xảy ra và vì sao nó quan trọng.
Chuyện gì đã xảy ra trên Facebook Marketplace
Mọi chuyện bắt đầu khi YouTuber công nghệ Matt Robb để Muse xử lý thư của người mua cho một chiếc bàn phím mà anh đăng bán trên Facebook Marketplace.
“Vừa mới phát hiện ra nó đã nói địa chỉ của tôi cho người ta và đồng ý một mức giá bèo, rồi họ đến tận nơi mà nó còn không báo cho tôi đến tận đêm khuya hôm nay(cửa sổ mới)“, anh viết trên X.
Tuy nhiên, Muse đã chấp nhận lời đề nghị mà không có sự đồng ý của anh, đưa địa chỉ nhà của anh cho người mua làm điểm lấy hàng, rồi trả lời “Ừ, tôi đây!” khi người mua đến. Robb chỉ biết chuyện sau khi người mua đã chờ hơn 20 phút và bỏ đi.
Robb cho biết anh đã chọn “Luôn cho phép(cửa sổ mới)” trong quá trình thiết lập, vì tin rằng Muse vẫn sẽ hỏi lại anh trước khi chấp nhận một lời đề nghị. Thay vào đó, cài đặt này lại cho phép Muse gửi thư bằng một mẫu đã lưu có chứa địa chỉ lấy hàng của anh.
David Singleton, thuộc Superintelligence Labs của Meta, đã công khai phủ nhận mọi lỗi(cửa sổ mới), viết trên X rằng các cuộc điều tra trước đây cho thấy “Muse đã làm theo hướng dẫn trực tiếp và xin phép đúng cách”, và sau đó trả lời Robb rằng Meta đã xác nhận “không có vi phạm các biện pháp kiểm soát quyền riêng tư”.
Tuy nhiên, nhóm Muse đã cùng Robb xem lại nhật ký và đồng ý làm cho lời nhắc cấp quyền rõ ràng hơn.
Vì sao AI agent có rủi ro về quyền riêng tư cao hơn chatbot
Mọi người đã giao cho AI nhiều thứ hơn mức họ thực sự tin tưởng. Trong một cuộc khảo sát của Proton với 4.014 người dùng chatbot AI, 66% cho biết họ đã thảo luận ít nhất một chủ đề nhạy cảm với chatbot, trong khi chỉ một phần năm cho biết rất tin tưởng các công ty AI trong việc bảo vệ thông tin riêng tư của mình.
Những AI agent như Muse đòi hỏi nhiều hơn: quyền truy cập vào tài khoản của bạn và quyền hành động dựa trên những gì chúng tìm thấy. Mô hình tương tự cũng xuất hiện với phần bổ trợ Apple Messages của ChatGPT và các trình duyệt AI như ChatGPT Atlas.
Meta vốn đã dùng hội thoại của bạn với Meta AI để nhắm mục tiêu quảng cáo, và người dùng đã báo cáo rằng Meta AI quét thư viện ảnh của họ mà không xin phép. Sản phẩm cùng nhà với Muse là trình tạo ảnh Muse Image đã mặc định đưa ảnh của người dùng vào các bản phối AI. Một AI agent do công ty kiếm lợi từ dữ liệu cá nhân tạo ra sẽ thu thập càng nhiều dữ liệu của bạn càng tốt, trong giới hạn quyền hạn mà nó được cấp. Quyền hạn chặt chẽ là rào cản duy nhất giữa một AI agent và dữ liệu của bạn, mà một màn hình người dùng không thể hiểu được thì cũng không tạo ra được rào cản đó.
Trước khi để bất kỳ AI agent nào nhắn tin cho người khác thay bạn, hãy tắt các phê duyệt thường trực, đừng để địa chỉ của bạn trong các thư trả lời đã lưu và tự sắp xếp việc lấy hàng. Bạn cũng có thể tắt Meta AI trên Facebook và làm theo danh sách kiểm tra để ngăn Meta theo dõi bạn của chúng tôi.
Dùng một trợ lý AI không cần đến tài khoản của bạn
AI riêng tư là điều cần thiết trước khi quá muộn. Và việc kết nối AI với tài khoản, thư và địa chỉ của bạn không phải là điều kiện tiên quyết để được giúp viết tin đăng bán hay trả lời người mua.
Lumo làm được việc đó mà không cần quyền truy cập. Lumo không bao giờ ghi nhật ký, huấn luyện trên hay chia sẻ hội thoại của bạn, và các cuộc trò chuyện đã lưu được bảo vệ bằng mã hóa zero-access, nên chỉ bạn mới đọc được chúng.
