(новое окно)Новый ИИ-агент Meta под названием Muse отправил незнакомца к пользователю домой и сказал ему, что продавец ждёт у двери.
Продавец, однако, понятия не имел, что о продаже договорились.
Вот что произошло и почему это важно.
Что произошло на Facebook Marketplace
Всё началось с того, что техноблогер Мэтт Робб поручил Muse отвечать на сообщения покупателей о клавиатуре, которую выставил на Facebook Marketplace.
«Только что узнал: он рассказал людям мой адрес и согласился на заниженную цену, а потом они приехали, и он даже не сообщил мне об этом до поздней ночи(новое окно)», — написал он в X.
Однако Muse принял предложение без одобрения Робба, сообщил покупателю его домашний адрес как место встречи, а когда тот приехал, ответил: «Да, я здесь!» Робб узнал об этом только после того, как покупатель прождал больше 20 минут и уехал.
Робб рассказал, что при настройке выбрал «Всегда разрешать(новое окно)», полагая, что Muse всё равно будет согласовывать с ним предложение. Вместо этого настройка позволила Muse отправлять сообщения по сохранённому шаблону, в котором был указан адрес места встречи.
Дэвид Синглтон из Meta Superintelligence Labs публично отверг все обвинения(новое окно): в X он написал, что прошлые проверки показали, что «Muse выполнял прямые указания и корректно запросил разрешение», а позже в ответе Роббу заявил, что Meta подтвердила «отсутствие утечек в системе контроля конфиденциальности».
Однако команда Muse вместе с Роббом изучила журналы и согласилась сделать запрос на разрешение понятнее.
Почему агент создаёт больше рисков для конфиденциальности, чем чат-бот
Люди уже передают ИИ больше, чем готовы ему доверить. В опросе Proton, в котором участвовали 4014 пользователей чат-ботов с ИИ, 66 % сообщили, что обсуждали с чат-ботом хотя бы одну чувствительную тему, тогда как лишь каждый пятый заявил о высоком доверии к ИИ-компаниям в вопросах защиты личной информации.
Такие агенты, как Muse, просят большего: доступа к вашим аккаунтам и разрешения действовать на основе того, что найдут. Тот же сценарий мы видели с плагином ChatGPT для Apple Messages и ИИ-браузерами вроде ChatGPT Atlas.
Meta уже использует ваши диалоги с Meta AI для таргетинга рекламы, а пользователи сообщали, что Meta AI сканирует их галерею камеры без разрешения. Родственный продукт Muse — генератор изображений Muse — по умолчанию включал фотографии пользователей в ИИ-ремиксы. Агент, созданный компанией, которая зарабатывает на персональных данных, будет забирать столько ваших данных, сколько позволят его разрешения. Ограниченные разрешения — единственный барьер между агентом и вашими данными, а экран, который пользователь не может понять, таким барьером не становится.
Прежде чем позволить любому ИИ-агенту писать людям от вашего имени, отключите постоянные разрешения, не указывайте свой адрес в сохранённых ответах и организуйте встречу сами. Ещё можно отключить Meta AI в Facebook и пройти по нашему чек-листу, чтобы остановить слежку Meta.
Используйте ИИ-ассистента, которому не нужны ваши аккаунты
Нам нужен конфиденциальный ИИ, пока не стало слишком поздно. И подключение ИИ к вашим аккаунтам, сообщениям и адресу — вовсе не обязательное условие, чтобы помочь написать объявление или ответить покупателю.
Lumo справляется с этим без такого доступа. Lumo не ведёт журналы, не обучается на ваших диалогах и никому их не передаёт, а сохранённые чаты защищены шифрованием с нулевым доступом, поэтому прочитать их можете только вы.
