Вы вводите запрос, получаете ответ, и ничего не происходит, пока не введёте следующий. Так работали большинство ИИ-ассистентов, но проактивный ИИ это меняет.

Проактивный ИИ не нуждается в запросе, чтобы действовать. Он может зарегистрировать вас на рейс или подать заявку от вашего имени, принимая эти решения на основе контекста, который накапливался со временем. С появлением проактивных ИИ-ассистентов, таких как Muse и Instinct от Meta, которые стремительно набирают популярность, материал научной фантастики внезапно начинает казаться близким к реальности.

Но, как и в любой хорошей истории научной фантастики, эта технология — палка о двух концах. Давайте разберёмся, как работает проактивный ИИ и чем вы поступаетесь ради удобства, которое он даёт.

Чтобы узнать больше о том, что поставлено на карту, ознакомьтесь с нашим полным руководством по теме ИИ и конфиденциальность/u00a0— или попробуйте инструмент AI paper trail, чтобы увидеть, что именно обычные ИИ-чатботы могли собрать о вас из ваших диалогов.

Что делает ИИ проактивным

Проактивные ИИ-агенты работают на тех же больших языковых моделях, что и привычные нам ИИ-чатботы. Отличает же их три взаимосвязанных свойства:

  1. Они всегда начеку: вместо того чтобы ждать запроса, проактивные агенты отслеживают набор источников и реагируют на изменения по мере их возникновения.
  2. У них есть постоянная память: проактивные агенты со временем формируют рабочую модель ваших привычек и предпочтений. Именно это позволяет им предугадывать, что вам, скорее всего, понадобится дальше, а не просто вспоминать факт, когда вы об этом спросите.
  3. Они решают, как и стоит ли действовать: проактивные агенты могут «рассуждать». Они соотносят ситуацию с вашими привычками, оценивают, стоит ли на неё реагировать, и решают, насколько далеко она должна зайти, прежде чем сообщить вам.

Проактивный ИИ сочетает автоматизацию с суждением. Если простая автоматизация срабатывает каждый раз, когда выполняется условие, проактивные агенты предугадывают ваши потребности и определяют, полезно ли действие, прежде чем решить его выполнить.

Это может быть полезно, но может иметь и непредвиденные последствия. Например, Instinct пытался купить что-то для пользователя, но когда его заблокировала страница входа, он просто сбросил пароль пользователя(новое окно) без запроса. Такая инициатива делает проактивных ИИ-агентов впечатляющими, но и рискованными.

Варианты использования проактивных ИИ-агентов

Проактивные агенты могут помочь с задачами, о которых вы либо забыли бы, либо потратили бы на них целый вечер. Вот несколько примеров:

Порядок в планах поездок

Проактивный агент может отслеживать изменения в вашем маршруте. Если рейс переносят и из-за этого под угрозу ставится стыковка, он заметит это и сообщит вам. Он может перебронировать ваши рейсы, чтобы поездка прошла без сбоев.

Не упустить то, что иначе прошло бы мимо

Тот же принцип «наблюдения и ожидания» работает и для любых товаров, которых не хватает, например пары обуви, распроданной в вашем размере. Агент продолжает следить и оформляет заказ в тот же момент, когда товар снова появляется в наличии.

Отслеживание ответа на электронное письмо

Проактивные агенты могут отслеживать ваш почтовый ящик на предмет электронных писем, которых вы ждёте. Если на ваше электронное письмо представителю службы поддержки так и не ответили, агент может это заметить, написать напоминание и либо отправить его, либо оставить готовым для вас.

Сокращение количества подписок

Когда почти всё сегодня оплачивается по подписке, проактивный агент может проверить, чем вы пользуетесь, и отменить подписки на услуги, за которые вы платите, но которыми не пользуетесь регулярно.

Мониторинг бизнес-процессов

В бизнесе проактивные агенты могут отслеживать IT-инфраструктуру, чтобы заметить ранние признаки проблем и запустить исправление до того, как всё пойдёт наперекосяк. Они также могут следить за сделками и не дать им остыть, проактивно связываясь с потенциальными клиентами, когда у вашей команды может не хватать времени.

Разница между проактивным и реактивным ИИ

Реактивный ИИ-ассистент, например ChatGPT, действует только тогда, когда вы ему это скажете. Даже те, у которых есть память, бездействуют между запросами, храня то, что вы им рассказали, пока вы не спросите о чём-то другом. Проактивный ИИ избавляет от этого ожидания. Он отслеживает триггер и сам решает, действовать ли.

Другими словами, реактивным ИИ вы управляете. Проактивный ИИ действует от вашего имени, перенимая у вас право самостоятельно решать.

Удобство проактивных агентов имеет свою цену

Чтобы делать то, что он делает, проактивным ИИ-агентам нужен постоянный доступ к аккаунтам. Это риск иного рода, чем тот, что возникает при использовании ИИ-ассистента.

Вы предоставляете одной компании полный доступ ко всем данным

Объём данных, которые собирает Google, вызывает опасения, но даже у Google нет полного доступа ко всей вашей личной информации. Google может располагать данными о местоположении(новое окно), но ваши данные о здоровье хранятся в Apple Health. Ваши предпочтения в стриминге скрыты в Netflix, а финансы — в банковском приложении.

Использование проактивных ИИ-агентов означает передачу всего этого и многого другого одной компании. Эти агенты созданы для того, чтобы подключаться ко всем данным; именно это позволяет им замечать закономерности и действовать. В зависимости от агента это может включать имена пользователя и пароли для сторонних аккаунтов, платёжную информацию и не только.

Muse показывает, насколько жадными до данных могут быть проактивные агенты. Обозреватель WIRED(новое окно) обнаружил, что Muse, похоже, больше интересуется сбором данных, чем выполнением задач, и постоянно предлагал подключать всё новые и новые сервисы. Такое поведение соответствует тому, что нам известно о репутации Meta.

Цена такого удобства в том, что всё о вас теперь находится в руках одной компании. И если она не проходит независимые аудиты, у вас нет реального способа узнать, надёжно ли обрабатываются ваши данные. Если аккаунт взломают или продадут, третьи стороны, на которые вы не давали согласия, получат полную картину того, где вы были, с кем общались, что покупали и что говорили наедине. Это открывает дверь к тому, чтобы стать жертвой таких угроз, как кража личных данных и целевое мошенничество.

Отключение — не то же самое, что удаление

TechCrunch(новое окно) сообщил, что на скриншотах условий Instinct значилась «бессрочная и безотзывная» лицензия на данные пользователей. Instinct с тех пор пересмотрел условия, и в действующих условиях использования и политике конфиденциальности этой формулировки нет.

Новые условия всё равно имеют значение. Текущие (на момент написания) условия Instinct позволяют ему «получать доступ, копировать, собирать и индексировать данные(новое окно)» из сервисов, которые вы подключаете, а и в условиях, и в политике конфиденциальности сказано, что отключение аккаунта не удаляет данные(новое окно) если только вы не запросите их удаление. Один из первых пользователей(новое окно) рассказал, что отключил доступ Instinct к аккаунту Google, но спустя несколько часов всё равно получил сводку своих последних электронных писем. Когда пользователь спросил о причине, Instinct подтвердил, что сохранил электронные письма в виде простого текста для последующего поиска. Если вы отключаете сервисы от Instinct, обязательно запросите также удаление данных.

Отказ от обучения ИИ на Instinct тоже не так прост: он действует «только в будущем»(новое окно). Поэтому все данные, которые модель уже впитала о вас, останутся частью её обучения и знаний. Muse работает иначе: отказ от обучения ИИ распространяется ретроактивно на прошлые взаимодействия(новое окно). Однако удаление данных из Muse не означает, что данные действительно удалены. Meta заявляет, что модель всё ещё может помнить то, что было удалено(новое окно), а её функция «забыть» работает по принципу «по мере возможностей»(новое окно).

Ошибки агентов реальны, а не просто неверны

Когда чатбот вроде Gemini галлюцинирует, это приносит реальный вред(новое окно) только в том случае, если вы действуете на основании этой информации. Когда проактивный агент совершает ошибку, вы можете даже не узнать о ней, пока не столкнётесь с реальными последствиями.

Представьте, что проактивный агент решает забронировать вам места в первом классе для поездки. Теперь счёт, с которым вы не соглашались, придётся оплачивать вам. Когда вы соглашаетесь с условиями Instinct, например, вы предоставляете право заключать обязывающие соглашения от вашего имени(новое окно)/u00a0— агент может распоряжаться вашими деньгами без подтверждения, и вы не сможете юридически утверждать, что он действовал вопреки вашей воле. Более того, в условиях сказано, что меры защиты подтверждения(новое окно) не гарантируют предотвращения непреднамеренных действий.

Это касается не только Instinct. Проактивный агент SpaceXAI, Grok Bot, работает на схожих условиях. Подтверждение действий носит «вспомогательный характер(новое окно)» и может не предотвращать непреднамеренных действий. Аналогично, вся ответственность за действия ИИ-агента полностью ложится на вас(новое окно). Условия Meta по использованию Muse возлагают единоличную ответственность(новое окно) за всё, что делает агент, на пользователя. Картина довольно ясная: действия агентов относятся к вам.

Его можно обмануть, и он начнёт работать против вас

Проактивные агенты могут автономно принимать решения, но когда они не могут отличить ваши инструкции от текста, подброшенного кем-то другим, и не запрашивают подтверждения действия у вас, их легко обмануть. Один пользователь Instinct(новое окно) обнаружил, что проактивный агент попался на атаку с внедрением промпта: он выполнил вредоносные инструкции, которые пользователь отправил самому себе. Мошенникам не нужно взламывать агента/u00a0— достаточно, чтобы он прочитал их текст и действовал по нему.

Instinct(новое окно), Meta(новое окно), SpaceXAI(новое окно) и OpenClaw(новое окно) — все признают инъекции промптов известной угрозой. Ни один из них сейчас не предлагает полной защиты от этих атак и обещает лишь, что защитные механизмы агента помогают снизить этот риск.

Будьте внимательны к тому, что передаёте

Проактивный ИИ работает благодаря объёму данных, которые вы ему предоставляете. Чем больше он знает о вас, тем больше может сделать для вас, но тем больше и объём записей о вашей жизни, которые оказываются у одной компании.

Сложилась отраслевая тенденция. Эти ассистенты могут обучаться на ваших самых личных данных, если вы не откажетесь от этого, а отключение от них не гарантирует удаления уже собранного. А когда агент совершает действие, которого вы не предполагали, условия возлагают последствия на вас, а не на компанию. Надо отдать им должное: компании прямо говорят обо всём этом. Однако открытость не отменяет права на конфиденциальность данных.

В конечном счёте решать вам, стоит ли это удобство того, чтобы жертвовать конфиденциальностью и безопасностью данных. Но прежде чем соглашаться, узнайте, что именно ассистент может видеть, что ему разрешено делать без вашего запроса и можно ли по-настоящему вернуть свои данные, если они уже попали в систему. Убедитесь, что решение принимаете вы сами, а не отдаёте его на откуп тому, что стало вирусным трендом.

Если вы не хотите идти на такой компромисс, обратитесь к нашему ИИ-ассистенту Lumo. Мы построили его иначе/u00a0— никаких журналов, никакого обучения на ваших данных, ничего не хранится дольше, чем вам нужно. Вы теряете немного проактивной магии ИИ, зато сохраняете то, что он просит отдать взамен: контроль над своей жизнью.