ИИ-ассистенты обещают то, чего не хватает большинству компаний: эффективность без дополнительных затрат.
Они могут составлять сводки ваших электронных писем, отвечать от вашего имени, определять, какие сообщения требуют решений, автоматизировать события в календаре, извлекать информацию из ваших документов и даже упорядочивать их.
Для основателя или руководителя малого или среднего бизнеса, где потребности опережают ресурсы, это может казаться своевременно исполненным желанием. Все, что от вас требуется, — это абсолютно всё: доступ к вашему почтовому ящику, календарю, файлам и даже конфиденциальной коммерческой информации.
Уже до 69% фирм используют таких ИИ-ассистентов, как ChatGPT, Claude и Grammarly, но 30% сомневаются или не доверяют ИИ-компаниям защиту своих коммерческих данных.
Компромисс не очевиден на первый взгляд. Но за эффективность малый и средний бизнес расплачивается безопасностью.
Цена эффективности
Когда вы подключаете Gmail, Google Диск или календарь к такому инструменту, как Comet от Perplexity, вы предоставляете ему разрешения OAuth — зачастую выходящие за рамки доступа только на просмотр. В зависимости от запрашиваемых областей доступа инструмент может скачивать контакты, полностью управлять вашим календарем и даже писать электронные письма от вашего имени.
Технически эти разрешения раскрываются во время процесса авторизации, но большинство пользователей не до конца понимают, что они означают на практике. После их предоставления инструмент может получать доступ к конфиденциальным данным компании и обрабатывать их в больших масштабах.
Эта же модель применима и к другим рабочим процессам с использованием ИИ. Индексация внутренних баз знаний, составление сводок по конфиденциальным документам или контекстуализация данных компании — все это увеличивает ваши риски.
Если вы не знаете, к чему предоставили доступ, вы не можете точно оценить возникающие риски.
Сколько всего видят ИИ-ассистенты и браузеры
Вы знаете, что ИИ-браузеры, такие как Comet от Perplexity или Atlas от ChatGPT(новое окно), могут читать открытую страницу, делать ее краткое содержание и переписывать текст. Но знаете ли вы, что они могут действовать от вашего имени?
Поскольку эффективность зависит от глубокой интеграции, ассистенту необходима видимость ваших действий в браузере, и он может запрашивать доступ к подключенным аккаунтам. В некоторых случаях он может выполнять действия, а не просто генерировать текст.
В более широком смысле такова архитектура ИИ-агентов. Они предназначены для работы в подключенных системах. Один скомпрометированный или управляемый извне агент может последовательно получить доступ к вашей электронной почте, календарю, файлам и учетным данным.
Это следствие того, как устроены эти инструменты. Они создают поверхность атаки, способы использования которой исследователи уже находят.
Исследователи безопасности уже продемонстрировали, как скрытые инструкции, встроенные в веб-контент, могут манипулировать этими системами непредвиденными способами.
Один из недавних эксплойтов, «CometJacking(новое окно)», показал, как инструкции, встроенные в URL-адреса, могут заставить ИИ получить доступ к личным или корпоративным данным или выполнить вредоносные действия без ведома пользователя.
Разработчики быстро реагируют на такие угрозы, выпуская патчи и защитные меры. В данном случае компания Perplexity применила четырехслойный подход к защите. Однако эта тенденция указывает на нечто более фундаментальное: эти инструменты созданы для интерпретации и выполнения действий.
Даже Perplexity заявляет в своей Политике конфиденциальности(новое окно): «Никакие меры безопасности не являются непреодолимыми, и мы не можем гарантировать “абсолютную безопасность”». Вопрос не в том, безопасен ли инструмент сейчас. Вопрос в том, готовы ли вы предоставить ему тот объем доступа, который он требует.
На ком лежит забота о конфиденциальности
Разработчики ИИ делают акцент на настройках конфиденциальности и возможности отказа от сбора данных. Например, Comet Assistant от Perplexity уверяет пользователей, что «Comet Assistant дает вам полный контроль».
Но эти элементы управления основаны на ошибочном предположении: что пользователи понимают, как обрабатываются их данные, активно настраивают соответствующие параметры и следят за тем, как со временем меняются политики.
На практике большинство этого не делает. Согласно Отчету Proton по кибербезопасности малого и среднего бизнеса за 2026 год, 43% компаний малого и среднего бизнеса заявляют, что не могут самостоятельно проверить конфиденциальность провайдера, а 35% вообще не понимают, как провайдеры обрабатывают их данные.
Часть информации может быть исключена из обучения моделей. Другие данные могут сохраняться для улучшения персонализации. Политики могут отличаться для разных функций и меняться по мере развития продуктов. Отключение некоторых функций может ограничить именно те возможности, которые делают инструмент привлекательным.
В таких условиях конфиденциальность перестает быть статичным обещанием продукта. Она становится постоянной операционной обязанностью.
Эта обязанность ложится на вас, пользователя. Вы должны решать, какими данными можно поделиться, отслеживать обновления политики, соответствующим образом настраивать параметры и переоценивать риски по мере развития продукта.
На этой странице собраны практические руководства и разъяснения по конфиденциальности и безопасности ИИ(новое окно), чтобы вы точно знали, с чем работаете.
Особенности конфиденциального ИИ-ассистента или браузера на базе ИИ
Ваша команда должна иметь возможность использовать ИИ-ассистента без беспокойства о том, что каждое взаимодействие сохраняется, анализируется для профилирования или используется для обучения следующей версии модели.
- Никакого логирования данных. По умолчанию. Ваша команда должна иметь возможность использовать ИИ-ассистента или агента без беспокойства о том, что каждое взаимодействие сохраняется, профилируется или монетизируется. Если инструмент формирует «воспоминания» или «предпочтения», вам следует спросить: кто контролирует эти данные? Действительно ли это отключено по умолчанию или скрыто в настройках? И если я отключу это, какие возможности продукта я потеряю?
- Никакого обучения моделей на вашей коммерческой информации. Коммерческие документы, информация о партнерах, отчеты или планы никогда не должны использоваться для обучения моделей ИИ. Это не только вопрос справедливости, но и вопрос безопасности, поскольку данные могут всплыть при инцидентах, которые вы не сможете контролировать.
- Реальная прозрачность. Прозрачность формирует доверие, но только если она реальна. Это означает, что на каждом этапе вы должны понимать, как обрабатываются ваши данные и какими принципами руководствуются создатели продукта. Если вам приходится тратить два часа на разбор Условий использования, которые противоречат вашему реальному опыту работы с инструментом, это не прозрачность. Это просто рекламный слоган.
- Шифрование с нулевым доступом. При шифровании с нулевым доступом ваши данные защищены ключами, которые контролируете только вы — даже провайдер не может их прочитать. Это избавляет от необходимости доверять политикам или обещаниям, поскольку сама архитектура делает нецелевое использование технически невозможным.
Большинство ИИ-инструментов извлекают выгоду из компаний, которые их используют. Ваши беседы, документы и файлы служат для обучения моделей, профилирования аудитории, а в некоторых случаях передаются по запросам государственных органов — как правило, без должного раскрытия информации или согласия с вашей стороны. Но не Lumo.
Lumo — это ИИ-ассистент, созданный для компаний, которые не могут себе позволить передавать свои данные ради удобства. Шифрование с нулевым доступом, никакого логирования данных, никакого обучения моделей на вашей коммерческой информации.
