Когда сотрудники пользуются инструментами ИИ, которые вы не одобрили, они создают аккаунты, которые вы не видите, не можете защитить или закрыть, и в каждом из них — история чатов, полная данных вашей компании.
Новое исследование, опубликованное SOCRadar(новое окно), показало, что у более чем 80 000 организаций по всему миру имена пользователей ИИ-сервисов, принадлежащие сотрудникам, появились в журналах инфостилеров. Инфостилер — это разновидность вредоносных программ, которые собирают пароли, сеансовые файлы cookie, финансовые и личные данные, а также журналы чатов с зараженных устройств и отправляют их обратно злоумышленнику. Такие данные делают фишинговые атаки или атаки с использованием программ-вымогателей гораздо эффективнее.
Согласно исследованию, журналы были получены с помощью известной вредоносной программы-инфостилера, которая продается в Telegram с 2022 года. Поскольку вредоносная программа продается уже несколько лет, невозможно узнать, сколько преступников ею воспользовались и как они заражали устройства людей. Известно лишь, что они атаковали устройства с корпоративным доступом и перехватывали сеансы Claude. Корпоративные пользователи заметили, что их платный лимит был исчерпан за ночь после того, как киберпреступники получили доступ.
Исследование SOCRadar доказывает, что учетные данные сеансов ИИ чрезвычайно ценны для злоумышленников. Одно имя пользователя в ИИ-сервисе открывает доступ к «архиву с поиском, среде выполнения, платному ресурсу и личным данным — и украденный сеанс передает все это без запроса пароля», как говорится в отчете. Для преступника это золотая жила.
Тревожный вывод для компаний, которые внедряют ИИ сегодня, состоит в том, что эти учетные данные утекают не из-за уровня безопасности самих платформ ИИ. Они утекают из-за двух менее очевидных факторов: огромного числа сотрудников, использующих инструменты ИИ, и растущей доли такого использования за пределами контроля ИТ-отдела.
Что показало исследование?
В целом в отчете отмечается, что учетные данные для ИИ-сервисов появляются в журналах инфостилеров в значительных количествах. Основные выводы:
- Было выявлено более 1 000 000 записей, связанных с ИИ-сервисами, в 80 000 уникальных корпоративных доменов.
- Из этой выборки 482 организации были определены как крупные предприятия, преимущественно в Северной Америке: 68 % из них — компании с миллиардными оборотами.
- Крупнейшая группа — технологические компании: 144 компании и 40 % записей.
- На эти 482 организации приходится 5 434 записи в журналах, связанные с 1 500 корпоративными адресами электронной почты.
- Утечка произошла недавно: у 295 из этих 482 организаций записи в журналах инфостилеров появились за последние 90 дней.
- ChatGPT встречается в журналах у 358 из 482 организаций и примерно в 90 % записей, за ним следуют Zapier, Notion, Hugging Face, Replit, Lovable и ElevenLabs.
Последняя цифра вызывает очевидный вопрос: почему ChatGPT? Объяснение SOCRadar связано не столько с самими инструментами, сколько с тем, как сотрудники их используют.
Теневой ИИ создает риски
Теневой ИИ — это любые инструменты ИИ, которые сотрудники используют без одобрения или ведома компании. Сотрудники приносят теневой ИИ в корпоративные сети, когда возможности корпоративных аккаунтов ограничены или имеющиеся инструменты не подходят для выполняемой задачи.
Исследователь SOCRadar комментирует:
«Почти полное доминирование ChatGPT мы рассматриваем как сигнал о теневом ИИ, а не как приговор безопасности любого из поставщиков. Преимущество первопроходца означает, что у ChatGPT, вероятно, на порядок больше корпоративных пользователей — многие из них регистрируются с рабочей электронной почтой на личном устройстве, вне любой политики. Именно эту аудиторию и собирают инфостилеры. Claude и Gemini почти не встречаются, потому что гораздо меньше сотрудников пока тихо создали там аккаунты, а не потому, что эти учетные данные безопаснее красть. По мере того как предприятия будут активнее осваивать других ассистентов, мы ожидаем, что эта диаграмма выровняется.»
Итак, безопасность ChatGPT не виновата в том, что инструмент так часто встречается в журналах инфостилеров. ChatGPT возглавляет список, потому что у него больше всего корпоративных пользователей и потому что многие из них используют его в обход политики компании.
Сотрудники могут пытаться обходить строгие ИТ-политики, которые не позволяют им выбрать самый быстрый или простой вариант, но также могут искренне не знать, какие политики и ограничения действуют. Компания не может защитить аккаунты, о существовании которых не знает, или запросы, сделанные вне корпоративного аккаунта.
Независимо от намерений, когда сотрудники совмещают личное и рабочее использование ИИ, они нарушают политики использования данных вашей компании и попадают под действие потребительских условий OpenAI.
OpenAI утверждает, что не обучает модели на корпоративных данных, но если сотрудники работают в обход корпоративных правил допустимого использования или используют личный аккаунт в рабочих целях, они теряют контроль над этими данными: их архив чатов (включая конфиденциальные рабочие данные или персонально идентифицируемую информацию (PII)) собирается, регистрируется в журналах и потенциально используется для обучения моделей OpenAI.
OpenAI может передавать корпоративные данные третьим лицам или через интеграции с приложениями: в 2025 году хакеры смогли взломать поставщика OpenAI и украсть данные корпоративных клиентов, включая имена, адреса электронной почты, местоположение и информацию о системах. Как американская компания, она также может быть обязана передавать данные правительству США в рамках Патриотического акта или FISA, даже не уведомляя вас.
Как защитить бизнес от теневого ИИ
Теневой ИИ появляется, когда у сотрудников нет разрешенного инструмента или достаточно хорошего инструмента. Поэтому первый шаг — дать им такой инструмент.
Lumo от Proton дает вашей команде одобренную альтернативу личным аккаунтам и сохраняет корпоративные данные конфиденциальными. Он не ведет журналы и не обучается на рабочих или личных беседах. Вся сохраненная история чатов защищена шифрованием с нулевым доступом, поэтому прочитать ее не может никто, даже Proton.
Шифрование защищает сохраненные данные, но не поможет, если злоумышленник уже находится на устройстве сотрудника. Чтобы закрыть этот пробел, выполните следующие шаги:
- Найдите аккаунты, о которых не знаете. Проверьте, не фигурируют ли домены вашей компании в журналах стилеров, и спросите у команд, какими инструментами ИИ они на самом деле пользуются.
- Относитесь к обнаружению в журнале стилера как к инциденту на конечной точке. Если учетные данные сотрудника обнаружились в журнале, устройство заражено. Простой сброс пароля оставляет украденный сеанс злоумышленника активным, поэтому отзовите активные сеансы и очистите или замените машину.
- Подключите все одобренные инструменты ИИ к SSO с короткоживущими сеансами. Украденный файл cookie, срок действия которого истекает через несколько часов, стоит гораздо меньше, чем тот, что действует неделями.
- Защитите ключи API. Ограничьте их нужными правами, регулярно меняйте и никогда не храните их в приложениях для заметок или общих документах.
- Не выполняйте работу на неуправляемых устройствах. Если сотрудникам нужен ИИ на личных устройствах, требуйте входа через корпоративные аккаунты, которые вы можете отслеживать и отзывать.
- Настройте мониторинг даркнета. Он предупредит вас, когда учетные данные сотрудников появятся в утечках, чтобы вы могли действовать раньше злоумышленника.
Ваши сотрудники в любом случае будут пользоваться ИИ. Предложите им альтернативу ChatGPT, которая не ведет журналы, никогда не обучается на ваших данных и защищает каждый сохраненный чат шифрованием, которое не может открыть даже Proton.
