Искусственный интеллект (ИИ) > Безопасны ли LLM?
Безопасны ли LLM? Разбор рисков безопасности ИИ
ИИ-ассистенты стали повседневными инструментами для работы, исследований и общения. Однако те же системы, которые делают их полезными, также создают угрозы для безопасности. Вот что вам следует знать о рисках безопасности, связанных с LLM и ИИ.
Что такое LLM и как они связаны с ИИ и безопасностью?
Искусственный интеллект включает в себя десятки видов программного обеспечения для машинного обучения — от распознавания лиц и выявления банковского мошенничества до настольных игр. Большие языковые модели (LLM) — это один из конкретных типов ИИ: они служат основой для каждого крупного ИИ-ассистента, о котором вы слышали, включая ChatGPT, Microsoft Copilot, Google Gemini и собственный Lumo от Proton.
Модель LLM обучается путем обработки огромных объемов информации (книг, статей, документации, кода и научных работ) и поиска закономерностей в том, как функционирует язык. Со временем она начинает лучше предугадывать, какими должны быть следующие слова в любом тексте, что позволяет ей вести целые цепочки писем, резюмировать документы или составлять черновики электронных писем, которые выглядят так, будто их написал реальный человек.
Поскольку LLM обрабатывают так много информации, а люди все чаще делятся с ними конфиденциальными личными и профессиональными данными, безопасность LLM приобретает решающее значение для предотвращения кражи или утечки конфиденциальной информации.
Какое место здесь занимает агентный ИИ?
В прошлом возможности LLM ограничивались ответами: вы спрашивали о чем-то, а ИИ отвечал. Агентный ИИ идет дальше. ИИ-агент по-прежнему использует LLM для рассуждений и общения, но он также может выполнять действия: просматривать Сеть, писать и запускать код, отправлять сообщения, подключаться к внешним приложениям и управлять вашими файлами. Вместо ответа на один вопрос он может выполнять многоэтапную задачу с минимальным контролем со стороны человека.
Эти дополнительные возможности сопряжены с повышенным риском. Когда ИИ может действовать самостоятельно, последствия того, что его введут в заблуждение или произойдет сбой, становятся гораздо более серьезными. Безопасность агентного ИИ — одна из самых быстрорастущих проблем в этой области именно потому, что эти системы все чаще внедряются в рабочие инструменты, часто получая больше доступа, чем им действительно необходимо.
Безопасность LLM и потенциальные опасности ИИ
Риски безопасности ИИ и LLM вызывают серьезную тревогу, поскольку они неразрывно связаны с базовой архитектурой проектирования и применения этих инструментов. Когда вы задаете ИИ-ассистенту личный вопрос о здоровье, делитесь бизнес-стратегией или обсуждаете юридическую ситуацию, эта информация обычно оказывается на серверах, которые вы не контролируете, и на нее могут распространяться законы или стандарты поведения, о которых вы можете даже не подозревать. Безопасность LLM — это не то, о чем нужно думать только ИТ-отделам; это практическая проблема для каждого, кто использует ИИ в конфиденциальных или профессиональных целях.
Самые большие риски безопасности LLM и ИИ
С каждым днем LLM встраиваются во все большее количество инструментов, но они по-прежнему несут в себе ряд рисков безопасности, которые не всегда очевидны.
Большинство платформ ИИ по умолчанию сохраняют ваши запросы, ответы и данные о взаимодействии. Эта информация может быть прочитана сотрудниками компании, использована для обучения будущих моделей, продана третьим лицам или даже передана властям. Как только ваши цепочки писем попадают на чужие серверы, вы почти не можете влиять на то, как эти данные будут сохранены, использованы или как ими будут делиться.
Большинство ИИ-продуктов состоят из компонентов, созданных разными организациями и компаниями, включая базовые модели, плагины, API и конвейеры данных. Если какое-либо звено в этой цепочке поставок будет раскрыто, это затронет каждого пользователя этого продукта, часто без каких-либо явных признаков того, что что-то не так.
Модели LLM могут выдавать данные, которыми они никогда не должны были делиться. Это может быть информация, полученная из обучающих данных, сеансов других пользователей или ваших собственных предыдущих цепочек писем, к которым у ИИ все еще есть доступ. В рабочей среде, где несколько человек совместно используют один и тот же инструмент ИИ и конфиденциальные данные проходят через одну систему, такие утечки могут нанести серьезный ущерб.
Поскольку агентные ИИ имеют возможность отправлять электронные письма, запускать код или получать доступ к вашим файлам, риски при манипулировании ими значительно возрастают. ИИ-агент с избыточными разрешениями может совершать действия в нескольких подключенных системах, часто до того, как кто-то заметит неладное. Чем больше вы позволяете ИИ действовать от вашего имени, тем важнее строго контролировать его доступ.
Внедрение сторонних запросов (prompt injection) — один из самых распространенных рисков безопасности ИИ. Этот метод основан на скрытии вредоносных инструкций внутри контента, передаваемого ИИ (например, в PDF-файле или на веб-странице), с целью манипулирования ИИ-агентами, способными действовать автономно. Эти инструкции незаметно переопределяют поведение ИИ-агента, что может привести к утечке конфиденциальных данных, действиям вопреки вашим интересам или выдаче ложных результатов — и все это при том, что внешне все кажется нормальным.
В чем отличие подхода Lumo к безопасности ИИ
Большинство ИИ-ассистентов созданы так, чтобы предоставлять платформе максимум информации о том, как вы их используете. Lumo создан с противоположной целью: дать вам больше контроля и уверенности в том, как обрабатываются ваши данные.
Никаких журналов активности — никогда
LLM-сервер Lumo обрабатывает ваше сообщение и сбрасывает его в тот же момент, когда генерируется ответ. В журнале не сохраняются данные о том, что вы спросили, что вам ответили и когда. На сервере не хранятся чаты в виде простого текста, а значит, нет данных, которые можно было бы взломать, затребовать повесткой или использовать не по назначению.
Ваши сообщения шифруются еще до того, как покинут ваше устройство
Lumo использует двунаправленное асимметричное шифрование — так называемое шифрование User-to-Lumo (U2L) — для защиты ваших сообщений при передаче. Ваше настоящее сообщение может прочитать только сам LLM-сервер и только в течение времени, необходимого для подготовки ответа.
История цепочек писем защищена шифрованием с нулевым доступом
После генерации ответа ваша цепочка писем сохраняется с использованием шифрования с нулевым доступом — она защищена ключом, который есть только у вас. У Proton никогда не будет к ней доступа. Даже если серверы Proton будут полностью раскрыты, ваша история цепочек писем останется нечитаемой.
Модели и код с открытым исходным кодом позволяют экспертам проверять безопасность Lumo
В отличие от ИИ-инструментов с закрытым исходным кодом, таких как ChatGPT, Copilot и Gemini, Lumo работает на моделях и коде с открытым исходным кодом, поэтому любой желающий может проверить нашу архитектуру на наличие уязвимостей и убедиться, что она выполняет только то, что мы заявляем.
Без рекламы и передачи данных
Большинство популярных ИИ-ассистентов построены на бизнес-моделях, которые зависят от сбора и хранения ваших данных. Lumo работает иначе. Доход Proton поступает от подписок, а не от монетизации данных, поэтому у нас нет причин вести журналы ваших цепочек писем, делиться ими с третьими лицами или использовать их для показа вам рекламы.
Хостинг в Европе, не подпадающий под действие законов США о слежке
ИИ-инструменты, созданные компаниями из США, могут быть принудительно обязаны раскрыть ваши данные в соответствии с законами вроде CLOUD Act. Lumo работает на контролируемых Proton серверах в Европе, где действуют одни из самых строгих в мире правил защиты конфиденциальности. Ваши цепочки писем недосягаемы для запросов доступа со стороны иностранных правительств.
Присоединяйтесь к зашифрованной экосистеме, которая защищает вас повсюду
Lumo является частью экосистемы, ориентированной на конфиденциальность, которая защищает ваши данные с помощью надежного шифрования. Никто не может видеть ваши данные, кроме вас и людей, с которыми вы решите ими поделиться, — даже мы.
Создайте бесплатный аккаунт Lumo, и вы также получите доступ к нашему VPN(новое окно), электронной почте, календарю, облачному хранилищу, редактору документов, редактору таблиц, менеджеру паролей, видеоконференциям и многому другому.
Более 100 миллионов человек и компаний по всему миру доверяют Proton
Elemnta, Австралия
50–200 сотрудников
«Для меня действительно важны журналы активности и детальный контроль. Переход на Proton Pass принёс нам значительную выгоду.»
GILAI, Швейцария
Управление ИТ для более чем 1000 сотрудников
«Нам нужен был менеджер паролей, который был бы простым в использовании для конечного пользователя и удобным в управлении для администратора. Мне не требовалась какая-либо специальная документация или демонстрация, за исключением настройки аккаунта, так как он действительно очень удобен для пользователя.»
Novalytica AG, Швейцария
11–50 сотрудников
«Адаптация новых сотрудников прошла очень легко. Все его используют. Он работает, и никто не хочет возвращаться к ручной записи паролей в таблице или блокноте.»
Morning
350 сотрудников
"Мне хотелось, чтобы UX был красивым. Думаю, при миграции 300 или 400 пользователей важно выбрать решение, которое не будет слишком сложным в использовании или неприятным на вид. Я считаю, что для коммерческих отделов важно иметь что-то удобное в использовании. Именно таким оказался Proton Pass."
Перейдите на действительно безопасный ИИ-ассистент
ИИ-инструменты, созданные крупнейшими технологическими платформами, разработаны так, чтобы быть полезными, но часто за счет вашей безопасности и конфиденциальности. Lumo предлагает вам функциональный зашифрованный LLM и ИИ-ассистент без каких-либо компромиссов в области безопасности.
Часто задаваемые вопросы об LLM и безопасности ИИ
- Каковы самые большие риски безопасности ИИ для обычных пользователей?
- Безопасен ли Lumo для конфиденциальной работы или работы с конфиденциальными данными?
- В чем заключаются основные опасности ИИ для бизнеса?
- Какие языки поддерживает Lumo?
Узнать подробнее об ИИ и LLM
Конфиденциальность и безопасность ИИ
