Использовать чат-бот — значит идти по минному полю конфиденциальности и цензуры.

Приложения ИИ для общения, такие как ChatGPT, собирают данные пользователей, фильтруют ответы и принимают решения по модерации контента, которые не всегда прозрачны. Но DeepSeek — новый ИИ-чат-бот, разработанный в Китае, который привлекает беспрецедентное внимание как серьезная угроза для (новое окно)з(новое окно)ападных технологических компаний(новое окно) — делает все это и многое другое.

На самом деле этот чат-бот несет еще большие риски: DeepSeek по закону обязана выполнять требования китайского правительства о получении доступа к данным и контролю контента, и у компании нет никаких правовых механизмов для отказа.

Хотя правительства по всему миру — включая США и страны ЕС — могут запрашивать данные у технологических компаний через суд, у западных компаний есть законные способы оспорить эти запросы. Например, OpenAI, Google и Meta могут противостоять большинству чрезмерных государственных требований, подавать апелляции в независимые суды или отказывать в запросах, нарушающих законы о конфиденциальности, такие как GDPR. Однако DeepSeek работает в соответствии с Законом КНР о национальной разведке(новое окно), который обязывает компании сотрудничать с государственными разведывательными органами без какой-либо прозрачности и возможности законного отказа. Это означает, что если китайское правительство захочет получить доступ к пользовательским данным или манипулировать ответами, сгенерированными ИИ, у DeepSeek нет иного выбора, кроме как подчиниться.

Эта статья рассказывает о том, что именно собирает DeepSeek и почему это важно с точки зрения вашей конфиденциальности, цензуры и государственного контроля.

Что такое DeepSeek?

DeepSeek — это AI-стартап, принадлежащий High-Flyer, китайскому хедж-фонду(новое окно). Он продвигается как альтернатива ChatGPT с открытым исходным кодом, способная генерировать человекоподобные ответы, помогать с написанием кода и решать сложные задачи — и все это делается дешево(новое окно).

Модель привлекла международное внимание(новое окно) тем, что якобы не уступает по производительности ведущим западным AI-моделям при значительно меньших затратах. К январю 2025 года DeepSeek обошел ChatGPT по количеству скачиваний в Apple App Store(новое окно), что спровоцировало глобальную распродажу акций технологических компаний и вызвало обеспокоенность по поводу миллиардов долларов, которые технологические компании США вкладывают в расширение энергоемких центров обработки данных — расходы, которые, по их утверждению, жизненно необходимы для следующего прорыва в области ИИ.

Но по мере того, как люди скачивали DeepSeek и делились своим опытом общения с чат-ботом, стало ясно, что использование DeepSeek сопряжено с привычным компромиссом для технологий такого класса: это ваша конфиденциальность и безопасность вашей наиболее чувствительной информации.

Серьезные уязвимости в системе безопасности

Новые исследования показали, что методы обеспечения безопасности DeepSeek могут вызывать не меньше опасений, чем их политика обработки данных, о которой мы поговорим позже.

29 января 2025 года фирма по кибербезопасности Wiz сообщила(новое окно), что DeepSeek случайно оставила более миллиона строк конфиденциальных данных в открытом доступе в интернете. Утечка включала цифровые программные ключи, которые потенциально могли бы позволить несанкционированный доступ к системам DeepSeek, а также журналы чатов реальных пользователей, в которых были видны запросы, отправленные чат-боту.

Исследователи Wiz заявили, что обнаружили базу данных почти сразу же, при минимальном сканировании. В течение 30 минут после того, как Wiz связалась с DeepSeek, база данных была заблокирована, но неясно, получили ли злоумышленники доступ к данным или скачали их до того, как они были защищены. Учитывая, как легко ее было найти, такой сценарий вполне возможен.

Ами Латтвак, технический директор Wiz, рассказал Wired(новое окно), что утечка была «драматической ошибкой», предупредив, что системы DeepSeek недостаточно зрелые, «чтобы вообще использоваться с какими-либо конфиденциальными данными».

Однако эта утечка дала ясно понять одно: DeepSeek не только собирает и хранит огромные объемы пользовательских данных, но и, по-видимому, лишена мер безопасности, необходимых для их защиты.

Какие данные собирает DeepSeek?

Согласно их Политике конфиденциальности(новое окно), DeepSeek собирает широкий спектр персональных данных, включая:

  • Информация профиля: Имя пользователя, адрес электронной почты, номер телефона, пароль и дата рождения.
  • Вводимые пользователем данные: Все, что вы вводите или загружаете, включая историю чатов, запросы и голосовые сообщения.
  • Данные об устройстве и сети: IP-адрес, модель устройства, операционная система, системный язык и паттерны нажатий клавиш.
  • Данные об использовании: Функции, которые вы используете, выполняемые вами действия и журналы производительности системы.
  • Файлы cookie и трекеры: Веб-маяки и другие технологии отслеживания для мониторинга поведения пользователя.
  • Данные от сторонних лиц: Информация из привязанных аккаунтов и рекламных партнеров, которые отслеживают вашу активность на различных веб-сайтах, в приложениях и магазинах.

Обработка и хранение этих данных DeepSeek на серверах в Китае, где они могут быть доступны правительству, вызвали обеспокоенность среди европейских регулирующих органов.

DeepSeek под следствием в Европе

И Комиссия по защите данных Ирландии (DPC)(новое окно), и Орган по защите данных Италии (DPA)(новое окно) начали расследования(новое окно) того, как компания собирает, хранит и обрабатывает пользовательские данные.

Итальянский орган по защите данных (DPA) заблокировал доступ к DeepSeek в стране после того, как компания не предоставила достаточной информации о своем обращении с персональными данными. Регуляторы хотят знать, какие данные собирает DeepSeek, где они хранятся и соответствуют ли они законам ЕС о конфиденциальности, таким как GDPR.

Комиссия по защите данных Ирландии (DPC) также запросила подробную информацию о том, как DeepSeek обрабатывает данные ирландских пользователей. Тем временем приложение DeepSeek было удалено из магазинов приложений Apple и Google в Италии, хотя неясно, было ли это удаление добровольным или принудительным.

Если DeepSeek не выполнит требования европейских законов о конфиденциальности, компании могут грозить штрафы, запреты или другие ограничения в ЕС.

DeepSeek — это проект с открытым исходным кодом, но безопасен ли он?

DeepSeek — это проект с открытым исходным кодом, что означает, что вы можете изменить код(новое окно) в собственном приложении, чтобы создать независимую — и более безопасную — версию. Это вселило в некоторых надежду на то, что может быть разработана более конфиденциальная версия DeepSeek. Однако использование DeepSeek в его нынешнем виде — в том, в котором он существует сегодня, размещенный в Китае, — сопряжено с серьезными рисками для всех, кто беспокоится о своей самой конфиденциальной информации.

Любая модель, обученная или работающая на серверах DeepSeek, по-прежнему подпадает под действие китайских законов о данных, а это означает, что китайское правительство может потребовать получить доступ к ним в любое время.

Если вы ищете более конфиденциальный опыт работы с ИИ, запуск моделей локально — лучший вариант. Такие инструменты, как LM Studio(новое окно), позволяют скачивать и запускать AI-модели прямо на вашем устройстве, сохраняя конфиденциальность ваших данных.

Даже если технология DeepSeek многообещающая, ее методы обработки данных и юридические обязательства делают ее серьезным риском для конфиденциальности и безопасности.

На DeepSeek распространяются законы Китая о слежке

DeepSeek работает в соответствии с Законом КНР 2017 года о национальной разведке(новое окно) — статутом, который обязывает все китайские компании помогать правительству в вопросах национальной безопасности. Это означает, что любую китайскую компанию, от TikTok до RedNote и DeepSeek, могут заставить делиться пользовательскими данными с китайскими властями(новое окно), даже если эти данные принадлежат пользователям из США или других стран.

Этот закон требует от всех китайских компаний:

  • Предоставлять правительству доступ к пользовательским данным по запросу
  • Оказывать содействие в операциях национальной разведки
  • Хранить в секрете факт передачи данных по требованию государства

У DeepSeek нет иного выбора, кроме как подчиняться требованиям правительства, будь то передача конфиденциальных данных пользователей или корректировка выходных данных ИИ в соответствии с одобренными государством нарративами(новое окно).

DeepSeek уже занимается цензурой информации

У всех популярных AI-приложений для общения есть политики модерации контента, правила и границы, которые используются в основном для предотвращения вреда, а не для контроля политических нарративов. Но, похоже, DeepSeek активно переписывает историю и продвигает одобренные правительством сообщения.

Сотрудник Proton, например, ввел в DeepSeek запрос, ища информацию о протестах на площади Тяньаньмэнь 1989 года — студенческом движении, которое преобразовало правительство Китая: «Основные мировые события 15 апреля 1989 года». DeepSeek начал генерировать ответ, но быстро стер его, предложив вместо этого такой ответ: «Извините, это выходит за рамки моих текущих возможностей. Давайте поговорим о чем-нибудь другом».

Согласно дальнейшему тестированию, проведенному The Diplomat(новое окно), DeepSeek:

  • Отказывался признавать крупные исторические события: Когда его спрашивали о Культурной революции, он вел себя так, как будто этого события никогда не было.
  • Цензурировал политически неудобные факты: Когда его спрашивали о преследуемом интеллектуале Чу Аньпине, он игнорировал его исчезновение и вместо этого восхвалял КПК за поддержку интеллектуалов.
  • Продвижение государственной пропаганды: когда DeepSeek задавали вопросы об экономике Китая, нейросеть переводила разговор на уверенность в государственном руководстве.
  • Редактирование ответов по международным спорам: когда у DeepSeek спросили, кому принадлежат острова Спратли, она сначала признала наличие территориального спора, а затем стерла свой ответ и заменила его на: «Давайте поговорим о чем-нибудь другом».
  • Уклонение от прямых ответов о глобальных конфликтах: когда у DeepSeek спросили, было ли оправдано вторжение России в Украину, она отказалась дать однозначный ответ, вместо этого повторив официальную позицию Китая о нейтралитете.

Вот как выглядят государственная цензура и контроль над информацией.

Чат-боты — мощные инструменты, но цена их использования — ваша конфиденциальность

Появление больших языковых моделей в качестве помощников-чат-ботов уже вызывает серьезные опасения по поводу конфиденциальности и цензуры, поскольку такие компании, как OpenAI и Google, нарушают правила и собирают огромные объемы данных при почти полном отсутствии прозрачности. Но нет никаких технических причин, по которым ИИ должен быть настолько навязчивым — создание конфиденциального и безопасного ИИ вполне возможно, однако никто этим не занимается.

DeepSeek доводит эти проблемы до предела. Сервис не только собирает обширную личную информацию, но и не может на законных основаниях противостоять требованиям правительства о получении доступа к данным и манипулировании контентом. Вместо того чтобы разрабатывать ИИ, уважающий конфиденциальность пользователей, эти компании отдают приоритет сбору данных, отслеживанию и непрозрачной политике модерации.

В Proton мы верим в конфиденциальность, прозрачность и интернет, свободный от цензуры. Будь то ИИ, социальные сети или облачные сервисы, вы заслуживаете знать, кто контролирует ваши данные и как они используются.

Если вас волнует конфиденциальность в сети и цифровая свобода, будьте осторожны с тем, каким ИИ-инструментам вы доверяете, — ведь далеко не все из них действуют в ваших интересах.