Мужчины поверили тому, что увидели в интернете: веб-сайт, заполненный откровенными изображениями ее лица на чужом теле, сгенерированными ИИ, рядом с ее реальным домашним адресом. Сайт утверждал, что ее дом — это бордель.

Sweet Anita, одна из самых узнаваемых стримерш на Twitch, понимала риски быть женщиной в интернете и приняла меры предосторожности. Она скрыла свое настоящее имя, установила границы и наняла команду. Ничто из этого не помешало кому-то создать дипфейк с ней.

Ничто не подготовило ее к тому, что последовало дальше.

История Sweet Anita

Анонимный мужчина заказал порнографию с ней, сгенерированную ИИ, затем создал фальшивый веб-сайт, выставив ее секс-работницей, — и указал ее домашний адрес. Вся схема была рассчитана на то, чтобы заманить мужчин к ней домой с ложной надеждой, что они смогут принудить ее к сексу. «После того как он это сделал, ко мне домой начали приходить мужчины, особенно когда я вела прямые трансляции и меня не было дома», — сказала она. «Я не чувствую себя в безопасности в собственном доме».

Незнакомцы с спортивными сумками пытались вломиться. Она боялась получать почту от почтальона. Ей пришлось перестать открывать дверь и оставлять дом без присмотра. Она уже переезжала раньше, но они продолжали находить ее.

И издевательства не ограничивались порогом ее дома. Ее покойная мать, гордившаяся работой дочери, заходила в социальные сети Аниты и была вынуждена просматривать откровенные изображения, сгенерированные ИИ. Друзья и коллеги тоже их видели. «Я могла бы удалить все с YouTube, Twitch, всех моих соцсетей — и все равно осталась бы куча изображений моего лица в видео, которые можно использовать как образец», — сказала она.

Дипфейки — это новый буллинг

Deepfakes use AI to generate hyper-realistic photos and videos of people without their consent. They are often created for sexual abuse, harassment, or intimidation. Most of the victims are women and girls.

Согласно исследованию Girlguiding(новое окно), более четверти подростков говорят, что видели откровенный дипфейк кого-то из знакомых — одноклассника, учителя, друга или даже себя. CNN сообщает(новое окно), что 40 % учеников и 29 % учителей заявили, что знали о дипфейке кого-то, связанного с их школой, за последний год, а 15 % учеников сказали, что видели откровенные версии. В большинстве школ нет политики по борьбе с этой формой насилия.

Вред серьезен. Жертвы могут страдать от тревоги, депрессии и даже ПТСР. Они могут замкнуться в себе, потерять друзей или избегать подачи заявлений на работу или в колледжи, потому что откровенные подделки могут всплыть во время поиска. Некоторым даже приходится тратить деньги, пытаясь удалить контент из интернета.

Всемирный экономический форум отмечает(новое окно), что, хотя дипфейки не дестабилизировали выборы, как многие опасались, они стали инструментом преследования и мошенничества. Недобровольная порнография — самая крайняя форма, но злоумышленники также используют клонированные голоса и поддельные видеозвонки для совершения мошенничества. В 2024 году финансового работника в Гонконге обманом заставили выплатить 25 миллионов долларов после участия в звонке Zoom, в котором каждый участник — включая финансового директора — был дипфейком(новое окно).

«Всю оставшуюся жизнь я не вижу способа лично избежать этого», — сказала Анита. «И я не думаю, что должна нести за это ответственность. Это не моя проблема, и это не моя вина».

Это может случиться с каждым

Достаточно всего нескольких изображений. Публичный Instagram. Школьное фото. Общий альбом. Как только лицо попадает в сеть, его можно скопировать, скачать и использовать не по назначению.

По словам профессора Карстена Мейпла из Центра кибербезопасности Уорикского университета, с современными инструментами ИИ достаточно всего 20 фотографий, чтобы создать реалистичный профиль человека, или даже 30-секундного видео, что расширяет масштаб потенциальных угроз — факт, о котором не знали 53 % недавно опрошенных родителей.

The New York Times сообщила о росте популярности так называемых приложений-«нудификаторов»(новое окно), которые могут удалять одежду с фотографий с помощью ИИ. Эти приложения дешевы, просты в использовании и широко доступны. По оценкам следователей, индустрия приносит около 36 миллионов долларов в год. Несмотря на новый закон США, запрещающий публикацию недобровольных фальшивых обнаженных фото, сами приложения остаются законными. «Любой ребенок с доступом в интернет может стать как жертвой, так и преступником», — сказал The New York Times Алексиос Манцарлис, чья команда расследовала 85 таких сайтов.

Конфиденциальные аккаунты не являются гарантией безопасности. Злоумышленниками часто оказываются люди, которых жертва знает. Даже на первый взгляд безобидные посты, например, с вечеринок по случаю дня рождения, могут раскрыть информацию, способствующую краже личных данных, от которой в 2024 году пострадали около 1,1 миллиона детей.

«Люди, которые [делают дипфейки], часто забывают, что это жутко, что это неуместно — например, если бы их коллеги и друзья узнали, их бы уволили и подвергли остракизму. Они бы потеряли всех, кого знают, их родители были бы в них разочарованы, верно?» — сказала она. «Но когда вы в интернете и создаете этот материал друг для друга с кучей единомышленников, для них это просто хобби и времяпрепровождение. Они полностью избегают, забывают и заблуждаются относительно того влияния, которое это оказывает на жизни людей».

Риск дипфейков выходит далеко за рамки социальных сетей

Сегодня самый большой риск может исходить от того, чем делятся в социальных сетях. Но как насчет всех фотографий, которыми вы вообще не делитесь?

Google, Apple, Amazon, Meta и другие предлагают облачное хранилище для ваших фотографий, иногда бесплатно. Но за это удобство все равно приходится платить. Google использует ваши фотографии для обучения ИИ как минимум с 2015 года, когда была вынуждена извиниться за классификацию чернокожей пары как «горилл»(новое окно). С тех пор все крупные поставщики хранилищ значительно улучшили распознавание лиц. Как вы думаете, как это произошло? Больше фотографий, постоянно подпитывающих ИИ.

Миллиарды фотографий и видео, хранящихся у технологических гигантов, — это огромный кладезь материала, который однажды может стать пищей для создания невероятно детальных и реалистичных дипфейков.

Все, что для этого нужно, — это тихое изменение в условиях использования.

Защищайте свои воспоминания так же, как вы защищаете свои пароли

Вы не можете контролировать то, что другие делают с вашим изображением. Но вы можете контролировать, где находятся ваши изображения и кто имеет к ним доступ. Proton Drive предоставляет вам конфиденциальный, зашифрованный способ хранить фотографии и файлы, которые наиболее важны.

  • Сквозное шифрование: Ваши файлы шифруются еще до того, как покинут ваше устройство. В отличие от технологических гигантов, даже Proton не может их видеть.
  • Конфиденциальность по умолчанию: Ваши данные никогда не продаются, не передаются и не используются для обучения ИИ.
  • Безопасный обмен: Добавляйте пароли, устанавливайте сроки действия или отзывайте доступ в любое время.
  • Автоматическое резервное копирование: Даже если ваш телефон потерян или украден, ваши воспоминания останутся в безопасности.

С Proton Drive ваши данные остаются вашими — всегда.