Тревоги о деньгах в 2 часа ночи. Медицинский симптом, о котором неловко рассказать врачу. Лучший способ пригласить кого-то на свидание.
People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.
Примерно две трети пользователей чат-ботов на базе ИИ обсуждали как минимум одну деликатную тему. При этом менее одного из пяти говорят, что в высокой степени доверяют компаниям в сфере ИИ в вопросе защиты своей конфиденциальной информации.
«ИИ узнаёт о нас гораздо больше, чем когда-либо могла бы поисковая система. Поиск знает, что вы искали. А ИИ улавливает ваши колебания, уточняющие вопросы и личный контекст между строк, — говорит Имон Магуайр, директор по разработке ИИ в Proton. — Теперь мы передаём больше, чем просто вопросы. И когда технология знает о нас так много, конфиденциальность нельзя оставлять на потом.»
Чтобы лучше понять, как люди используют и воспринимают ИИ, мы опросили 4 014 нынешних пользователей чат-ботов на базе ИИ во Франции, Германии, Великобритании и США. Мы спросили, чем они делились, почему решили это сделать и что могло бы заставить их делиться охотнее или сдержаннее.
Основные выводы
- 66 % пользователей чат-ботов на базе ИИ обсуждали с ботом как минимум одну деликатную тему, включая личные финансы, сексуальное здоровье и отношения.
- 42 % пользователей мало доверяют компаниям в сфере ИИ или вовсе не доверяют им защиту деликатной информации, которой делятся с чат-ботами.
- Деньги, психическое здоровье и проблемы в карьере — три деликатные темы, которые обсуждают чаще всего.
- Пользователи ИИ всё же предпочли бы обсуждать деликатные темы с друзьями и родными, а не с чат-ботами на базе ИИ или психотерапевтами.
- Удобство и отсутствие осуждения — причины, которые чаще всего называют, выбирая ИИ вместо живого человека.
- 48 % пользователей говорят, что охотнее делились бы деликатной информацией, если бы им гарантировали, что их разговоры не будут использоваться для обучения моделей ИИ.
- Восемь из десяти пользователей заинтересованы в чат-боте на базе ИИ, специально созданном для защиты конфиденциальности.
Большинство пользователей чат-ботов уже делились чем-то деликатным
66 % опрошенных заявили, что обсуждали с чат-ботом на базе ИИ как минимум одну деликатную тему. Эти восемь тем охватывали личные финансы, отношения, психическое здоровье, секс, секреты, романтическую симпатию, работу и семейные конфликты.
Из всех опрошенных стран самый высокий показатель раскрытия деликатной информации чат-ботам оказался у американцев — 68,4 %, а самый низкий — у французов: 60,3 %. Эта разница говорит о том, что готовность доверяться ИИ — не только личный выбор: на неё могут влиять и более широкие культурные установки в отношении конфиденциальности и технологий.
Деньги, психическое здоровье и работа преобладают среди деликатных тем
Личные финансы, психическое здоровье и проблемы в карьере — три деликатные темы, которые опрошенные чаще всего обсуждали с ИИ.
Самая обсуждаемая тема различалась в зависимости от страны. В Германии на первом месте психическое здоровье, в США — проблемы в карьере, а во Франции и Великобритании — личные финансы.
Эти результаты показывают, какие деликатные темы опрошенные обсуждали с ИИ, но не почему они решили говорить именно о них.
Друзья и родные остаются на первом месте, даже когда ИИ используется всё активнее
Друзья и родные были предпочтительным выбором для обсуждения любой из изученных деликатных тем, опережая чат-ботов на базе ИИ, психотерапевтов и духовных наставников. Но ИИ уже конкурирует с традиционными источниками поддержки в некоторых сферах — особенно в вопросах денег и работы.
Разрыв между советами ИИ и живого человека меньше всего, когда речь идёт о деньгах. Во Франции ИИ уступил друзьям и родным как предпочтительному выбору для обсуждения личных финансов всего 2 процентных пункта.
И влияние ИИ не ограничивается разговорами. Люди используют его, чтобы принимать решения о своих деньгах, здоровье, отношениях, карьере и покупках.
Удобство и свобода от осуждения — главные причины пользоваться ИИ
Удобство и свобода от осуждения — причины, которые чаще всего называли, выбирая чат-бота на базе ИИ вместо человека для обсуждения деликатной темы. Конфиденциальность тоже называли часто, но она занимала более низкое место.
Причины в целом различались по странам и темам. Из трёх чаще всего обсуждаемых деликатных тем только для проблем в работе и карьере все четыре страны назвали одну и ту же главную причину: удобство. С личными финансами дело обстоит почти так же: удобство выбрали во всех странах, кроме Великобритании. По психическому здоровью мнения разделились ровно пополам: во Франции и Германии главной причиной назвали удобство, а в США и Великобритании выше ценили свободу от осуждения. При этом в Германии, Великобритании и США главной причиной для обсуждения романтической симпатии назвали доверие и конфиденциальность, а во Франции, США и Великобритании для сексуального здоровья — отсутствие осуждения.
В целом это говорит о том, что для практических тем побеждает удобство, а для личных разговоров важнее конфиденциальность и свобода от осуждения.
Составление рекламных профилей вызывает больше опасений, чем обучение моделей ИИ
Опрошенные выразили больше опасений по поводу использования их разговоров для составления рекламных профилей, чем для обучения моделей ИИ.
Разница была самой большой в США, где 65,3 % больше беспокоились о рекламных профилях, а 57,6 % — об обучении моделей. Результаты показывают, что важно, как используются данные разговоров: главные опасения связаны не столько с сохранением и запоминанием разговоров, сколько с превращением этих данных в коммерческий актив ради денежной выгоды.
Доверие к компаниям в сфере ИИ повсеместно остаётся низким
Несмотря на широкое распространение обсуждения деликатных тем с чат-ботами на базе ИИ, лишь от 11 до 20 % опрошенных сообщили о высоком уровне доверия к компаниям в сфере ИИ в вопросе своей конфиденциальной информации. Меньше всего доверия оказалось во Франции: 47,7 %, далее идут Великобритания с 41,6 %, Германия с 40,5 % и США с 38,8 %.
Гарантия конфиденциальности повышает готовность делиться
Гарантия того, что разговоры не будут использоваться для обучения моделей ИИ, побудила бы 44 % опрошенных охотнее делиться деликатной информацией. Этот показатель выше всего в США — 47,7 %, далее следуют Великобритания с 44,3 %, Германия с 43,9 % и Франция с 40,7 %.
Высок был и интерес к чат-ботам на базе ИИ, созданным с упором на конфиденциальность. Более 70 % людей сказали, что с большей вероятностью стали бы ими пользоваться: от 71,1 % в Германии до 82 % в Великобритании.
Эти данные говорят о том, что приверженность конфиденциальности по-прежнему высоко ценится пользователями чат-ботов на базе ИИ, даже если изначально они выбирали ИИ по другим причинам.
Заключение: ИИ должен заслужить доверие своих пользователей
Личные разговоры с чат-ботами на базе ИИ уже стали обычным делом. Более двух третей опрошенных во всех четырёх странах обсуждали с чат-ботом как минимум одну деликатную тему — от переживаний о деньгах до личных секретов. И лишь один из пяти сообщил о высоком уровне доверия к компаниям в сфере ИИ в вопросе своей конфиденциальной информации.
Люди откровенничают с ИИ гораздо быстрее, чем начинают ему доверять, но не потому, что ИИ заменил живое общение — друзья и родные остаются первым выбором для любой деликатной темы. Скорее, ИИ — это вариант, к которому прибегают, когда важнее удобство и свобода от осуждения.
Если удобство открывает людям дверь к использованию ИИ, то доверие определяет, как далеко они готовы зайти. Гарантии, что данные не будут использоваться для обучения, хватило, чтобы 44 % пользователей стали охотнее делиться информацией, а восемь из десяти сказали, что с большей вероятностью выбрали бы конфиденциальный ИИ. Люди уже решили, что ИИ достаточно полезен, чтобы рассказывать ему о денежных проблемах, сомнениях и повседневных заботах. А доверить остальное люди готовы тем поставщикам, которые не просто обещают, но и доказывают, что способны защитить эту информацию.
Методология
В опросе участвовали 4 014 человек из Франции, Германии, Великобритании и США. Отбор участников позволил подтвердить, что все они в настоящее время пользуются чат-ботом или ассистентом на базе ИИ.
Опрос проводился онлайн и состоял примерно из 12 вопросов об использовании чат-ботов на базе ИИ. Опрошенным не сообщали, какая компания заказала исследование. Такой обезличенный формат был призван снизить влияние репутации любой компании.
Ограничения
Этот опрос отражает установки, предпочтения и прошлые модели поведения, о которых сообщали сами участники. Он не изучает реальные разговоры опрошенных с чат-ботами и не проверяет независимо, чем они делились. Опрос охватывает нынешних пользователей чат-ботов в четырёх странах, и его не следует считать репрезентативным для других стран или для людей, которые сейчас не пользуются чат-ботами на базе ИИ.
