Zmartwienia o pieniądze o 2:00 w nocy. Objaw medyczny na tyle krępujący, że wstyd pójść z nim do lekarza. Najlepszy sposób, aby zaprosić kogoś na randkę.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Około dwie trzecie użytkowników chatbotów AI rozmawiało o co najmniej jednym wrażliwym temacie. Jednocześnie mniej niż jedna osoba na pięć deklaruje, że w wysokim stopniu ufa firmom AI, że będą chronić jego prywatne informacje.

„AI dowiaduje się o nas znacznie więcej, niż kiedykolwiek mogłaby wyszukiwarka. Wyszukiwarka wie, czego się szukało. AI wychwytuje wahanie, pytania dodawane w trakcie rozmowy i osobisty kontekst między wierszami”, powiedział Eamonn Maguire, dyrektor ds. inżynierii AI w Proton. „Przekazujemy już więcej niż same pytania. A kiedy technologia wie o nas aż tyle, prywatność nie może być kwestią drugorzędną”.

Aby lepiej zrozumieć, jak ludzie korzystają z AI i jak je postrzegają, przeprowadzono ankietę wśród 4 014 obecnych użytkowników chatbotów AI we Francji, Niemczech, Wielkiej Brytanii i Stanach Zjednoczonych. Pytano, co udostępnili, dlaczego zdecydowali się na to i co sprawiłoby, że chętniej albo mniej chętnie dzieliliby się takimi informacjami.

Najważniejsze wnioski

  • 66% użytkowników chatbotów AI rozmawiało z chatbotem o co najmniej jednym wrażliwym temacie, w tym o finansach osobistych, zdrowiu seksualnym i związkach.
  • 42% użytkowników w małym stopniu lub wcale nie ufa firmom AI, że będą chronić wrażliwe informacje udostępniane chatbotom.
  • Pieniądze, zdrowie psychiczne i problemy zawodowe to trzy najczęściej omawiane wrażliwe tematy.
  • Użytkownicy AI wciąż wolą rozmawiać o wrażliwych tematach ze znajomymi i rodziną niż z chatbotami AI i terapeutami.
  • Wygoda i brak oceniania to najczęściej wymieniane powody wyboru AI zamiast drugiego człowieka.
  • 48% użytkowników twierdzi, że chętniej udostępniłoby wrażliwe informacje, gdyby zagwarantowano, że ich wątki nie zostaną wykorzystane do trenowania modeli AI.
  • Osiem na dziesięć użytkowników wyraża zainteresowanie chatbotem AI zaprojektowanym specjalnie z myślą o prywatności.

Większość użytkowników chatbotów udostępniła już jakieś wrażliwe informacje

66% respondentów zadeklarowało, że rozmawiało z chatbotem AI o co najmniej jednym wrażliwym temacie. Osiem badanych tematów obejmowało finanse osobiste, związki, zdrowie psychiczne, seks, tajemnice, zauroczenie, pracę i konflikty rodzinne.

Spośród badanych krajów Amerykanie deklarowali najwyższy odsetek wyznawania chatbotom wrażliwych informacji – 68,4%, a najniższy odnotowano we Francji – 60,3%. Ta rozbieżność sugeruje, że otwartość na zwierzanie się AI to nie tylko kwestia osobista, ale może zależeć od szerszych kulturowych postaw wobec prywatności i technologii.

Pieniądze, zdrowie psychiczne i praca dominują wśród wrażliwych tematów

Finanse osobiste, zdrowie psychiczne i problemy zawodowe to trzy wrażliwe tematy, o które respondenci najczęściej deklarowali rozmowę z AI.

Najczęściej omawiany temat różnił się w zależności od kraju. W Niemczech na pierwszym miejscu było zdrowie psychiczne, w Stanach Zjednoczonych problemy zawodowe, a we Francji i Wielkiej Brytanii finanse osobiste.

Te wyniki pokazują, o jakie wrażliwe tematy respondenci rozmawiali z AI, ale nie dlaczego zdecydowali się na te rozmowy.

Znajomi i rodzina pozostają na pierwszym miejscu, mimo że korzystanie z AI rośnie

W przypadku każdego badanego wrażliwego tematu znajomi i rodzina byli preferowanym wyborem, przed chatbotami AI, terapeutami i doradcami duchowymi. Ale AI już konkuruje z tradycyjnymi źródłami wsparcia w niektórych obszarach – szczególnie w kwestii pieniędzy i pracy.

Różnica między AI a radami od ludzi jest najmniejsza w kwestii pieniędzy. We Francji jako preferowany wybór do rozmów o finansach osobistych AI było od znajomych i rodziny jedynie 2 punkty procentowe.

Wpływ AI nie kończy się na wątkach. Ludzie korzystają z niego, podejmując decyzje dotyczące pieniędzy, zdrowia, związków, kariery i zakupów.

Wygoda i brak oceniania to największe atuty korzystania z AI

Wygoda i brak oceniania były najczęściej wymienianymi powodami wyboru chatbota AI zamiast drugiego człowieka do rozmowy o wrażliwym temacie. Prywatność również była częstym powodem, ale plasowała się niżej.

Powody ogólnie różniły się w zależności od kraju i tematu. Wśród trzech najczęściej omawianych wrażliwych tematów jedynym, w przypadku którego wszystkie cztery kraje zgodziły się co do głównego powodu, były problemy związane z pracą i karierą: wygoda. Finanse osobiste były blisko – każde państwo poza Wielką Brytanią również preferowało wygodę. Zdrowie psychiczne podzieliło kraje mniej więcej po połowie: we Francji i Niemczech głównym powodem była wygoda, podczas gdy w Stanach Zjednoczonych i Wielkiej Brytanii ceni się bardziej brak oceniania. Z kolei w przypadku zauroczenia na pierwszym miejscu były zaufanie i prywatność w Niemczech, Wielkiej Brytanii i Stanach Zjednoczonych, a w przypadku zdrowia seksualnego brak oceniania we Francji, Stanach Zjednoczonych i Wielkiej Brytanii.

Wszystko to sugeruje, że w przypadku praktycznych tematów wygrywa wygoda, podczas gdy prywatność i brak oceniania mają większe znaczenie przy osobistych wątkach.

Profilowanie reklam budzi więcej obaw niż trenowanie modeli AI

Respondenci wyrażali większe obawy dotyczące wykorzystywania ich wątków do tworzenia profili reklamowych niż do trenowania modeli AI.

Różnica była największa w Stanach Zjednoczonych, gdzie 65,3% bardziej martwiło się profilowaniem reklam w porównaniu z 57,6% w przypadku trenowania modeli. Wyniki sugerują, że sposób wykorzystania danych z wątków ma znaczenie, a główne obawy koncentrują się mniej na tym, że rozmowy są zapisywane i zapamiętywane, a bardziej na tym, że dane te zostają zamienione w komercyjny zasób służący do osiągania zysku finansowego.

Zaufanie do firm AI pozostaje niskie we wszystkich krajach

Mimo powszechnego dzielenia się wrażliwymi tematami z chatbotami AI jedynie 11%–20% respondentów deklarowało wysoki poziom zaufania do firm AI w kwestii swoich prywatnych informacji. Niskie zaufanie było najczęstsze we Francji – 47,7%, w Wielkiej Brytanii wynosiło 41,6%, w Niemczech 40,5%, a w Stanach Zjednoczonych 38,8%.

Zapewnienie prywatności zwiększa gotowość do udostępniania

Gwarancja, że wątki nie zostaną wykorzystane do trenowania modeli AI, sprawiłaby, że 44% respondentów byłoby bardziej skłonnych udostępnić wrażliwe informacje. Najwyższy odsetek odnotowano w Stanach Zjednoczonych – 47,7%, następnie w Wielkiej Brytanii – 44,3%, w Niemczech – 43,9% i we Francji – 40,7%.

Zainteresowanie chatbotami AI zaprojektowanymi wokół prywatności również było wysokie. Ponad 70% osób zadeklarowało, że chętniej z nich skorzysta – od 71,1% w Niemczech do 82% w Wielkiej Brytanii.

Te wyniki sugerują, że zobowiązanie do prywatności nadal jest wysoko cenione przez użytkowników chatbotów AI, nawet jeśli nie było to początkowy powód, dla którego użytkownik decydował się na korzystanie z AI.

Podsumowanie: AI musi zdobyć zaufanie swoich użytkowników

Osobiste wątki z chatbotami AI są już powszechne. Ponad dwie trzecie respondentów w czterech badanych krajach rozmawiało z chatbotem AI o co najmniej jednym wrażliwym temacie, od zmartwień finansowych po osobiste tajemnice. Jedynie jedna osoba na pięć deklarowała jednak wysoki poziom zaufania do firm AI w kwestii swoich prywatnych informacji.

Ludzie zwierzają się AI znacznie szybciej, niż ufają mu, ale nie dlatego, że AI zastąpiło więzi międzyludzkie – znajomi i rodzina pozostają pierwszym wyborem w przypadku każdego wrażliwego tematu. AI to raczej opcja, po którą sięgają, gdy większe znaczenie mają wygoda i brak oceniania.

Chociaż wygoda otwiera drzwi do korzystania z AI, to zaufanie decyduje, jak daleko ktoś pójdzie. Gwarancja braku trenowania wystarczyła, aby 44% użytkowników było bardziej skłonnych się podzielić, a osiem na dziesięć zadeklarowało, że chętniej wybierze prywatne AI. Ludzie już zdecydowali, że AI nadaje się do wysłuchania ich kłopotów finansowych, wątpliwości i codziennych zmartwień. Dostawcy, którzy udowodnią, a nie tylko obiecają, że potrafią chronić te informacje, będą tymi, którym ludzie powierzą resztę.

Metodologia

W tym badaniu wzięło udział 4 014 respondentów we Francji, Niemczech, Wielkiej Brytanii i Stanach Zjednoczonych. Wszyscy respondenci przeszli wstępną selekcję w celu potwierdzenia, że obecnie korzystają z chatbota lub asystenta AI.

Ankietę przeprowadzono online i składała się z około 12 pytań dotyczących korzystania z chatbotów AI. Respondenci nie zostali poinformowani, która firma zleciła badania. Taki anonimowy projekt miał na celu ograniczenie wpływu wynikającego z reputacji jakiejkolwiek firmy.

Ograniczenia

To badanie odzwierciedla samoopisane postawy, preferencje i wcześniejsze zachowania. Nie obserwuje rzeczywistych wątków respondentów z chatbotami ani niezależnie nie weryfikuje, co udostępnili. Badanie obejmuje obecnych użytkowników chatbotów w czterech krajach i nie należy go interpretować jako reprezentatywnego dla innych krajów ani dla osób, które obecnie nie korzystają z chatbotów AI.