Peněžní starosti ve 2:00 v noci. Zdravotní příznak, kvůli kterému je člověku trapné jít k lékaři. Nejlepší způsob, jak někoho pozvat na rande.
People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.
Zhruba dvě třetiny uživatelů chatbotů umělé inteligence se už bavily o alespoň jednom citlivém tématu. Současně však méně než jedna pětina uvádí, že má vysokou důvěru v to, že společnosti vytvářející umělou inteligenci ochrání jejich soukromé informace.
„Umělá inteligence se o nás dozvídá mnohem víc, než kdy dokázal vyhledávač. Vyhledávání ví, co jste hledali. AI zachytí i zaváhání, doptávání se a osobní souvislosti mezi řádky,“ řekl Eamonn Maguire, ředitel vývoje AI ve společnosti Proton. „Nyní předáváme víc než jen otázky. A když technologie o nás ví tolik, soukromí nemůže být jen dodatečným doplňkem.“
Abychom lépe pochopili, jak lidé umělou inteligenci používají a jak ji vnímají, provedli jsme průzkum mezi 4 014 současnými uživateli chatbotů umělé inteligence ve Francii, Německu, Spojeném království a USA. Ptali jsme se, co sdíleli, proč se tak rozhodli a co by jejich ochotu sdílet zvýšilo či naopak snížilo.
Klíčová zjištění
- 66 % uživatelů chatbotů umělé inteligence probralo s chatbotem alespoň jedno citlivé téma, včetně osobních financí, sexuálního zdraví či vztahů.
- 42 % uživatelů důvěřuje společnostem vytvářejícím umělou inteligenci v ochranu citlivých informací sdílených s chatboty jen málo, nebo vůbec.
- Peníze, duševní zdraví a pracovní problémy jsou tři nejčastěji probíraná citlivá témata.
- Uživatelé umělé inteligence by stále raději probrali citlivá témata s přáteli a rodinou než s chatboty AI a terapeuty.
- Pohodlí a absence odsuzování jsou nejčastěji uváděnými důvody, proč lidé zvolí AI místo člověka.
- 48 % uživatelů by citlivé informace sdílelo ochotněji, kdyby bylo zaručeno, že jejich konverzace nebudou použity k trénování modelů umělé inteligence.
- Osm z deseti uživatelů projevuje zájem o chatbot umělé inteligence navržený výslovně se zaměřením na soukromí.
Většina uživatelů chatbotů už sdílela něco citlivého
66 % respondentů uvedlo, že probralo s chatbotem umělé inteligence alespoň jedno citlivé téma. Těchto osm témat zahrnovalo osobní finance, vztahy, duševní zdraví, sex, tajemství, romantickou přitažlivost, práci a rodinné konflikty.
Z dotazovaných zemí udávali Američané nejvyšší míru svěřování citlivých informací chatbotům, a to 68,4 %, nejnižší byl podíl ve Francii s 60,3 %. Tento rozdíl naznačuje, že ochota svěřit se umělé inteligenci není jen osobní volbou, ale může být ovlivněna širšími kulturními postoji k soukromí a technologiím.
Peníze, duševní zdraví a práce dominují citlivým tématům
Osobní finance, duševní zdraví a pracovní problémy patřily k citlivým tématům, o kterých se respondenti s umělou inteligencí bavili nejčastěji.
Nejčastěji probírané téma se v jednotlivých zemích lišilo. V Německu se na první místo dostalo duševní zdraví, v USA pracovní problémy a ve Francii a Spojeném království osobní finance.
Tyto výsledky ukazují, o jakých citlivých tématech se respondenti s umělou inteligencí bavili, ale nikoli proč se je rozhodli probrat.
Přátelé a rodina jsou první volbou, i když používání AI roste
Přátelé a rodina byli preferovanou volbou při probírání všech dotazovaných citlivých témat, před chatboty umělé inteligence, terapeuty i duchovními poradci. Ve vybraných oblastech však AI tradičním zdrojům podpory už konkuruje, zejména v otázkách peněz a práce.
Rozdíl mezi radami od AI a od lidí je nejmenší u peněz. Ve Francii zaostávala AI jako upřednostňovaná volba pro probírání osobních financí za přáteli a rodinou jen o 2 procentní body.
A vliv AI se nezastavuje u konverzace. Lidé ji využívají při rozhodování o svých penězích, zdraví, vztazích, kariéře i nákupech.
Pohodlí a absence odsuzování lákají k používání AI nejvíc
Pohodlí a absence odsuzování byly nejčastěji uváděnými důvody, proč lidé k probírání citlivého tématu zvolili chatbot umělé inteligence místo člověka. Soukromí bylo také častým důvodem, avšak na nižší příčce.
Důvody se obecně lišily podle země a tématu. Ze tří nejčastěji probíraných citlivých témat byla pracovní a kariérní problémy jediným tématem, u kterého se všechny čtyři země shodly na stejném hlavním důvodu: pohodlí. Osobním financím nebylo daleko, pohodlí upřednostňovaly i všechny země kromě Spojeného království. U duševního zdraví se hlasování rozdělilo na polovinu: Francie a Německo zvolily jako hlavní důvod pohodlí, zatímco v USA a Spojeném království si více cenili absence odsuzování. U romantické přitažlivosti zaujímaly první pozici důvěra a soukromí v Německu, Spojeném království i USA, zatímco u sexuálního zdraví měla absence odsuzování první příčku ve Francii, USA i Spojeném království.
Celkově to naznačuje, že u praktických témat zvítězí pohodlí, zatímco u osobních konverzací hrají větší roli soukromí a absence odsuzování.
Profilování pro reklamní účely budí větší obavy než trénování modelů umělé inteligence
Větší obavy respondentů vzbuzuje využití jejich konverzací pro reklamní profily než využití k trénování modelů umělé inteligence.
Největší rozdíl byl v USA, kde mělo větší obavy z reklamního profilování 65,3 % respondentů oproti 57,6 % u trénování modelů. Výsledky naznačují, že záleží na tom, jak se údaje z konverzací využívají, a lidé se méně obávají ukládání a zapamatování svých konverzací než toho, že z těchto údajů bude komerční aktivum sloužící k vydělávání peněz.
Důvěra ve společnosti vytvářející umělou inteligenci zůstává celkově nízká
Přestože lidé citlivá témata s chatboty umělé inteligence sdílejí široce, vysokou důvěru v to, že společnosti vytvářející umělou inteligenci ochrání jejich soukromé informace, uvedlo jen 11 až 20 % respondentů. Malá důvěra byla nejčastější ve Francii s 47,7 %, ve Spojeném království s 41,6 %, v Německu s 40,5 % a v USA s 38,8 %.
Závazek k soukromí zvyšuje ochotu sdílet
Záruka, že konverzace nebudou použity k trénování modelů umělé inteligence, by přiměla 44 % respondentů citlivé informace sdílet ochotněji. Nejvyšší podíl byl v USA s 47,7 %, následovalo Spojené království s 44,3 %, Německo s 43,9 % a Francie s 40,7 %.
Zájem byl vysoký i u chatbotů umělé inteligence postavených kolem soukromí. Více než 70 % lidí uvedlo, že by takový chatbot využívalo, podíly se přitom pohybovaly od 71,1 % v Německu do 82 % ve Spojeném království.
Tato zjištění naznačují, že závazek k soukromí si u uživatelů chatbotů umělé inteligence stále udržuje vysoké hodnocení, i když nebyl počátečním důvodem, proč uživatel zvolil AI.
Závěr: AI si musí získat důvěru svých uživatelů
Osobní konverzace s chatboty umělé inteligence už jsou běžné. Více než dvě třetiny respondentů ze všech čtyř dotazovaných zemí probralo s chatbotem umělé inteligence alespoň jedno citlivé téma, od peněžních starostí po osobní tajemství. Vysokou důvěru ve společnosti vytvářející umělou inteligenci v ochraně svých soukromých informací však uvedla jen jedna pětina.
Lidé se umělé inteligenci svěřují mnohem rychleji, než jí důvěřují, a to ne proto, že by AI nahradila lidský kontakt – přátelé a rodina zůstávají první volbou u všech citlivých témat. AI je spíš volbou, ke které se lidé uchýlí, když je pro ně důležitější pohodlí a absence odsuzování.
Zatímco pohodlí otevře bránu k používání AI, důvěra rozhoduje o tom, jak daleko s ní člověk zajde. Záruka, že konverzace nebudou použity k trénování, stačila k tomu, aby 44 % uživatelů sdílelo ochotněji, a osm z deseti uvedlo, že by pravděpodobněji zvolilo soukromou AI. Lidé už rozhodli, že je AI dostatečně užitečná, aby jí svěřili své peněžní starosti, pochybnosti i každodenní trápení. Poskytovatelé, kteří prokáží, a nejen slíbí, že dokáží tyto informace udržet v bezpečí, jsou ti, kteří dostanou důvěru i pro zbytek.
Metodologie
Tento průzkum zahrnoval 4 014 respondentů z Francie, Německa, Spojeného království a USA. Všichni respondenti byli předem prověřeni, aby se potvrdilo, že aktuálně používají chatbot nebo asistenta umělé inteligence.
Průzkum probíhal online a skládal se z přibližně 12 otázek o používání chatbotů umělé inteligence. Respondentům nebylo sděleno, která společnost výzkum zadala. Cílem tohoto neoznačeného designu bylo omezit vliv, který by mohla mít pověst jakékoli společnosti.
Omezení
Tento průzkum zachycuje samozprávné postoje, předvolby a minulé chování. Nesleduje skutečné konverzace respondentů s chatboty ani nezávisle neověřuje, co sdíleli. Průzkum zahrnuje současné uživatele chatbotů ve čtyřech zemích a neměl by být vykládán jako reprezentativní pro jiné země ani pro lidi, kteří aktuálně nepoužívají chatboty umělé inteligence.
