Pengebekymringer klokken 2 om natten. Et medicinsk symptom, man er for flov til at gå til lægen med. Den bedste måde at bede en om en date på.
People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.
Omkring to tredjedele af AI-chatbotbrugerne har drøftet mindst ét følsomt emne. Men samtidig siger færre end én ud af fem, at de har stor tillid til, at AI-virksomheder beskytter deres private oplysninger.
”AI lærer langt mere om os, end en søgemaskine nogensinde kunne. Søgning ved, hvad du ledte efter. AI får tøven, opfølgningsspørgsmålene og den personlige kontekst mellem linjerne,” siger Eamonn Maguire, chef for AI-udvikling hos Proton. ”Vi giver nu mere videre end blot spørgsmål. Og når teknologien ved så meget om os, kan privatliv ikke være noget, man tænker på bagefter.”
For at forstå mere om, hvordan folk bruger og ser AI, undersøgte vi 4.014 nuværende AI-chatbotbrugere i Frankrig, Tyskland, Storbritannien og USA. Vi spurgte, hvad de har delt, hvorfor de valgte at gøre det, og hvad der ville gøre dem mere eller mindre villige til at dele det.
Vigtigste resultater
- 66 % af AI-chatbotbrugerne har drøftet mindst ét følsomt emne med en chatbot, herunder privatøkonomi, seksuel sundhed og parforhold.
- 42 % af brugerne har lidt eller ingen tillid til, at AI-virksomheder beskytter følsomme oplysninger, der deles med chatbots.
- Penge, psykisk sundhed og karriereproblemer er de tre mest drøftede følsomme emner.
- AI-brugere vil stadig hellere drøfte følsomme emner med venner og familie end med AI-chatbots og terapeuter.
- Bekvemmelighed og frihed for dom er de mest nævnte grunde til at vælge AI frem for et menneske.
- 48 % af brugerne siger, at de ville være mere villige til at dele følsomme oplysninger, hvis der var garanti for, at deres samtaler ikke blev brugt til at træne AI-modeller.
- Otte ud af ti brugere udtrykker interesse i en AI-chatbot, der er specifikt designet til privatliv.
De fleste chatbotbrugere har allerede delt noget følsomt
66 % af respondenterne sagde, at de havde drøftet mindst ét følsomt emne med en AI-chatbot. De otte emner omfattede privatøkonomi, parforhold, psykisk sundhed, sex, hemmeligheder, romantisk tiltrækning, arbejde og konflikter i familien.
Af de undersøgte lande havde amerikanerne den højeste andel, der delte følsomme oplysninger med chatbots, nemlig 68,4 %, mens Frankrig lå lavest med 60,3 %. Denne forskel tyder på, at åbenhed over for at betro sig til AI ikke kun er et personligt valg, men også kan påvirkes af bredere kulturelle holdninger til privatliv og teknologi.
Penge, psykisk sundhed og arbejde dominerer de følsomme emner
Privatøkonomi, psykisk sundhed og karriereproblemer var de tre følsomme emner, som respondenterne oftest oplyste, at de havde drøftet med AI.
Det mest drøftede emne varierede fra land til land. Psykisk sundhed lå øverst i Tyskland, karriereproblemer lå øverst i USA, og privatøkonomi lå øverst i Frankrig og Storbritannien.
Disse resultater viser, hvilke følsomme emner respondenterne har drøftet med AI, men ikke hvorfor de valgte at drøfte dem.
Venner og familie er det foretrukne valg, selv mens AI-brugen vokser
Venner og familie var det foretrukne valg til at drøfte alle de undersøgte følsomme emner, foran AI-chatbots, terapeuter og religiøse rådgivere. Men AI konkurrerer allerede med traditionelle kilder til support på nogle områder – især penge og arbejde.
Forskellen mellem AI og menneskelig rådgivning er mindst, når det gælder penge. I Frankrig lå AI kun 2 procentpoint efter venner og familie som det foretrukne valg til at drøfte privatøkonomi.
Og AIs indflydelse stopper ikke ved samtalen. Folk bruger den til at træffe beslutninger om deres penge, sundhed, parforhold, karriere og indkøb.
Bekvemmelighed og frihed for dom er de vigtigste grunde til at bruge AI
Bekvemmelighed og frihed for dom var de mest nævnte grunde til at vælge en AI-chatbot frem for et menneske til at drøfte et følsomt emne. Privatliv var også en almindelig grund, men lå lavere.
Grundene varierede generelt fra land til land og fra emne til emne. Af de tre mest drøftede følsomme emner var arbejde og karriereproblemer det eneste, hvor alle fire lande var enige om samme vigtigste grund: bekvemmelighed. Privatøkonomi lå tæt på, da alle lande undtagen Storbritannien også foretrak bekvemmelighed. Psykisk sundhed var delt midt over: Frankrig og Tyskland valgte begge bekvemmelighed som den vigtigste grund, mens USA og Storbritannien satte højere pris på frihed for dom. Til gengæld var tillid og privatliv det foretrukne valg for romantisk tiltrækning i Tyskland, Storbritannien og USA, mens seksuel sundhed havde frihed for dom som den vigtigste grund i Frankrig, USA og Storbritannien.
Alt i alt tyder det på, at bekvemmelighed vinder ved praktiske emner, mens privatliv og frihed for dom betyder mere for personlige samtaler.
Reklameprofilering vækker mere bekymring end træning af AI-modeller
Respondenterne var mere bekymrede for, at deres samtaler blev brugt til reklameprofilering, end for, at de blev brugt til at træne AI-modeller.
Forskellen var størst i USA, hvor 65,3 % var mere bekymrede for reklameprofilering, mod 57,6 % for modeltræning. Resultaterne tyder på, at det betyder noget, hvordan samtaledataene bruges: Den største bekymring er mindre, at samtalerne gemmes og huskes, end at dataene bliver omdannet til et kommercielt aktiv, der bruges til at tjene penge.
Tilliden til AI-virksomheder er lav på tværs af landene
På trods af udbredt deling af følsomme emner med AI-chatbots oplyste kun 11 % til 20 % af respondenterne, at de havde stor tillid til, at AI-virksomheder beskytter deres private oplysninger. Lav tillid var mest udbredt i Frankrig med 47,7 %, efterfulgt af 41,6 % i Storbritannien, 40,5 % i Tyskland og 38,8 % i USA.
Privatlivsstilsagn øger villigheden til at dele
En garanti for, at samtaler ikke blev brugt til at træne AI-modeller, ville gøre 44 % af respondenterne mere tilbøjelige til at dele følsomme oplysninger. Det var højest i USA med 47,7 %, efterfulgt af Storbritannien med 44,3 %, Tyskland med 43,9 % og Frankrig med 40,7 %.
Interessen for AI-chatbots, der er designet omkring privatliv, var også høj. Over 70 % sagde, at de med større sandsynlighed ville bruge en sådan, fra 71,1 % i Tyskland til 82 % i Storbritannien.
Disse resultater tyder på, at en forpligtelse til privatliv stadig vejer tungt for AI-chatbotbrugere, selv hvis det ikke var den oprindelige grund til, at en bruger valgte at bruge AI.
Konklusion: AI skal vinde sine brugeres tillid
Personlige samtaler med AI-chatbots er allerede almindelige. Mere end to tredjedele af respondenterne i de fire undersøgte lande havde drøftet mindst ét følsomt emne med en AI-chatbot, fra pengebekymringer til personlige hemmeligheder. Alligevel oplyste kun én ud af fem, at de havde stor tillid til, at AI-virksomheder beskytter deres private oplysninger.
Folk betroer sig til AI langt hurtigere, end de stoler på den, men ikke fordi AI har erstattet menneskelig forbindelse – venner og familie er stadig det første valg for alle følsomme emner. AI er snarere den mulighed, folk griber efter, når bekvemmelighed og frihed for dom betyder mere.
Mens bekvemmelighed åbner døren for at bruge AI, er det tilliden, der afgør, hvor langt man går med den. En garanti for, at data ikke bruges til træning, var nok til, at 44 % af brugerne blev mere villige til at dele, og otte ud af ti sagde, at de med større sandsynlighed ville vælge privat AI. Folk har allerede besluttet, at AI er nyttig nok til at høre om deres pengeproblemer, tvivl og hverdagsbekymringer. De udbydere, der beviser – og ikke blot lover – at de kan holde disse oplysninger sikre, bliver dem, folk også betroer resten til.
Metode
Denne undersøgelse omfattede 4.014 respondenter i Frankrig, Tyskland, Storbritannien og USA. Alle respondenter blev screenet for at bekræfte, at de i øjeblikket bruger en AI-chatbot eller -assistent.
Undersøgelsen blev udført online og bestod af cirka 12 spørgsmål om brugen af AI-chatbots. Respondenterne fik ikke at vide, hvilken virksomhed der havde bestilt undersøgelsen. Dette design uden virksomhedsnavn var beregnet til at mindske den indflydelse, en virksomheds omdømme ellers kunne have.
Begrænsninger
Denne undersøgelse dækker selvrapporterede holdninger, præferencer og tidligere adfærd. Den observerer ikke respondenternes faktiske chatbotsamtaler eller verificerer uafhængigt, hvad de har delt. Undersøgelsen omfatter nuværende chatbotbrugere i fire lande og bør ikke fortolkes som repræsentativ for andre lande eller for folk, der i øjeblikket ikke bruger AI-chatbots.
