Pengesorger klokken 2 om natten. Et medisinsk symptom så flaut at man ikke tør gå til legen. Den beste måten å spørre noen på date på.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Omtrent to tredjedeler av AI-chatbotbrukerne har diskutert minst ett sensitivt tema. Men samtidig sier færre enn én av fem at de har stor tillit til at AI-selskaper beskytter deres private opplysninger.

«AI lærer langt mer om oss enn noen søkemotor noensinne kunne gjort. Søk vet hva du lette etter. AI fanger opp nølingen, oppfølgingsspørsmålene og den personlige konteksten mellom linjene,» sa Eamonn Maguire, direktør for AI-utvikling i Proton. «Nå gir vi fra oss mer enn bare spørsmål. Og når teknologien vet så mye om oss, kan ikke personvern være noe som kommer i andre rekke.»

For å forstå mer om hvordan folk bruker og ser på AI, spurte vi 4.014 nåværende AI-chatbotbrukere i Frankrike, Tyskland, Storbritannia og USA. Vi spurte hva de hadde delt, hvorfor de valgte å gjøre det, og hva som ville gjøre dem mer eller mindre villige til å dele det.

Viktigste funn

  • 66 % av AI-chatbotbrukerne har diskutert minst ett sensitivt tema med en chatbot, blant annet privatøkonomi, seksuell helse og forhold.
  • 42 % av brukerne har liten eller ingen tillit til at AI-selskaper beskytter sensitiv informasjon som deles med chatboter.
  • Penger, psykisk helse og karriereproblemer er de tre sensitive temaene som diskuteres oftest.
  • AI-brukere foretrekker fortsatt å diskutere sensitive temaer med venner og familie, fremfor AI-chatboter og terapeuter.
  • Bekvemmelighet og å slippe å bli dømt er de vanligste årsakene til å velge AI fremfor et menneske.
  • 48 % av brukerne sier at de ville vært mer villige til å dele sensitiv informasjon hvis de fikk garanti for at samtalene ikke ville bli brukt til å trene AI-modeller.
  • Åtte av ti brukere er interessert i en AI-chatbot som er spesielt utviklet med personvern i fokus.

De fleste chatbotbrukere har allerede delt noe sensitivt

66 % av respondentene sa at de diskuterte minst ett sensitivt tema med en AI-chatbot. De åtte temaene omfattet privatøkonomi, forhold, psykisk helse, sex, hemmeligheter, romantisk tiltrekning, jobb og familiekonflikter.

Av de undersøkte landene rapporterte amerikanerne den høyeste andelen som delte sensitiv informasjon med chatboter, 68,4 %, mens Frankrike lå lavest med 60,3 %. Denne forskjellen tyder på at åpenhet for å betro seg til AI ikke bare er et personlig valg, men kan være påvirket av bredere kulturelle holdninger til personvern og teknologi.

Penger, psykisk helse og jobb dominerer blant de sensitive temaene

Privatøkonomi, psykisk helse og karriereproblemer var de tre sensitive temaene som respondentene oftest rapporterte at de diskuterte med AI.

Det mest diskuterte temaet varierte fra land til land. Psykisk helse lå øverst i Tyskland, mens karriereproblemer lå øverst i USA, og privatøkonomi lå øverst i Frankrike og Storbritannia.

Disse resultatene viser hvilke sensitive temaer respondentene har diskutert med AI, men ikke hvorfor de valgte å diskutere dem.

Venner og familie er det foretrukne valget, selv om bruken av AI øker

Venner og familie var det foretrukne valget for å diskutere alle de undersøkte sensitive temaene, foran AI-chatboter, terapeuter og religiøse rådgivere. Men AI konkurrerer allerede med tradisjonelle kilder til støtte på noen områder – særlig penger og jobb.

Forskjellen mellom AI og råd fra mennesker er minst når det gjelder penger. I Frankrike lå AI bare 2 prosentpoeng bak venner og familie som foretrukket valg for å diskutere privatøkonomi.

Og AIs innflytelse stopper ikke ved samtaler. Folk bruker den til å ta beslutninger om penger, helse, forhold, karriere og innkjøp.

Bekvemmelighet og å slippe å bli dømt er de største grunnene til å bruke AI

Bekvemmelighet og å slippe å bli dømt var de vanligste årsakene til å velge en AI-chatbot fremfor et menneske for å diskutere et sensitivt tema. Personvern var også en vanlig årsak, men rangerte lavere.

Årsakene varierte generelt fra land til land og fra tema til tema. Av de tre mest diskuterte sensitive temaene var jobb og karriereproblemer det eneste der alle fire land var enige om samme viktigste årsak: bekvemmelighet. Privatøkonomi lå tett bak, med bekvemmelighet som viktigste årsak i alle land unntatt Storbritannia. Psykisk helse var delt midt på: Frankrike og Tyskland valgte begge bekvemmelighet som viktigste årsak, mens USA og Storbritannia la mer vekt på å slippe å bli dømt. Romantisk tiltrekning hadde tillit og personvern som øverste valg i Tyskland, Storbritannia og USA, mens seksuell helse hadde å slippe å bli dømt som viktigste årsak i Frankrike, USA og Storbritannia.

Samlet sett tyder dette på at bekvemmelighet vinner for praktiske temaer, mens personvern og å slippe å bli dømt betyr mer i personlige samtaler.

Annonseprofilering skaper mer bekymring enn trening av AI-modeller

Respondentene uttrykte mer bekymring for at samtalene deres ble brukt til annonseprofiler enn til å trene AI-modeller.

Forskjellen var størst i USA, der 65,3 % var mer bekymret for annonseprofilering, mot 57,6 % for modelltrening. Resultatene tyder på at hvordan samtaledataene brukes er det som betyr noe. Hovedbekymringen handler mindre om at samtalene lagres og huskes, og mer om at dataene gjøres om til en kommersiell eiendel som brukes til å tjene penger.

Tilliten til AI-selskaper er gjennomgående lav

Til tross for at sensitive temaer deles i stor grad med AI-chatboter, rapporterte bare 11-20 % av respondentene at de har stor tillit til AI-selskaper når det gjelder privat informasjon. Lav tillit var vanligst i Frankrike med 47,7 %, mot 41,6 % i Storbritannia, 40,5 % i Tyskland og 38,8 i USA.

Et løfte om personvern øker viljen til å dele

En garanti for at samtaler ikke ville bli brukt til å trene AI-modeller ville gjøre 44 % av respondentene mer villige til å dele sensitiv informasjon. Dette var høyest i USA med 47,7 %, fulgt av Storbritannia med 44,3 %, Tyskland med 43,9 % og Frankrike med 40,7 %.

Interessen for AI-chatboter utviklet rundt personvern var også høy. Over 70 % sa at de sannsynligvis ville bruke en slik, fra 71,1 % i Tyskland til 82 % i Storbritannia.

Disse funnene tyder på at et løfte om personvern fortsatt er høyt verdsatt blant AI-chatbotbrukere, selv om det ikke var den opprinnelige grunnen til at en bruker valgte å bruke AI.

Konklusjon: AI må tjene brukernes tillit

Personlige samtaler med AI-chatboter er allerede vanlig. Mer enn to tredjedeler av respondentene i de fire undersøkte landene hadde diskutert minst ett sensitivt tema med en AI-chatbot, fra pengesorger til personlige hemmeligheter. Likevel rapporterte bare én av fem at de har stor tillit til AI-selskaper når det gjelder privat informasjon.

Folk betro seg til AI langt raskere enn de stoler på den, men ikke fordi AI har erstattet menneskelig kontakt – venner og familie er fortsatt førstevalget for alle sensitive temaer. AI er heller alternativet folk tyr til når bekvemmelighet og å slippe å bli dømt betyr mer.

Selv om bekvemmelighet åpner døren for å begynne å bruke AI, er det tilliten som avgjør hvor langt man går. En garanti mot trening var nok til at 44 % av brukerne ble mer villige til å dele, og åtte av ti sa de sannsynligvis ville velge privat AI. Folk har allerede bestemt seg for at AI er nyttig nok til å høre om pengproblemene, tvilene og hverdagsbekymringene. Leverandørene som beviser, ikke bare lover, at de kan holde denne informasjonen trygg, vil være dem folk stoler på med resten.

Metodologi

Denne undersøkelsen omfattet 4.014 respondenter i Frankrike, Tyskland, Storbritannia og USA. Alle respondentene ble filtrert for å bekrefte at de bruker en AI-chatbot eller assistent i dag.

Undersøkelsen ble gjennomført på nett og besto av rundt 12 spørsmål om bruk av AI-chatboter. Respondentene fikk ikke vite hvilket selskap som bestilte undersøkelsen. Dette merkevarefrie designet skulle redusere påvirkningen fra et selskaps omdømme.

Begrensninger

Denne undersøkelsen fanger opp selvrapporterte holdninger, preferanser og tidligere atferd. Den observerer ikke respondentenes faktiske chatbotsamtaler eller verifiserer uavhengig hva de har delt. Undersøkelsen dekker nåværende chatbotbrukere i fire land, og bør ikke tolkes som representativ for andre land eller for folk som ikke bruker AI-chatboter i dag.