Pengabekymmer klockan 2 på natten. Ett medicinskt symtom som är för pinsamt att våga fråga en läkare om. Det bästa sättet att bjuda in någon på en dejt.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Ungefär två tredjedelar av AI-chattbotanvändarna har diskuterat minst ett känsligt ämne. Samtidigt säger färre än en av fem att de har hög tilltro till att AI-företagen skyddar deras privata uppgifter.

”AI lär sig långt mer om oss än vad en sökmotor någonsin kan göra. Sök vet vad du sökte efter. AI förstår tvekan, uppföljningsfrågorna och den personliga kontexten mellan raderna”, säger Eamonn Maguire, direktör för AI-utveckling på Proton. ”Vi lämnar nu över mer än bara frågor. Och när tekniken vet så mycket om oss kan integriteten inte vara en eftertanke.”

För att förstå mer om hur människor använder och ser på AI genomförde vi en undersökning bland 4 014 nuvarande AI-chattbotanvändare i Frankrike, Tyskland, Storbritannien och USA. Vi frågade vad de har delat, varför de valde att göra det och vad som skulle göra dem mer eller mindre benägna att dela det.

Viktiga resultat

  • 66 % av AI-chattbotanvändarna har diskuterat minst ett känsligt ämne med en chattbot, inklusive privatekonomi, sexuell hälsa och relationer.
  • 42 % av användarna har liten eller ingen tilltro till att AI-företagen skyddar känslig information som delas med chattbotar.
  • Pengar, psykisk hälsa och karriärproblem är de tre känsliga ämnen som diskuteras oftast.
  • AI-användare föredrar fortfarande att diskutera känsliga ämnen med vänner och familj, framför AI-chattbotar och terapeuter.
  • Bekvämlighet och att slippa bli dömd är de vanligaste skälen till att välja AI framför en människa.
  • 48 % av användarna säger att de skulle vara mer benägna att dela känslig information om deras konversationer garanterat inte skulle användas för att träna AI-modeller.
  • Åtta av tio användare uttrycker intresse för en AI-chattbot som är särskilt utformad för integritet.

De flesta chattbotanvändare har redan delat något känsligt

66 % av respondenterna sa att de diskuterat minst ett känsligt ämne med en AI-chattbot. De åtta ämnena omfattade privatekonomi, relationer, psykisk hälsa, sex, hemligheter, romantisk attraktion, arbete och familjekonflikter.

Av de undersökta länderna rapporterade amerikanerna den högsta andelen som delar känslig information med chattbotar, 68,4 %, medan Frankrike låg lägst med 60,3 %. Skillnaden tyder på att öppenheten för att anförtro sig åt AI inte bara är ett personligt val, utan kan påverkas av bredare kulturella attityder till integritet och teknik.

Pengar, psykisk hälsa och arbete dominerar de känsliga ämnena

Privatekonomi, psykisk hälsa och karriärproblem var de tre känsliga ämnen som respondenterna oftast rapporterade att de diskuterade med AI.

Det vanligaste ämnet varierade mellan länderna. Psykisk hälsa låg etta i Tyskland, medan karriärproblem låg etta i USA och privatekonomi låg etta i Frankrike och Storbritannien.

Dessa resultat visar vilka känsliga ämnen respondenterna har diskuterat med AI, men inte varför de valde att diskutera dem.

Vänner och familj är första valet, även när AI-användningen ökar

Vänner och familj var det föredragna valet för att diskutera alla undersökta känsliga ämnen, framför AI-chattbotar, terapeuter och religiösa rådgivare. Men AI konkurrerar redan med traditionella former av support inom vissa områden, särskilt pengar och arbete.

Skillnaden mellan AI och mänsklig rådgivning är som minst när det gäller pengar. I Frankrike kom AI inom bara 2 procentenheter från vänner och familj som det föredragna valet för att diskutera privatekonomi.

Och AI:s inflytande slutar inte vid konversationen. Människor använder den för att fatta beslut om sina pengar, sin hälsa, sina relationer, sin karriär och sina inköp.

Bekvämlighet och att slippa bli dömd är de största fördelarna med att använda AI

Bekvämlighet och att slippa bli dömd var de vanligaste skälen till att välja en AI-chattbot framför en människa för att diskutera ett känsligt ämne. Integritet var också ett vanligt skäl, men rankades lägre.

Skälen varierade generellt mellan länder och ämnen. Av de tre vanligaste känsliga ämnena var arbete och karriärproblem det enda där alla fyra länder var överens om samma främsta skäl: bekvämlighet. Privatekonomi kom nära, eftersom alla länder utom Storbritannien också föredrog bekvämlighet. Psykisk hälsa delades på mitten: Frankrike och Tyskland valde båda bekvämlighet som främsta skäl, medan USA och Storbritannien värderade att slippa bli dömd högre. För romantisk attraktion var tilltro och integritet det främsta valet i Tyskland, Storbritannien och USA, medan sexuell hälsa hade att slippa bli dömd som främsta skäl i Frankrike, USA och Storbritannien.

Tillsammans tyder detta på att bekvämlighet vinner för praktiska ämnen, medan integritet och att slippa bli dömd betyder mer för personliga konversationer.

Annonsprofilering väcker mer oro än träning av AI-modeller

Respondenterna uttryckte mer oro över att deras konversationer används för annonsprofilering än för att träna AI-modeller.

Skillnaden var störst i USA, där 65,3 % var mer oroliga för annonsprofilering jämfört med 57,6 % för modellträning. Resultaten tyder på att hur konversationsdata används spelar roll. Den största oron handlar mindre om att konversationer sparas och kommer ihåg än om att data förvandlas till en kommersiell tillgång som används för att tjäna pengar.

Tilltron till AI-företagen förblir låg över hela linjen

Trots att känsliga ämnen delas brett med AI-chattbotar rapporterade bara 11 till 20 % av respondenterna hög tilltro till att AI-företagen hanterar deras privata uppgifter. Låg tilltro var vanligast i Frankrike med 47,7 %, följt av 41,6 % i Storbritannien, 40,5 % i Tyskland och 38,8 % i USA.

Ett integritetslöfte ökar viljan att dela

En garanti för att konversationer inte skulle användas för att träna AI-modeller skulle göra 44 % av respondenterna mer benägna att dela känslig information. Det var högst i USA med 47,7 %, följt av Storbritannien med 44,3 %, Tyskland med 43,9 % och Frankrike med 40,7 %.

Intresset var också högt för AI-chattbotar som är utformade kring integritet. Över 70 % sa att de mer sannolikt skulle använda en sådan, med allt från 71,1 % i Tyskland till 82 % i Storbritannien.

Dessa resultat tyder på att ett löfte om integritet fortfarande värdesätts högt av AI-chattbotanvändare, även om det inte var den ursprungliga orsaken till att en användare väljer att använda AI.

Slutsats: AI måste förtjäna sina användares tilltro

Personliga konversationer med AI-chattbotar är redan vanliga. Mer än två tredjedelar av respondenterna i de fyra undersökta länderna hade diskuterat minst ett känsligt ämne med en AI-chattbot, från pengabekymmer till personliga hemligheter. Ändå rapporterade bara en av fem hög tilltro till att AI-företagen hanterar deras privata uppgifter.

Människor anförtror sig åt AI mycket snabbare än de litar på den, men inte för att AI har ersatt mänsklig kontakt. Vänner och familj är fortfarande första valet för varje känsligt ämne. AI är istället det alternativ människor tar till när bekvämlighet och att slippa bli dömd spelar större roll.

Medan bekvämlighet öppnar dörren för att använda AI är det tilltron som avgör hur långt man går. En garanti mot modellträning räckte för att 44 % av användarna skulle bli mer benägna att dela, och åtta av tio sa att de mer sannolikt skulle välja privat AI. Människor har redan beslutat att AI är användbar nog att lyssna på deras pengabekymmer, tvivel och vardagsoro. Leverantörerna som bevisar, inte bara lovar, att de kan hålla informationen säker är de som människor sedan litar på med resten.

Metodologi

Undersökningen omfattade 4 014 respondenter i Frankrike, Tyskland, Storbritannien och USA. Alla respondenter sovrades för att bekräfta att de för närvarande använder en AI-chattbot eller AI-assistent.

Undersökningen genomfördes online och bestod av ungefär 12 frågor om användning av AI-chattbotar. Respondenterna fick inte veta vilket företag som beställde forskningen. Denna omärkta utformning syftade till att minska påverkan från något företags rykte.

Begränsningar

Undersökningen fångar självrapporterade attityder, preferenser och tidigare beteenden. Den observerar inte respondenternas faktiska chattbotkonversationer och verifierar inte oberoende vad de har delat. Undersökningen omfattar nuvarande chattbotanvändare i fyra länder och bör inte tolkas som representativ för andra länder eller för personer som för närvarande inte använder AI-chattbotar.