Geldzorgen om 2 uur ’s nachts. Een medisch symptoom waarvoor u te verlegen bent om naar de dokter te gaan. De beste manier om iemand mee uit te vragen.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Ongeveer twee derde van de AI-chatbotgebruikers heeft ten minste één gevoelig onderwerp besproken. Maar tegelijk zegt minder dan één op de vijf veel vertrouwen te hebben in AI-bedrijven wat betreft de bescherming van privégegevens.

“AI komt veel meer over ons te weten dan een zoekmachine ooit kon. Zoeken weet wat je zocht. AI vangt de aarzeling, de vervolgvragen en de persoonlijke context tussen de regels op,” aldus Eamonn Maguire, directeur AI-engineering bij Proton. “We geven nu meer door dan alleen vragen. En wanneer technologie zoveel over ons weet, mag privacy geen bijzaak zijn.”

Om meer te weten te komen over hoe mensen AI gebruiken en waarnemen, hebben we 4 014 huidige AI-chatbotgebruikers in Frankrijk, Duitsland, het VK en de VS ondervraagd. We vroegen wat ze hebben gedeeld, waarom ze dat deden en wat hen meer of minder bereid zou maken om het te delen.

Belangrijkste bevindingen

  • 66% van de AI-chatbotgebruikers heeft ten minste één gevoelig onderwerp met een chatbot besproken, waaronder persoonlijke financiën, seksuele gezondheid en relaties.
  • 42% van de gebruikers heeft weinig of geen vertrouwen in AI-bedrijven wat betreft de bescherming van gevoelige informatie die met chatbots is gedeeld.
  • Geld, geestelijke gezondheid en carrièreproblemen zijn de drie meest besproken gevoelige onderwerpen.
  • AI-gebruikers bespreken gevoelige onderwerpen nog steeds liever met vrienden en familie dan met AI-chatbots en therapeuten.
  • Gemak en vrijheid van oordeel zijn de meest genoemde redenen om AI boven een mens te verkiezen.
  • 48% van de gebruikers zegt eerder bereid te zijn gevoelige informatie te delen als gegarandeerd is dat hun gesprekken niet worden gebruikt om AI-modellen te trainen.
  • Acht op de tien gebruikers is geïnteresseerd in een AI-chatbot die specifiek met het oog op privacy is ontworpen.

De meeste chatbotgebruikers hebben al iets gevoeligs gedeeld

66% van de respondenten zei ten minste één gevoelig onderwerp met een AI-chatbot te hebben besproken. De acht onderwerpen betroffen persoonlijke financiën, relaties, geestelijke gezondheid, seks, geheimen, romantische aantrekkingskracht, werk en familieruzie.

Van de ondervraagde landen rapporteerden Amerikanen het hoogste percentage openbaarmaking van gevoelige informatie aan chatbots, 68,4%, met Frankrijk als laagste met 60,3%. Deze kloof suggereert dat de openheid om bij AI in vertrouwen iets te delen niet alleen een persoonlijke keuze is, maar ook kan worden beïnvloed door bredere culturele opvattingen over privacy en technologie.

Geld, geestelijke gezondheid en werk domineren de gevoelige onderwerpen

Persoonlijke financiën, geestelijke gezondheid en carrièreproblemen waren de drie gevoelige onderwerpen die respondenten het vaakst met AI bespraken.

Het meest besproken onderwerp varieerde per land. Geestelijke gezondheid stond in Duitsland op de eerste plaats, terwijl carrièreproblemen in de VS en persoonlijke financiën in Frankrijk en het VK bovenaan stonden.

Deze resultaten tonen over welke gevoelige onderwerpen respondenten met AI hebben gesproken, maar niet waarom ze ervoor kozen om die te bespreken.

Vrienden en familie zijn de eerste keuze, zelfs nu AI-gebruik groeit

Vrienden en familie waren de voorkeursoptie voor het bespreken van elk ondervraagd gevoelig onderwerp, vóór AI-chatbots, therapeuten en religieuze adviseurs. Maar AI concurreert al met traditionele bronnen van ondersteuning op sommige gebieden – met name geld en werk.

Het verschil tussen AI en menselijk advies is het kleinst als het om geld gaat. In Frankrijk bleef AI als voorkeursoptie voor het bespreken van persoonlijke financiën slechts 2 procentpunten achter op vrienden en familie.

En de invloed van AI stopt niet bij gesprekken. Mensen gebruiken het ook om beslissingen te nemen over hun geld, gezondheid, relaties, carrière en aankopen.

Gemak en vrijheid van oordeel zijn de grootste redenen om AI te gebruiken

Gemak en vrijheid van oordeel waren de meest genoemde redenen om een AI-chatbot boven een mens te kiezen om een gevoelig onderwerp te bespreken. Privacy was ook een veelvoorkomende reden, maar stond lager aangezet.

De redenen varieerden over het algemeen per land en onderwerp. Van de drie meest besproken gevoelige onderwerpen was werk en carrièreproblemen het enige waar alle vier de landen dezelfde belangrijkste reden noemden: gemak. Persoonlijke financiën kwamen dicht in de buurt: ook daar gaf elk land op het VK na de voorkeur aan gemak. Geestelijke gezondheid was verdeeld: Frankrijk en Duitsland kozen beide gemak als belangrijkste reden, terwijl de VS en het VK meer waarde hechtten aan vrijheid van oordeel. Voor romantische aantrekkingskracht waren vertrouwen en privacy de topkeuze in Duitsland, het VK en de VS, terwijl voor seksuele gezondheid het gebrek aan oordeel de belangrijkste reden was in Frankrijk, de VS en het VK.

Al met al suggereert dit dat gemak wint bij praktische onderwerpen, terwijl privacy en vrijheid van oordeel zwaarder wegen bij persoonlijke gesprekken.

Advertentieprofilering wekt meer zorgen dan het trainen van AI-modellen

Respondenten uitten meer zorgen over het gebruik van hun gesprekken voor advertentieprofielen dan over het gebruik ervan om AI-modellen te trainen.

Het verschil was het grootst in de VS, waar 65,3% zich meer zorgen maakte over advertentieprofilering tegenover 57,6% voor modeltraining. De resultaten suggereren dat het ertoe doet hoe gespreksgegevens worden gebruikt: de voornaamste zorgen gaan minder over het opslaan en onthouden van gesprekken dan over het omzetten van die gegevens in een commercieel middel voor financieel gewin.

Vertrouwen in AI-bedrijven blijft over de hele linie laag

Ondanks het wijdverbreide delen van gevoelige onderwerpen met AI-chatbots rapporteerde slechts 11 tot 20% van de respondenten veel vertrouwen in AI-bedrijven met hun privégegevens. Weinig vertrouwen kwam het meest voor in Frankrijk, met 47,7%, tegenover 41,6% in het VK, 40,5% in Duitsland en 38,8% in de VS.

Privacybelofte vergroot de bereidheid om te delen

Een garantie dat gesprekken niet worden gebruikt om AI-modellen te trainen, zou 44% van de respondenten eerder doen besluiten gevoelige informatie te delen. Dit was het hoogst in de VS met 47,7%, gevolgd door het VK met 44,3%, Duitsland met 43,9% en Frankrijk met 40,7%.

Er was ook veel interesse in AI-chatbots die rond privacy zijn ontworpen. Meer dan 70% van de mensen zei eerder een dergelijke chatbot te gebruiken, variërend van 71,1% in Duitsland tot 82% in het VK.

Deze bevindingen suggereren dat een inzet voor privacy nog steeds hoog wordt gewaardeerd door AI-chatbotgebruikers, ook al was dat niet de aanvankelijke reden waarom een gebruiker voor AI koos.

Conclusie: AI moet het vertrouwen van zijn gebruikers verdienen

Persoonlijke gesprekken met AI-chatbots zijn al gemeengoed. Meer dan twee derde van de respondenten in de vier ondervraagde landen had ten minste één gevoelig onderwerp met een AI-chatbot besproken, van geldzorgen tot persoonlijke geheimen. Toch rapporteerde slechts één op de vijf veel vertrouwen in AI-bedrijven met hun privégegevens.

Mensen storten hun hart veel sneller bij AI uit dan ze AI vertrouwen, maar niet omdat AI menselijke verbinding heeft vervangen – vrienden en familie blijven voor elk gevoelig onderwerp de eerste keuze. AI is eerder de optie waar mensen naar grijpen als gemak en vrijheid van oordeel zwaarder wegen.

Terwijl gemak mensen de deur opent om AI te gebruiken, bepaalt vertrouwen hoe ver ze ermee gaan. Een garantie tegen training was genoeg om 44% van de gebruikers eerder bereid te maken om te delen, en acht op de tien zeiden eerder te kiezen voor privé-AI. Mensen hebben al besloten dat AI nuttig genoeg is om hun geldzorgen, twijfels en alledaagse beslommeringen mee te delen. De aanbieders die bewijzen, en niet alleen beloven, dat ze deze informatie veilig kunnen houden, zijn degene aan wie mensen de rest toevertrouwen.

Methodologie

Aan deze enquête namen 4 014 respondenten deel in Frankrijk, Duitsland, het VK en de VS. Alle respondenten werden gescreend om te bevestigen dat ze momenteel een AI-chatbot of -assistent gebruiken.

De enquête werd online afgenomen en bestond uit ongeveer 12 vragen over het gebruik van AI-chatbots. Respondenten werd niet verteld welk bedrijf het onderzoek had laten uitvoeren. Dit merk-neutrale ontwerp was bedoeld om de invloed van de reputatie van een bedrijf te beperken.

Beperkingen

Deze enquête weerspiegelt zelfgerapporteerde attitudes, voorkeuren en gedrag uit het verleden. Er wordt niet naar de werkelijke chatbotgesprekken van respondenten gekeken en er wordt niet onafhankelijk geverifieerd wat ze hebben gedeeld. De enquête heeft betrekking op huidige chatbotgebruikers in vier landen en mag niet worden opgevat als representatief voor andere landen of voor mensen die momenteel geen AI-chatbots gebruiken.