Preoccupazioni per il denaro alle 2 di notte. Un sintomo medicale troppo imbarazzante da mostrare a un medico. Il modo migliore per chiedere a qualcuno di uscire.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Circa due terzi degli utenti di chatbot IA hanno discusso di almeno un argomento delicato. Al contempo, però, meno di una persona su cinque dichiara di avere grande fiducia nella capacità delle aziende di IA di proteggere le proprie informazioni private.

“L’IA impara su di noi molto più di quanto potrebbe mai fare un motore di ricerca. La ricerca sa cosa hai cercato. L’IA coglie l’esitazione, le domande successive e il contesto personale tra le righe”, ha dichiarato Eamonn Maguire, direttore dell’ingegneria IA di Proton. “Ora consegniamo più che semplici domande. E quando la tecnologia sa così tanto su di noi, la privacy non può essere un ripensamento.”

Per saperne di più su come le persone usano e percepiscono l’IA, abbiamo intervistato 4.014 utenti attuali di chatbot IA in Francia, Germania, Regno Unito e Stati Uniti. Abbiamo chiesto cosa abbiano condiviso, perché abbiano scelto di farlo e cosa li renderebbe più o meno disposti a condividere le proprie informazioni.

Risultati principali

  • Il 66% degli utenti di chatbot IA ha discusso di almeno un argomento delicato con un chatbot, tra cui finanze personali, salute sessuale e relazioni.
  • Il 42% degli utenti ha poca o nessuna fiducia nella capacità delle aziende di IA di proteggere le informazioni delicate condivise con i chatbot.
  • Denaro, salute mentale e problemi di carriera sono i tre argomenti delicati più discussi.
  • Gli utenti di IA preferirebbero comunque discutere di argomenti delicati con amici e familiari, piuttosto che con chatbot IA e psicoterapeuti.
  • Comodità e assenza di giudizio sono le ragioni più citate per la scelta dell’IA rispetto a una persona.
  • Il 48% degli utenti dichiara di essere più disposto a condividere informazioni delicate se le proprie conversazioni avessero la garanzia di non essere utilizzate per addestrare modelli IA.
  • 8 utenti su 10 esprimono interesse per un chatbot IA progettato specificamente per la privacy.

La maggior parte degli utenti di chatbot ha già condiviso qualcosa di delicato

Il 66% degli intervistati ha dichiarato di aver discusso di almeno un argomento delicato con un chatbot IA. Gli otto argomenti comprendevano finanze personali, relazioni, salute mentale, sesso, segreti, attrazione romantica, lavoro e conflitti familiari.

Tra i paesi intervistati, gli statunitensi hanno registrato la percentuale più alta di divulgazione di informazioni delicate ai chatbot, con il 68,4%, mentre la Francia è quella più bassa con il 60,3%. Questo divario suggerisce che la propensione a confidarsi con l’IA non è solo una scelta personale, ma potrebbe essere influenzata da atteggiamenti culturali più ampi verso la privacy e la tecnologia.

Denaro, salute mentale e lavoro dominano gli argomenti delicati

Finanze personali, salute mentale e problemi di carriera sono stati i tre argomenti delicati che gli intervistati hanno più comunemente dichiarato di aver discusso con l’IA.

L’argomento più discusso è variato da paese a paese. La salute mentale è arrivata prima in Germania, mentre i problemi di carriera negli Stati Uniti e le finanze personali in Francia e nel Regno Unito.

Questi risultati mostrano quali argomenti delicati hanno discusso gli intervistati con l’IA, ma non perché hanno scelto di farlo.

Amici e familiari restano la prima scelta, anche mentre cresce l’uso dell’IA

Amici e familiari sono stati la scelta preferita per discutere di ogni argomento delicato oggetto del sondaggio, davanti ai chatbot IA, agli psicoterapeuti e ai consulenti religiosi. Ma l’IA sta già facendo concorrenza alle fonti tradizionali di supporto in alcuni ambiti, in particolare denaro e lavoro.

Il divario tra IA e consigli umani è minimo per quanto riguarda il denaro. In Francia, l’IA è arrivata a soli 2 punti percentuali da amici e familiari come scelta preferita per discutere di finanze personali.

E l’influenza dell’IA non si limita alla conversazione. Le persone la usano per prendere decisioni su denaro, salute, relazioni, carriera e acquisti.

Comodità e assenza di giudizio sono i principali motivi per usare l’IA

Comodità e assenza di giudizio sono state le ragioni più citate per la scelta di un chatbot IA invece di una persona con cui discutere di un argomento delicato. Anche la privacy era una ragione comune, ma con una percentuale inferiore.

Le ragioni sono in genere variate da paese a paese e da argomento ad argomento. Dei tre argomenti delicati più discussi, il lavoro e i problemi di carriera sono stati l’unico caso in cui tutti e quattro i paesi hanno concordato sulla stessa ragione principale: la comodità. Le finanze personali sono state vicine, con la comodità preferita da ogni paese tranne il Regno Unito. La salute mentale è stata divisa a metà: Francia e Germania hanno scelto entrambe la comodità come ragione principale, mentre Stati Uniti e Regno Unito hanno apprezzato di più l’assenza di giudizio. Nel frattempo, per l’attrazione romantica la scelta principale in Germania, Regno Unito e Stati Uniti è stata fiducia e privacy, mentre per la salute sessuale la ragione principale in Francia, Stati Uniti e Regno Unito è stata l’assenza di giudizio.

Nel complesso, questo suggerisce che la comodità prevale per gli argomenti pratici, mentre privacy e assenza di giudizio contano di più per le conversazioni personali.

La profilazione pubblicitaria desta più preoccupazione dell’addestramento di modelli IA

Gli intervistati hanno espresso più preoccupazione per l’uso delle proprie conversazioni a fini di profilazione pubblicitaria che per l’addestramento di modelli IA.

La differenza è stata maggiore negli Stati Uniti, dove il 65,3% era più preoccupato per la profilazione pubblicitaria rispetto al 57,6% per l’addestramento di modelli. I risultati suggeriscono che conta come vengono utilizzati i dati delle conversazioni: le principali preoccupazioni riguardano meno il fatto che le conversazioni vengano salvate e ricordate che il trasformare quei dati in un asset commerciale destinato al profitto economico.

La fiducia nelle aziende di IA resta bassa in tutti i paesi

Nonostante la condivisione diffusa di argomenti delicati con i chatbot IA, solo tra l’11% e il 20% degli intervistati ha dichiarato di avere grande fiducia nelle aziende di IA per le proprie informazioni private. La bassa fiducia è stata più comune in Francia con il 47,7%, con il 41,6% nel Regno Unito, il 40,5% in Germania e il 38,8 negli Stati Uniti.

L’impegno per la privacy aumenta la disponibilità a condividere

Una garanzia che le conversazioni non sarebbero state utilizzate per addestrare modelli IA renderebbe il 44% degli intervistati più propenso a condividere informazioni delicate. Questo risultato è stato più alto negli Stati Uniti con il 47,7%, seguito dal Regno Unito con il 44,3%, dalla Germania con il 43,9% e dalla Francia con il 40,7%.

Anche l’interesse per i chatbot IA progettati attorno alla privacy è stato alto. Oltre il 70% delle persone ha dichiarato che sarebbe più propenso a usarne uno, con percentuali dal 71,1% in Germania all’82% nel Regno Unito.

Questi risultati suggeriscono che l’impegno per la privacy è ancora molto apprezzato dagli utenti di chatbot IA, anche se non è stata la ragione iniziale per cui un utente avrebbe scelto di usare l’IA.

Conclusione: l’IA deve guadagnarsi la fiducia dei suoi utenti

Le conversazioni personali con i chatbot IA sono già comuni. Oltre due terzi degli intervistati nei quattro paesi oggetto del sondaggio hanno discusso di almeno un argomento delicato con un chatbot IA, dalle preoccupazioni per il denaro ai segreti personali. Eppure solo una persona su cinque ha dichiarato di avere grande fiducia nelle aziende di IA per le proprie informazioni private.

Le persone si confidano con l’IA molto più rapidamente di quanto le si affidino, ma non perché l’IA abbia sostituito la connessione umana: amici e familiari restano la prima scelta per ogni argomento delicato. Piuttosto, l’IA è l’opzione a cui le persone ricorrono quando contano di più la comodità e l’assenza di giudizio.

Se la comodità apre la porta all’uso dell’IA, è la fiducia a decidere fino a che punto si andrà con essa. Una garanzia di nessun addestramento è stata sufficiente a rendere il 44% degli utenti più disposto a condividere, e otto persone su 10 hanno dichiarato che sarebbero più propense a scegliere l’IA privata. Le persone hanno già deciso che l’IA è abbastanza utile da poter ascoltare i loro guai economici, dubbi e preoccupazioni quotidiane. I fornitori che dimostrano, e non si limitano a promettere, di poter mantenere queste informazioni al sicuro saranno quelli a cui le persone affideranno il resto.

Metodologia

Questo sondaggio ha coinvolto 4.014 intervistati in Francia, Germania, Regno Unito e Stati Uniti. Tutti gli intervistati sono stati selezionati per confermare che attualmente utilizzano un chatbot o un assistente IA.

Il sondaggio è stato condotto online e consisteva in circa 12 domande sull’uso dei chatbot IA. Gli intervistati non hanno saputo quale azienda ha commissionato la ricerca. Questo approccio senza marchio è stato pensato per ridurre l’influenza legata alla reputazione di una qualunque azienda.

Limitazioni

Questo sondaggio raccoglie atteggiamenti, preferenze e comportamenti passati auto-dichiarati. Non osserva le conversazioni reali degli intervistati con i chatbot né verifica in modo indipendente ciò che hanno condiviso. Il sondaggio copre gli utenti attuali di chatbot in quattro paesi e non va interpretato come rappresentativo di altri paesi né delle persone che attualmente non usano i chatbot IA.