Grijile legate de bani la ora 2:00 noaptea. Un simptom medical prea jenant pentru a fi prezentat unui medic. Cel mai bun mod de a invita pe cineva la o întâlnire.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Aproape două treimi dintre utilizatorii de chatboți AI au discutat cel puțin un subiect sensibil. Dar, în același timp, mai puțin de una din cinci persoane spun că au un nivel ridicat de încredere că companiile AI le vor proteja informațiile private.

„AI învață despre noi mult mai multe decât ar putea face vreodată un motor de căutare. Căutarea știe ce ați căutat. AI surprinde ezitarea, întrebările de aprofundare și contextul personal dintre rânduri”, a declarat Eamonn Maguire, director de inginerie AI la Proton. „Acum predăm mai mult decât simple întrebări. Iar când tehnologia știe atât de multe despre noi, confidențialitatea nu poate fi lăsată pe plan secund.”

Pentru a înțelege mai bine cum folosesc și cum percep oamenii AI, am efectuat un sondaj în rândul a 4.014 utilizatori actuali de chatboți AI din Franța, Germania, Marea Britanie și SUA. Le-am întrebat ce au partajat, de ce au ales să facă acest lucru și ce i-ar face mai dispuși sau mai puțin dispuși să partajeze.

Rezultate principale

  • 66% dintre utilizatorii de chatboți AI au discutat cel puțin un subiect sensibil cu un chatbot, inclusiv finanțele personale, sănătatea sexuală și relațiile.
  • 42% dintre utilizatori au puțină încredere sau deloc încredere că companiile AI vor proteja informațiile sensibile partajate cu chatboții.
  • Banii, sănătatea mentală și problemele de carieră sunt cele trei subiecte sensibile discutate cel mai des.
  • Utilizatorii de AI ar prefera totuși să discute subiecte sensibile cu prietenii și cu familia, înaintea chatboților AI și a terapeuților.
  • Comoditatea și libertatea de a nu fi judecat sunt motivele cele mai des invocate pentru alegerea AI în locul unei persoane.
  • 48% dintre utilizatori spun că ar fi mai dispuși să partajeze informații sensibile dacă li s-ar garanta că conversațiile lor nu vor fi folosite pentru antrenarea modelelor AI.
  • Opt din 10 utilizatori manifestă interes pentru un chatbot AI conceput special pentru confidențialitate.

Cei mai mulți utilizatori de chatbot au partajat deja ceva sensibil

66% dintre respondenți au declarat că au discutat cel puțin un subiect sensibil cu un chatbot AI. Cele opt subiecte au acoperit finanțele personale, relațiile, sănătatea mentală, sexul, secretele, atracția romantică, munca și conflictele familiale.

Dintre țările sondate, americanii au raportat cea mai ridicată rată de dezvăluire de informații sensibile către chatboți, de 68,4%, Franța find cea mai scăzută, cu 60,3%. Această diferență sugerează că disponibilitatea de a se mărturisi în fața AI nu este doar o alegere personală, ci ar putea fi influențată de atitudini culturale mai largi față de confidențialitate și tehnologie.

Banii, sănătatea mentală și munca domină subiectele sensibile

Finanțele personale, sănătatea mentală și problemele de carieră au fost cele trei subiecte sensibile pe care respondenții le-au raportat cel mai des ca fiind discutate cu AI.

Subiectul discutat cel mai des a variat de la o țară la alta. Sănătatea mentală s-a situat pe primul loc în Germania, problemele de carieră pe primul loc în SUA, iar finanțele personale pe primul loc în Franța și în Marea Britanie.

Aceste rezultate arată despre ce subiecte sensibile au discutat respondenții cu AI, dar nu și de ce au ales să le discute.

Prietenii și familia rămân prima alegere, chiar dacă utilizarea AI crește

Prietenii și familia au fost alegerea preferată pentru discutarea fiecărui subiect sensibil sondat, înaintea chatboților AI, a terapeuților și a consilierilor religioși. Dar AI concurează deja cu sursele tradiționale de asistență în unele domenii, în special în ceea ce privește banii și munca.

Diferența dintre AI și sfatul uman este cea mai mică atunci când vine vorba de bani. În Franța, AI s-a situat la doar 2 puncte procentuale distanță de prieteni și de familie ca alegere preferată pentru discutarea finanțelor personale.

Iar influența AI nu se oprește la nivel de conversație. Oamenii o folosesc pentru a lua decizii privind banii, sănătatea, relațiile, cariera și achizițiile.

Comoditatea și libertatea de a nu fi judecat sunt principalii factori de atracție pentru utilizarea AI

Comoditatea și libertatea de a nu fi judecat au fost cele mai des invocate motive pentru alegerea unui chatbot AI în locul unei persoane pentru discutarea unui subiect sensibil. Confidențialitatea a fost, de asemenea, un motiv des întâlnit, dar s-a situat mai jos.

Motivul cel mai des invocat a variat de la o țară la alta și de la un subiect la altul. Dintre cele trei subiecte sensibile cel mai des discutate, munca și problemele de carieră au fost singurele în care toate cele patru țări au fost de acord asupra aceluiași motiv principal: comoditatea. Finanțele personale s-au apropiat, toate țările cu excepția Marii Britanii preferând și ele comoditatea. Sănătatea mentală a fost împărțită în două: Franța și Germania au ales ambele comoditatea ca motiv principal, în timp ce SUA și Marea Britanie au apreciat mai mult libertatea de a nu fi judecat. Între timp, atracția romantică a avut ca alegere principală încrederea și confidențialitatea în Germania, în Marea Britanie și în SUA, iar sănătatea sexuală a avut ca motiv principal lipsa judecății în Franța, în SUA și în Marea Britanie.

În ansamblu, aceasta sugerează că comoditatea câștigă teren în cazul subiectelor practice, în timp ce confidențialitatea și libertatea de a nu fi judecat contează mai mult în conversațiile personale.

Profilarea pentru publicitate ridică mai multe îngrijorări decât antrenarea modelelor AI

Respondenții au fost mai îngrijorați de faptul că conversațiile lor ar fi folosite pentru profiluri publicitare decât de faptul că ar fi folosite pentru antrenarea modelelor AI.

Diferența a fost cea mai mare în SUA, unde 65,3% au fost mai îngrijorați de profilarea pentru publicitate, comparativ cu 57,6% pentru antrenarea modelelor. Rezultatele sugerează că modul în care sunt folosite datele din conversații contează, principalele îngrijorări fiind mai puțin legate de faptul că conversațiile sunt salvate și reținute și mai mult de faptul că aceste date sunt transformate într-un activ comercial folosit în scop lucrativ.

Încrederea în companiile AI rămâne scăzută în toate țările

În ciuda partajării pe scară largă a subiectelor sensibile cu chatboții AI, doar între 11% și 20% dintre respondenți au raportat un nivel ridicat de încredere că companiile AI le vor proteja informațiile private. Încrederea scăzută a fost cea mai frecventă în Franța, la 47,7%, cu 41,6% în Marea Britanie, 40,5% în Germania și 38,8% în SUA.

Angajamentul față de confidențialitate crește disponibilitatea de a partaja

O garanție că conversațiile nu ar fi folosite pentru antrenarea modelelor AI ar determina 44% dintre respondenți să fie mai dispuși să partajeze informații sensibile. Acest procent a fost cel mai ridicat în SUA, la 47,7%, urmat de Marea Britanie, la 44,3%, de Germania, la 43,9%, și de Franța, la 40,7%.

Interesul a fost ridicat și pentru chatboții AI concepuți în jurul confidențialității. Peste 70% dintre oameni au declarat că ar fi mai dispuși să folosească unul astfel, procentele variind de la 71,1% în Germania la 82% în Marea Britanie.

Aceste constatări sugerează că un angajament privind confidențialitatea este încă foarte apreciat de către utilizatorii de chatboți AI, chiar dacă nu a fost motivul inițial pentru care un utilizator ar alege să folosească AI.

Concluzie: AI trebuie să câștige încrederea utilizatorilor săi

Conversațiile personale cu chatboții AI sunt deja ceva obișnuit. Peste două treimi dintre respondenții din cele patru țări sondate discutaseră cel puțin un subiect sensibil cu un chatbot AI, de la grijile legate de bani până la secretele personale. Totuși, doar una din cinci persoane a raportat un nivel ridicat de încredere că companiile AI le vor proteja informațiile private.

Oamenii se deschid în fața AI mult mai repede decât au încredere în el, dar nu pentru că AI ar fi înlocuit conexiunea umană, întrucât prietenii și familia rămân prima alegere pentru orice subiect sensibil. Mai degrabă, AI este opțiunea la care oamenii recurg atunci când comoditatea și libertatea de a nu fi judecat contează mai mult.

Deși comoditatea deschide drumul către utilizarea AI, încrederea este cea care decide până unde va merge cineva cu ea. O garanție că datele nu vor fi folosite pentru antrenare a fost suficientă pentru ca 44% dintre utilizatori să fie mai dispuși să partajeze, iar opt din 10 au declarat că ar fi mai dispuși să aleagă un AI privat. Oamenii au decis deja că AI este suficient de util încât să-i spună grijile lor legate de bani, îndoielile și preocupările lor de zi cu zi. Furnizorii care demonstrează, și nu doar promit, că pot păstra în siguranță aceste informații vor fi cei cărora oamenii le vor încredința tot restul.

Metodologie

Acest sondaj a inclus 4.014 respondenți din Franța, Germania, Marea Britanie și SUA. Toți respondenții au fost filtrați pentru a confirma că folosesc în prezent un chatbot sau un asistent AI.

Sondajul a fost realizat online și a cuprins aproximativ 12 întrebări despre utilizarea chatboților AI. Respondenții nu au fost informați despre ce companie a comandat cercetarea. Acest design nebranduit a avut ca scop reducerea influenței reputației oricărei companii.

Limitări

Acest sondaj surprinde atitudini, preferințe și comportamente din trecut raportate de către respondenți. Nu observă conversațiile reale ale respondenților cu chatboții și nu verifică în mod independent ce au partajat. Sondajul acoperă utilizatorii actuali de chatbot din patru țări și nu ar trebui interpretat ca fiind reprezentativ pentru alte țări sau pentru persoanele care nu folosesc în prezent chatboți AI.