Preocupações com dinheiro às 2 da manhã. Um sintoma médico demasiado embaraçoso para levar a um médico. A melhor forma de convidar alguém para um encontro.
People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.
Cerca de dois terços dos utilizadores de chatbots de IA já discutiram pelo menos um tema sensível. Ao mesmo tempo, menos de um em cada cinco afirma ter um elevado nível de confiança nas empresas de IA para proteger as suas informações privadas.
«A IA está a aprender muito mais sobre nós do que um motor de pesquisa alguma vez conseguiria. A pesquisa sabe o que procurou. A IA deteta as hesitações, as perguntas de acompanhamento e o contexto pessoal entre as linhas», afirmou Eamonn Maguire, diretor de engenharia de IA da Proton. «Estamos agora a entregar mais do que perguntas. E quando a tecnologia sabe tanto sobre nós, a privacidade não pode ser uma reflexão tardia.»
Para compreender melhor como as pessoas usam e percecionam a IA, realizámos um inquérito a 4014 utilizadores atuais de chatbots de IA em França, na Alemanha, no Reino Unido e nos Estados Unidos. Perguntámos o que partilharam, por que o fizeram e o que os tornaria mais ou menos dispostos a partilhar.
Principais conclusões
- 66% dos utilizadores de chatbots de IA já discutiram pelo menos um tema sensível com um chatbot, incluindo finanças pessoais, saúde sexual e relações.
- 42% dos utilizadores têm pouca ou nenhuma confiança nas empresas de IA para proteger as informações sensíveis partilhadas com os chatbots.
- O dinheiro, a saúde mental e os problemas de carreira são os três temas sensíveis mais frequentemente discutidos.
- Os utilizadores de IA ainda preferem discutir temas sensíveis com amigos e família, à frente dos chatbots de IA e dos terapeutas.
- A conveniência e a ausência de julgamento são as razões mais citadas para escolher a IA em vez de uma pessoa.
- 48% dos utilizadores afirmam que estariam mais dispostos a partilhar informações sensíveis se houvesse a garantia de que as suas conversas não seriam usadas para treinar modelos de IA.
- Oito em cada 10 utilizadores manifestam interesse num chatbot de IA concebido especificamente para a privacidade.
A maioria dos utilizadores de chatbots já partilhou algo sensível
66% dos inquiridos afirmaram ter discutido pelo menos um tema sensível com um chatbot de IA. Os oito temas abrangeram as finanças pessoais, as relações, a saúde mental, o sexo, os segredos, a atração romântica, o trabalho e o conflito familiar.
Dos países inquiridos, os norte-americanos registaram a taxa mais elevada de revelação de informações sensíveis aos chatbots, com 68,4%, enquanto a França registou a mais baixa, com 60,3%. Esta diferença sugere que a abertura para confiar na IA não é apenas uma escolha pessoal, podendo ser influenciada por atitudes culturais mais amplas em relação à privacidade e à tecnologia.
Dinheiro, saúde mental e trabalho dominam os temas sensíveis
As finanças pessoais, a saúde mental e os problemas de carreira foram os três temas sensíveis que os inquiridos mais referiram discutir com a IA.
O tema mais discutido variou consoante o país. A saúde mental ocupou o primeiro lugar na Alemanha, enquanto os problemas de carreira ocuparam o primeiro lugar nos Estados Unidos e as finanças pessoais ocuparam o primeiro lugar em França e no Reino Unido.
Estes resultados mostram que temas sensíveis os inquiridos discutiram com a IA, mas não porquê optaram por discuti-los.
Os amigos e a família continuam a ser a primeira escolha, mesmo com o crescimento da utilização da IA
Os amigos e a família foram a escolha preferida para discutir todos os temas sensíveis inquiridos, à frente dos chatbots de IA, dos terapeutas e dos conselheiros religiosos. Mas a IA já compete com as fontes tradicionais de apoio em algumas áreas — nomeadamente o dinheiro e o trabalho.
A diferença entre os conselhos da IA e os conselhos humanos é menor no que diz respeito ao dinheiro. Em França, a IA ficou a apenas 2 pontos percentuais dos amigos e da família como escolha preferida para discutir as finanças pessoais.
E a influência da IA não se limita à conversa. As pessoas estão a usá-la para tomar decisões sobre o seu dinheiro, a sua saúde, as suas relações, a sua carreira e as suas compras.
A conveniência e a ausência de julgamento são os maiores atrativos da utilização da IA
A conveniência e a ausência de julgamento foram as razões mais citadas para escolher um chatbot de IA em vez de uma pessoa para discutir um tema sensível. A privacidade também foi uma razão comum, mas ficou classificada mais abaixo.
As razões variaram geralmente consoante o país e o tema. Dos três temas sensíveis mais discutidos, o trabalho e os problemas de carreira foi o único em que os quatro países concordaram quanto à principal razão: a conveniência. As finanças pessoais ficaram perto, com todos os países, exceto o Reino Unido, a favorecer também a conveniência. A saúde mental dividiu-se ao meio: França e Alemanha escolheram a conveniência como principal razão, enquanto os Estados Unidos e o Reino Unido valorizaram mais a ausência de julgamento. Entretanto, a atração romântica teve a confiança e a privacidade como principal escolha na Alemanha, no Reino Unido e nos Estados Unidos, enquanto a saúde sexual teve a ausência de julgamento como principal razão em França, nos Estados Unidos e no Reino Unido.
Em conjunto, isto sugere que a conveniência vence nos temas práticos, enquanto a privacidade e a ausência de julgamento pesam mais nas conversas pessoais.
A criação de perfis para publicidade suscita mais preocupação do que o treino de modelos de IA
Os inquiridos manifestaram mais preocupação com a utilização das suas conversas para criar perfis de publicidade do que com a sua utilização para treinar modelos de IA.
A diferença foi maior nos Estados Unidos, onde 65,3% se mostraram mais preocupados com a criação de perfis para publicidade, contra 57,6% para o treino de modelos. Estes resultados sugerem que a forma como os dados das conversas são utilizados importa, sendo as principais preocupações menos ter as conversas guardadas e lembradas do que ver esses dados transformados num ativo comercial usado para obter lucro.
A confiança nas empresas de IA mantém-se baixa de forma generalizada
Apesar da partilha generalizada de temas sensíveis com chatbots de IA, apenas entre 11% e 20% dos inquiridos declararam ter um elevado nível de confiança nas empresas de IA no que respeita às suas informações privadas. A confiança baixa foi mais comum em França, com 47,7%, seguindo-se o Reino Unido com 41,6%, a Alemanha com 40,5% e os Estados Unidos com 38,8%.
O compromisso com a privacidade aumenta a disponibilidade para partilhar
Uma garantia de que as conversas não seriam usadas para treinar modelos de IA tornaria 44% dos inquiridos mais dispostos a partilhar informações sensíveis. Este valor foi mais elevado nos Estados Unidos, com 47,7%, seguido do Reino Unido com 44,3%, da Alemanha com 43,9% e de França com 40,7%.
O interesse também foi elevado em chatbots de IA concebidos à volta da privacidade. Mais de 70% das pessoas afirmaram que seriam mais propensas a utilizar um, com valores entre os 71,1% na Alemanha e os 82% no Reino Unido.
Estas conclusões sugerem que o compromisso com a privacidade continua a ser muito valorizado pelos utilizadores de chatbots de IA, mesmo que não tenha sido a razão inicial pela qual um utilizador escolheu utilizar a IA.
Conclusão: a IA tem de conquistar a confiança dos seus utilizadores
As conversas pessoais com chatbots de IA já são comuns. Mais de dois terços dos inquiridos dos quatro países inquiridos já tinham discutido pelo menos um tema sensível com um chatbot de IA, desde preocupações com dinheiro a segredos pessoais. Ainda assim, apenas um em cada cinco declarou ter um elevado nível de confiança nas empresas de IA no que respeita às suas informações privadas.
As pessoas abrem-se à IA muito mais depressa do que lhe concedem confiança, mas não porque a IA tenha substituído a ligação humana — os amigos e a família continuam a ser a primeira escolha para todos os temas sensíveis. Antes, a IA é a opção a que as pessoas recorrem quando a conveniência e a ausência de julgamento pesam mais.
Embora a conveniência abra a porta à utilização da IA, é a confiança que decide até onde se vai com ela. Uma garantia de não utilização para treino foi suficiente para tornar 44% dos utilizadores mais dispostos a partilhar, e oito em cada 10 afirmaram que seriam mais propensos a escolher uma IA privada. As pessoas já decidiram que a IA é útil o suficiente para ouvir os seus problemas de dinheiro, dúvidas e preocupações do dia a dia. Os fornecedores que provarem, e não apenas prometerem, que podem manter estas informações seguras serão aqueles a quem as pessoas confiarão o resto.
Metodologia
Este inquérito incluiu 4014 inquiridos em França, na Alemanha, no Reino Unido e nos Estados Unidos. Todos os inquiridos foram filtrados para confirmar que utilizam atualmente um chatbot ou assistente de IA.
O inquérito foi administrado online e consistiu em aproximadamente 12 perguntas sobre a utilização de chatbots de IA. Não foi indicado aos inquiridos qual a empresa que encomendou a investigação. Este desenho não identificado teve como objetivo reduzir a influência causada pela reputação de qualquer empresa.
Limitações
Este inquérito recolhe atitudes, preferências e comportamentos passados autorreportados. Não observa as conversas reais dos inquiridos com chatbots nem verifica de forma independente o que partilharam. O inquérito abrange utilizadores atuais de chatbots em quatro países e não deve ser interpretado como representativo de outros países nem de pessoas que não utilizam atualmente chatbots de IA.
