Preocupações com dinheiro às 2h. Um sintoma médico constrangedor demais para consultar um médico. A melhor forma de convidar alguém para um encontro.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Cerca de dois terços dos usuários de chatbots de IA já discutiram pelo menos um tema delicado. Mas, ao mesmo tempo, menos de um em cada cinco dizem ter um alto nível de confiança nas empresas de IA para proteger suas informações privadas.

“A IA está aprendendo muito mais sobre nós do que um mecanismo de pesquisa jamais poderia. A pesquisa sabe o que você procurou. A IA captura a hesitação, as perguntas de acompanhamento e o contexto pessoal entrelinhas,” disse Eamonn Maguire, diretor de engenharia de IA da Proton. “Estamos entregando mais do que perguntas agora. E quando a tecnologia sabe tanto sobre nós, a privacidade não pode ficar em segundo plano.”

Para entender melhor como as pessoas usam e percebem a IA, entrevistamos 4.014 usuários atuais de chatbots de IA na França, Alemanha, Reino Unido e Estados Unidos. Perguntamos o que compartilharam, por que optaram por fazer isso e o que os deixaria mais ou menos dispostos a compartilhar.

Principais conclusões

  • 66% dos usuários de chatbots de IA já discutiram pelo menos um tema delicado com um chatbot, incluindo finanças pessoais, saúde sexual e relacionamentos.
  • 42% dos usuários têm pouca ou nenhuma confiança nas empresas de IA para proteger informações delicadas compartilhadas com chatbots.
  • Dinheiro, saúde mental e problemas de carreira são os três temas delicados mais discutidos.
  • Usuários de IA ainda preferem discutir temas delicados com amigos e familiares, à frente de chatbots de IA e terapeutas.
  • Praticidade e ausência de julgamento são os motivos mais citados para escolher a IA em vez de uma pessoa.
  • 48% dos usuários dizem que estariam mais dispostos a compartilhar informações delicadas se houvesse garantia de que suas conversas não seriam usadas para treinar modelos de IA.
  • Oito em cada 10 usuários manifestam interesse em um chatbot de IA projetado especificamente para privacidade.

A maioria dos usuários de chatbots já compartilhou algo delicado

66% dos entrevistados disseram ter discutido pelo menos um tema delicado com um chatbot de IA. Os oito temas abrangeram finanças pessoais, relacionamentos, saúde mental, sexo, segredos, atração romântica, trabalho e conflito familiar.

Entre os países pesquisados, os norte-americanos relataram a maior taxa de divulgação de informações delicadas a chatbots, com 68,4%, e a França a menor, com 60,3%. Essa diferença sugere que a abertura para confiar na IA não é apenas uma escolha pessoal, mas pode ser influenciada por atitudes culturais mais amplas em relação à privacidade e à tecnologia.

Dinheiro, saúde mental e trabalho dominam os temas delicados

Finanças pessoais, saúde mental e problemas de carreira foram os três temas delicados que os entrevistados mais relataram discutir com a IA.

O tema mais discutido variou por país. Saúde mental ficou em primeiro lugar na Alemanha, problemas de carreira em primeiro nos Estados Unidos e finanças pessoais em primeiro na França e no Reino Unido.

Esses resultados mostram quais temas delicados os entrevistados discutiram com a IA, mas não por que optaram por discuti-los.

Amigos e familiares são a primeira escolha, mesmo com o crescimento do uso da IA

Amigos e familiares foram a escolha preferida para discutir todos os temas delicados pesquisados, à frente de chatbots de IA, terapeutas e conselheiros religiosos. Mas a IA já disputa espaço com fontes tradicionais de suporte em algumas áreas — principalmente dinheiro e trabalho.

A diferença entre a IA e o conselho humano é menor quando se trata de dinheiro. Na França, a IA ficou a apenas 2 pontos percentuais de amigos e familiares como a escolha preferida para discutir finanças pessoais.

E a influência da IA não se limita à conversa. As pessoas a usam para tomar decisões sobre seu dinheiro, saúde, relacionamentos, carreira e compras.

Praticidade e ausência de julgamento são os maiores atrativos para usar a IA

Praticidade e ausência de julgamento foram os motivos mais citados para escolher um chatbot de IA em vez de uma pessoa para discutir um tema delicado. A privacidade também foi um motivo comum, mas ficou em posição mais baixa.

Os motivos variaram geralmente por país e por tema. Dos três temas delicados mais discutidos, trabalho e problemas de carreira foi o único em que os quatro países concordaram sobre o principal motivo: praticidade. Finanças pessoais ficou perto, com todos os países, exceto o Reino Unido, também favorecendo a praticidade. Saúde mental ficou dividida no meio: França e Alemanha escolheram praticidade como principal motivo, enquanto Estados Unidos e Reino Unido valorizaram mais a ausência de julgamento. Enquanto isso, atração romântica teve confiança e privacidade como principal escolha na Alemanha, no Reino Unido e nos Estados Unidos, e saúde sexual teve ausência de julgamento como principal motivo na França, nos Estados Unidos e no Reino Unido.

Em conjunto, isso sugere que a praticidade prevalece em temas práticos, enquanto a privacidade e a ausência de julgamento pesam mais nas conversas pessoais.

Criação de perfil para anúncios gera mais preocupação do que o treinamento de modelos de IA

Os entrevistados demonstraram mais preocupação com o uso de suas conversas para perfis publicitários do que com seu uso para treinar modelos de IA.

A diferença foi maior nos Estados Unidos, onde 65,3% se preocuparam mais com a criação de perfil para anúncios, contra 57,6% para o treinamento de modelos. Os resultados sugerem que a forma como os dados das conversas são usados importa, com as principais preocupações sendo menos sobre ter conversas salvas e lembradas do que sobre esses dados se transformarem em um ativo comercial usado para lucro financeiro.

A confiança nas empresas de IA permanece baixa em todos os países

Apesar do compartilhamento generalizado de temas delicados com chatbots de IA, apenas 11% a 20% dos entrevistados relataram um alto nível de confiança nas empresas de IA com suas informações privadas. A baixa confiança foi mais comum na França, com 47,7%, seguida por 41,6% no Reino Unido, 40,5% na Alemanha e 38,8% nos Estados Unidos.

O compromisso com a privacidade aumenta a disposição de compartilhar

Uma garantia de que as conversas não seriam usadas para treinar modelos de IA deixaria 44% dos entrevistados mais propensos a compartilhar informações delicadas. Esse número foi maior nos Estados Unidos, com 47,7%, seguido pelo Reino Unido, com 44,3%, Alemanha, com 43,9%, e França, com 40,7%.

O interesse também foi alto em chatbots de IA projetados em torno da privacidade. Mais de 70% das pessoas disseram ser mais propensas a usar um, variando de 71,1% na Alemanha a 82% no Reino Unido.

Essas descobertas sugerem que o compromisso com a privacidade ainda é muito valorizado pelos usuários de chatbots de IA, mesmo que não tenha sido o motivo inicial pelo qual um usuário escolheria usar a IA.

Conclusão: a IA precisa conquistar a confiança de seus usuários

Conversas pessoais com chatbots de IA já são comuns. Mais de dois terços dos entrevistados nos quatro países pesquisados haviam discutido pelo menos um tema delicado com um chatbot de IA, de preocupações com dinheiro a segredos pessoais. Ainda assim, apenas um em cada cinco relatou um alto nível de confiança nas empresas de IA com suas informações privadas.

As pessoas recorrem à IA para se abrir muito mais rápido do que passam a confiar nela, mas não porque a IA tenha substituído a conexão humana — amigos e familiares continuam sendo a primeira escolha para todos os temas delicados. Na verdade, a IA é a opção que as pessoas escolhem quando praticidade e ausência de julgamento pesam mais.

Embora a praticidade abra a porta para alguém usar a IA, é a confiança que decide até onde essa pessoa vai. Uma garantia de não uso para treinamento foi suficiente para deixar 44% dos usuários mais dispostos a compartilhar, e oito em cada 10 disseram ser mais propensos a escolher uma IA privada. As pessoas já decidiram que a IA é útil o suficiente para ouvir seus problemas com dinheiro, dúvidas e preocupações do dia a dia. Os provedores que provarem, e não apenas prometerem, que podem manter essas informações seguras serão aqueles em quem as pessoas confiarão o resto.

Metodologia

Esta pesquisa incluiu 4.014 entrevistados na França, Alemanha, Reino Unido e Estados Unidos. Todos os entrevistados foram filtrados para confirmar que usam atualmente um chatbot ou assistente de IA.

A pesquisa foi aplicada on-line e consistiu em aproximadamente 12 perguntas sobre o uso de chatbots de IA. Os entrevistados não foram informados sobre qual empresa encomendou a pesquisa. Esse design sem marca teve como objetivo reduzir a influência causada pela reputação de qualquer empresa.

Limitações

Esta pesquisa captura atitudes, preferências e comportamentos passados autorreferidos. Ela não observa as conversas reais dos entrevistados com chatbots nem verifica de forma independente o que compartilharam. A pesquisa abrange usuários atuais de chatbots em quatro países e não deve ser interpretada como representativa de outros países nem de pessoas que não usam chatbots de IA atualmente.