Des soucis d’argent en pleine nuit. Un symptôme trop gênant pour en parler à un médecin. Chercher la meilleure façon d’inviter quelqu’un à un rencart.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Près de deux utilisateurs chatbots IA sur trois ont déjà abordé au moins un sujet sensible. Pourtant, moins d’un internaute sur cinq dit avoir confiance dans la capacité des entreprises IA à protéger leurs informations personnelles.

« L’IA en apprend bien plus sur nous qu’un moteur de recherche ne le pourrait. Une recherche sait ce que vous avez demandé. L’IA perçoit l’hésitation, les questions qui suivent et le contexte personnel qui se glisse entre les lignes », explique Eamonn Maguire, directeur de l’ingénierie IA chez Proton. « Nous ne lui confions plus seulement des questions. Et quand une technologie en sait autant sur nous, la confidentialité ne peut plus être reléguée au second plan. »

Pour mieux comprendre comment les internautes utilisent l’IA et la perçoivent, nous avons interrogé 4 014 utilisateurs de chatbots IA en France, en Allemagne, au Royaume-Uni et aux États-Unis. Nous leur avons demandé ce qu’ils avaient partagé, pourquoi ils l’avaient fait et ce qui les rendrait plus ou moins disposés à le partager.

Principaux enseignements

  • 66 % des utilisateurs de chatbots IA ont déjà abordé au moins un sujet sensible, notamment leurs finances personnelles, leur santé sexuelle ou leurs relations.
  • 42 % des utilisateurs déclarent avoir peu ou pas confiance dans la capacité des entreprises IA à protéger les informations sensibles qu’ils partagent avec les chatbots.
  • L’argent, la santé mentale et les difficultés professionnelles sont les trois sujets sensibles les plus souvent abordés.
  • Les utilisateurs IA préfèrent toutefois aborder les sujets sensibles avec leurs proches, avant les chatbots IA et les thérapeutes.
  • La praticité et l’absence de jugement sont les raisons les plus souvent citées dans le fait de privilégier l’IA à un interlocuteur humain.
  • 48 % des utilisateurs affirment qu’ils seraient davantage enclins à partager des informations sensibles si leurs échanges n’étaient pas utilisés pour l’entraînement de modèles IA.
  • Huit utilisateurs sur dix se disent intéressés par un chatbot IA spécialement conçu pour garantir leur confidentialité.

La plupart des utilisateurs de chatbots ont déjà partagé des données sensibles

66 % des sondés déclarent avoir abordé au moins un sujet sensible avec un chatbot IA. Parmi les sujets abordés figurent les finances personnelles, les relations, la santé mentale, la sexualité, les secrets, l’attirance amoureuse, le travail et les conflits familiaux.

Parmi les pays étudiés, les États-Unis affichent le taux le plus élevé de divulgation d’informations sensibles aux chatbots, avec 68,4 %, contre 60,3 % en France, le taux le plus faible. Cet écart laisse penser que la propension à se confier à une IA ne relève pas uniquement d’un choix personnel, mais peut également être influencée par des perceptions culturelles plus larges de la confidentialité et des technologies.

L’argent, la santé mentale et le travail dominent les sujets sensibles

Les finances personnelles, la santé mentale et les difficultés professionnelles sont les trois sujets sensibles que les personnes interrogées disent avoir le plus souvent abordés avec une IA.

Le sujet le plus souvent abordé varie selon les pays. En Allemagne, la santé mentale arrive en tête, tandis que les difficultés professionnelles sont le sujet le plus fréquemment abordé aux États-Unis. En France et au Royaume-Uni, ce sont les finances personnelles qui arrivent en tête.

Ces résultats indiquent quels sujets sensibles les personnes interrogées ont abordés avec une IA, sans toutefois expliquer ce qui les a poussées à en parler.

Les amis et la famille restent les interlocuteurs privilégiés, malgré l’essor de l’IA

Pour tous les sujets sensibles étudiés, les amis et la famille restent les interlocuteurs privilégiés, devant les chatbots IA, les thérapeutes et les représentants religieux. Mais dans certains domaines, notamment les finances et le travail, l’IA se rapproche déjà des sources de soutien traditionnelles.

C’est pour les questions d’argent que l’écart entre l’IA et les conseils de l’entourage est le plus faible. En France, l’IA n’était qu’à deux points de pourcentage des amis et de la famille, qui restent le choix privilégié pour parler de finances personnelles.

Et l’influence de l’IA ne se limite pas aux conversations. Les utilisateurs s’en servent également pour prendre des décisions concernant leur argent, leur santé, leurs relations, leur carrière et leurs achats.

La praticité et l’absence de jugement sont les principaux attraits de l’IA

La facilité d’utilisation et l’absence de jugement sont les principales raisons invoquées pour préférer un chatbot IA à une personne lorsqu’il s’agit d’aborder un sujet sensible. La confidentialité est également souvent citée, mais arrive derrière ces deux facteurs.

Les raisons invoquées varient selon les pays et les sujets. Parmi les trois sujets sensibles les plus abordés, le travail et la carrière sont les seuls pour lesquels les quatre pays citent la même raison principale : la facilité d’utilisation. Pour les finances personnelles, c’est également la facilité d’utilisation qui arrive en tête dans tous les pays, sauf au Royaume-Uni. Pour la santé mentale, les réponses sont plus partagées. En France et en Allemagne, la facilité d’utilisation arrive en tête. Aux États-Unis et au Royaume-Uni, c’est plutôt l’absence de jugement qui est privilégiée. Concernant la santé sexuelle, la confiance et la confidentialité arrivent en tête en Allemagne, au Royaume-Uni et aux États-Unis. Enfin, pour l’attirance physique, l’absence de jugement est la principale raison citée en France, aux États-Unis et au Royaume-Uni.

Dans l’ensemble, cela suggère que la praticité prime pour les sujets concrets, tandis que la confidentialité et l’absence de jugement comptent davantage dans les conversations personnelles.

Le profilage publicitaire suscite davantage d’inquiétudes que l’entraînement des modèles IA

Les personnes interrogées se disent davantage préoccupées par l’utilisation de leurs conversations à des fins de profilage publicitaire que par leur utilisation pour entraîner des modèles IA.

L’écart était le plus marqué aux États-Unis, où 65,3 % des sondés se disaient davantage préoccupés par le profilage publicitaire, contre 57,6 % pour l’utilisation des conversations afin d’entraîner des modèles IA. Ces résultats suggèrent que l’utilisation des données issues des conversations joue un rôle important. Les principales préoccupations semblent moins liées au fait que les conversations soient conservées et mémorisées qu’à leur transformation en actif commercial à des fins lucratives.

La confiance envers les entreprises IA reste faible dans tous les domaines.

Malgré le partage fréquent de sujets sensibles avec les chatbots IA, seuls 11 à 20 % des personnes interrogées déclarent avoir suffisamment confiance en les entreprises IA lorsqu’il s’agit de leurs informations personnelles. Le manque de confiance est le plus marqué en France, avec 47,7 %, devant le Royaume-Uni (41,6 %), l’Allemagne (40,5 %) et les États-Unis (38,8 %).

Un engagement en faveur de la confidentialité incite davantage à partager ses informations

La garantie que les conversations ne seraient pas utilisées pour entraîner des modèles IA inciterait 44 % des personnes interrogées à partager davantage d’informations sensibles. Ce taux est le plus élevé aux États-Unis, avec 47,7 %, suivis du Royaume-Uni (44,3 %), de l’Allemagne (43,9 %) et de la France (40,7 %).

Les chatbots IA axés sur la confidentialité suscitent également un vif intérêt. Plus de 70 % des sondés se disent enclins à en utiliser un, avec des taux allant de 71,1 % en Allemagne à 82 % au Royaume-Uni.

Ces résultats montrent que les utilisateurs de chatbots IA accordent toujours beaucoup d’importance à la confidentialité, même si elle ne fait pas partie de leurs principales motivations pour utiliser l’IA.

Conclusion : l’IA doit gagner la confiance de ses utilisateurs

Les conversations personnelles avec les chatbots IA sont déjà courantes. Dans les quatre pays étudiés, plus des deux tiers des sondés ont déjà abordé au moins un sujet sensible avec un chatbot IA, qu’il s’agisse de préoccupations financières ou de secrets personnels. Pourtant, seuls 20 % déclarent avoir suffisamment confiance dans les entreprises IA pour leur confier leurs informations personnelles.

Les utilisateurs se confient à l’IA bien plus rapidement qu’ils ne lui accordent leur confiance, mais cela ne signifie pas que l’IA remplace les relations humaines : les amis et la famille restent les premiers interlocuteurs pour tous les sujets sensibles. L’IA est plutôt privilégiée lorsque la facilité d’utilisation et l’absence de jugement importent davantage.

Si la facilité d’utilisation incite à se tourner vers l’IA, c’est la confiance qui détermine ce qu’on est prêt à lui confier. La garantie que les conversations ne seront pas utilisées pour entraîner des modèles IA suffirait à convaincre 44 % des utilisateurs de partager davantage d’informations sensibles, et huit sur dix se disent plus enclins à choisir une IA respectueuse de la confidentialité. Les utilisateurs ont déjà suffisamment confiance dans l’utilité de l’IA pour lui confier leurs difficultés financières, leurs doutes et leurs préoccupations du quotidien. Les fournisseurs qui sauront démontrer, et pas seulement promettre, qu’ils sont capables de protéger ces informations seront ceux auxquels les utilisateurs confieront davantage de données personnelles.

Méthodologie

Ce sondage a été mené auprès de 4 014 personnes en France, en Allemagne, au Royaume-Uni et aux États-Unis. Pour participer au sondage, les personnes interrogées devaient utiliser actuellement un chatbot ou un assistant IA.

Le sondage a été réalisé en ligne et comportait environ 12 questions sur l’utilisation des chatbots IA. Les sondés n’ont pas été informés de l’entreprise qui avait commandé l’étude. Cette approche sans mention de marque visait à limiter l’influence que la réputation d’une entreprise aurait pu avoir sur leurs réponses.

Limites

Ce sondage rend compte des attitudes, des préférences et des comportements passés déclarés par les sondés. Il n’observe pas leurs conversations réelles avec des chatbots et ne vérifie pas de manière indépendante les informations qu’ils ont partagées. Il porte sur les utilisateurs actuels de chatbots dans quatre pays et ne doit pas être considéré comme représentatif d’autres pays ni des personnes qui n’utilisent pas actuellement de chatbots IA.