오전 2시의 돈 걱정. 의사에게 보이기엔 너무 민망한 병원 증상. 누군가에게 데이트를 신청하는 가장 좋은 방법.
People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.
AI 챗봇 사용자의 약 3분의 2가 최소 하나의 민감한 주제에 대해 이야기한 적이 있습니다. 하지만 동시에 5명 중 1명 미만만이 AI 기업이 자신의 개인 정보를 보호할 것이라고 높은 수준으로 신뢰한다고 답했습니다.
“AI는 검색 엔진이 결코 할 수 없었던 것보다 훨씬 많은 것을 우리에 대해 학습하고 있습니다. 검색은 무엇을 찾았는지만 알 수 있습니다. 하지만 AI는 망설임, 후속 질문, 그리고 행간에 담긴 개인적인 맥락까지 파악합니다.”라고 Proton의 AI 엔지니어링 책임자 Eamonn Maguire가 말했습니다. “이제 우리는 질문 그 이상을 넘겨주고 있습니다. 그리고 기술이 우리에 대해 그만큼 많이 알게 되면, 개인정보 보호는 나중에 생각할 일이 될 수 없습니다.”
사람들이 AI를 어떻게 사용하고 인식하는지 더 잘 이해하기 위해 프랑스, 독일, 영국, 미국에서 현재 AI 챗봇을 사용하는 4,014명의 사용자를 대상으로 설문조사를 진행했습니다. 무엇을 공유했는지, 왜 그렇게 하기로 했는지, 그리고 어떤 조건이 있으면 공유 의향이 높아지거나 낮아지는지 물었습니다.
주요 결과
- AI 챗봇 사용자의 66%가 개인 재정, 성 건강, 연애 관계 등 최소 하나의 민감한 주제를 챗봇과 이야기한 적이 있습니다.
- 사용자의 42%는 챗봇과 공유한 민감한 정보를 AI 기업이 보호할 것이라고 거의 또는 전혀 신뢰하지 않습니다.
- 돈 문제, 정신 건강, 진로 문제가 가장 많이 이야기되는 세 가지 민감한 주제입니다.
- AI 사용자는 여전히 민감한 주제를 AI 챗봇이나 상담사보다 친구와 가족과 이야기하는 것을 선호합니다.
- 사람 대신 AI를 선택하는 이유로는 편리함과 평가받지 않는 자유가 가장 많이 꼽혔습니다.
- 사용자의 48%는 대화가 AI 모델 학습에 사용되지 않을 것이라고 보장되면 민감한 정보를 공유할 의향이 더 높아진다고 답했습니다.
- 10명 중 8명의 사용자가 개인정보 보호를 위해 특별히 설계된 AI 챗봇에 관심을 표했습니다.
대부분의 챗봇 사용자는 이미 민감한 내용을 공유한 적이 있습니다
응답자의 66%는 AI 챗봇과 최소 하나의 민감한 주제를 이야기한 적이 있다고 답했습니다. 여덟 가지 주제에는 개인 재정, 연애 관계, 정신 건강, 성, 비밀, 연애 감정, 일, 가족 갈등이 포함됐습니다.
설문 대상 국가 중 미국인이 챗봇에게 민감한 정보를 털어놓는 비율이 68.4%로 가장 높았고, 프랑스는 60.3%로 가장 낮았습니다. 이 격차는 AI에게 마음을 털어놓는 개방성이 단순한 개인의 선택이 아니라 개인정보와 기술에 대한 더 넓은 문화적 태도의 영향을 받을 수 있음을 시사합니다.
돈, 정신 건강, 일이 민감한 주제의 대부분을 차지합니다
개인 재정, 정신 건강, 진로 문제는 응답자가 AI와 가장 많이 이야기한다고 답한 세 가지 민감한 주제였습니다.
가장 많이 이야기된 주제는 국가에 따라 달랐습니다. 독일에서는 정신 건강이 1위였고, 미국에서는 진로 문제가, 프랑스와 영국에서는 개인 재정이 1위였습니다.
이러한 결과는 응답자가 AI와 어떤 민감한 주제를 이야기했는지는 보여주지만, 왜 그 주제를 이야기하기로 선택했는지는 보여주지 않습니다.
AI 사용이 늘어나는 가운데도 여전히 1위는 친구와 가족
설문된 모든 민감한 주제에서 친구와 가족이 AI 챗봇, 심리 상담사, 종교 상담가보다 선호되는 선택이었습니다. 하지만 AI는 이미 어떤 영역, 특히 돈과 일에 있어서는 전통적인 지원원과 경쟁하고 있습니다.
AI와 사람의 조언 사이 격차가 가장 작은 분야는 돈 문제입니다. 프랑스에서는 개인 재정을 이야기할 선호 대상으로 AI가 친구와 가족에 단 2%포인트 뒤처졌습니다.
그리고 AI의 영향은 대화에서 끝나지 않습니다. 사람들은 돈, 건강, 연애 관계, 진로, 구매에 대한 결정을 내릴 때 AI를 사용하고 있습니다.
AI를 사용하는 가장 큰 이유는 편리함과 평가받지 않는 자유
민감한 주제를 이야기할 때 사람 대신 AI 챗봇을 선택한 이유로는 편리함과 평가받지 않는 자유가 가장 많이 꼽혔습니다. 개인정보 보호도 흔한 이유였지만 순위는 더 낮았습니다.
이유는 대체로 국가와 주제에 따라 달랐습니다. 가장 많이 이야기된 세 가지 민감한 주제 중 일과 진로 문제는 네 국가 모두가 같은 상위 이유, 즉 편리함에 동의한 유일한 주제였습니다. 개인 재정도 비슷했는데, 영국을 제외한 모든 국가가 편리함을 선호했습니다. 정신 건강은 정확히 반반으로 나뉘었습니다. 프랑스와 독일은 모두 편리함을 상위 이유로 선택한 반면, 미국과 영국은 평가받지 않는 자유를 더 높이 평가했습니다. 한편 연애 감정은 독일, 영국, 미국에서 신뢰와 개인정보 보호가 상위 선택이었고, 성 건강은 프랑스, 미국, 영국에서 평가받지 않는 자유가 상위 이유였습니다.
이를 종합해 보면, 실용적인 주제에서는 편리함이 우선하고, 개인적인 대화에서는 개인정보 보호와 평가받지 않는 자유가 더 중요하다는 것을 알 수 있습니다.
AI 모델 학습보다 광고 프로파일링에 대한 우려가 더 큽니다
응답자는 대화가 AI 모델 학습에 사용되는 것보다 광고 프로파일에 사용되는 것에 대해 더 큰 우려를 표했습니다.
이 차이는 미국에서 가장 컸는데, 65.3%가 광고 프로파일링을 더 걱정한 반면 모델 학습은 57.6%였습니다. 이 결과는 대화 데이터가 어떻게 사용되는지가 중요하다는 점을 시사합니다. 핵심 우려는 대화가 저장되고 기억되는 것이 아니라 그 데이터가 금전적 이익을 위한 상업적 자산으로 전환되는 데 있습니다.
AI 기업에 대한 신뢰는 전반적으로 낮은 수준
AI 챗봇에 민감한 주제가 널리 공유됨에도 불구하고, AI 기업이 자신의 개인 정보를 취급하는 것에 대해 높은 수준으로 신뢰한다고 답한 응답자는 11%에서 20% 사이에 불과했습니다. 신뢰도가 낮은 비율은 프랑스가 47.7%로 가장 높았고, 영국은 41.6%, 독일은 40.5%, 미국은 38.8%였습니다.
개인정보 보호에 대한 약속이 공유 의향을 높입니다
대화가 AI 모델 학습에 사용되지 않을 것이라는 보장이 있으면 응답자의 44%가 민감한 정보를 공유할 가능성이 더 높아진다고 답했습니다. 이는 미국이 47.7%로 가장 높았고, 영국 44.3%, 독일 43.9%, 프랑스 40.7% 순이었습니다.
개인정보 보호를 중심으로 설계된 AI 챗봇에 대한 관심도 높았습니다. 70%가 넘는 사람들이 그런 챗봇을 사용할 가능성이 더 높다고 답했으며, 독일의 71.1%부터 영국의 82%까지 다양했습니다.
이러한 결과는 개인정보 보호에 대한 약속이 AI 사용을 처음 선택한 이유가 아니더라도 AI 챗봇 사용자에게 여전히 매우 중요하게 여겨진다는 점을 시사합니다.
결론: AI는 사용자의 신뢰를 얻어야 합니다
AI 챗봇과의 개인적인 대화는 이미 흔합니다. 설문 대상 네 국가의 응답자 중 3분의 2가 넘는 사람이 돈 걱정부터 개인적인 비밀까지 최소 하나의 민감한 주제를 AI 챗봇과 이야기한 적이 있었습니다. 그러나 AI 기업이 자신의 개인 정보를 다루는 것에 대해 높은 수준으로 신뢰한다고 답한 사람은 5명 중 1명뿐이었습니다.
사람들은 AI를 신뢰하기보다 훨씬 빠르게 마음을 털어놓고 있습니다. 하지만 그렇다고 해서 AI가 인간과의 연결을 대체한 것은 아닙니다. 모든 민감한 주제에서 여전히 첫 번째 선택은 친구와 가족입니다. 오히려 AI는 편리함과 평가받지 않는 자유가 더 중요할 때 사람들이 선택하는 방법입니다.
편리함이 AI를 사용할 문을 열어주지만, 얼마나 나아갈지를 결정하는 것은 신뢰입니다. 학습 금지 보장만으로도 사용자의 44%가 공유할 의향이 더 높아졌고, 10명 중 8명은 개인정보 보호 AI를 선택할 가능성이 더 높다고 답했습니다. 사람들은 이미 AI가 돈 문제, 고민, 일상적인 걱정을 들어줄 만큼 유용하다고 판단했습니다. 이 정보를 안전하게 지킬 수 있음을 약속에 그치지 않고 증명하는 제공업체가 나머지 정보까지 맡길 수 있는 곳이 될 것입니다.
조사 방법론
이 설문조사는 프랑스, 독일, 영국, 미국의 4,014명의 응답자를 대상으로 진행되었습니다. 모든 응답자는 현재 AI 챗봇 또는 어시스턴트를 사용하고 있음을 확인하는 선별 과정을 거쳤습니다.
설문조사는 온라인으로 진행되었으며, AI 챗봇 사용에 관한 약 12개의 질문으로 구성되었습니다. 응답자는 어떤 회사가 이 연구를 의뢰했는지 알려지지 않았습니다. 이러한 브랜드 미표기 설계는 특정 회사의 평판이 미치는 영향을 줄이기 위한 것이었습니다.
제한 사항
이 설문조사는 응답자가 직접 보고한 태도, 선호도, 과거 행동을 다룹니다. 응답자의 실제 챗봇 대화를 관찰하거나 공유한 내용을 독립적으로 검증하지는 않았습니다. 이 설문조사는 네 국가의 현재 챗봇 사용자를 대상으로 하므로, 다른 국가 또는 현재 AI 챗봇을 사용하지 않는 사람들을 대표하는 것으로 해석해서는 안 됩니다.
