午前2時に襲われるお金の悩み。医師に相談するには恥ずかしすぎる症状。デートに誘う最適な切り出し方。
People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.
AIチャットボットユーザーの約3分の2が、少なくとも1つのセンシティブな話題についてチャットボットと話したことがあります。しかし同時に、プライベートな情報を守るうえでAI企業に高い信頼を寄せていると答えたのは、5人中1人にも満たないという結果です。
ProtonのAIエンジニアリング部長、Eamonn Maguire氏は述べています。「AIは検索エンジンとは比べ物にならないほど、私たちについて多くを学びつつあります。検索は何を調べたかを知っているだけです。AIはためらいや、続けて尋ねられる質問、行間にある個人的な文脈まで理解します。今、私たちは質問以上のものを手渡しています。そして技術が私たちについてそれほど多くを知るようになれば、プライバシーは後回しにできません。」
AIがどのように使われ、どのように受け止められているかをより深く理解するため、フランス、ドイツ、英国、米国で現在AIチャットボットを利用しているユーザー4,014人を対象に調査を実施しました。何を共有しているのか、なぜそれを選んだのか、そして何が共有への意向を左右するのかを尋ねました。
主な調査結果
- AIチャットボットユーザーの66%が、お金の悩み、セクシャルヘルス、人間関係などを含む少なくとも1つのセンシティブな話題をチャットボットと話したことがあります。
- ユーザーの42%が、チャットボットと共有したセンシティブな情報をAI企業が守ることについて、ほとんどあるいは全く信頼していません。
- お金の悩み、メンタルヘルス、仕事の悩みが、最も多く話されるセンシティブな話題の上位3つです。
- AIユーザーは今でも、AIチャットボットやセラピストよりも、友人や家族とセンシティブな話題を話すことを望んでいます。
- 人ではなくAIを選ぶ理由として最も多く挙げられているのは、手軽さと、判断されない安心感です。
- 会話がAIモデルの学習に使われないと保証されれば、センシティブな情報をより共有しやすくなると答えたユーザーは48%です。
- 10人中8人のユーザーが、プライバシー保護のために特別に設計されたAIチャットボットへの関心を示しています。
チャットボットユーザーの大半は、すでに何かセンシティブな内容を共有している
回答者の66%が、AIチャットボットと少なくとも1つのセンシティブな話題について話したと答えました。対象とした8つの話題は、お金の悩み、人間関係、メンタルヘルス、セックス、秘密、恋愛感情、仕事、家庭内の対立でした。
調査対象国の中では、センシティブな情報をチャットボットに打ち明ける割合が最も高いのは米国の68.4%、最も低いのはフランスの60.3%でした。この差は、AIに心を許して打ち明ける傾向が単なる個人の選択ではなく、プライバシーやテクノロジーに対する文化的な態度の影響を受けている可能性を示唆しています。
センシティブな話題の上位を占めるのは、お金、メンタルヘルス、仕事
回答者がAIと最も多く話したセンシティブな話題の上位3つは、お金の悩み、メンタルヘルス、仕事の悩みでした。
最も多く話された話題は国によって異なりました。ドイツではメンタルヘルスが1位、米国では仕事の悩みが1位、フランスと英国ではお金の悩みが1位となりました。
これらの結果からは、回答者がAIとどのセンシティブな話題について話したかは分かりますが、その話題を選んだ理由までは分かりません。
AIの利用が拡大しても、第一の相談相手は友人や家族
調査したすべてのセンシティブな話題で、AIチャットボット、セラピスト、宗教的な相談相手よりも、友人や家族が選ばれていました。しかし、特にお金と仕事の面では、AIはすでに従来の相談先と競合しつつあります。
お金の話になると、AIと人からのアドバイスの差が最も小さくなります。フランスでは、お金の悩みについての相談相手として、AIは友人や家族にわずか2ポイント差まで迫りました。
そしてAIの影響は会話にとどまりません。人々はお金、健康、人間関係、仕事、買い物などの意思決定にもAIを利用しています。
AIを使う理由の筆頭は、手軽さと判断されない安心感
センシティブな話題を話す相手として人ではなくAIチャットボットを選ぶ理由として最も多く挙げられたのは、手軽さと、判断されない安心感でした。プライバシーもよくある理由でしたが、順位は低めでした。
理由はおおむね国や話題によって異なりました。最も多く話された上位3つのセンシティブな話題のうち、4か国すべてで1位の理由が一致したのは仕事と仕事上の悩みだけで、その理由は手軽さでした。お金の悩みも僅差で、英国を除くすべての国で手軽さが1位でした。メンタルヘルスはちょうど半々に分かれ、フランスとドイツは手軽さを、米国と英国は判断されない安心感をより高く評価しました。一方、恋愛感情ではドイツ、英国、米国のいずれでも信頼とプライバシーが1位となり、性の健康ではフランス、米国、英国のいずれでも判断されないことが1位となりました。
まとめると、実用的な話題では手軽さが重視される一方、個人的な会話ではプライバシーと判断されない安心感がより重要になる傾向がうかがえます。
AIモデルの学習よりも懸念が大きい、広告プロファイリングへの利用
回答者は、自分の会話がAIモデルの学習に使われることよりも、広告プロファイリングに使われることの方を強く懸念していました。
この差が最も大きかったのは米国で、広告プロファイリングを心配したのは65.3%、モデル学習は57.6%でした。この結果からは、会話データがどのように使われるかが重要であり、会話が保存されたり記憶されたりすることよりも、そのデータが金銭的利益のための商業的資産に変えられることの方が大きな懸念であることが分かります。
AI企業への信頼は、あらゆる層で低いまま
AIチャットボットにセンシティブな話題が広く打ち明けられているにもかかわらず、プライベートな情報についてAI企業に高い信頼を寄せていると答えたのは、回答者の11%から20%にとどまりました。低い信頼が最も多かったのはフランスの47.7%で、英国が41.6%、ドイツが40.5%、米国が38.8%でした。
プライバシーへの取り組みが共有への意向を高める
会話がAIモデルの学習に使われないという保証があれば、センシティブな情報を共有しやすくなると答えたのは回答者の44%でした。これが最も高かったのは米国の47.7%で、以下英国44.3%、ドイツ43.9%、フランス40.7%と続きました。
プライバシーを軸に設計されたAIチャットボットへの関心も高かったです。より利用したいと答えた人は70%を超え、ドイツの71.1%から英国の82%までの幅がありました。
これらの結果は、ユーザーがAIを選ぶ最初の理由ではなかったとしても、プライバシーへの取り組みがAIチャットボットユーザーにとって依然として非常に重視されていることを示唆しています。
結論:AIはユーザーの信頼を得なければならない
AIチャットボットとの個人的な会話はすでに一般的になっています。調査した4か国の回答者の3分の2以上が、お金の悩みから個人的な秘密まで、少なくとも1つのセンシティブな話題をAIチャットボットと話したことがあります。しかし、プライベートな情報についてAI企業に高い信頼を寄せていると答えたのは、5人中1人だけでした。
人々はAIを信頼するよりもはるかに速いペースでAIに心を開いていますが、それはAIが人とのつながりに取って代わったからではありません。センシティブな話題であればどれについても、第一の選択肢は今も友人や家族です。むしろAIは、手軽さと判断されない安心感がより重要なときに、人々が手を伸ばす選択肢なのです。
手軽さがAIを使うきっかけを開くとしても、どこまで付き合うかを決めるのは信頼です。学習に使わないという保証だけで、より共有しやすくなったユーザーは44%に上り、10人中8人はプライベートなAIを選びやすくなると答えました。人々はすでに、お金の悩み、疑問、日常の心配事を聞いてもらうのにAIは十分役立つと判断しています。この情報を安全に守れることを約束だけでなく証明できるプロバイダーだけが、残りのすべてを人々に託される存在となるでしょう。
調査方法
この調査は、フランス、ドイツ、英国、米国の回答者4,014人を対象に実施しました。回答者全員について、現在AIチャットボットまたはアシスタントを利用していることを確認するスクリーニングを行いました。
調査はオンラインで実施され、AIチャットボットの利用に関する約12の質問で構成されました。回答者には、調査を依頼した企業がどこかは知らされていません。この非ブランド設計は、特定企業の評判による影響を減らすことを意図したものです。
制限事項
この調査は、回答者の自己申告による態度、好み、過去の行動を捉えたものです。回答者の実際のチャットボット会話を観察したわけではなく、何を共有したかを独自に検証したものでもありません。調査は4か国の現行チャットボットユーザーを対象としており、その他の国の人々や、現在AIチャットボットを利用していない人々を代表するものとして解釈すべきではありません。
