Preocupaciones por el dinero a las 2 de la madrugada. Un síntoma médico demasiado vergonzoso para ir al médico. La mejor forma de invitar a alguien a una cita.
People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.
Aproximadamente dos tercios de los usuarios de chatbots de IA han hablado de al menos un tema delicado. Pero, al mismo tiempo, menos de uno de cada cinco afirma tener un alto nivel de confianza en que las empresas de IA protegerán su información privada.
«La IA está aprendiendo mucho más sobre nosotros de lo que un buscador podría aprender nunca. El buscador sabe qué buscaste. La IA capta la vacilación, las preguntas de seguimiento y el contexto personal que hay entre líneas», declaró Eamonn Maguire, director de ingeniería de IA de Proton. «Ahora entregamos más que simples preguntas. Y cuando la tecnología sabe tanto sobre nosotros, la privacidad no puede ser una ocurrencia tardía».
Para saber más sobre cómo la gente usa y percibe la IA, hemos encuestado a 4014 usuarios actuales de chatbots de IA en Francia, Alemania, Reino Unido y EE. UU. Les preguntamos qué han compartido, por qué decidieron hacerlo y qué haría que estuvieran más o menos dispuestos a compartirlo.
Conclusiones principales
- El 66 % de los usuarios de chatbots de IA ha hablado de al menos un tema delicado con un chatbot, incluidas las finanzas personales, la salud sexual y las relaciones.
- El 42 % de los usuarios tiene poca o ninguna confianza en que las empresas de IA protejan la información delicada compartida con los chatbots.
- El dinero, la salud mental y los problemas de carrera profesional son los tres temas delicados más comentados.
- Los usuarios de IA prefieren hablar de temas delicados con amigos y familiares antes que con chatbots de IA y terapeutas.
- La comodidad y la ausencia de juicios son las razones más citadas para elegir la IA en lugar de una persona.
- El 48 % de los usuarios dice que estaría más dispuesto a compartir información delicada si hubiera garantías de que sus conversaciones no se usaran para entrenar modelos de IA.
- Ocho de cada diez usuarios muestran interés en un chatbot de IA diseñado específicamente para la privacidad.
La mayoría de los usuarios de chatbots ya ha compartido algo delicado
El 66 % de los encuestados dijo que había hablado de al menos un tema delicado con un chatbot de IA. Los ocho temas incluían las finanzas personales, las relaciones, la salud mental, el sexo, los secretos, la atracción romántica, el trabajo y los conflictos familiares.
Entre los países encuestados, los estadounidenses registraron la mayor tasa de divulgación de información delicada a los chatbots, con un 68,4 %, mientras que Francia fue la más baja, con un 60,3 %. Esta diferencia sugiere que la disposición a confiar en la IA no es solo una decisión personal, sino que puede estar influida por actitudes culturales más amplias hacia la privacidad y la tecnología.
El dinero, la salud mental y el trabajo dominan los temas delicados
Las finanzas personales, la salud mental y los problemas de carrera profesional fueron los tres temas delicados que los encuestados dijeron con más frecuencia haber tratado con la IA.
El tema más comentado varió según el país. La salud mental ocupó el primer puesto en Alemania, los problemas de carrera profesional en EE. UU. y las finanzas personales en Francia y Reino Unido.
Estos resultados muestran qué temas delicados han tratado los encuestados con la IA, pero no por qué decidieron tratarlos.
Los amigos y la familia siguen siendo la primera opción a medida que crece el uso de la IA
Los amigos y la familia fueron la opción preferida para hablar de todos los temas delicados encuestados, por delante de los chatbots de IA, los terapeutas y los consejeros religiosos. Pero la IA ya compite con las fuentes tradicionales de apoyo en algunas áreas, en particular el dinero y el trabajo.
La diferencia entre la IA y el consejo humano es mínima cuando se trata de dinero. En Francia, la IA estuvo a solo 2 puntos porcentuales de los amigos y la familia como opción preferida para hablar de las finanzas personales.
Y la influencia de la IA no se limita a la conversación. La gente la usa para tomar decisiones sobre su dinero, su salud, sus relaciones, su carrera y sus compras.
La comodidad y la ausencia de juicios son los mayores alicientes para usar la IA
La comodidad y la ausencia de juicios fueron las razones más citadas para elegir un chatbot de IA en lugar de una persona para hablar de un tema delicado. La privacidad también fue una razón habitual, pero ocupó un puesto más bajo.
Las razones variaron en general según el país y el tema. De los tres temas delicados más comentados, los problemas de carrera profesional fue el único en el que los cuatro países coincidieron en la misma razón principal: la comodidad. Las finanzas personales quedaron cerca, ya que todos los países excepto Reino Unido también favorecieron la comodidad. La salud mental se dividió a partes iguales: Francia y Alemania eligieron la comodidad como razón principal, mientras que EE. UU. y Reino Unido valoraron más la ausencia de juicios. Mientras tanto, la atracción romántica tuvo la confianza y la privacidad como primera opción en Alemania, Reino Unido y EE. UU., mientras que la salud sexual tuvo la ausencia de juicios como razón principal en Francia, EE. UU. y Reino Unido.
En conjunto, esto sugiere que la comodidad prevalece para los temas prácticos, mientras que la privacidad y la ausencia de juicios importan más en las conversaciones personales.
La creación de perfiles publicitarios genera más preocupación que el entrenamiento de modelos de IA
Los encuestados expresaron más preocupación por el uso de sus conversaciones para crear perfiles publicitarios que por su uso para entrenar modelos de IA.
La diferencia fue mayor en EE. UU., donde el 65,3 % se preocupó más por la creación de perfiles publicitarios frente al 57,6 % por el entrenamiento de modelos. Los resultados sugieren que la forma en que se usan los datos de las conversaciones importa, ya que las principales preocupaciones son menos tener las conversaciones guardadas y recordadas que ver esos datos convertidos en un activo comercial usado con fines lucrativos.
La confianza en las empresas de IA se mantiene baja en general
A pesar del uso generalizado de chatbots de IA para hablar de temas delicados, solo entre el 11 % y el 20 % de los encuestados declaró tener un alto nivel de confianza en las empresas de IA con su información privada. La baja confianza fue más común en Francia, con un 47,7 %, seguida de Reino Unido con un 41,6 %, Alemania con un 40,5 % y EE. UU. con un 38,8 %.
El compromiso con la privacidad aumenta la disposición a compartir
Una garantía de que las conversaciones no se usarían para entrenar modelos de IA haría que el 44 % de los encuestados fuera más propenso a compartir información delicada. Este porcentaje fue el más alto en EE. UU., con un 47,7 %, seguido de Reino Unido con un 44,3 %, Alemania con un 43,9 % y Francia con un 40,7 %.
El interés también fue alto en los chatbots de IA diseñados en torno a la privacidad. Más del 70 % de la gente dijo que sería más probable que usara uno, con un rango del 71,1 % en Alemania al 82 % en Reino Unido.
Estos resultados sugieren que el compromiso con la privacidad sigue siendo muy valorado por los usuarios de chatbots de IA, aunque no fuera la razón inicial por la que alguien decidiría usar la IA.
Conclusión: la IA debe ganarse la confianza de sus usuarios
Las conversaciones personales con chatbots de IA ya son habituales. Más de dos tercios de los encuestados de los cuatro países encuestados había hablado de al menos un tema delicado con un chatbot de IA, desde preocupaciones por el dinero hasta secretos personales. Sin embargo, solo uno de cada cinco declaró tener un alto nivel de confianza en las empresas de IA con su información privada.
La gente se confía a la IA mucho más rápido de lo que confía en ella, pero no porque la IA haya reemplazado la conexión humana: los amigos y la familia siguen siendo la primera opción para cada tema delicado. Más bien, la IA es la opción a la que la gente recurre cuando la comodidad y la ausencia de juicios importan más.
Aunque la comodidad abre la puerta a que alguien use la IA, es la confianza la que decide hasta dónde llegará con ella. Una garantía de no entrenamiento fue suficiente para que el 44 % de los usuarios se mostrara más dispuesto a compartir, y ocho de cada diez dijeron que sería más probable que eligieran IA privada. La gente ya ha decidido que la IA es lo bastante útil para contarle sus problemas de dinero, sus dudas y sus preocupaciones cotidianas. Los proveedores que demuestren, y no solo prometan, que pueden mantener esta información segura serán aquellos a los que la gente confíe el resto.
Metodología
Esta encuesta incluyó a 4014 encuestados de Francia, Alemania, Reino Unido y EE. UU. Todos los encuestados fueron filtrados para confirmar que actualmente usan un chatbot o asistente de IA.
La encuesta se administró en línea y constó de aproximadamente 12 preguntas sobre el uso de chatbots de IA. No se dijo a los encuestados qué empresa había encargado la investigación. Este diseño sin marca tenía como objetivo reducir la influencia derivada de la reputación de cualquier empresa.
Limitaciones
Esta encuesta recoge actitudes, preferencias y comportamientos pasados autorreportados. No observa las conversaciones reales de los encuestados con los chatbots ni verifica de forma independiente lo que han compartido. La encuesta abarca a usuarios actuales de chatbots en cuatro países y no debe interpretarse como representativa de otros países ni de las personas que no usan actualmente chatbots de IA.
