Preocupaciones por el dinero a las 2 a. m. Un síntoma médico demasiado vergonzoso para consultar a un médico. La mejor manera de invitar a alguien a salir.
People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.
Alrededor de dos tercios de los usuarios de chatbots de IA han hablado de al menos un tema delicado. Pero, al mismo tiempo, menos de uno de cada cinco afirma tener un alto nivel de confianza en las empresas de IA para proteger su información privada.
«La IA está aprendiendo mucho más sobre nosotros de lo que un buscador jamás podría hacerlo. Un buscador sabe qué buscaste. La IA capta la duda, las preguntas de seguimiento y el contexto personal entre las líneas», declaró Eamonn Maguire, director de ingeniería de IA de Proton. «Ahora entregamos más que solo preguntas. Y cuando la tecnología sabe tanto sobre nosotros, la privacidad no puede ser algo secundario.»
Para entender mejor cómo las personas usan y perciben la IA, realizamos una encuesta a 4 014 usuarios actuales de chatbots de IA en Francia, Alemania, Reino Unido y Estados Unidos. Preguntamos qué han compartido, por qué decidieron hacerlo y qué los haría más o menos dispuestos a compartirlo.
Principales conclusiones
- El 66 % de los usuarios de chatbots de IA ha hablado de al menos un tema delicado con un chatbot, incluidas las finanzas personales, la salud sexual y las relaciones de pareja.
- El 42 % de los usuarios tiene poca o ninguna confianza en las empresas de IA para proteger la información delicada compartida con los chatbots.
- El dinero, la salud mental y los problemas profesionales son los tres temas delicados más comentados.
- Los usuarios de IA aún prefieren hablar de temas delicados con amigos y familiares, antes que con chatbots de IA o terapeutas.
- La comodidad y la ausencia de juicios son las razones más citadas para elegir la IA en lugar de una persona.
- El 48 % de los usuarios afirma que compartiría con mayor disposición información delicada si se garantizara que sus conversaciones no se usan para entrenar modelos de IA.
- Ocho de cada 10 usuarios manifiestan interés en un chatbot de IA diseñado específicamente para la privacidad.
La mayoría de los usuarios de chatbots ya ha compartido algo delicado
El 66 % de los encuestados dijo haber hablado de al menos un tema delicado con un chatbot de IA. Los ocho temas abarcaron las finanzas personales, las relaciones de pareja, la salud mental, el sexo, los secretos, la atracción romántica, el trabajo y los conflictos familiares.
De los países encuestados, los estadounidenses reportaron la tasa más alta de revelación de información delicada a los chatbots, con un 68,4 %, mientras que Francia registró la más baja, con un 60,3 %. Esta brecha sugiere que la disposición a confiar en la IA no es solo una elección personal, sino que podría verse influenciada por actitudes culturales más amplias hacia la privacidad y la tecnología.
El dinero, la salud mental y el trabajo encabezan los temas delicados
Las finanzas personales, la salud mental y los problemas profesionales fueron los tres temas delicados que los encuestados más reportaron haber tratado con la IA.
El tema más comentado varió según el país. La salud mental ocupó el primer lugar en Alemania, mientras que los problemas profesionales ocuparon el primer lugar en Estados Unidos y las finanzas personales, en Francia y Reino Unido.
Estos resultados muestran qué temas delicados han tratado los encuestados con la IA, pero no por qué decidieron hacerlo.
Amigos y familia siguen siendo la primera opción, incluso con el crecimiento del uso de la IA
Amigos y familia fueron la opción preferida para hablar de cada tema delicado encuestado, por delante de los chatbots de IA, los terapeutas y los asesores religiosos. Pero la IA ya compite con las fuentes tradicionales de soporte en algunas áreas, en particular el dinero y el trabajo.
La brecha entre la IA y el consejo humano es más pequeña cuando se trata de dinero. En Francia, la IA quedó a solo 2 puntos porcentuales de amigos y familia como la opción preferida para hablar de finanzas personales.
Y la influencia de la IA no se limita a la conversación. Las personas la están usando para tomar decisiones sobre su dinero, su salud, sus relaciones de pareja, sus carreras profesionales y sus compras.
La comodidad y la ausencia de juicios son los principales atractivos para usar la IA
La comodidad y la ausencia de juicios fueron las razones más citadas para elegir un chatbot de IA en lugar de una persona para hablar de un tema delicado. La privacidad también fue una razón común, pero ocupó un lugar más bajo.
Las razones variaron en general según el país y el tema. De los tres temas delicados más comentados, los problemas laborales y profesionales fueron el único en el que los cuatro países coincidieron en la misma razón principal: la comodidad. Las finanzas personales quedaron cerca, ya que todos los países excepto Reino Unido también favorecieron la comodidad. En la salud mental hubo un empate: Francia y Alemania eligieron la comodidad como la razón principal, mientras que Estados Unidos y Reino Unido valoraron más la ausencia de juicios. Mientras tanto, en la atracción romántica, la confianza y la privacidad fueron la opción principal en Alemania, Reino Unido y Estados Unidos, mientras que en la salud sexual, la ausencia de juicios fue la razón principal en Francia, Estados Unidos y Reino Unido.
En conjunto, esto sugiere que la comodidad gana en los temas prácticos, mientras que la privacidad y la ausencia de juicios importan más en las conversaciones personales.
La elaboración de perfiles publicitarios genera más preocupación que el entrenamiento de modelos de IA
Los encuestados expresaron más preocupación por el uso de sus conversaciones para elaborar perfiles publicitarios que para entrenar modelos de IA.
La diferencia fue mayor en Estados Unidos, donde el 65,3 % estaba más preocupado por la elaboración de perfiles publicitarios en comparación con el 57,6 % para el entrenamiento de modelos. Los resultados sugieren que importa cómo se usan los datos de las conversaciones, y las principales preocupaciones se relacionan menos con que las conversaciones se guarden y se recuerden que con que esos datos se conviertan en un activo comercial usado con fines lucrativos.
La confianza en las empresas de IA se mantiene baja en todos los frentes
A pesar de compartir ampliamente temas delicados con los chatbots de IA, solo entre el 11 % y el 20 % de los encuestados reportó un alto nivel de confianza en las empresas de IA con respecto a su información privada. La baja confianza fue más común en Francia, con un 47,7 %, seguida de Reino Unido con un 41,6 %, Alemania con un 40,5 % y Estados Unidos con un 38,8 %.
El compromiso con la privacidad aumenta la disposición a compartir
Una garantía de que las conversaciones no se usarán para entrenar modelos de IA haría que el 44 % de los encuestados estuviera más dispuesto a compartir información delicada. Este porcentaje fue más alto en Estados Unidos, con un 47,7 %, seguido de Reino Unido con un 44,3 %, Alemania con un 43,9 % y Francia con un 40,7 %.
El interés también fue alto en los chatbots de IA diseñados en torno a la privacidad. Más del 70 % de las personas dijo que sería más probable que usara uno, con porcentajes que van desde el 71,1 % en Alemania hasta el 82 % en Reino Unido.
Estos hallazgos sugieren que el compromiso con la privacidad sigue siendo muy valorado por los usuarios de chatbots de IA, incluso si no fue la razón inicial por la que un usuario elegiría usar la IA.
Conclusión: la IA debe ganarse la confianza de sus usuarios
Las conversaciones personales con chatbots de IA ya son comunes. Más de dos tercios de los encuestados en los cuatro países encuestados habían hablado de al menos un tema delicado con un chatbot de IA, desde preocupaciones por el dinero hasta secretos personales. Sin embargo, solo uno de cada cinco reportó un alto nivel de confianza en las empresas de IA con respecto a su información privada.
Las personas confían cosas a la IA mucho más rápido de lo que depositan su confianza en ella, pero no porque la IA haya reemplazado la conexión humana: amigos y familia siguen siendo la primera opción para todos los temas delicados. Más bien, la IA es la opción a la que recurren cuando la comodidad y la ausencia de juicios importan más.
Mientras que la comodidad abre la puerta a que alguien use la IA, es la confianza la que decide hasta dónde llegará con ella. Una garantía de que no se usará la información para entrenar modelos fue suficiente para que el 44 % de los usuarios estuviera más dispuesto a compartir, y ocho de cada 10 dijeron que sería más probable que eligieran una IA privada. Las personas ya decidieron que la IA es lo suficientemente útil para contarle sus problemas de dinero, sus dudas y sus preocupaciones cotidianas. Los proveedores que demuestren, y no solo prometan, que pueden mantener esta información segura serán aquellos a quienes las personas confíen el resto.
Metodología
Esta encuesta incluyó a 4 014 encuestados de Francia, Alemania, Reino Unido y Estados Unidos. Todos los encuestados fueron filtrados para confirmar que actualmente usan un chatbot o asistente de IA.
La encuesta se administró en línea y consistió en aproximadamente 12 preguntas sobre el uso de chatbots de IA. No se les dijo a los encuestados qué empresa encargó la investigación. Este diseño sin marca tenía como objetivo reducir la influencia derivada de la reputación de cualquier empresa.
Limitaciones
Esta encuesta recopila actitudes, preferencias y comportamientos pasados autorreportados. No observa las conversaciones reales de los encuestados con los chatbots ni verifica de manera independiente lo que han compartido. La encuesta abarca a usuarios actuales de chatbots en cuatro países y no debe interpretarse como representativa de otros países ni de personas que actualmente no usan chatbots de IA.
