Umfrage: Menschen vertrauen KI nicht, aber sie erzählen ihr alles

Geldsorgen um 2 Uhr nachts. Ein medizinisches Symptom, das zu peinlich ist, um deswegen zum Arzt zu gehen. Der beste Weg, jemanden zu einem Date einzuladen.

People discuss their most private thoughts with AI chatbots. But their revelations to the apps doesn’t mean they trust the Big Tech companies behind them, according to new research from Proton.

Etwa zwei Drittel der KI-Chatbot-Benutzer haben mindestens ein sensibles Thema besprochen. Gleichzeitig geben aber weniger als ein Fünftel an, dass sie ein großes Vertrauen in die KI-Unternehmen haben, dass sie ihre privaten Informationen schützen.

„KI erfährt weit mehr über uns als eine Suchmaschine es je könnte. Die Suche weiß, wonach du gesucht hast. KI versteht das Zögern, die Rückfragen und den persönlichen Kontext zwischen den Zeilen“, sagte Eamonn Maguire, Leiter der KI-Entwicklung bei Proton. „Wir übergeben inzwischen mehr als nur Fragen. Und wenn die Technik so viel über uns weiß, darf Privatsphäre keine Nebensache sein.“

Um mehr darüber zu erfahren, wie Menschen KI nutzen und wahrnehmen, haben wir 4.014 aktuelle KI-Chatbot-Benutzer in Frankreich, Deutschland, den USA und im Vereinigten Königreich befragt. Wir fragten, was sie geteilt haben, warum sie sich dafür entschieden haben und was zu mehr oder weniger Bereitschaft führen würde, dies zu teilen.

Zentrale Erkenntnisse

• 66 % der KI-Chatbot-Benutzer haben mit einem Chatbot mindestens ein sensibles Thema besprochen, darunter persönliche Finanzen, sexuelle Gesundheit und Beziehungen.
• 42 % der Benutzer vertrauen den KI-Unternehmen wenig oder gar nicht, wenn es darum geht, sensible Informationen zu schützen, die sie mit Chatbots geteilt haben.
• Geld, psychische Gesundheit und Karriereprobleme sind die drei am häufigsten besprochenen sensiblen Themen.
• KI-Benutzer würden sensible Themen weiterhin lieber mit Freunden und Familie besprechen als mit KI-Chatbots und Therapeuten.
• Bequemlichkeit und die Freiheit von Bewertung sind die am häufigsten genannten Gründe, sich für KI statt für eine Person zu entscheiden.
• 48 % der Benutzer sagen, dass sie eher bereit wären, sensible Informationen zu teilen, wenn garantiert wäre, dass ihre Unterhaltungen nicht zum Trainieren von KI-Modellen verwendet werden.
• Acht von zehn Benutzern interessieren sich für einen KI-Chatbot, der speziell für Privatsphäre entwickelt wurde.

Die meisten Chatbot-Benutzer haben bereits etwas Sensibles geteilt

66 % der Befragten sagten, dass sie mindestens ein sensibles Thema mit einem KI-Chatbot besprochen haben. Die acht Themen umfassten persönliche Finanzen, Beziehungen, psychische Gesundheit, Sex, Geheimnisse, romantische Anziehung, Arbeit und Familienkonflikte.

Von den untersuchten Ländern wiesen die USA mit 68,4 % die höchste Rate an offengelegten sensiblen Informationen an Chatbots auf, Frankreich die niedrigste mit 60,3 %. Diese Lücke deutet darauf hin, dass die Offenheit gegenüber KI nicht nur eine persönliche Entscheidung ist, sondern auch von allgemeineren kulturellen Einstellungen zu Privatsphäre und Technik beeinflusst werden könnte.

Geld, psychische Gesundheit und Arbeit dominieren die sensiblen Themen

Persönliche Finanzen, psychische Gesundheit und Karriereprobleme waren die drei sensiblen Themen, die Befragte am häufigsten mit KI besprochen haben.

Das am häufigsten besprochene Thema variierte je nach Land. Psychische Gesundheit lag in Deutschland an erster Stelle, in den USA Karriereprobleme und in Frankreich und im Vereinigten Königreich persönliche Finanzen.

Diese Ergebnisse zeigen, welche sensiblen Themen die Befragten mit KI besprochen haben, aber nicht warum sie sich dafür entschieden haben.

Freunde und Familie bleiben die erste Wahl, auch wenn die KI-Nutzung zunimmt

Freunde und Familie waren bei jedem der untersuchten sensiblen Themen die bevorzugte Wahl – vor KI-Chatbots, Therapeuten und Seelsorgern. Doch KI konkurriert in einigen Bereichen bereits mit traditionellen Anlaufstellen für Support – insbesondere bei den Themen Geld und Arbeit.

Der Abstand zwischen KI und menschlichem Rat ist beim Geld am geringsten. In Frankreich lag KI als bevorzugte Wahl für das Besprechen persönlicher Finanzen nur 2 Prozentpunkte hinter Freunden und Familie.

Und der Einfluss von KI endet nicht bei der Unterhaltung. Menschen nutzen sie, um Entscheidungen über ihr Geld, ihre Gesundheit, ihre Beziehungen, ihre Karriere und ihre Einkäufe zu treffen.

Bequemlichkeit und Freiheit von Bewertung sind die größten Anreize für die Nutzung von KI

Bequemlichkeit und Freiheit von Bewertung waren die am häufigsten genannten Gründe, um ein sensibles Thema lieber mit einem KI-Chatbot anstelle einer Person zu besprechen. Privatsphäre war ebenfalls ein häufiger Grund, lag aber weiter hinten.

Die Gründe variierten im Allgemeinen je nach Land und Thema. Von den drei am häufigsten besprochenen sensiblen Themen war der Punkt Probleme bei der Arbeit und Karriere der einzige, bei dem sich alle vier Länder auf denselben Hauptgrund einigten: Bequemlichkeit. Persönliche Finanzen lagen knapp dahinter, auch hier war Bequemlichkeit in jedem Land außer dem Vereinigten Königreich der favorisierte Grund. Bei der psychischen Gesundheit herrschte Gleichstand: Frankreich und Deutschland wählten Bequemlichkeit als Hauptgrund, während die USA und das Vereinigte Königreich die Freiheit von Bewertung höher schätzten. Bei romantischer Anziehung standen in Deutschland, dem Vereinigten Königreich und den USA Vertrauen und Privatsphäre an erster Stelle, während bei der sexuellen Gesundheit in Frankreich, den USA und im Vereinigten Königreich der Hauptgrund war, dass es keine Bewertung gibt.

Insgesamt deutet das darauf hin, dass Bequemlichkeit bei praktischen Themen gewinnt, während Privatsphäre und Freiheit von Bewertung bei persönlichen Unterhaltungen wichtiger sind.

Werbe-Profiling sorgt für mehr Bedenken als das Trainieren von KI-Modellen

Die Befragten äußerten mehr Bedenken darüber, dass ihre Unterhaltungen für Werbeprofile verwendet werden, als darüber, dass sie zum Trainieren von KI-Modellen eingesetzt werden.

Der Unterschied war in den USA am größten, wo 65,3 % mehr Sorge wegen Werbe-Profiling hatten, gegenüber 57,6 % beim Modelltraining. Die Ergebnisse deuten darauf hin, dass es darauf ankommt, wie Unterhaltungsdaten verwendet werden – die wichtigsten Bedenken betreffen weniger, dass Unterhaltungen gespeichert und erinnert werden, als dass diese Daten in eine kommerzielle Ressource zur Erzielung von Profit umgewandelt werden.

Das Vertrauen in KI-Unternehmen bleibt überall niedrig

Trotz des weit verbreiteten Teilens sensibler Themen mit KI-Chatbots gaben nur 11 % bis 20 % der Befragten an, dass sie den KI-Unternehmen mit ihren privaten Informationen stark vertrauen. Wenig Vertrauen war in Frankreich mit 47,7 % am häufigsten, mit 41,6 % im Vereinigten Königreich, 40,5 % in Deutschland und 38,8 % in den USA.

Ein Bekenntnis zur Privatsphäre erhöht die Bereitschaft zum Teilen

Eine Garantie, dass Unterhaltungen nicht zum Trainieren von KI-Modellen verwendet würden, würde 44 % der Befragten eher dazu bringen, sensible Informationen zu teilen. Das war in den USA mit 47,7 % am höchsten, gefolgt vom Vereinigten Königreich mit 44,3 %, Deutschland mit 43,9 % und Frankreich mit 40,7 %.

Auch das Interesse an KI-Chatbots, die auf Privatsphäre ausgelegt sind, war hoch. Über 70 % der Menschen sagten, dass sie einen solchen eher nutzen würden – von 71,1 % in Deutschland bis 82 % im Vereinigten Königreich.

Diese Ergebnisse deuten darauf hin, dass ein Bekenntnis zur Privatsphäre für KI-Chatbot-Benutzer weiterhin sehr geschätzt wird, auch wenn es nicht der ursprüngliche Grund war, warum ein Benutzer sich für die Nutzung von KI entscheidet.

Fazit: KI muss das Vertrauen ihrer Benutzer gewinnen

Persönliche Unterhaltungen mit KI-Chatbots sind bereits weit verbreitet. Mehr als zwei Drittel der Befragten aus den vier untersuchten Ländern haben mindestens ein sensibles Thema mit einem KI-Chatbot besprochen – von Geldsorgen bis hin zu persönlichen Geheimnissen. Doch nur jeder Fünfte gab an, dass er in Bezug auf seine privaten Informationen ein hohes Maß an Vertrauen in KI-Unternehmen hat.

Menschen vertrauen sich KI viel schneller an, als sie ihr Vertrauen schenken, aber nicht, weil KI die menschliche Verbindung ersetzt hat – Freunde und Familie bleiben für jedes sensible Thema die erste Wahl. Vielmehr ist KI die Option, zu der Menschen greifen, wenn Bequemlichkeit und Freiheit von Bewertung wichtiger sind.

Während Bequemlichkeit die Tür zur Nutzung von KI öffnet, entscheidet das Vertrauen, wie weit jemand damit geht. Eine Garantie, dass keine Modelle damit trainiert werden, reichte aus, damit 44 % der Benutzer eher bereit waren zu teilen, und acht von zehn sagten, dass sie eher eine private KI wählen würden. Die Menschen haben bereits entschieden, dass KI nützlich genug ist, um ihre Geldsorgen, Zweifel und alltäglichen Anliegen zu hören. Die Anbieter, die beweisen – nicht nur versprechen –, dass sie diese Informationen schützen können, werden die sein, denen die Menschen auch den Rest anvertrauen.

Methodik

An dieser Umfrage nahmen 4.014 Befragte aus Frankreich, Deutschland, dem Vereinigten Königreich und den USA teil. Alle Befragten wurden vorgeprüft, um zu bestätigen, dass sie derzeit einen KI-Chatbot oder -Assistenten nutzen.

Die Umfrage wurde online durchgeführt und umfasste etwa 12 Fragen zur Nutzung von KI-Chatbots. Die Befragten erfuhren nicht, welches Unternehmen die Forschung in Auftrag gegeben hatte. Dieses Design ohne Markennamen sollte den Einfluss verringern, den der Ruf eines Unternehmens haben könnte.

Einschränkungen

Diese Umfrage erfasst Haltungen, Präferenzen und frühere Verhaltensweisen, die die Teilnehmer selbst berichtet haben. Sie beobachtet keine tatsächlichen Chatbot-Unterhaltungen der Befragten und überprüft nicht unabhängig, was sie geteilt haben. Die Umfrage bezieht sich auf aktuelle Chatbot-Benutzer in vier Ländern und sollte nicht als repräsentativ für andere Länder oder für Menschen interpretiert werden, die derzeit keine KI-Chatbots nutzen.