Wenn deine Mitarbeitenden KI-Tools nutzen, die du nicht genehmigt hast, legen sie Konten an, die du weder einsehen noch absichern oder schließen kannst – jedes mit einem Chatverlauf voller Geschäftsdaten.

Eine neue, von SOCRadar(neues Fenster) veröffentlichte Studie ergab, dass bei mehr als 80.000 Organisationen weltweit die KI-Anmeldungen ihrer Mitarbeitenden in Infostealer-Protokollen aufgetaucht sind. Infostealer sind eine Art Malware, die Passwörter, Sitzungs-Cookies, Finanz- und Personendaten sowie Chat-Protokolle von infizierten Geräten sammelt und an den Angreifer zurücksendet. Diese Daten machen Phishing– oder Ransomware-Angriffe deutlich wirksamer.

Laut der Studie wurden die Protokolle von einer bekannten Infostealer-Malware erfasst, die seit 2022 auf Telegram zum Verkauf steht. Da die Malware seit Jahren verkauft wird, lässt sich unmöglich sagen, wie viele Kriminelle sie genutzt haben und wie sie die Geräte der Betroffenen infiziert haben. Sicher ist: Sie haben gezielt Geräte mit Unternehmenszugriff ins Visier genommen und deren Claude-Sitzungen gekapert. Unternehmensnutzende bemerkten, dass ihr bezahltes Nutzungsvolumen über Nacht aufgebraucht war, nachdem die Cyberkriminellen Zugriff erlangt hatten.

Die Studie von SOCRadar belegt, dass KI-Sitzungs-Anmeldedaten für Angreifer extrem wertvoll sind. Eine einzige KI-Anmeldung kann „ein durchsuchbares Archiv, eine Ausführungsmaschine, eine abrechenbare Ressource und eine Identität“ freischalten – „und die gestohlene Sitzung liefert all das ohne Passwortabfrage“, wie es im Bericht heißt. Für Kriminelle ist das eine Goldgrube.

Die beunruhigende Erkenntnis für Unternehmen, die heute KI einsetzen, ist: Diese Anmeldedaten gelangen nicht deshalb in Umlauf, weil die KI-Plattformen selbst unsicher wären. Sie gelangen aus zwei weniger offensichtlichen Gründen in Umlauf: wegen der schieren Zahl der Mitarbeitenden, die KI-Tools nutzen, und wegen des wachsenden Anteils dieser Nutzung, der außerhalb der Kontrolle der IT stattfindet.

Was zeigt die Studie?

Insgesamt stellt der Bericht fest, dass Anmeldedaten von KI-Diensten in beträchtlicher Zahl in Infostealer-Protokollen auftauchen. Die wichtigsten Erkenntnisse:

  • Mehr als 1.000.000 Datensätze mit Bezug zu KI-Diensten wurden über 80.000 eindeutige Unternehmens-Domains hinweg gefunden.
  • Aus dieser Menge wurde eine Stichprobe von 482 Organisationen überprüft und als große Unternehmen identifiziert, überwiegend in Nordamerika – 68 % davon sind Milliardenunternehmen.
  • Technologieunternehmen bilden die größte Gruppe: 144 Firmen und 40 % der Datensätze.
  • Auf diese 482 Organisationen entfallen 5.434 Protokolldatensätze, die mit 1.500 geschäftlichen E-Mail-Adressen verknüpft sind.
  • Die Betroffenheit ist aktuell: Bei 295 der 482 Organisationen sind in den letzten 90 Tagen Infostealer-Protokolldatensätze aufgetaucht.
  • ChatGPT tauchte in den Protokollen von 358 der 482 Organisationen auf und in rund 90 % der Datensätze, gefolgt von Zapier, Notion, Hugging Face, Replit, Lovable und ElevenLabs.

Diese letzte Zahl wirft eine naheliegende Frage auf: Warum ChatGPT? Die Erklärung von SOCRadar hat weniger mit den Tools zu tun als damit, wie Mitarbeitende sie nutzen.

Shadow AI schafft Risiken

Shadow AI bezeichnet jedes KI-Tool, das Mitarbeitende ohne Genehmigung oder Wissen ihres Unternehmens nutzen. Mitarbeitende bringen Shadow AI in ihre Unternehmensnetzwerke, wenn ihre Firmenkonten eingeschränkt sind oder die vorhandenen Tools für die Aufgabe, die sie gerade erledigen, nicht taugen.

Ein Mitglied des SOCRadar-Forschungsteams kommentiert:

„Wir lesen die nahezu vollständige Dominanz von ChatGPT als Signal für Shadow AI, nicht als Urteil über die Sicherheit eines Anbieters. Der First-Mover-Vorteil von ChatGPT bedeutet, dass es wahrscheinlich eine Größenordnung mehr Unternehmensnutzende hat – viele davon registrieren sich mit einer geschäftlichen E-Mail-Adresse auf einem privaten Gerät, außerhalb jeder Richtlinie. Genau diese Gruppe greifen Infostealer ab. Claude und Gemini tauchen kaum auf, weil bislang weit weniger Mitarbeitende dort still und leise Konten angelegt haben – nicht, weil sich diese Anmeldedaten sicherer stehlen ließen. Wenn Unternehmen andere Assistenten stärker einführen, dürfte sich dieses Diagramm angleichen.“

Die Sicherheit von ChatGPT ist also nicht der Grund für die prominente Rolle des Tools in den Infostealer-Protokollen. ChatGPT steht an der Spitze, weil es die meisten Unternehmensnutzenden hat und weil so viele von ihnen es außerhalb der Unternehmensrichtlinie nutzen.

Mitarbeitende versuchen möglicherweise auch, restriktive IT-Richtlinien zu umgehen, die ihnen die schnellste oder einfachste Option verwehren, aber vielleicht wissen sie auch schlicht nicht, welche Richtlinien oder Einschränkungen gelten. Dein Unternehmen kann keine Konten schützen, deren Existenz es nicht kennt, und auch keine Anfragen, die außerhalb eines Geschäftskontos gestellt werden.

Unabhängig von der Absicht: Wenn Beschäftigte private und geschäftliche KI-Nutzung vermischen, verstoßen sie gegen die Datennutzungsrichtlinien deines Unternehmens und fallen stattdessen unter die Verbraucherbedingungen von OpenAI.

OpenAI erklärt, nicht mit Geschäftsdaten zu trainieren. Wenn Mitarbeitende jedoch außerhalb der Richtlinien für die zulässige geschäftliche Nutzung agieren oder ein privates Konto für geschäftliche Zwecke verwenden, verlieren sie die Kontrolle über diese Daten: Ihr Chat-Archiv (einschließlich sensibler Geschäftsdaten oder personenbezogener Informationen (PII)) wird erfasst, protokolliert und möglicherweise zum Training der Modelle von OpenAI verwendet.

OpenAI kann Geschäftsdaten an Dritte oder über App-Integrationen weitergeben: 2025 gelang es Hackern, einen Anbieter von OpenAI anzugreifen und Geschäftskundendaten zu stehlen, darunter Namen, E-Mail-Adressen, Standorte und Systemdetails. Als US-Unternehmen kann OpenAI außerdem nach dem Patriot Act oder FISA verpflichtet werden, Daten mit der US-Regierung zu teilen – selbst ohne dich zu benachrichtigen.

So schützt du dein Unternehmen vor Shadow AI

Shadow AI entsteht, wenn Mitarbeitende kein Tool haben, das sie nutzen dürfen, oder kein ausreichend gutes. Der erste Schritt ist also, ihnen eines zu geben.

Lumo, entwickelt von Proton, bietet deinem Team eine genehmigte Alternative zu privaten Konten und hält Geschäftsdaten privat. Es führt keine Protokolle und trainiert nicht mit geschäftlichen oder privaten Unterhaltungen. Der gesamte gespeicherte Chatverlauf ist durch Zero-Access-Verschlüsselung geschützt, sodass niemand (nicht einmal Proton) ihn lesen kann.

Verschlüsselung schützt gespeicherte Daten, hilft aber nicht, wenn sich ein Angreifer bereits auf dem Gerät der Mitarbeitenden befindet. Um diese Lücke zu schließen, ergreife folgende Maßnahmen:

  • Finde die Konten, von denen du nichts weißt. Prüfe, ob die Domains deines Unternehmens bereits in Stealer-Protokollen auftauchen, und frage die Teams, welche KI-Tools sie tatsächlich nutzen.
  • Behandle einen Treffer in einem Stealer-Protokoll als Endpunkt-Vorfall. Wenn Anmeldedaten von Mitarbeitenden in einem Protokoll auftauchen, ist das Gerät infiziert. Ein reines Zurücksetzen des Passworts lässt die gestohlene Sitzung des Angreifers aktiv, also widerrufe aktive Sitzungen und bereinige oder ersetze den Rechner.
  • Stelle jedes genehmigte KI-Tool hinter SSO mit kurzlebigen Sitzungen. Ein gestohlener Cookie, der in wenigen Stunden abläuft, ist weit weniger wert als einer, der wochenlang gilt.
  • Sichere API-Schlüssel ab. Beschränke ihre Berechtigungen auf das Nötige, rotiere sie regelmäßig und speichere sie niemals in Notiz-Apps oder geteilten Dokumenten.
  • Halte Arbeit von nicht verwalteten Geräten fern. Wenn Mitarbeitende KI auf privaten Geräten brauchen, verlange, dass sie sich über Unternehmenskonten anmelden, die du überwachen und widerrufen kannst.
  • Richte die Dark Web-Überwachung ein. Sie alarmiert dich, wenn Anmeldedaten von Mitarbeitenden in Leaks auftauchen, sodass du handeln kannst, bevor ein Angreifer es tut.

Deine Mitarbeitenden werden KI so oder so nutzen. Biete ihnen eine ChatGPT-Alternative, die keine Protokolle führt, niemals mit deinen Daten trainiert und jeden gespeicherten Chat hinter einer Verschlüsselung einschließt, die nicht einmal Proton öffnen kann.

Lumo for Business testen.