Shadow AI ist ein verborgenes Risiko für dein Unternehmen

KI-Tools gehören mittlerweile zum Arbeitsalltag. Sie helfen dabei, Besprechungsnotizen zusammenzufassen, E-Mail-Entwürfe zu verfassen, Fehler im Code zu beheben, Tabellen zu analysieren und Dokumente in Präsentationen zu verwandeln. Wenn sie jedoch ohne Genehmigung oder Aufsicht genutzt werden, können sie ernsthafte Bedenken hinsichtlich der KI-Privatsphäre aufwerfen, sensible Unternehmensinformationen offenlegen und dazu führen, dass IT-Teams den Überblick darüber verlieren, wohin Unternehmensdaten fließen.

Dieser Leitfaden erklärt, was Shadow AI ist, wie sie sich in Organisationen verbreitet und welche ernsten Risiken sie birgt. Wir zeigen, wie du nicht genehmigte Tools erkennst und praktische Schutzmaßnahmen umsetzt, um deine Unternehmensdaten zu schützen – ohne dein Team auszubremsen.

• Was ist Shadow AI?
• Shadow AI vs. Shadow IT
• Wie entsteht Shadow AI?
• Trainiert KI automatisch mit deinen Daten?
• Beispiele für Shadow AI
• Welche Risiken birgt Shadow AI?
• Wie man Shadow AI erkennt
• Wie man Shadow-AI-Risiken reduziert
• Was zu tun ist, wenn sensible Daten bereits geteilt wurden
• Ein privater KI-Assistent für Teams

Was ist Shadow AI?

Shadow AI ist jede Nutzung von künstlicher Intelligenz für die Arbeit, die außerhalb der genehmigten Systeme und Richtlinien eines Unternehmens liegt. Dabei kann es sich um ein nicht genehmigtes Tool handeln, ein persönliches Konto, das für dienstliche Zwecke genutzt wird, oder einen genehmigten KI-Dienst, der mit Daten oder für Aufgaben verwendet wird, die die Organisation nicht autorisiert hat.

Shadow AI nimmt oft ihren Anfang bei alltäglichem Druck am Arbeitsplatz: eine enge Deadline, das Bedürfnis nach einer schnelleren oder besseren Arbeitsweise oder ein Tool, das die Aufgabe nicht ganz erfüllt. Manchmal ist zwar ein genehmigtes KI-Tool verfügbar, aber die Mitarbeitenden weichen auf andere Optionen aus, weil sie mit diesen vertrauter sind.

Shadow AI vs. Shadow IT

Schatten-IT ist der übergeordnete Begriff für jede Software oder Hardware, die ohne Genehmigung oder Aufsicht einer Organisation genutzt wird. Typische Beispiele sind persönlicher Cloud-Speicher, der für die Arbeit genutzt wird, nicht autorisierte Messaging-Apps und nicht genehmigte Projektmanagement-Plattformen.

Shadow AI ist eine spezifische Form der Schatten-IT, die KI-Systeme und KI-gestützte Funktionen umfasst. KI stellt eine zusätzliche Herausforderung für die Data Governance dar, da Unternehmensinformationen an ein externes System übermittelt oder auf unvertraute Weise außerhalb der Kontrolle der Organisation verarbeitet werden können.

Wie entsteht Shadow AI?

Mitarbeitende können innerhalb von Sekunden große Mengen an Unternehmensinformationen in ein KI-Chatfenster eingeben. Je nach den Einstellungen der KI kann das Tool die Eingabe speichern, sie mit anderen Parteien teilen (wie z. B. Datenhändlern oder Analyseanbietern, wie im Fall des OpenAI-Datenlecks) oder sie für zielgerichtete Werbung oder die Modellentwicklung verwenden.

Shadow AI breitet sich gewöhnlich aufgrund einiger typischer organisatorischer Lücken aus.

Keine genehmigte Alternative

Mitarbeitende nutzen eher Shadow-AI-Tools, wenn das Unternehmen keine genehmigte Option bereitgestellt hat. Eine BlackFog-Umfrage(neues Fenster) unter 2.000 Beschäftigten ergab, dass 49 % der Mitarbeitenden KI-Tools ohne Genehmigung des Arbeitgebers einsetzen, 63 % es für akzeptabel halten, KI zu nutzen, wenn es keine vom Unternehmen genehmigte Option gibt, und 51 % KI-Tools ohne Wissen der IT mit Arbeitssystemen verbinden.

Unklare Richtlinien

Mitarbeitende sind sich möglicherweise unsicher, welche Tools, Aufgaben und Arten von Informationen zulässig sind. Die Vorgaben des Unternehmens schränken hochsensible Daten vielleicht klar ein, sagen aber wenig über interne Besprechungsnotizen, E-Mail-Entwürfe, Tabellen, Quellcode oder Kundengespräche aus.

Eine Umfrage von IT Brew(neues Fenster) unter 241 IT-Fachkräften ergab, dass 35 % wenig bis gar kein Vertrauen darin haben, dass die Mitarbeitenden die Richtlinien ihres Unternehmens zur KI-Nutzung und Datensicherheit kennen, und nur 12 % fühlten sich „sehr zuversichtlich“. Eine separate WorkNest-Umfrage(neues Fenster) unter 505 Personalverantwortlichen/Arbeitgebern ergab, dass 54 % der Organisationen überhaupt keine KI-Richtlinie haben, 24 % derzeit eine entwickeln und nur 13 % über klare, dokumentierte Regeln verfügen.

Langsame Genehmigungsprozesse

Termindruck kann dazu führen, dass sich eine langwierige Sicherheits- oder Beschaffungsprüfung unpraktisch anfühlt. Wenn Mitarbeitende sofort auf ein kostenloses Tool zugreifen können, machen langsame interne Prozesse inoffizielle Ausweichlösungen wahrscheinlicher.

Neue KI-Funktionen in genehmigter Software

Ein Anbieter fügt einer Anwendung, die bereits eine Sicherheitsüberprüfung bestanden hat, möglicherweise generative KI-Funktionen hinzu. Die Software bleibt auf der Liste der genehmigten Tools, obwohl niemand bewertet hat, wie die neue Funktion Unternehmensdaten verarbeitet, speichert oder teilt. Die Mitarbeitenden haben gegen keine Richtlinie verstoßen, aber das Ergebnis ist dasselbe wie bei den anderen Ursachen: Unternehmensdaten fließen nun über einen Kanal, den tatsächlich niemand geprüft hat.

Geringes Bewusstsein für den Umgang mit Daten

Mitarbeitende wissen möglicherweise nicht, wie KI-Anbieter wie ChatGPT und Gemini Prompts speichern, hochgeladene Dateien verarbeiten, Unterhaltungen zur Dienstverbesserung nutzen oder Daten mit anderen Anbietern teilen. Sie nehmen vielleicht an, dass ihre Eingaben verschwinden, wenn sie den Browser-Tab schließen, selbst wenn Kopien in Kontoverläufen, Protokollen, Sicherungen oder verbundenen Systemen verbleiben.

Der Bericht von Kolide(neues Fenster) ergab, dass zwar 89 % der Mitarbeitenden monatlich KI nutzen, aber nur 56 % der Unternehmen ihrem Personal die Sicherheitsrisiken von KI erklärt haben.

Beispiele für Shadow AI

Team	Beispiel für Shadow AI	Potenziell offengelegte Informationen	Mögliche Auswirkungen
Softwareentwicklung	Einfügen von internem Code in einen öffentlichen Chatbot zur Fehlerbehebung	Quellcode, Anmeldedaten, Systemarchitektur und unveröffentlichte Funktionen	Eigentumsgeschützter Code oder Geheimnisse können außerhalb der Unternehmenssysteme gespeichert werden
Produkt	Hochladen einer Roadmap zur Zusammenfassung	Starttermine, Produktstrategie, Preisgestaltung und Partnerinformationen	Vertrauliche Geschäftspläne können unverwaltet auf Servern von Drittanbietern liegen
Marketing und Design	Eingeben von Kampagnenplänen in ein KI-Text- oder -Design-Tool	Unveröffentlichte Produkte, Kundenforschung, Markenwerte und Zielgruppendaten	Sensible Kampagneninformationen können ohne rechtliche oder sicherheitstechnische Prüfung verarbeitet werden
Datenanalyse	Hochladen von Kundendatensätzen in ein externes Analysetool	Personenbezogene Daten, kommerziell sensible Datensätze und vertrauliche Erkenntnisse	Geschützte oder regulierte Informationen können unbefugten Drittanbietern offengelegt werden
Personalwesen	Nutzung eines KI-Tools zur Bewertung von Bewerbungen oder Zusammenfassung von Vorstellungsgesprächen	Kandidatendaten, Beschäftigungsinformationen und Bewertungskriterien	Offenlegung von Personaldaten kann gegen GDPR oder CCPA verstoßen
Vertrieb	Hochladen von Anruftranskripten oder Kontonotizen zur Analyse	Kundenidentitäten, Vertragsdetails, Preisgestaltung und Vertriebsstrategie	Offenlegung von Kundendaten kann gegen GDPR oder CCPA verstoßen
Kundensupport	Einfügen von Support-Tickets in einen öffentlichen Chatbot	Kundennamen, Kontodetails, Beschwerden und Korrespondenz	Gespeicherte Support-Datensätze können gegen GDPR oder CCPA verstoßen
Finanzen	Aufforderung an einen KI-Assistenten, interne Tabellen zu analysieren	Budgets, Prognosen, Lohn- und Gehaltsabrechnungsinformationen sowie Transaktionsdaten	Finanzdaten können ohne angemessene Schutzmaßnahmen verarbeitet werden
Rechtliches	Hochladen von Verträgen oder Akten zur Zusammenfassung	Vertrauliche Beratung, Vertragsbedingungen und Kundeninformationen	Missbrauch von Kundendaten kann gegen GDPR oder CCPA verstoßen und das Anwaltsgeheimnis beeinträchtigen
Führungsebene	Nutzung eines KI-Dienstes zur Überprüfung von Vorstandsunterlagen oder strategischen Plänen	Übernahmepläne, interne Ziele und Vorstandsdiskussionen	Hochsensible Unternehmensdaten können offengelegt werden

Trainiert KI automatisch mit deinen Daten?

Große Sprachmodelle (LLMs) trainieren sich nicht automatisch mit jedem Prompt in Echtzeit neu. Eine Unterhaltung wird also nicht zwangsläufig Teil des KI-Modells oder erscheint in der Antwort eines anderen Benutzers. Das Risikoniveau hängt jedoch vom Anbieter, Kontotyp, den Privatsphäre-Einstellungen, dem Vertrag und der Konfiguration des Dienstes ab.

Ein KI-Anbieter kann Prompts und hochgeladene Dateien speichern, sie für die Überprüfung durch Menschen zugänglich machen, sie zur Verbesserung seiner Dienste nutzen oder sie mit Infrastruktur- und Modellanbietern teilen.

Selbst wenn das Modelltraining deaktiviert ist, können Informationen in Kontoverläufen, Betriebsprotokollen, Missbrauchsüberwachungssystemen, Sicherungen, Browser-Aufzeichnungen, verbundenen Diensten oder Integrationen von Drittanbietern auftauchen. Wenn deine Inhalte bereits zum Modelltraining beigetragen haben, führt das Deaktivieren dieser Option nicht dazu, dass das Modell deine vergangenen Unterhaltungen vergisst.

Welche Risiken birgt Shadow AI?

KI kann Entscheidungen beeinflussen, kundenorientiertes Material generieren, Code schreiben oder personenbezogene Daten analysieren – was alles Risiken birgt, die über die Sicherheit des Tools selbst hinausgehen:

Datenleck

Der Cost of a Data Breach Report 2025(neues Fenster) von IBM ergab, dass jede fünfte Organisation ein Datenleck im Zusammenhang mit Shadow AI erlitten hatte, jedoch nur 37 % über Richtlinien verfügten, die darauf ausgelegt waren, diese zu verwalten oder zu erkennen.

Organisationen mit einem hohen Ausmaß an Shadow AI hatten im Durchschnitt um 670.000 $ höhere Kosten durch Datenlecks als solche mit wenig oder gar keiner Shadow AI. Zudem legten Vorfälle im Zusammenhang mit Shadow AI häufiger personenbezogene Informationen und geistiges Eigentum offen als der globale Durchschnitt.

Offenlegung vertraulicher Informationen

Mitarbeitende teilen möglicherweise interne Dokumente, Quellcode, Finanzinformationen, Verträge, Kundendaten, Produktpläne oder Geschäftsgeheimnisse, ohne zu realisieren, dass der KI-Anbieter ihre Eingaben speichert. Selbst wenn Informationen vom Modelltraining ausgeschlossen sind, können sie weiterhin durch Kompromittierung des Kontos, Datenlecks, Zugriff durch den Anbieter, unsichere Integrationen oder rechtliche Anforderungen gefährdet sein.

Beispielsweise hat Samsung ChatGPT(neues Fenster) im Mai 2023 unternehmensweit verboten, nachdem Mitarbeitende innerhalb von 20 Tagen dreimal vertrauliches Material dort eingefügt hatten, darunter Halbleiter-Quellcode, Algorithmen zur Fehlererkennung und das Transkript einer internen Besprechung.

Verlust von geistigem Eigentum

Eigentumsgeschütztes Wissen ist oft das wertvollste Gut eines Unternehmens. Das Hochladen von Code, Forschungsergebnissen, Produktdesigns, Prozessen oder Strategiedokumenten in einen externen KI-Dienst kann gegen Vertraulichkeitsvereinbarungen verstoßen oder die Fähigkeit des Unternehmens schwächen, diese Informationen zu kontrollieren. Ein Mitarbeitender kann auch KI-generierte Inhalte nutzen, ohne deren Herkunft, Lizenzbeschränkungen oder Ähnlichkeit mit Material von Drittanbietern zu verstehen.

Verstöße gegen Privatsphäre und Vorschriften

Personenbezogene Daten unterliegen weiterhin dem Datenschutzrecht, wenn sie durch ein KI-Tool verarbeitet werden. Shadow AI kann Privatsphäre-Schutzmaßnahmen umgehen, weil die zuständigen Rechtsteams nie erfahren, dass die Verarbeitung stattfindet. Das Information Commissioner’s Office im Vereinigten Königreich warnt davor, dass KI-Systeme bestehende Sicherheitsrisiken verstärken können(neues Fenster). Schwerwiegende GDPR-Verstöße können zu Strafen von bis zu 20 Mio. € oder 4 % des weltweiten Jahresumsatzes der Organisation aus dem vorangegangenen Geschäftsjahr führen, je nachdem, welcher Betrag höher ist.

Unsichere Integrationen und übermäßiger Zugriff

KI-Tools können sich mit E-Mail, Cloud-Speicher, Kalendern, Code-Repositories, Kundendatenbanken und Kollaborationsplattformen verbinden. Umfassende Berechtigungen, schlecht gesicherte APIs, durchgesickerte Zugangstoken, bösartige Browser-Erweiterungen und kompromittierte Dienste von Drittanbietern können Unternehmenssysteme und -daten weit über die in einem einzelnen Prompt eingegebenen Informationen hinaus offenlegen.

Beim Salesloft-Drift-Datenleck stahlen Angreifer OAuth-Token von Drift, einer KI-Vertriebsassistenten-Integration, und nutzten diese, um Daten aus Salesforce-Instanzen bei mehr als 700 Organisationen zu entwenden, darunter Geschäftskontakte, API-Schlüssel und Cloud-Anmeldedaten, die in Support-Fällen eingebettet waren.

Prompt-Injection-Angriffe

Diese Schwachstelle existiert in jedem verbundenen KI-System, ob genehmigt oder nicht: Angreifer können ein KI-System über Anweisungen manipulieren, die in Dokumenten, Webseiten, E-Mails oder anderen verarbeiteten Inhalten ausgeblendet sind. Dies veranlasst das System dazu, Informationen preiszugeben, seine ursprünglichen Anweisungen zu ignorieren oder unbeabsichtigte Aktionen auszuführen.

Shadow AI erhöht das Risiko, da ein nicht genehmigtes Tool oder ein KI-Agent möglicherweise nie auf Prompt Injection überprüft wurde oder nicht auf die benötigten Berechtigungen beschränkt ist. Wenn ein Angriff erfolgreich ist, haben Sicherheitsteams möglicherweise wenig Einblick in das Geschehen oder wie es eingedämmt werden kann. Die Folgen sind besonders schwerwiegend, wenn der KI-Agent auf sensible Daten zugreifen oder Aktionen ohne menschliche Überprüfung durchführen kann.

Mangelnde Rechenschaftspflicht

Shadow-AI-Aktivitäten hinterlassen oft keinen zentralen Überwachungspfad. Sicherheitsteams sind möglicherweise nicht in der Lage festzustellen, welche Informationen übermittelt wurden, welches Modell sie verarbeitet hat, welche Ausgabe es erzeugt hat oder wie das Ergebnis eine Entscheidung beeinflusst hat. Die Untersuchung eines Fehlers, einer Beschwerde, eines Datenlecks oder einer regulatorischen Frage wird ohne diese Aufzeichnungen viel schwieriger.

Unerwartete Kosten und Lieferantenabhängigkeit

Separate Abonnements und API-Konten können zu doppelten Ausgaben in verschiedenen Abteilungen führen. Experimentelle Tools können auch in wichtige Arbeitsabläufe eingebettet werden, bevor Beschaffungsteams deren Preise, Zuverlässigkeit oder langfristige Verfügbarkeit bewertet haben. Ein kostenloser Dienst kann ohne Servicevereinbarung, Kontinuitätsplan oder praktische Möglichkeit, den Arbeitsablauf anderweitig zu verlagern, geschäftskritisch werden.

Wie man Shadow AI erkennt

Shadow AI kann schwer zu erkennen sein, da Mitarbeitende persönliche Konten, Browser-Erweiterungen, eingebettete KI-Funktionen, KI-Browser oder Tools nutzen können, die sich im normalen Web-Verkehr tarnen. Organisationen benötigen daher Transparenz darüber, welche Dienste genutzt werden und wie Unternehmensdaten durch sie fließen.

Die Überwachung sollte verhältnismäßig bleiben und die Privatsphäre der Mitarbeitenden respektieren. Das Ziel sollte sein, risikoreiche Tools und Datenflüsse zu identifizieren, ohne routinemäßig die Inhalte jedes Prompts oder jeder Unterhaltung zu überprüfen.

Hier sind einige Tipps zur Identifizierung von Shadow AI in deiner Organisation:

Erstelle ein Inventar der KI-Nutzung

Frage Teams, welche KI-Tools sie derzeit nutzen, für welche Aufgaben sie diese einsetzen und was sie daran hindert, genehmigte Alternativen zu nutzen. Eine kurze Umfrage, Interviews mit Abteilungsleitungen und ein Zeitraum für freiwillige Offenlegungen können Nutzungen aufdecken, die technische Kontrollen übersehen. Mitarbeitende sind eher ehrlich, wenn das Ziel darin besteht, ihre Bedürfnisse zu verstehen, anstatt frühes Experimentieren zu bestrafen.

Überprüfe Netzwerk- und Anwendungsaktivitäten

Sicherheitsteams können Netzwerkprotokolle, Software-Inventare und Cloud-Zugriffssicherheitstools nutzen, um Verbindungen zu bekannten KI-Diensten zu identifizieren. Die Überwachung kann anzeigen, auf welche Dienste zugegriffen wird und wie viele Daten übertragen werden, ohne den Inhalt jeder Unterhaltung zu erfassen.

Browser-Erweiterungen und Plug-ins überprüfen

Browser-Erweiterungen können fast jedem Arbeitsablauf Funktionen für KI-Schreiben, Zusammenfassung, Übersetzung, Besprechungen und Codierung hinzufügen. Überprüfe, welche Erweiterungen installiert sind, welche Berechtigungen sie anfordern und ob sie Webseiteninhalte, E-Mails, Dokumente oder Anmeldeinformationen lesen können.

Spesen und Beschaffungsnachweise prüfen

Spesenabrechnungen von Mitarbeitenden, Firmenkartenabrechnungen und Beschaffungsnachweise können kostenpflichtige KI-Abonnements aufdecken, die nie eine Sicherheitsüberprüfung durchlaufen haben. Wiederholte Zahlungen verschiedener Teams können auch doppelte Tools und inoffizielle Konten zum Vorschein bringen.

Suche nach unverwalteten API-Schlüsseln und Integrationen

Überprüfe Code-Repositories, Secrets Manager, Cloud-Umgebungen, Abrechnungs-Dashboards und Automatisierungsplattformen auf Verbindungen zu externen KI-Anbietern. Unverwaltete API-Schlüssel oder ungewohnte Nutzungsgebühren können auf einen Prototyp, eine Integration oder ein internes Tool hinweisen, das nicht formell genehmigt wurde.

Nutze Kontrollen zur Verhinderung von Datenverlust

Tools zur Verhinderung von Datenverlust können Versuche identifizieren, sensible Informationskategorien wie personenbezogene Daten, Anmeldedaten, Finanzdaten und Quellcode hochzuladen. Kontrollen sollten verhältnismäßig sein und klar kommuniziert werden. Mitarbeitende müssen verstehen, was überwacht wird, warum es notwendig ist und wie sie legitime Arbeiten über genehmigte Systeme erledigen können.

Arbeite mit Mitarbeitenden zusammen, statt an ihnen vorbei

Technische Überwachung allein wird nicht jeden Fall von Shadow AI aufdecken. Mitarbeitende nutzen möglicherweise persönliche Konten, Mobilgeräte oder Tools, die als normaler Web-Verkehr erscheinen. Regelmäßige Gespräche mit Teams können aufzeigen, wo bestehende Arbeitsabläufe Reibung erzeugen und warum Mitarbeitende externe Tools suchen.

Wie man Shadow-AI-Risiken reduziert

Die Reduzierung von Shadow AI erfordert praktische Alternativen, klare Richtlinien, angemessene Zugriffskontrollen, Schulungen der Mitarbeitenden und eine fortlaufende Überprüfung. Wirksame Schutzmaßnahmen sollten die legitime KI-Nutzung unterstützen und gleichzeitig Unternehmensdaten innerhalb genehmigter Systeme halten:

Gib Mitarbeitenden ein genehmigtes KI-Tool

Mitarbeitende suchen seltener nach Alternativen, wenn du einen Business-KI-Assistenten bereitstellst, der ihre praktischen Anforderungen erfüllt. Jedes genehmigte Tool sollte einen starken Schutz der Privatsphäre, klare Bedingungen für die Datenhandhabung, angemessene Geschäftskontrollen und genügend Leistungsfähigkeit bieten, um alltägliche Aufgaben zu unterstützen.

Vermeide ein pauschales Verbot

Ein vollständiges Verbot kann die KI-Nutzung weiter in den Untergrund drängen, insbesondere wenn Mitarbeitende bereits von diesen Tools abhängig sind. Einige könnten auf persönliche Konten, Mobilgeräte, Browser-Erweiterungen oder weniger seriöse KI-Dienste ausweichen, die für die Organisation schwerer zu identifizieren sind.

Erstelle eine Richtlinie für die zulässige KI-Nutzung

Nutze Beispiele, die auf realen Arbeitsabläufen basieren. „Teile keine sensiblen Informationen“ lässt zu viel Spielraum für Interpretationen. Eine klarere Richtlinie könnte Mitarbeitenden mitteilen, niemals Exporte aus dem Kundensupport, Quellcode, Verträge, Anmeldedaten, unveröffentlichte Finanzergebnisse oder identifizierbare Personalakten in einen nicht genehmigten Dienst hochzuladen.

Klassifiziere Daten vor dem Festlegen von KI-Regeln

Bestimme, welche Informationskategorien öffentlich, intern, vertraulich, reguliert oder streng vertraulich sind. Verbinde jede Kategorie mit zulässigen KI-Nutzungen. Öffentliche Marketingtexte können für eine breitere Palette von Tools geeignet sein, während personenbezogene Daten, Anmeldedaten, Geschäftsgeheimnisse und vertrauliche rechtliche Unterlagen ein streng kontrolliertes System erfordern oder vollständig ausgeschlossen werden sollten.

Überprüfe genehmigte Software regelmäßig auf neue KI-Funktionen

Eine Anwendung verarbeitet Daten möglicherweise anders, nachdem ein KI-Assistent, eine automatische Transkription, eine Inhaltserstellung oder eine prädiktive Analyse hinzugefügt wurde. Regelmäßige Anbieterüberprüfungen können diese Änderungen identifizieren und bestätigen, dass zuvor genehmigte Tools weiterhin den Sicherheits-, Privatsphäre- und Compliance-Anforderungen der Organisation entsprechen.

Beschränke Berechtigungen

Gewähre KI-Tools nur Zugriff auf Daten und Systeme, die für eine genehmigte Aufgabe benötigt werden. Nutze vom Unternehmen verwaltete Konten, Single Sign-On (SSO), Zwei-Faktor-Authentifizierung (2FA), rollenbasierte Berechtigungen und eine zentrale Kontoentfernung, sofern verfügbar. Vermeide es, einen Business-KI-Assistenten mit einem gesamten Drive, Posteingang oder einer vollständigen Kundendatenbank zu verbinden, wenn eine eingegrenzte Quelle ausreicht.

Lege Regeln nach Rolle und Anwendungsfall fest

Verschiedene Teams haben unterschiedliche Anforderungen und Risikoniveaus. Entwickler benötigen möglicherweise API-Zugriff zum Testen oder für Prototypen. Marketingteams benötigen eventuell Text- und Bildgenerierung. Rechts- oder Personalabteilungen arbeiten möglicherweise mit Informationen, die deutlich strengere Einschränkungen erfordern. Rollenbasierte Regeln können die Richtlinie realistisch halten und gleichzeitig den Zugriff auf sensible Daten und risikoreiche Funktionen beschränken.

Schule Mitarbeitende

Mitarbeitende benötigen ausreichend KI-Kompetenz, um sowohl die Vorteile als auch die Grenzen der von ihnen genutzten Systeme zu verstehen. Schulungen sollten KI-Privatsphäre, Vertraulichkeit, Halluzinationen, Voreingenommenheit, geistiges Eigentum, Prompt Injection, menschliche Überprüfung und die Meldung von Vorfällen abdecken. Das angemessene Schulungsniveau hängt von den Kenntnissen und der Erfahrung des Personals sowie vom Kontext ab, in dem die KI eingesetzt wird.

Erstelle einen einfachen Genehmigungsprozess

Ein funktionierender Prozess könnte den Tool-Namen, die vorgesehene Aufgabe, die beteiligten Daten, die erforderlichen Integrationen und den erwarteten Geschäftsnutzen erfassen. Sicherheits- und Rechtsteams können dies dann basierend auf dem tatsächlichen Risiko genehmigen, einschränken, testen, in einer Sandbox isolieren oder ablehnen. Ein langer Beschaffungsprozess kann Mitarbeitende dazu verleiten, eigene Ausweichlösungen zu suchen. Setze ein angemessenes Prüfungsziel fest und erkläre, welche Informationen benötigt werden, um eine Entscheidung zu treffen.

Halte Personen für die Ergebnisse verantwortlich

KI-unterstützte Arbeit sollte eine menschliche verantwortliche Person haben. Verlange eine Überprüfung, bevor Ergebnisse Kunden, Mitarbeitende, Finanzen, rechtliche Entscheidungen, Produktionscode, veröffentlichte Informationen oder andere Bereiche mit hoher Tragweite betreffen. Jede Person, die ein KI-Tool nutzt, bleibt dafür verantwortlich, dessen Genauigkeit, Angemessenheit, Vertraulichkeit und Einhaltung der Unternehmensrichtlinie zu überprüfen.

Dokumentiere wichtige KI-unterstützte Entscheidungen

Führe eine klare Aufzeichnung, wenn KI zu Entscheidungen beiträgt, die Kunden, Mitarbeitende, Finanzen, rechtliche Angelegenheiten oder andere Bereiche mit hoher Tragweite betreffen. Ein zuverlässiger Überwachungspfad unterstützt die Rechenschaftspflicht und hilft Organisationen dabei, Fehler zu untersuchen, Ergebnisse zu erklären und auf Beschwerden oder behördliche Fragen zu antworten.

Was zu tun ist, wenn sensible Daten bereits geteilt wurden

Behandle eine versehentliche Offenlegung gegenüber einem KI-Tool wie jeden anderen potenziellen Datenvorfall. Gehe schnell die folgenden Schritte durch.

Identifiziere, was geteilt wurde: Bestätige, welche Informationen eingegeben oder hochgeladen wurden, welches Tool und welches Konto genutzt wurden, wann die Offenlegung stattfand und wer möglicherweise Zugriff auf die Daten hatte.

Entferne die Informationen, wo möglich: Lösche die Unterhaltung und alle hochgeladenen Dateien aus dem Tool. Überprüfe die Bedingungen und Support-Optionen des Anbieters, um zu sehen, ob du einen formellen Löschantrag stellen kannst.

Prüfe, was der Anbieter speichern könnte: Das Entfernen eines Chats aus der Ansicht führt nicht immer zum Löschen jeder Kopie. Überprüfe und dokumentiere, was der Anbieter über Betriebsprotokolle, Sicherungen, die Überprüfung durch Menschen, Modelltraining und Löschfristen angibt, um festzustellen, ob Daten verbleiben könnten.

Sichere betroffene Systeme: Widerrufe Berechtigungen, die dem KI-Tool oder verbundenen Plug-ins erteilt wurden. Ändere alle Passwörter, API-Schlüssel, Zugangstoken oder sonstigen Anmeldedaten, die im Prompt oder in angehängten Dateien aufgetaucht sind.

Benachrichtige die relevanten Teams: Melde den Vorfall dem Sicherheits-, Privatsphäre-, Rechts- oder Datenschutzteam der Organisation. Diese können vertragliche Verpflichtungen sowie behördliche Anforderungen bewerten und prüfen, ob betroffene Kunden oder Partner informiert werden müssen.

Lerne aus dem Vorfall: Dokumentiere, was passiert ist, und nutze es, um Schulungen, Kontrollen und genehmigte Alternativen zu verbessern. Vermeide es, Mitarbeitende zu bestrafen, die ehrliche Fehler melden, da eine punitive Reaktion andere davon abhalten kann, zukünftige Vorfälle zu melden.

Ein privater KI-Assistent für Teams

Lumo for Business bietet deinem Team einen zuverlässigen KI-Assistenten zum Zusammenfassen von Dokumenten, Analysieren von Daten, Überprüfen von Code, Entwerfen von Inhalten und Erforschen von Ideen und hilft deinem Unternehmen gleichzeitig dabei, die Kontrolle über vertrauliche Informationen zu behalten.

Unser Business-KI-Assistent führt keine Protokolle von Unterhaltungen und nutzt diese nicht zum Trainieren von KI-Modellen. Jeder Chatverlauf, den du speichern möchtest, ist mit Zero-Access-Verschlüsselung geschützt, was bedeutet, dass wir niemals Zugriff auf deine Daten haben

Lumo ist vollständig Open Source, in Europa entwickelt und darauf ausgelegt, die Einhaltung von GDPR und HIPAA durch Protons ISO 27001-Zertifizierung und SOC 2 Type II-Testat zu unterstützen.

Wenn du deinem Team einen leistungsfähigen, auf Privatsphäre ausgerichteten KI-Assistenten an die Hand gibst, verringert dies die Abhängigkeit von nicht genehmigten Tools und hilft dir, die KI-Nutzung innerhalb der von dir überwachten Systeme zu halten.