Wanneer uw medewerkers AI-tools gebruiken die u niet hebt goedgekeurd, maken ze accounts aan die u niet kunt zien, beveiligen of uitschakelen, elk met een chatgeschiedenis vol met uw bedrijfsgegevens.
Uit nieuw onderzoek van SOCRadar(nieuw venster) blijkt dat de AI-inloggegevens van medewerkers van meer dan 80 000 organisaties wereldwijd in de logboeken van infostealers zijn opgedoken. Infostealers zijn een soort malware die wachtwoorden, sessiecookies, financiële en persoonlijke gegevens en chatlogboeken van besmette apparaten verzamelt en naar de aanvaller stuurt. Die gegevens maken phishing– of ransomware-aanvallen veel effectiever.
Volgens het onderzoek zijn de logboeken buitgemaakt door een bekende infostealer-malware die sinds 2022 op Telegram te koop is. Omdat de malware al jaren te koop is, valt niet te achterhalen hoeveel criminelen er gebruik van hebben gemaakt en hoe ze de apparaten van mensen hebben geïnfecteerd: wat we weten is dat ze zich richtten op apparaten met zakelijke toegang en hun Claude-sessies kaapten. Zakelijke gebruikers merkten dat hun betaalde verbruik in één nacht was opgebruikt zodra de cybercriminelen toegang hadden gekregen.
Uit het onderzoek van SOCRadar blijkt dat inloggegevens van AI-sessies bijzonder waardevol zijn voor aanvallers. Met één set AI-inloggegevens krijgt een aanvaller toegang tot “een doorzoekbaar archief, een uitvoeringsengine, een factureerbare resource en een identiteit – en de gestolen sessie levert ze allemaal over zonder dat er om een wachtwoord wordt gevraagd”, zoals het rapport het formuleert. Voor een crimineel is dit een goudmijn.
De zorgwekkende conclusie voor bedrijven die vandaag AI invoeren, is dat deze inloggegevens niet lekken door de beveiliging van de AI-platforms zelf. Ze lekken door twee minder voor de hand liggende factoren: het enorme aantal medewerkers dat AI-tools gebruikt, en het groeiende aandeel van dat gebruik dat buiten de controle van IT plaatsvindt.
Wat blijkt uit het onderzoek?
Over het geheel genomen stelt het rapport vast dat inloggegevens van AI-diensten in aanzienlijke aantallen in infostealer-logboeken opduiken. De belangrijkste bevindingen zijn:
- Meer dan een miljoen records die verband houden met AI-diensten kwamen aan het licht bij 80 000 unieke zakelijke domeinen.
- Uit die groep bleken in een steekproef 482 organisaties grote ondernemingen te zijn, vooral in Noord-Amerika – 68% van hen zijn miljardenbedrijven.
- Technologiebedrijven vormen de grootste groep, met 144 bedrijven en 40% van de records.
- Die 482 organisaties zijn goed voor 5 434 logboekvermeldingen die gekoppeld zijn aan 1 500 zakelijke e-mailadressen.
- De blootstelling is recent: bij 295 van die 482 organisaties zijn in de afgelopen 90 dagen records uit infostealer-logboeken opgedoken.
- ChatGPT kwam voor in de logboeken van 358 van de 482 organisaties en in ongeveer 90% van de records, gevolgd door Zapier, Notion, Hugging Face, Replit, Lovable en ElevenLabs.
Die laatste statistiek roept een voor de hand liggende vraag op: waarom ChatGPT? De verklaring van SOCRadar heeft minder te maken met de tools zelf dan met de manier waarop medewerkers ze gebruiken.
Shadow AI vormt een risico
Shadow AI is elke AI-tool die medewerkers gebruiken zonder goedkeuring of medeweten van hun bedrijf. Medewerkers brengen shadow AI in hun bedrijfsnetwerken wanneer hun zakelijke accounts beperkt zijn of de tools die ze hebben niet doeltreffend zijn voor de taak die ze uitvoeren.
Een onderzoeker bij SOCRadar zegt:
“Wij lezen de bijna volledige dominantie van ChatGPT als een signaal van shadow AI, niet als een oordeel over de beveiliging van welke leverancier dan ook. Het voordeel van ChatGPT als eerste speler betekent dat het waarschijnlijk een orde van grootte meer zakelijke gebruikers heeft – velen van hen schrijven zich in met een werk-e-mail op een persoonlijk apparaat, buiten elk beleid om. Dat is precies de groep die infostealers afschrapen. Claude en Gemini komen nauwelijks voor omdat veel minder medewerkers daar in stilte accounts hebben aangemaakt – niet omdat die inloggegevens veiliger zijn om te stelen. Naarmate bedrijven meer andere assistenten gaan gebruiken, verwachten we dat deze grafiek gelijkmatiger wordt.”
De beveiliging van ChatGPT is dus niet de schuldige voor de prominente rol van de tool in de infostealer-logboeken. ChatGPT staat bovenaan omdat het de meeste zakelijke gebruikers heeft en omdat zo velen het buiten het bedrijfsbeleid om gebruiken.
Medewerkers kunnen ook proberen om beperkende IT-beleidsregels te omzeilen die hen beletten de snelste of eenvoudigste optie te kiezen, maar het kan ook zijn dat ze echt niet weten welk beleid of welke beperkingen er gelden. Uw bedrijf kan geen accounts beschermen waarvan het niet weet dat ze bestaan, of zoekopdrachten die buiten een zakelijk account worden uitgevoerd.
Ongeacht de bedoeling: wanneer medewerkers persoonlijk en zakelijk AI-gebruik combineren, komen ze in strijd met het gegevensgebruiksbeleid van uw bedrijf en vallen ze in plaats daarvan onder de consumentenvoorwaarden van OpenAI.
OpenAI zegt niet te trainen op bedrijfsgegevens, maar wanneer een medewerker buiten de richtlijnen voor aanvaardbaar gebruik van het bedrijf handelt of een persoonlijk account voor zakelijke doeleinden gebruikt, verliest die de controle over die gegevens: het chatarchief (met inbegrip van gevoelige bedrijfsgegevens of persoonlijk identificeerbare informatie (PII)) wordt verzameld, in logboeken vastgelegd en mogelijk gebruikt om de modellen van OpenAI te trainen.
OpenAI kan bedrijfsgegevens delen met derden of via app-integraties: in 2025 wisten hackers binnen te dringen bij een leverancier van OpenAI en bedrijfsgegevens van klanten te stelen, waaronder namen, e-mails, locaties en systeemgegevens. Als Amerikaans bedrijf kan het ook gedwongen worden gegevens te delen met de Amerikaanse overheid op grond van de Patriot Act of FISA, zelfs zonder u daarvan op de hoogte te stellen.
Hoe u uw bedrijf beschermt tegen shadow AI
Shadow AI ontstaat wanneer medewerkers geen tool hebben die ze mogen gebruiken, of geen goede genoeg. De eerste oplossing is dus om ze er een te geven.
Lumo, ontwikkeld door Proton, biedt uw team een goedgekeurd alternatief voor persoonlijke accounts en houdt bedrijfsgegevens privé. Het bewaart geen logboeken en traint niet op zakelijke of persoonlijke gesprekken. Alle opgeslagen chatgeschiedenis is beschermd met zero-access-versleuteling, zodat niemand (zelfs Proton niet) die kan lezen.
Versleuteling beschermt opgeslagen gegevens, maar biedt geen soelaas als een aanvaller al op het apparaat van de medewerker zit. Om die kloof te dichten, neemt u deze stappen:
- Spoor de accounts op waarvan u niet weet dat ze bestaan. Controleer of de domeinen van uw bedrijf al in stealer-logboeken voorkomen en vraag teams welke AI-tools ze echt gebruiken.
- Behandel een treffer in een stealer-logboek als een endpointincident. Als de inloggegevens van een medewerker in een logboek opduiken, is het apparaat besmet. Alleen het wachtwoord resetten laat de gestolen sessie van de aanvaller actief, dus trek actieve sessies in en schoon of vervang het apparaat.
- Zet elke goedgekeurde AI-tool achter SSO met sessies van korte duur. Een gestolen cookie die na een paar uur verloopt, is veel minder waard dan een die weken meegaat.
- Beveilig uw API-sleutels goed. Beperk ze tot wat ze nodig hebben, roteer ze regelmatig en sla ze nooit op in notitie-apps of gedeelde documenten.
- Houd werk weg van niet-beheerde apparaten. Als medewerkers AI op persoonlijke apparaten nodig hebben, verplicht hen dan om in te loggen via zakelijke accounts die u kunt monitoren en intrekken.
- Stel Dark Web Monitoring in. U krijgt een melding wanneer inloggegevens van medewerkers in lekken opduiken, zodat u kunt ingrijpen voordat een aanvaller dat doet.
Uw medewerkers gaan toch wel AI gebruiken. Bied ze een alternatief voor ChatGPT dat geen logboeken bijhoudt, nooit op uw gegevens traint en elke opgeslagen chat achter versleuteling plaatst die zelfs Proton niet kan openen.
