Når dine medarbejdere bruger AI-værktøjer, du ikke har godkendt, opretter de konti, du ikke kan se, sikre eller lukke ned, og hver af dem har en chathistorik fyldt med dine forretningsdata.
Ny forskning offentliggjort af SOCRadar(nyt vindue) viser, at mere end 80.000 organisationer på verdensplan har fået medarbejderes AI-logins til at optræde i infostealer-logfiler. Infostealere er en type malware, der indsamler adgangskoder, sessionscookies, økonomiske og personlige oplysninger samt chatlogs fra inficerede enheder og sender dem tilbage til angriberen. Disse data gør phishing– eller ransomware-angreb langt mere effektive.
Ifølge forskningen blev logfilerne opsamlet af en velkendt infostealer-malware, som har været til salg på Telegram siden 2022. Da malwaren har været til salg i årevis, er det umuligt at vide, hvor mange kriminelle der har brugt den, og hvordan de inficerede folks enheder. Det, vi ved, er, at de har målrettet enheder med adgang til virksomheder og kapret deres Claude-sessioner. Erhvervsbrugere opdagede, at deres betalte forbrug var blevet tømt natten over, efter at cyberkriminelle havde fået adgang.
SOCRadars forskning peger på, at AI-sessioners legitimationsoplysninger er ekstremt værdifulde for angribere. Et enkelt AI-login kan låse op for »et søgbart arkiv, en eksekveringsmotor, en fakturerbar ressource og en identitet – og den stjålne session udleverer dem alle uden at bede om en adgangskode«, som rapporten formulerer det. For en kriminel er det en guldgrube.
Det bekymrende for virksomheder, der tager AI i brug i dag, er, at disse legitimationsoplysninger ikke lækker på grund af sikkerheden i selve AI-platformene. De lækker på grund af to mindre oplagte faktorer: det store antal medarbejdere, der bruger AI-værktøjer, og den voksende del af brugen, der foregår uden for IT’s kontrol.
Hvad viser forskningen?
Samlet set konstaterer rapporten, at legitimationsoplysninger til AI-tjenester optræder i infostealer-logfiler i betydeligt omfang. De væsentligste pointer er:
- Mere end 1.000.000 poster forbundet med AI-tjenester blev afsløret på tværs af 80.000 unikke virksomhedsdomæner.
- Ud fra dette sæt verificerede man et tværsnit på 482 organisationer, der blev identificeret som store virksomheder, for det meste i Nordamerika – 68 % af dem er milliardvirksomheder.
- Teknologivirksomheder udgør den største gruppe med 144 virksomheder og 40 % af posterne.
- Disse 482 organisationer står for 5.434 logposter knyttet til 1.500 virksomheds-e-mailadresser.
- Eksponeringen er nylig: 295 af de 482 organisationer har fået infostealer-logposter frem i de seneste 90 dage.
- ChatGPT optrådte i logfiler for 358 af 482 organisationer og i omkring 90 % af posterne, efterfulgt af Zapier, Notion, Hugging Face, Replit, Lovable og ElevenLabs.
Den sidste oplysning rejser et oplagt spørgsmål: Hvorfor ChatGPT? SOCRadars forklaring handler mindre om værktøjerne end om, hvordan medarbejderne bruger dem.
Shadow AI skaber risiko
Shadow AI er ethvert AI-værktøj, som medarbejderne bruger uden virksomhedens godkendelse eller viden. Medarbejderne bringer shadow AI ind i virksomhedens netværk, når deres virksomhedskonti er begrænsede, eller når de værktøjer, de har, ikke er effektive nok til den opgave, de skal løse.
En forsker hos SOCRadar udtaler:
»Vi læser ChatGPTs næsten totale dominans som et shadow-AI-signal, ikke som en dom over nogen leverandørs sikkerhed. ChatGPTs fordel ved at være først på markedet betyder, at det sandsynligvis har en størrelsesorden flere virksomhedsbrugere – mange af dem tilmelder sig med en arbejds-e-mail på en personlig enhed, uden for enhver politik. Det er præcis den gruppe, infostealere skraber. Claude og Gemini optræder næsten ikke, fordi langt færre medarbejdere endnu lydløst har oprettet konti hos dem – ikke fordi disse legitimationsoplysninger er sikrere at stjæle. I takt med at virksomheder begynder at tage andre assistenter i brug, forventer vi, at dette diagram udjævner sig.«
Så ChatGPTs sikkerhed er ikke årsagen til værktøjets fremtrædende plads i infostealer-logfilerne. ChatGPT ligger øverst på listen, fordi det har flest virksomhedsbrugere, og fordi så mange af dem bruger det uden for virksomhedens politik.
Medarbejdere kan også forsøge at omgå restriktive IT-politikker, der forhindrer dem i at vælge den hurtigste eller nemmeste løsning, men de kan også reelt ikke vide, hvilke politikker eller begrænsninger der gælder. Din virksomhed kan ikke beskytte konti, den ikke ved findes, eller forespørgsler, der er stillet uden for en virksomhedskonto.
Uanset hensigten overtræder medarbejderne din virksomheds politik for databrug og ender i stedet under OpenAIs forbrugerbetingelser, når de blander personlig og erhvervsmæssig AI-brug.
OpenAI siger, at de ikke træner på forretningsdata, men når en medarbejder handler uden for virksomhedens retningslinjer for acceptabel brug eller bruger en personlig konto til arbejdsformål, mister de kontrollen over disse data: Deres chatarkiv (herunder følsomme forretningsdata eller personligt identificerbare oplysninger (PII)) indsamles, logges og kan potentielt bruges til at træne OpenAIs modeller.
OpenAI kan dele forretningsdata med tredjeparter eller via app-integrationer: I 2025 lykkedes det hackere at bryde ind hos en af OpenAIs leverandører og stjæle data om erhvervskunder, herunder navne, e-mails, placeringer og systemdetaljer. Som amerikansk virksomhed kan OpenAI også tvinges til at dele data med den amerikanske regering i henhold til Patriot Act eller FISA, selv uden at give dig besked.
Sådan beskytter du din virksomhed mod shadow AI
Shadow AI opstår, når medarbejderne ikke har et værktøj, de må bruge, eller et, der er godt nok. Så den første løsning er at give dem et.
Lumo, som er udviklet af Proton, giver dit team et godkendt alternativ til personlige konti og holder forretningsdata private. Det gemmer ingen logfiler og træner ikke på forretnings- eller personsamtaler. Al gemt chathistorik er beskyttet af zero-access-kryptering, så ingen (ikke engang Proton) kan læse den.
Kryptering beskytter lagrede data, men den kan ikke hjælpe, hvis en angriber allerede er på medarbejderens enhed. For at lukke det hul kan du gøre følgende:
- Find de konti, du ikke kender. Tjek, om din virksomheds domæner allerede optræder i stealer-logfiler, og spørg teams, hvilke AI-værktøjer de faktisk bruger.
- Behandl et fund i en stealer-logfil som en endepunkthændelse. Hvis en medarbejders legitimationsoplysninger dukker op i en logfil, er enheden inficeret. Det er ikke nok at nulstille adgangskoden, for angriberens stjålne session er stadig aktiv, så tilbagekald aktive sessioner, og rens eller udskift maskinen.
- Sæt alle godkendte AI-værktøjer bag SSO med kortvarige sessioner. En stjålet cookie, der udløber om få timer, er langt mindre værd end en, der holder i uger.
- Lås API-nøgler ned. Giv dem kun de rettigheder, de har brug for, rotér dem regelmæssigt, og gem dem aldrig i note-apps eller delte dokumenter.
- Hold arbejdet væk fra ikke-administrerede enheder. Hvis medarbejderne har brug for AI på private enheder, skal de logge ind via virksomhedskonti, som du kan overvåge og tilbagekalde.
- Konfigurer monitorering af det mørke net. Den giver dig besked, når medarbejderes legitimationsoplysninger optræder i lækager, så du kan handle, før en angriber gør.
Dine medarbejdere vil bruge AI uanset hvad. Giv dem et alternativ til ChatGPT, der ikke gemmer logfiler, aldrig træner på dine data og låser hver gemt chat bag kryptering, som ikke engang Proton kan åbne.
