Når de ansatte bruker KI-verktøy du ikke har godkjent, oppretter de kontoer du ikke kan se, sikre eller stenge, og hver av dem har en samtalehistorikk full av bedriftsdata.

Ny forskning publisert av SOCRadar(nytt vindu) viser at mer enn 80.000 organisasjoner globalt har fått ansattes KI-pålogginger til å dukke opp i infostealer-logger. Infostealere er en type skadelig programvare som samler inn passord, øktinformasjonskapsler, finansielle og personlige data og samtalelogger fra infiserte enheter og sender dem tilbake til angriperen. Disse dataene gjør nettfisking eller ransomware-angrep langt mer effektive.

Ifølge forskningen ble loggene fanget opp av en velkjent infostealer som har vært til salgs på Telegram siden 2022. Siden den skadelige programvaren har vært til salgs i årevis, er det umulig å vite hvor mange kriminelle som har brukt den, og hvordan de infiserte folks enheter: det vi vet, er at de har rettet seg mot enheter med bedriftstilgang og kapret Claude-øktene deres. Bedriftsbrukere oppdaget at den betalte bruken deres var blitt tømt over natten etter at de kyberkriminelle hadde fått tilgang.

Forskningen fra SOCRadar viser at påloggingsinformasjon for KI-økter er ekstremt verdifull for angripere. En enkelt KI-pålogging kan låse opp «et søkbart arkiv, en utførelsesmotor, en fakturerbar ressurs og en identitet – og den stjålne økten overleverer alle sammen uten å be om passord», som rapporten formulerer det. For en kriminell er dette en gullgruve.

Det bekymringsfulle for bedrifter som tar i bruk KI i dag, er at denne påloggingsinformasjonen ikke lekker ut på grunn av sikkerheten til KI-plattformene selv. Den lekker ut på grunn av to mindre åpenbare faktorer: det enorme antallet ansatte som bruker KI-verktøy, og den voksende andelen av denne bruken som skjer utenfor IT-avdelingens kontroll.

Hva avslører forskningen?

Samlet sett viser rapporten at påloggingsinformasjon til KI-tjenester dukker opp i infostealer-logger i betydelige mengder. Hovedfunnene er:

  • Mer enn 1.000.000 poster knyttet til KI-tjenester ble avdekket på tvers av 80.000 unike bedriftsdomener.
  • Fra dette utvalget ble et tverrsnitt på 482 organisasjoner identifisert som store selskaper, hovedsakelig i Nord-Amerika – 68 % av dem er milliardselskaper.
  • Teknologiselskaper er den største gruppen, med 144 selskaper og 40 % av postene.
  • Disse 482 organisasjonene står for 5.434 loggposter knyttet til 1.500 e-postadresser til bedrifter.
  • Eksponeringen er nylig: 295 av de 482 organisasjonene har fått infostealer-loggposter avdekket de siste 90 dagene.
  • ChatGPT dukket opp i logger for 358 av 482 organisasjoner og i omtrent 90 % av postene, etterfulgt av Zapier, Notion, Hugging Face, Replit, Lovable og ElevenLabs.

Den siste statistikken reiser et åpenbart spørsmål: hvorfor ChatGPT? SOCRadars forklaring handler mindre om verktøyene enn om hvordan de ansatte bruker dem.

Skygge-KI skaper risiko

Skygge-KI er ethvert KI-verktøy ansatte bruker uten at bedriften har godkjent det eller vet om det. Ansatte tar i bruk skygge-KI på bedriftsnettverket når bedriftskontoene deres er begrenset, eller når verktøyene de har, ikke er effektive for oppgaven de skal utføre.

En forsker hos SOCRadar kommenterer:

«Vi leser den nesten totale dominansen til ChatGPT som et signal om skygge-KI, ikke som en dom over sikkerheten til noen enkelt leverandør. ChatGPTs fortrinn som først ute betyr at det sannsynligvis har en størrelsesorden flere bedriftsbrukere – mange av dem registrerer seg med en jobb-e-post på en privat enhet, utenfor enhver retningslinje. Det er nøyaktig denne gruppen infostealere høster inn. Claude og Gemini dukker så vidt opp fordi langt færre ansatte ennå har opprettet kontoer der i det stille – ikke fordi denne påloggingsinformasjonen er tryggere å stjele. Etter hvert som bedrifter begynner å ta i bruk andre assistenter i like stor grad, forventer vi at dette diagrammet jevner seg ut.»

Så sikkerheten til ChatGPT er ikke årsaken til at verktøyet er så framtredende i infostealer-loggene. ChatGPT topper listen fordi det har flest bedriftsbrukere, og fordi så mange av dem bruker det utenfor bedriftens retningslinjer.

Ansatte kan også forsøke å omgå restriktive IT-retningslinjer som hindrer dem i å velge den raskeste eller enkleste løsningen, men det kan også hende at de rett og slett ikke vet hvilke retningslinjer eller begrensninger som gjelder. Bedriften din kan ikke beskytte kontoer den ikke vet finnes, eller forespørsler som gjøres utenfor en bedriftskonto.

Uansett intensjon: når ansatte kombinerer personlig og bedriftsmessig KI-bruk, bryter de med bedriftens retningslinjer for databruk og havner i stedet under OpenAIs forbrukervilkår.

OpenAI sier at de ikke trener på bedriftsdata, men når en ansatt handler utenfor bedriftens retningslinjer for akseptabel bruk eller bruker en personlig konto til bedriftsformål, mister de kontrollen over disse dataene: samtalearkivet deres (inkludert sensitive bedriftsdata eller personidentifiserende informasjon (PII)) samles inn, logges og kan potensielt brukes til å trene OpenAIs modeller.

OpenAI kan dele bedriftsdata med tredjeparter eller via appintegrasjoner: i 2025 klarte hackere å trenge seg inn hos en av OpenAIs leverandører og stjele kundedata fra bedrifter, inkludert navn, e-postadresser, plasseringer og systemdetaljer. Som amerikansk selskap kan det også bli pålagt å dele data med den amerikanske regjeringen under Patriot Act eller FISA, selv uten å varsle deg.

Slik beskytter du bedriften mot skygge-KI

Skygge-KI oppstår når ansatte ikke har et verktøy de har lov til å bruke, eller et godt nok et. Så det første tiltaket er å gi dem ett.

Lumo, utviklet av Proton, gir teamet ditt et godkjent alternativ til personlige kontoer og holder bedriftsdata private. Det lagrer ingen logger og trener ikke på bedrifts- eller privatsamtaler. All lagret samtalehistorikk er beskyttet med nulltilgangskryptering, så ingen (ikke engang Proton) kan lese den.

Kryptering beskytter lagrede data, men hjelper ikke hvis en angriper allerede er på enheten til den ansatte. For å tette dette gapet, gjør følgende:

  • Finn kontoene du ikke vet om. Sjekk om bedriftens domener allerede dukker opp i stealer-logger, og spør teamene hvilke KI-verktøy de faktisk bruker.
  • Behandle et treff i stealer-logger som en endepunkthendelse. Hvis påloggingsinformasjonen til en ansatt dukker opp i en logg, er enheten infisert. Å bare tilbakestille passordet lar den stjålne økten til angriperen være aktiv, så tilbakekall aktive økter og rens eller bytt ut maskinen.
  • Sett alle godkjente KI-verktøy bak SSO med kortvarige økter. En stjålet informasjonskapsel som utløper i løpet av timer, er verdt langt mindre enn en som varer i uker.
  • Lås ned API-nøkler. Begrens dem til det de trenger, roter dem jevnlig, og lagre dem aldri i notatapper eller delte dokumenter.
  • Hold arbeid unna ustyrte enheter. Hvis de ansatte trenger KI på private enheter, må du kreve at de logger på via bedriftskontoer du kan overvåke og tilbakekalle.
  • Konfigurer overvåking av det mørke nettet. Den varsler deg når ansattes påloggingsinformasjon dukker opp i lekkasjer, slik at du kan handle før en angriper gjør det.

De ansatte kommer til å bruke KI uansett. Tilby dem et ChatGPT-alternativ som ikke lagrer logger, aldri trener på dataene dine og låser hver lagrede samtale bak kryptering som ikke engang Proton kan åpne.

Prøv Lumo for Business.