När dina medarbetare använder AI-verktyg som du inte har godkänt skapar de konton som du inte kan se, skydda eller stänga av, och vart och ett har en chatthistorik full av företagsdata.

Ny forskning som publicerats av SOCRadar(nytt fönster) visar att fler än 80 000 organisationer världen över har fått sina medarbetares AI-inloggningar att dyka upp i infostealer-loggar. Infostealers är en typ av skadlig kod som samlar in lösenord, sessionscookies, ekonomiska och personliga uppgifter samt chattloggar från infekterade enheter och skickar tillbaka dem till angriparen. Dessa data gör attacker med nätfiske eller utpressningsprogram betydligt effektivare.

Enligt forskningen samlades loggarna in av en välkänd infostealer-skadlig kod som har varit till salu på Telegram sedan 2022. Eftersom den skadliga koden har varit till salu i flera år går det inte att veta hur många brottslingar som har använt den eller hur de infekterade människors enheter. Vad vi vet är att de har riktat in sig på enheter med åtkomst till företagsnätverk och kapat deras Claude-sessioner. Företagsanvändare märkte att deras betalda användning hade tömts över en natt när cyberbrottslingarna hade fått åtkomst.

SOCRadars forskning visar att inloggningsuppgifter för AI-sessioner är extremt värdefulla för angripare. En enda AI-inloggning kan låsa upp ”ett sökbart arkiv, en exekveringsmotor, en fakturerbar resurs och en identitet: den stulna sessionen överlämnar allt detta utan att något lösenord efterfrågas”, som rapporten uttrycker det. För en brottsling är detta en guldgruva.

Det oroande för företag som inför AI i dag är att dessa inloggningsuppgifter inte läcker på grund av säkerheten hos AI-plattformarna själva. De läcker på grund av två mindre uppenbara faktorer: det stora antalet medarbetare som använder AI-verktyg och den växande andelen av den användningen som sker utanför IT:s kontroll.

Vad visar forskningen?

Sammanfattningsvis konstaterar rapporten att inloggningsuppgifter för AI-tjänster förekommer i infostealer-loggar i betydande omfattning. De viktigaste slutsatserna är:

  • Mer än 1 000 000 poster anslutna till AI-tjänster avslöjades i 80 000 unika företagsdomäner.
  • I det urvalet identifierades ett tvärsnitt på 482 organisationer som större företag, de flesta i Nordamerika, och 68 % av dem är miljardföretag.
  • Teknikföretag är den största gruppen, med 144 företag och 40 % av posterna.
  • Dessa 482 organisationer står för 5 434 loggposter som är kopplade till 1 500 e-postadresser på företag.
  • Exponeringen är färsk: 295 av dessa 482 organisationer har fått loggposter från infostealers upptäckta under de senaste 90 dagarna.
  • ChatGPT förekom i loggar för 358 av 482 organisationer och i omkring 90 % av posterna, följt av Zapier, Notion, Hugging Face, Replit, Lovable och ElevenLabs.

Den sista siffran väcker en självklar fråga: varför ChatGPT? SOCRadars förklaring handlar mindre om verktygen än om hur medarbetarna använder dem.

Shadow AI skapar risker

Shadow AI är alla AI-verktyg som medarbetare använder utan företagets godkännande eller kännedom. Medarbetare tar in shadow AI i företagets nätverk när deras företagskonton är begränsade eller när verktygen de har inte är effektiva för uppgiften de utför.

En forskare på SOCRadar kommenterar:

”Vi tolkar ChatGPTs nästan totala dominans som en signal om shadow AI, inte som ett omdöme om någon leverantörs säkerhet. ChatGPTs försprång innebär att det sannolikt har en tiopotens fler företagsanvändare. Många av dem registrerar sig med en e-postadress från jobbet på en personlig enhet, utanför alla policyer. Det är precis den gruppen som infostealers skrapar. Claude och Gemini förekommer knappt eftersom betydligt färre medarbetare ännu har skapat konton hos dem i tysthet, inte för att deras inloggningsuppgifter är säkrare att stjäla. När företagens användning av andra assistenter kommer ikapp räknar vi med att diagrammet jämnas ut.”

Så ChatGPTs säkerhet är inte orsaken till att verktyget är så framträdande i infostealer-loggarna. ChatGPT toppar listan eftersom det har flest företagsanvändare och eftersom så många av dem använder det utanför företagets policyer.

Medarbetare kan också försöka kringgå restriktiva IT-policyer som hindrar dem från att välja det snabbaste eller enklaste alternativet, men de kan också helt enkelt inte känna till vilka policyer eller begränsningar som gäller. Ditt företag kan inte skydda konton som det inte vet finns, eller förfrågningar som görs utanför ett företagskonto.

Oavsett avsikt hamnar medarbetare som blandar privat och företagsmässig AI-användning i konflikt med företagets policyer för dataanvändning och omfattas i stället av OpenAIs konsumentvillkor.

OpenAI säger att man inte tränar på företagsdata, men när en medarbetare agerar utanför företagets riktlinjer för godtagbar användning eller använder ett personligt konto för affärsändamål förlorar medarbetaren kontrollen över dessa data: chattarkivet (inklusive känsliga företagsdata eller personligt identifierbar information (PII)) samlas in, loggas och kan användas för att träna OpenAIs modeller.

OpenAI kan dela företagsdata med tredje parter eller via appintegrationer: 2025 kunde hackare ta sig in hos en leverantör till OpenAI och stjäla kunddata från företag, inklusive namn, e-postadresser, platser och systemdetaljer. Som amerikanskt företag kan det också tvingas dela data med den amerikanska regeringen enligt Patriot Act eller FISA, även utan att meddela dig.

Så skyddar du företaget mot shadow AI

Shadow AI uppstår när medarbetare inte har ett verktyg de får använda, eller ett som är tillräckligt bra. Den första åtgärden är därför att ge dem ett.

Lumo, som utvecklats av Proton, ger teamet ett godkänt alternativ till personliga konton och håller företagsdata privat. Det sparar inga loggar och tränar inte på företagskonversationer eller personliga konversationer. All sparad chatthistorik skyddas av nollåtkomstkryptering, så ingen (inte ens Proton) kan läsa den.

Kryptering skyddar lagrade data, men hjälper inte om en angripare redan finns på medarbetarens enhet. För att täppa igen luckan kan du vidta följande åtgärder:

  • Hitta konton som du inte känner till. Kontrollera om företagets domäner redan förekommer i stealer-loggar och fråga teamen vilka AI-verktyg de faktiskt använder.
  • Behandla en träff i en stealer-logg som en slutpunktsincident. Om en medarbetares inloggningsuppgifter dyker upp i en logg är enheten infekterad. Att bara återställa lösenordet låter angriparens stulna session vara aktiv, så återkalla aktiva sessioner och rengör eller byt ut datorn.
  • Sätt varje godkänt AI-verktyg bakom SSO med kortlivade sessioner. En stulen cookie som löper ut inom några timmar är värd långt mindre än en som varar i veckor.
  • Lås ner API-nycklar. Begränsa dem till det de behöver, rotera dem regelbundet och lagra dem aldrig i anteckningsappar eller delade dokument.
  • Håll arbetet borta från ohanterade enheter. Om personalen behöver AI på personliga enheter kräver du att de loggar in via företagskonton som du kan övervaka och återkalla.
  • Konfigurera övervakning av dark web. Den varnar dig när medarbetares inloggningsuppgifter förekommer i läckor, så att du kan agera innan angriparen gör det.

Dina medarbetare kommer att använda AI hur som helst. Erbjud dem ett alternativ till ChatGPT som inte sparar några loggar, aldrig tränar på era data och låser varje sparad chatt bakom kryptering som inte ens Proton kan öppna.

Prova Lumo for Business.