Kun työntekijäsi käyttävät tekoälytyökaluja, joita et ole hyväksynyt, he luovat tilejä, joita et näe, joita et voi suojata etkä sulkea, ja jokaisessa niistä on yrityksesi tiedoista täyttynyt keskusteluhistoria.
SOCRadarin julkaiseman uuden tutkimuksen mukaan yli 80 000 organisaatiota maailmanlaajuisesti on havainnut työntekijöidensä tekoälykirjautumisten ilmestyneen tietojenvarkausohjelmien lokeihin. Tietojenvarkausohjelmat ovat haittaohjelmia, jotka keräävät salasanoja, istuntoevästeitä, taloudellisia ja henkilökohtaisia tietoja sekä keskustelulokeja saastuneilta laitteilta ja lähettävät ne takaisin hyökkääjälle. Tällaiset tiedot tekevät tietojenkalastelu- tai kiristyshaittaohjelmahyökkäyksistä huomattavasti tehokkaampia.
Tutkimuksen mukaan lokit keräsi tunnettu tietojenvarkausohjelma, joka on ollut myynnissä Telegramissa vuodesta 2022 lähtien. Koska haittaohjelma on ollut myynnissä vuosia, on mahdotonta tietää, kuinka moni rikollinen on käyttänyt sitä ja miten he tartuttivat ihmisten laitteita: tiedämme vain, että he ovat kohdistaneet hyökkäyksiä laitteisiin, joilla on yritystason käyttöoikeudet, ja kaapanneet niiden Claude-istuntoja. Yrityskäyttäjät huomasivat, että heidän maksullinen käyttönsä oli tyhjennetty yön aikana, kun kyberrikolliset olivat päässeet sisään.
SOCRadarin tutkimus osoittaa, että tekoälyn istunnon kirjautumistiedot ovat hyökkääjille äärimmäisen arvokkaita. Yksi ainoa tekoälykirjautuminen voi avata “haettavan arkiston, suoritusmoottorin, laskutettavan resurssin ja henkilöllisyyden – ja varastettu istunto luovuttaa ne kaikki ilman salasanakehotetta”, kuten raportissa todetaan. Rikolliselle tämä on kultakaivos.
Huolestuttava johtopäätös yrityksille, jotka ottavat tekoälyn käyttöön juuri nyt, on, että nämä kirjautumistiedot eivät vuoda tekoälyalustojen oman tietoturvan takia. Ne vuotavat kahdesta vähemmän ilmeisestä syystä: tekoälytyökaluja käyttävien työntekijöiden valtava määrä ja se, että yhä suurempi osa tästä käytöstä tapahtuu IT-osaston valvonnan ulkopuolella.
Mitä tutkimus paljastaa?
Kaiken kaikkiaan raportti osoittaa, että tekoälypalvelujen kirjautumistietoja esiintyy tietojenvarkausohjelmien lokeissa merkittäviä määriä. Keskeiset havainnot ovat:
- Yli 1 000 000 tekoälypalveluihin yhdistettyä tietuetta paljastui 80 000 yksilölliseltä yritysverkkotunnukselta.
- Tästä joukosta varmistettiin otos, jossa 482 organisaatiota tunnistettiin suuriksi yrityksiksi, pääosin Pohjois-Amerikassa – 68 % niistä on miljardiluokan organisaatioita.
- Teknologia-alan yritykset muodostavat suurimman ryhmän: 144 yritystä ja 40 % tietueista.
- Nämä 482 organisaatiota kattavat 5 434 lokitietuetta, jotka liittyvät 1 500 yrityssähköpostiosoitteeseen.
- Altistuminen on tuoretta: 295:llä näistä 482 organisaatiosta on tullut esiin tietojenvarkausohjelmien lokitietueita viimeisten 90 päivän aikana.
- ChatGPT esiintyi 358:n 482 organisaation lokeissa ja noin 90 %:ssa tietueista, ja sen jälkeen tulivat Zapier, Notion, Hugging Face, Replit, Lovable ja ElevenLabs.
Tämä viimeinen tilasto herättää ilmeisen kysymyksen: miksi ChatGPT? SOCRadarin selitys liittyy vähemmän itse työkaluihin kuin siihen, miten työntekijät niitä käyttävät.
Varjotekoäly luo riskin
Varjotekoäly tarkoittaa mitä tahansa tekoälytyökalua, jota työntekijät käyttävät ilman yrityksensä hyväksyntää tai tietämättä. Työntekijät tuovat varjotekoälyä yritysverkkoihinsa, kun heidän yritystilinsä ovat rajallisia tai käytettävissä olevat työkalut eivät ole riittävän tehokkaita tehtävään, jota he suorittavat.
SOCRadarin tutkija kommentoi:
“Luemme ChatGPT:n lähes täydellistä valta-asemaa varjotekoälysignaalina, emme tuomiona minkään toimittajan tietoturvasta. ChatGPT:n edelläkävijäetu tarkoittaa, että sillä on todennäköisesti suuruusluokkaa enemmän yrityskäyttäjiä – monet heistä rekisteröityvät työsähköpostilla henkilökohtaisella laitteella, kaikkien käytäntöjen ulkopuolella. Juuri tätä joukkoa tietojenvarkausohjelmat keräävät. Claude ja Gemini eivät juuri esiinny, koska huomattavasti harvempi työntekijä on vielä hiljaa luonut niihin tilejä – ei siksi, että niiden kirjautumistiedot olisivat turvallisempia varastaa. Kun yritykset ottavat muita avustajia käyttöön yhtä laajasti, odotamme tämän kaavion tasaantuvan.”
ChatGPT:n tietoturva ei siis ole syypää työkalun näkyvyyteen tietojenvarkausohjelmien lokeissa. ChatGPT on listan kärjessä, koska sillä on eniten yrityskäyttäjiä ja koska niin moni heistä käyttää sitä yrityksen käytäntöjen ulkopuolella.
Työntekijät voivat myös yrittää kiertää rajoittavia IT-käytäntöjä, jotka estävät heitä valitsemasta nopeinta tai helpointa vaihtoehtoa, mutta he eivät välttämättä myöskään tiedä, mitä käytäntöjä tai rajoituksia on voimassa. Yrityksesi ei voi suojata tilejä, joiden olemassaolosta se ei tiedä, eikä yritystilin ulkopuolella tehtyjä kyselyitä.
Aikomuksista riippumatta, kun työntekijät yhdistävät henkilökohtaisen ja työhön liittyvän tekoälyn käytön, he rikkovat yrityksesi tietojenkäyttökäytäntöjä ja päätyvät sen sijaan OpenAI:n kuluttajaehtojen alaisiksi.
OpenAI kertoo, ettei se kouluta mallejaan yritystiedoilla, mutta kun työntekijä toimii yrityksen hyväksyttävän käytön ohjeiden ulkopuolella tai käyttää henkilökohtaista tiliä yritystarkoituksiin, hän menettää hallinnan näihin tietoihin: hänen keskusteluarkistonsa (mukaan lukien arkaluonteiset yritystiedot tai henkilökohtaisesti tunnistettavat tiedot (PII)) kerätään, kirjataan lokeihin ja sitä voidaan mahdollisesti käyttää OpenAI:n mallien kouluttamiseen.
OpenAI voi jakaa yritystietoja kolmansille osapuolille tai sovellusintegraatioiden kautta: vuonna 2025 hakkerit onnistuivat murtautumaan OpenAI:n kumppanin järjestelmiin ja varastamaan yritysasiakkaiden tietoja, kuten nimiä, sähköposteja, sijainteja ja järjestelmätietoja. Yhdysvaltalaisena yrityksenä se voidaan myös velvoittaa luovuttamaan tietoja Yhdysvaltain hallitukselle Patriot Actin tai FISA:n nojalla, ilman että sinulle ilmoitetaan.
Näin suojaat yrityksesi varjotekoälyltä
Varjotekoälyä syntyy, kun työntekijöillä ei ole työkalua, jota he saavat käyttää, tai joka olisi riittävän hyvä. Siksi ensimmäinen korjausliike on antaa heille sellainen.
Lumo, jonka Proton on rakentanut, tarjoaa tiimillesi hyväksytyn vaihtoehdon henkilökohtaisille tileille ja pitää yritystiedot yksityisinä. Se ei pidä lokeja eikä kouluta mallejaan yritys- tai henkilökohtaisilla keskusteluilla. Kaikki tallennettu keskusteluhistoria on suojattu nollapääsyn salauksella, joten kukaan, ei edes Proton, voi lukea sitä.
Salaus suojaa tallennettuja tietoja, mutta siitä ei ole apua, jos hyökkääjä on jo työntekijän laitteella. Tämän aukon sulkemiseksi toimi näin:
- Etsi tilit, joista et tiedä. Tarkista, esiintyvätkö yrityksesi verkkotunnukset jo varkausohjelmien lokeissa, ja kysy tiimeiltä, mitä tekoälytyökaluja ne todella käyttävät.
- Kohtele varkausohjelmalokissa näkyvää osumaa päätepistetapauksena. Jos työntekijän kirjautumistiedot ilmestyvät lokiin, laite on saastunut. Pelkkä salasanan vaihtaminen jättää hyökkääjän varastaman istunnon voimaan, joten mitätöi aktiiviset istunnot ja puhdista tai vaihda kone.
- Laita jokainen hyväksytty tekoälytyökalu SSO:n taakse lyhytikäisillä istunnoilla. Varastettu eväste, joka vanhenee tunneissa, on paljon arvottomampi kuin sellainen, joka kestää viikkoja.
- Suojaa API-avaimet. Rajaa niiden oikeudet vain tarpeelliseen, kierrätä niitä säännöllisesti äläkä koskaan tallenna niitä muistiinpanosovelluksiin tai jaettuihin asiakirjoihin.
- Pidä työ poissa hallitsemattomilta laitteilta. Jos henkilöstö tarvitsee tekoälyä henkilökohtaisilla laitteilla, vaadi heitä kirjautumaan sisään yritystilien kautta, joita voit valvoa ja mitätöidä.
- Määritä pimeän verkon valvonta. Se hälyttää, kun työntekijöiden kirjautumistietoja ilmestyy vuotoihin, jotta voit toimia ennen kuin hyökkääjä ehtii.
Työntekijäsi käyttävät tekoälyä joka tapauksessa. Tarjoa heille ChatGPT:n vaihtoehto, joka ei pidä lokeja, ei koskaan kouluta mallejaan tiedoillasi ja lukitsee jokaisen tallennetun keskustelun salauksen taakse, jota edes Proton ei voi avata.
