Jos olet epäröinyt jakaa omaa tietämystäsi tai asiakastietoja OpenAI:n tai Anthropicin kanssa, et ole ainoa. Tietojen yksityisyydestä on tullut ratkaiseva tekijä yrityksille, jotka valitsevat tekoälytoimittajaa. Fortune uutisoi(uusi ikkuna) tällä viikolla, että nolladatan säilytys (ZDR) on nyt se, mistä tekoälyinnovaation kärjessä olevat laboratoriot kilpailevat. ZDR:n lupaus on yksinkertainen: toimittaja käsittelee kehotteesi, palauttaa vastauksen eikä tallenna siitä merkintää. Käytännössä ZDR on kuitenkin varattu huipputason asiakkaille. Siihen liittyy myös poikkeuksia (niistä pian lisää), mikä tarkoittaa, että toimittaja voi sivuuttaa oman käytäntönsä muutamassa viikossa.

Miten tähän päädyttiin

Anthropic julkaisi 9. kesäkuuta tehokkaimmat mallinsa, Fable 5:n ja Mythos 5:n, joihin liittyy pakollinen 30 päivän säilytysvaatimus kaikelle tietoliikenteelle. Vaatimus koski kaikkia alustoja, joilla mallit toimivat, mukaan lukien AWS Bedrock ja Google Vertex AI, ja se sivuutti nollasäilytyksestä tehdyt sopimukset, jotka jotkin yritykset olivat jo allekirjoittaneet. Anthropic kertoi, että tietoja tarvittiin väärinkäytön havaitsemiseen, niitä ei käytettäisi kouluttamiseen ja ne poistettaisiin 30 päivän kuluttua “lähes kaikissa tapauksissa”.

Yritykset eivät nielleet sitä. Yhden päivän sisällä Microsoft rajoitti omien työntekijöidensä pääsyä Fableen(uusi ikkuna), kun sen lakimiehet tarkastelivat ehtoja. Nvidia rajoitti Anthropic-mallien käyttöä(uusi ikkuna) vähemmän arkaluonteisiin töihin ja turvautui sisäisesti omiin Nemotron-malleihinsa. Palantir kieltäytyi tarjoamasta Anthropic-malleja(uusi ikkuna) ohjelmistonsa kautta, kunnes Anthropic takaa peruuttamattoman nollasäilytyksen. Booz Allen Hamilton(uusi ikkuna), yhdysvaltalainen konsulttiyritys, joka tekee suuren osan työstään puolustus- ja tiedusteluviranomaisille, kielsi henkilöstöään käyttämästä kaupallista mallia omaan kyberturvallisuustyöhön.

Kuukautta myöhemmin Microsoftin toimitusjohtaja Satya Nadella(uusi ikkuna) ja Palantirin toimitusjohtaja Alex Karp(uusi ikkuna) varoittivat yrityksiä julkisesti nojautumasta huipputason tekoälyyn. “Maksat älykkyydestä käytännössä kahdesti”, Nadella sanoi, “ensin rahalla ja sitten jollakin vielä arvokkaammalla: omalla tietämyksellä, joka sinun on paljastettava, jotta siitä älykkyydestä on hyötyä”.

Toimittajat kilpailevat nyt vahinkojen korjaamisesta. 19. elokuuta OpenAI vahvisti täyden nolladatan säilytyksen(uusi ikkuna) kelpoisille yritys- ja API-asiakkaille huippumalleissaan. Se esitteli Private Safety Processing -ratkaisun, jossa kelpoisten asiakkaiden sisältö pysyy asiakkaan hallitsemassa infrastruktuurissa tai sijaitsee OpenAI:n infrastruktuurissa salattuna avaimilla, joita OpenAI ei hallitse. Automaattiset järjestelmät skannaavat sen ja palauttavat kapean signaalin, joka kuvaa toiminnan luokan ja vakavuuden.

1. syyskuuta Anthropic julkisti Enterprise Frontier Safeguards(uusi ikkuna) -ratkaisun eli EFS:n, joka tallentaa väärinkäytön valvontatiedot asiakkaan omaan pilvitiliin asiakkaan omilla salausavaimilla sen sijaan, että ne tallennettaisiin Anthropicin tilille. EFS ei ollut saatavilla julkistuksen yhteydessä, ja se otetaan käyttöön vaiheittain myöhemmin tänä syksynä Enterprise-tilauksissa. Sillä välin asiakkaat, jotka Anthropic katsoo kelpoisiksi, saavat ZDR:n Fableen väliaikaisratkaisuna.

Molemmat korjaukset säilyttävät valvonnan. Se, missä tallenteet sijaitsevat ja kuka voi lukea niitä, on ehkä muuttunut, mutta kumpikaan tekoälylaboratorio ei ole sitoutunut poistamaan tallenteita.

Miksi tietojen säilytyksestä tuli kynnyskysymys

Yritykset, jotka ottivat yritystekoälyn käyttöön, hyväksyivät säilytysehdot sillä oletuksella, että niiden tietoja säilytettäisiin vain lyhyen aikaa, käytettäisiin ainoastaan väärinkäytön havaitsemiseen eikä koskaan kouluttamiseen. Neljä asiaa horjutti tätä oletusta.

Tuomioistuin voi sivuuttaa poistolupauksen. Toukokuussa 2025 New York Timesin kanteessa(uusi ikkuna) annettu säilytysmääräys pakotti OpenAI:n säilyttämään ChatGPT:n ja API:n vastauslokit toistaiseksi, mukaan lukien poistetut keskustelut ja maksullisen Team-tilauksen keskustelut. Määräys kesti noin neljä kuukautta, ja osa näistä tiedoista on edelleen tallessa. API-asiakkaisiin, joilla oli ZDR, se ei vaikuttanut, koska heidän tietojaan ei koskaan tallennettu. Mutta kun toimittaja kerran säilyttää kopion, tuomioistuin päättää, miten kauan se on olemassa.

Yhdysvaltain lainsäädäntö ulottuu tietoihisi, sijaitsevatpa ne missä tahansa. CLOUD Act -lain nojalla Yhdysvaltain viranomaiset voivat velvoittaa yhdysvaltalaisen yrityksen luovuttamaan hallussaan, säilytyksessään tai määräysvallassaan olevat tiedot, vaikka ne sijaitsisivat eurooppalaisessa datakeskuksessa. Yhdysvaltalaisen toimittajan tarjoama EU:n datan säilytyspaikka muuttaa sitä, missä tietosi säilytetään, mutta ei sitä, mikä hallitus voi vaatia niitä. Kumppanit ja alihankkijat ovat osa tätä ongelmaa, eivät sen alaviite: Anthropicin 30 päivän sääntö koski myös AWS:ää ja Google Cloudia, ja OpenAI kertoo, että erikoistuneet kolmannen osapuolen alihankkijat voivat käyttää keskusteluja tuen, väärinkäytöstutkintojen ja lakisääteisten velvoitteiden hoitamiseen. Asiakkaan hallussa olevat salausavaimet rajoittavat sitä, mitä pilvipalveluntarjoaja voi luovuttaa, mutta ne eivät poista palveluntarjoajaa Yhdysvaltain lainkäyttövallan piiristä.

FBI voi myös antaa National Security Letter -kirjeitä ilman tuomarin hyväksyntää. Niissä vaaditaan tilaaja- ja tapahtumatietoja eli sitä, kuka palvelua käytti, milloin ja kuinka paljon, ei keskustelujen sisältöä. Niihin liittyy yleensä vaitiolomääräys, joten toimittajaa voidaan kieltää kertomasta sinulle. Siksi metatiedoilla on merkitystä, vaikka sisältö olisi poistettu.

Yhdysvaltain hallitus voi myös yksinkertaisesti kytkeä mallin pois päältä. Kolme päivää 9. kesäkuuta tapahtuneen julkaisun jälkeen Yhdysvaltain kauppaministeriön kirje kielsi Fable 5:n ja Mythos 5:n käytön muilta kuin Yhdysvaltain kansalaisilta. Anthropic mitätöi asiakkaiden käyttöoikeudet maailmanlaajuisesti, kunnes rajoitukset poistuivat noin 30. kesäkuuta. Noin kolmen viikon ajan markkinoiden kyvykkäin malli ei ollut saatavilla Yhdysvaltojen ulkopuolella, koska yhdysvaltalainen viranomainen päätti niin. Mikään tietojenkäsittelyä koskeva ehto, oli se miten hyvin muotoiltu tahansa, ei suojaa siltä. Saatavuus on myös oikeudellinen riski, ja eurooppalaiset ostajat ovat alkaneet suhtautua siihen sellaisena: tänä vuonna julkaistussa Protonin kyselyssä, johon vastasi 1 500 eurooppalaista liike-elämän johtajaa, 74 % kertoi pelkäävänsä, että yhdysvaltalainen viranomainen voisi määrätä toimittajan katkaisemaan heidän käyttönsä.

Säilytyksestä tuli käytön hinta. ZDR-sopimus, jonka yritys oli neuvotellut, ei suojannut sitä mallissa, jota se halusi eniten käyttää. Asiakassalaisuuden tai toimialan säädösten sitomat yritykset joutuivat valitsemaan parhaan mallin ja omien velvoitteidensa välillä.

Ero, joka kannattaa pitää mielessä: “emme kouluta sillä” ei ole sama asia kuin “emme opi siitä”. Toimittaja, joka säilyttää kehotteesi, voi silti tutkia niitä: sitä, mitkä tehtävät automatisoit ja miltä työnkulkusi näyttävät. Fortunen haastattelemat turvallisuusasiantuntijat sanovat, että tekoälyyritykset voisivat käyttää tällaisia oivalluksia tulevien tuotteidensa parantamiseen ilman, että ne kouluttaisivat suoraan tiedoilla. Se voisi auttaa toimittajaa rakentamaan jotain, joka kilpailee tuotteesi kanssa.

Kaikki poikkeukset nollasäilytyksessä

Otsikkoluku on harvoin koko käytäntö. Lue säilytysehdot, niin samat poikkeukset toistuvat yhä uudelleen.

  • Väärinkäytön valvonta. Useimmat tekoäly-API:t säilyttävät kehotteet ja tulosteet oletusarvoisesti, jotta ne voivat skannata väärinkäyttöä, yleensä noin 30 päivän ajan, joskus niin, että ihmistarkastajat voivat lukea ne. Väärinkäytön valvonta oli juuri se peruste Anthropicin 30 päivän säännölle(uusi ikkuna), ja siksi ZDR:ää on haettava erikseen. Tämänhetkiset julkistetut oletusarvot: OpenAI API 30 päivää väärinkäytön valvontaan; Azure OpenAI 30 päivää Microsoftin ympäristössä, ja ihmistarkastelu rajoittuu jo merkittyyn sisältöön ja se voidaan poistaa vain hyväksymällä muutettu väärinkäytön valvonta, mikä edellyttää yrityssopimusta; Googlen maksullinen Gemini Developer API 55 päivää oletusarvoisesti, säädettävissä 7, 14 tai 28 päivään, kun taas Vertex AI säilyttää 30 päivää. Luku riippuu siitä, mitä kautta itse asiassa ostat.
  • Merkityt keskustelut. Jos automaattinen luokittelija päättää, että keskustelu rikkoo käyttökäytäntöä, säilytysaika muuttuu. Anthropicin julkistamien ehtojen mukaan rikkomuksiksi merkityt syötteet ja tulosteet voidaan säilyttää jopa kaksi vuotta ja niihin liitetyt luottamus- ja turvallisuusluokittelun pisteet jopa seitsemän vuotta. Luokittelijat tekevät virheitä: omaa puolustustaan koetteleva tietoturvatiimi tai kemiaa tiedusteleva tutkija voi laukaista yhden. Säilytyskäytännöt eivät yleensä lupaa kertoa sinulle, kun niin tapahtuu.
  • Tietoja tiedoistasi. Vaikka itse keskustelu poistettaisiin, sitä koskevat tallenteet voivat jäädä jäljelle: luokittelijan pisteet, tili- ja käyttäjätunnisteet, aikaleimat, käyttömäärät ja se, mitä työkaluja tai liittimiä kutsuttiin. Se riittää rakentamaan yksityiskohtaisen kuvan siitä, miten yrityksesi toimii. Se on myös juuri sellainen tallenne, jota National Security Letter -kirjeellä voidaan vaatia.
  • Palautepainikkeet. Peukku ylös tai alas(uusi ikkuna) lähettää mukanaan koko keskustelun. Anthropic säilyttää palautteen tai vikailmoitusten kautta lähetetyt tiedot viisi vuotta.
  • Tiedostot, muisti ja agentit. ZDR kattaa yleensä mallikutsun, ei sen ympärille rakennettuja ominaisuuksia. Lähetetyt tiedostot, vektorivarastot, muisti, tallennetut keskustelut, liittimet ja agentti-istunnot säilytetään, kunnes poistat ne. Esimerkiksi Anthropicin oma käytäntö sulkee pois palvelut, “joiden säilytys on pidempi ja sinun hallinnassasi”, kuten sen Files API.
  • Henkilökohtaiset tilit. Jos henkilöstö käyttää tekoälyä henkilökohtaisilla tilauksilla, yrityksesi tiedot kuuluvat kuluttajaehtojen piiriin. Loppuvuodesta 2025 päivitettyjen kuluttajaehtojen mukaan Anthropicin käyttäjien keskustelut, jotka he sallivat käytettäväksi kouluttamiseen, säilytetään jopa viisi vuotta.

Poistolupaukset päättyvät lähes aina poikkeuksiin turvallisuustutkintojen ja lakisääteisten velvoitteiden vuoksi: “lähes kaikissa tapauksissa” -lausekkeeseen. Juuri näissä poikkeuksissa tietosi säilyvät pisimpään.

Ehdot itsessään ovat riski

Anthropic on muuttanut käytäntöään: sen uusimmat mallit toimitetaan ilman Fableen liittyvää säilytysvaatimusta, ja EFS on tulossa. Mutta kaikki nämä muutokset osoittavat, että toimittaja voi muuttaa ehtoja yksipuolisesti ja perua kaikki aiemmin tekemänsä sopimukset.

Käyttämäsi tekoälytoimittaja päättää ehdoista, joiden mukaan tietojasi käsitellään, ja se voi kirjoittaa ne uudelleen milloin haluaa.

Siksi jotkin yritykset ovat päättäneet pitää arkaluonteisen tekoälytyön omana työnään. Fortunen raportin mukaan Fable-julkistuksen jälkeen tietoturvaohjelmistoyritys Cinder havaitsi piikin tavallisten yritysten kyselyissä siitä, miten avoimia malleja voi ajaa itse.

Tällaisen monimutkaisen infrastruktuurin haltuunotto on kuitenkin yhä harvinaista. Menlo Ventures(uusi ikkuna) arvioi, että avoimen lähdekoodin mallien osuus yritysten LLM-käytöstä oli 11 % loppuvuonna 2025, kun se vuotta aiemmin oli 19 %. Ja se oli ennen tämän kesän vastareaktiota.

Yritykset tietävät, että kun ne ajavat mallia itse, tietoturvasta tulee niiden oma vastuu. Harva yritys pystyy ottamaan sen taakan harteilleen.

Viisi kysymystä tekoälytoimittajallesi

Aloita kartoituksella: listaa kaikki käytössä olevat tekoälytyökalut ja merkitse, missä tasossa ja millä tilillä, yrityksen vai henkilökohtaisella, kukin henkilö on. Kysy sitten jokaiselta toimittajalta:

  1. Mitä tarkalleen säilytetään meidän tasossamme ja mitkä mallit ja ominaisuudet se kattaa? Kysy, kattaako ZDR myös uudet mallit nykyisten lisäksi ja kattaako se lähetetyt tiedostot, muistin, liittimet, agentit ja palautteen, eikä vain perus-API-kutsua.
  2. Mitä väärinkäytön valvonta säilyttää, miten kauan, ja pidentääkö merkintä sitä? Kysy, kuka tarkastaa merkityn sisällön, voiko ihminen lukea sitä ja kerrotaanko sinulle, kun jokin keskustelusi merkitään.
  3. Mitä jää jäljelle, kun keskustelu poistetaan? Kysy luokittelijan pisteistä, metatiedoista, kumppanien ja alihankkijoiden hallussa olevista lokeista ja varmuuskopioista.
  4. Kuka voi käyttää säilytettyjä tietoja ja mitkä hallitukset voivat vaatia niitä? Kysy, voivatko työntekijät ja alihankkijat lukea niitä. Kysy, onko toimittaja tai jokin sen pilvipalveluntarjoajista CLOUD Act -lain alainen riippumatta siitä, missä tietosi säilytetään. Kysy, ilmoitetaanko sinulle haasteesta tai oikeudellisesta säilytysvelvoitteesta ja julkaiseeko toimittaja, kuinka monta viranomaispyyntöä se vastaanottaa, mukaan lukien National Security Letter -kirjeet. New York Timesin määräys piti poistetut keskustelut maksullisissa Team-tilauksissa kuukausien ajan.
  5. Voitteko muuttaa näitä ehtoja ja kuinka paljon etukäteen ilmoittaen? Kysy, sitooko ZDR-sopimuksesi myös tulevia malleja. Kesäkuussa Anthropicin uusi säilytyssääntö sivuutti voimassa olevat sopimukset sen uusimpien mallien osalta heti niiden julkaisupäivästä lähtien.
  6. Mitä teette asiakkaille, jotka valitsivat tuotteenne juuri siksi, ettette säilytä mitään tietoja? Vastustajat suosivat nollasäilytystä samasta syystä kuin yrityksetkin. Anthropicin syyskuinen uhkatietoraportti kuvailee alustaa, joka tunneloi tietoliikennettä Yhdysvaltain infrastruktuurin kautta alueellisten estojen kiertämiseksi ja käytti ZDR-palvelua rajoitettujen tutkimuspyyntöjen reitittämiseen. Jokaisella uskottavalla toimittajalla, myös sellaisella, jolla ei ole mitään lokitettavaa, on oltava vastaus siihen, miten väärinkäyttö havaitaan, kun tarkasteltavaa arkistoa ei ole. Jos he eivät osaa sitä kuvata, se on huomionarvoista.

Valitse yksityinen tekoäly

Rakensimme Lumon yrityksille, jotka haluavat työskennellä yksityisesti ja joilla on hyvät vastaukset näihin kysymyksiin. Lumo ei pidä lokia keskusteluistasi, ja se on oletus jokaiselle käyttäjälle, ei huipputason sopimuksille varattu ominaisuus.

Tallennettavaksi valitsemasi keskustelut suojataan nollapääsyn salauksella, joten vain sinä voit purkaa niiden salauksen laitteellasi, eikä Proton voi lukea niitä, luovuttaa niitä eteenpäin tai tutkia niitä.

Lumo ei kouluta keskusteluillasi, ja se toimii avoimen lähdekoodin malleilla Protonin eurooppalaisissa datakeskuksissa Sveitsin ja EU:n lainsäädännön alaisuudessa Yhdysvaltain oikeudellisen prosessin sijaan. Ja koska Proton rahoitetaan tilauksilla eikä huippumallien rakentamisella, meillä ei ole mitään syytä oppia tiedoistasi.

Lue lisää Lumosta