For hvert prompt tar AI-laboratoriene inn mer av forretningsdataene dine hver dag. Din eneste beskyttelse? Et løst formulert løfte om ikke å trene på dem.
En fersk Lawfare-analyse(nytt vindu) hevder at når bedrifter overlater dataene sine til noen få mektige AI-laboratorier, lærer de disse laboratoriene hvordan de kan gjøre dem overflødige. Forfatterne kaller dette erstatning gjennom kunnskapstilegnelse (RKA).
Selv om det ikke er mulig å vite hva AI-laboratoriene gjør med forretningsdataene dine i dag, er tre krefter i sving: en i stor grad ukontrollert makt til å fastsette vilkårene, et rettssystem som fortsatt strever med hva «trening» egentlig betyr, og både evnen og insentivet til å konkurrere med sine egne kunder.
Bedriften din kan være i ferd med å fôre udyret som til slutt kan sluke den hel.
Trener AI-laboratoriene på bedriftsdata?
De største AI-laboratoriene har gjort en samlet innsats for å forsikre bedriftsbrukere om at dataene deres er private som standard:
- OpenAI hevder at de ikke trener på inndata eller utdata fra ChatGPT for bedriftsbrukere.
- Anthropic hevder at bedriftsdata som standard er utelukket fra trening av Claudes modell.
- Microsoft hevder at prompter, svar og data ikke brukes til å trene Copilot.
- Google hevder at Gemini ikke trener modellen sin på bedriftsdata uten forutgående tillatelse eller instruks.
- X hevder at interaksjoner på Grok-bedriftsabonnementer ikke forbedrer modellen deres, men vil tilsynelatende bruke egne ansattdata fra SpaceX til treningsformål.
I praksis er løftene deres om å beskytte brukernes personvern med vilje vage, og tynnere enn de ser ut:
- Sentrale begreper er vagt definert. Lawfare peker på at OpenAIs bedriftsavtale definerer kundens innhold som inndata og utdata, og deretter definerer disse ved hjelp av ordene «inndata» og «utdata». Anthropics vilkår utelukker å trene modeller på kundens innhold uten å definere hva trening betyr.
- Noen data kan falle utenfor løftet. Mønstre, metadata og sammendrag som en AI genererer, men aldri viser deg, regnes kanskje ikke som inndata eller utdata i det hele tatt.
- «Trening» er snevrere enn det høres ut. Å bruke dataene dine til å bygge testreferanser, finjustere systemprompter eller trene separate sikkerhetsverktøy regnes kanskje ikke med.
- Vilkårene kan endres. Leverandører forbeholder seg vanligvis retten til å endre dem, og hver nye modellutgivelse er en anledning til å tilbakestille dem.
- Du kan ikke sjekke det. Bare laboratoriet vet hva som går inn i treningen. Et brudd ville være nesten umulig for deg å oppdage.Proton-gründer og administrerende direktør Andy Yen har advart om at når du først har delt informasjon med en AI, kan du egentlig ikke ta den tilbake. Om ikke lenge, hevder han, vil AI «kunne kjenne deg bedre enn du kjenner deg selv.»(nytt vindu) For en bedrift er innsatsen høyere.
Hva bedriften din kan tape
Det en AI lærer om bedriften din, er nettopp det som gjør den konkurransedyktig. Det vet Big Tech.
I en sak som gikk fra 2019 til 2022, undersøkte EU-kommisjonen Amazon for å bruke ikke-offentlige data fra tredjepartsselgere til å informere sin egen detaljhandel – i praksis ved å bruke selgernes egne data til å konkurrere mot dem. Amazon forpliktet seg til å slutte med det, og forbudet ble senere skrevet inn i Digital Markets Act.
I noen bransjer står ikke bare konkurransefortrinnet på spill. Etterlevelse er også i faresonen. Bedrifter innen medisin og finans har en lovpålagt plikt til å beskytte sensitive opplysninger etter regler som HIPAA og GDPR. Disse reglene er tydelige når det gjelder sikring av personopplysninger, men AI-bransjen er så ny at det vokser frem et gråområde.
Og når AI nå er innebygd i møtereferatverktøy, e-post og daglige arbeidsflyter, berører den langt mer av virksomheten din enn da den holdt til i et chattevindu.
Hva AI-laboratoriene kan vinne
AI-laboratoriene har et økonomisk og konkurransemessig insentiv til å ta inn så mye data som mulig.
AI-markedet vil fortsette å vokse dramatisk, og Gartner spekulerer i at AI vil berøre alt IT-arbeid innen 2030. De anslår også at AI-utgiftene vil nå 2,5 billioner dollar i 2026, en økning på 44 % fra året før. Gitt utfordringen med å fortsette å utvikle mer intelligente AI-modeller uten betydelige treningsmaterialer, er det mer sannsynlig at AI-selskapene begynner å finne måter å tjene på bedriftskundene sine.
Eksploderende etterspørsel tvinger AI-laboratoriene til å bli stadig mer kreative når det gjelder hvordan de kan utvikle modellene sine. Og forretningsdata er åpenbart verdifulle for disse laboratoriene: Google vant et bud på 10 millioner dollar for å kjøpe data fra det konkursrammede flyselskapet Spirit Airlines i august. Ifølge Association of Flight Attendants inneholder denne datapakken sensitive ansattdata. Disse dataene kan tas inn og brukes til å trene Googles AI-modeller uten samtykke fra de ansatte.
OpenAI hevder at de ikke trener på inndata eller utdata fra produktene sine for bedriftsbrukere. Men når vi vet hvor enormt verdifulle disse dataene er for bedrifter, må vi nå vurdere AI-bransjens juridiske stilling når det gjelder behandling av data.
Vi kan ikke stole på regulering som kanskje ikke kommer
Kan regulering beskytte forretningsdataene dine mot de største AI-laboratoriene? For å forstå dette må vi se på de økonomiske og politiske realitetene i bransjen.
USA dominerer AI. Ifølge Stanfords Artificial Index Report opererer 59 bemerkelsesverdige modeller fra USA, det høyeste antallet i noe land i verden. Denne dominansen er viktig å merke seg; i mars la Det hvite hus frem et nasjonalt retningslinjerammeverk for regulering av AI. Det tar til orde for at lover på delstatsnivå erstattes av et føderalt AI-retningslinjerammeverk for å «beskytte amerikanske rettigheter og innovasjon og hindre et fragmentert lappeteppe av delstatsforskrifter som vil hemme [USAs] nasjonale konkurranseevne». Rammeverket bemerker at lover på delstatsnivå som regulerer AI, ikke må tillates å «handle i strid med USAs nasjonale strategi for å oppnå global AI-dominans».
Er det mer sannsynlig at USAs regjering vil prioritere personvernrettighetene til enkeltbedrifter, som kanskje befinner seg utenfor USA? Eller ekspansjonsrettighetene til sitt nasjonale AI-imperium? Europeiske bedrifter kan rett og slett ikke garantere at amerikanske AI-verktøy vil sette deres datasuverenitet først. Med de største AI-laboratoriene i USA er et vendepunkt i vente.
Et bedre valg for bedrifts-AI
I stedet for å håpe på regulering eller prøve å holde tritt med personvernerklæringer, har bedrifter et enklere og mer effektivt alternativ: å velge et AI-verktøy bygget for personvern. Det er rom for innovasjon uten utnyttelse. AI-verktøyet du velger, bør forbli nettopp det: et AI-verktøy som hjelper deg, ikke en konkurrent du trener opp til å ta plassen din. Det bør søke å oppfylle sin funksjon og utvikle seg over tid, uten å stjele forretningshemmeligheter.
Proton bygde Lumo for å dekke dette behovet. Uten insentiv til å samle inn eller utnytte brukerdata kan AI være et transformativt verktøy for bedrifter. Lumo fører ingen logger over bedriftssamtaler, og beskytter dataene dine mot tredjeparter og statlig overvåking. Med en annonsefri forretningsmodell og ingen finansiering fra Big Tech eller risikokapital, er Lumos eneste insentiv å gi best mulig støtte til bedrifter. Proton som virksomhet styres av Proton Foundation, noe som betyr at vi handler i folks interesse, ikke for industriell dominans.
Proton har base i Sveits og er i tillegg underlagt strenge personvernlover og GDPR. Både koden og modellen er åpen kildekode, slik at enhver bedrift kan verifisere påstandene våre. Lumo er laget for å gjøre nøyaktig det AI bør gjøre: gi hjelp uten utnyttelse. Å velge et europeisk alternativ til Big Techs AI-verktøy er den beste måten en bedrift kan beskytte seg mot uregulerte og upålitelige AI-laboratorier.
