För varje prompt tar AI-laboratorier in allt mer av företagets data varje dag. Ditt enda skydd? Ett löst formulerat löfte om att inte träna på den.
En nyligen publicerad Lawfare-analys(nytt fönster) hävdar att när företag lämnar över sin data till några få mäktiga AI-laboratorier lär de dessa laboratorier hur de ska göra dem överflödiga. Författarna kallar detta för ersättning genom kunskapsinhämtning (RKA).
Det går inte att veta vad AI-laboratorier gör med företagets data i dag, men tre krafter samverkar: en i stort sett obegränsad makt att sätta villkoren, ett rättssystem som fortfarande brottas med vad ”träning” ens innebär, och både förmågan och incitamentet att konkurrera med sina egna kunder.
Ditt företag kan mycket väl föda besten som till slut slukar det helt.
Tränar AI-laboratorier på företagsdata?
De största AI-laboratorierna har gjort en samlad ansträngning för att försäkra företagsanvändare om att deras data är privat som standard:
- OpenAI hävdar att man inte tränar på indata eller utdata från ChatGPT för företagsanvändare.
- Anthropic hävdar att företagsdata som standard undantas från träning av Claudes modell.
- Microsoft hävdar att prompter, svar och data inte används för att träna Copilot.
- Google hävdar att Gemini inte tränar sin modell på företagsdata utan föregående tillstånd eller instruktion.
- X hävdar att interaktioner i Groks företagspaket inte förbättrar modellen, men att man tydligen kommer att använda sin egen medarbetardata från SpaceX i träningssyfte.
I praktiken är deras löften om att skydda användarnas integritet avsiktligt vaga och tunnare än de verkar:
- Centrala begrepp är löst definierade. Lawfare påpekar att OpenAIs företagsavtal definierar kundinnehåll som indata och utdata och sedan definierar dessa med orden ”input” och ”output”. Anthropics villkor utesluter träning av modeller på kundinnehåll utan att definiera vad träning innebär.
- Viss data kan falla utanför löftet. Mönster, metadata och sammanfattningar som en AI genererar men aldrig visar dig kanske inte räknas som indata eller utdata alls.
- ”Träning” är snävare än det låter. Att använda din data för att bygga testriktmärken, finjustera systemprompter eller träna separata säkerhetsverktyg kanske inte räknas.
- Villkoren kan ändras. Leverantörer förbehåller sig vanligtvis rätten att ändra dem, och varje nytt modellsläpp är en chans att återställa dem.
- Du kan inte kontrollera. Endast laboratoriet vet vad som ingår i träningen. Ett intrång skulle vara nästan omöjligt för dig att upptäcka. Protons grundare och vd Andy Yen har varnat för att när du väl har delat information med en AI kan du inte riktigt ta tillbaka den. Inom kort, hävdar han, skulle AI ”kunna känna dig bättre än du själv”.(nytt fönster) För ett företag är insatserna högre.
Vad företaget kan förlora
Det en AI lär sig om ditt företag är det som gör den konkurrenskraftig. Det vet Big Tech.
I ett ärende som pågick från 2019 till 2022 utredde Europeiska kommissionen Amazon för att ha använt icke-offentliga data från tredjepartssäljare för att styra sin egen detaljhandel, i praktiken genom att använda säljarnas egna data för att konkurrera med dem. Amazon åtog sig att sluta, och förbudet skrevs senare in i Digital Markets Act.
I vissa branscher står inte bara ett konkurrensförsprång på spel. Även regelefterlevnaden är i fara. Företag inom medicin och finans har en lagstadgad skyldighet att skydda känslig information enligt regler som HIPAA och GDPR. Dessa regler är tydliga när det gäller att skydda personuppgifter, men AI-branschen är så ny att en gråzon växer fram.
Och med AI nu inbyggt i mötesantecknare, e-post och vardagliga arbetsflöden berör det en mycket större del av företaget än när det höll till i ett chattfönster.
Vad AI-laboratorierna har att vinna
AI-laboratorier har både ekonomiska och konkurrensmässiga incitament att ta in så mycket data som möjligt.
AI-marknaden väntas fortsätta växa dramatiskt, och Gartner spekulerar i att AI kommer att beröra allt IT-arbete år 2030. Gartner prognostiserade också att AI-utgifterna skulle nå 2,5 biljoner USD år 2026, en ökning med 44 % jämfört med året innan. Med tanke på utmaningen att fortsätta utveckla intelligentare AI-modeller utan betydande träningsmaterial är det mer sannolikt att AI-företag börjar hitta sätt att dra nytta av sina företagskunder.
En exploderande efterfrågan tvingar AI-laboratorier att bli allt mer kreativa när det gäller hur de kan utveckla sina modeller. Och företagsdata är uppenbart värdefullt för dessa laboratorier: Google vann i augusti en budgivning på 10 miljoner USD för att köpa data från det konkursade flygbolaget Spirit Airlines. Enligt Association of Flight Attendants innehåller detta datapaket känsliga uppgifter om anställda. Dessa data skulle kunna tas in och användas för att träna Googles AI-modeller utan de anställdas samtycke.
OpenAI hävdar att man inte tränar på indata eller utdata från sina produkter för företagsanvändare. Men med tanke på det enorma värdet av dessa data för företag måste vi nu överväga AI-branschens rättsliga ställning när det gäller behandling av data.
Vi kan inte förlita oss på föreskrifter som kanske inte kommer
Kan föreskrifter skydda företagets data från de största AI-laboratorierna? För att förstå detta måste vi undersöka branschens ekonomiska och politiska verklighet.
USA dominerar AI. Enligt Stanfords Artificial Index Report drivs 59 noterbara modeller från USA, det största antalet av något land i världen. Denna dominans är viktig att notera; i mars släppte Vita huset ett nationellt policyramverk för reglering av AI. Det efterlyser att delstatliga lagar ersätts med ett federalt AI-policyramverk för att ”skydda amerikanska rättigheter, innovation och förhindra ett splittrat lapptäcke av statliga föreskrifter som skulle hämma [USA:s] nationella konkurrenskraft”. Ramverket noterar att delstatliga lagar som reglerar AI inte får tillåtas att ”agera i strid med USA:s nationella strategi för att uppnå global AI-dominans”.
Är det mer sannolikt att den amerikanska regeringen prioriterar enskilda företags rätt till dataintegritet, företag som kanske ligger utanför USA? Eller rätten att expandera sitt nationella AI-imperium? Europeiska företag kan helt enkelt inte garantera att amerikanska AI-verktyg sätter deras datasuveränitet först. Med de största AI-laboratorierna verksamma i USA väntar en brytpunkt vid horisonten.
Ett bättre val för företags-AI
I stället för att hoppas på föreskrifter eller försöka hålla jämna steg med integritetspolicyer har företag ett enklare och mer effektivt alternativ: att välja ett AI-verktyg byggt för integritet. Det finns utrymme för innovation utan utnyttjande. AI-verktyget du väljer bör förbli just det: ett AI-verktyg som hjälper dig, inte en konkurrent som du tränar för att ta din plats. Det bör sträva efter att fylla sin funktion och växa med tiden, utan att stjäla företagshemligheter.
Proton byggde Lumo för att möta detta behov. Utan incitament att samla in eller utnyttja användardata kan AI bli ett omvälvande verktyg för företag. Lumo för inga loggar över företagschattar, vilket skyddar dina data från tredje parter och statlig övervakning. Med en annonsfri affärsmodell och ingen finansiering från Big Tech eller riskkapital är Lumos enda incitament att erbjuda bästa möjliga företagssupport. Proton som företag styrs av Proton Foundation, vilket innebär att vi handlar i människors intresse, inte för industriell dominans.
Proton är baserat i Schweiz och omfattas även av stränga dataintegritetslagar och GDPR. Både koden och modellen är öppen källkod, så alla företag kan verifiera våra påståenden. Lumo är utformat för att göra exakt det AI borde göra: erbjuda hjälp utan utnyttjande. Att välja ett europeiskt alternativ till Big Techs AI-verktyg är det bästa sättet för ett företag att skydda sig mot oreglerade och opålitliga AI-laboratorier.
