Kunstig intelligens (AI) > Er LLM-er sikre?
Er LLM-er sikre? AI-sikkerhetsrisikoer forklart
AI-assistenter har blitt hverdagsverktøy for arbeid, forskning og kommunikasjon. Men de samme systemene som gjør dem nyttige, gjør dem også til en sikkerhetsrisiko. Dette bør du vite om sikkerhetsrisikoene ved LLM-er og AI.
Hva er en LLM, og hvordan henger det sammen med AI og sikkerhet?
Kunstig intelligens omfatter dusinvis av typer programvare for maskinlæring, fra ansiktsgjenkjenning til oppdagelse av banksvindel til brettspill. Store språkmodeller (LLM-er) er en spesifikk type AI: De er motoren bak alle de største AI-assistentene du har hørt om, inkludert ChatGPT, Microsoft Copilot, Google Gemini og Protons egen Lumo.
En LLM lærer ved å behandle enorme mengder informasjon – bøker, artikler, dokumentasjon, kode og akademiske oppgaver – og finne mønstre i hvordan språket fungerer. Over tid blir den bedre til å forutsi hva som skal komme etterpå i en tekst, noe som gjør at den kan føre hele samtaler, oppsummere dokumenter eller skrive utkast til e-poster som høres ut som de er skrevet av en ekte person.
Siden LLM-er behandler så mye informasjon, og siden folk i økende grad deler sensitive personlige og profesjonelle detaljer med dem, er LLM-sikkerhet spesielt viktig for å sikre at konfidensielle data ikke blir stjålet eller lekket.
Hvor passer agentisk AI inn?
Tidligere var LLM-er begrenset til svar – du spurte om noe, og AI-en svarte. Agentisk AI går lenger. En AI-agent bruker fortsatt en LLM til å resonnere og kommunisere, men den kan også utføre handlinger: surfe på nettet, skrive og kjøre kode, sende meldinger, koble til eksterne apper og administrere filene dine. I stedet for å svare på et enkelt spørsmål, kan den jobbe seg gjennom en oppgave i flere trinn med lite menneskelig tilsyn.
Den ekstra kapasiteten fører med seg økt risiko. Når en AI kan handle uavhengig, er konsekvensene av at den blir lurt eller at noe går galt, langt mer alvorlige. Sikkerheten rundt agentisk AI er en av de raskest voksende bekymringene på feltet, nettopp fordi disse systemene i økende grad bygges inn i verktøy på arbeidsplassen, ofte med mer tilgang enn de egentlig trenger.
LLM-sikkerhet og de potensielle farene med AI
Sikkerhetsrisikoene med AI og LLM-er er så bekymringsverdige fordi de er integrert i selve grunnarkitekturen for hvordan disse verktøyene utformes og distribueres. Når du stiller en AI-assistent et personlig helsespørsmål, deler en forretningsstrategi eller diskuterer en juridisk situasjon, ender den informasjonen vanligvis opp på tjenere du ikke kontrollerer, og kan være underlagt lover eller standarder for oppførsel du kanskje ikke engang er klar over. LLM-sikkerhet er ikke noe bare IT-avdelinger trenger å tenke på; det er et praktisk problem for alle som bruker AI, enten det er til private eller profesjonelle formål.
De største sikkerhetsrisikoene med LLM og AI
LLM-er blir innebygd i stadig flere verktøy hver dag – men de fører fortsatt med seg flere sikkerhetsrisikoer som ikke er umiddelbart åpenbare.
De fleste AI-plattformer tar vare på ledetekstene dine, svarene og interaksjonsdataene som standard. Den informasjonen kan bli lest av selskapets ansatte, matet inn i fremtidig modelltrening, solgt til tredjeparter eller til og med utlevert til myndighetene. Når samtalene dine først havner på andres tjenere, har du lite du skulle ha sagt om hvordan disse dataene blir lagret, brukt eller delt.
De fleste AI-produkter består av komponenter bygget av forskjellige organisasjoner og selskaper, inkludert grunnmodeller, tillegg, API-er og datapipelines. Hvis noe i den forsyningskjeden blir kompromittert, blir alle brukere av det produktet berørt, ofte uten noen åpenbar indikasjon på at noe er galt.
LLM-er kan bringe til overflaten data det aldri var meningen at de skulle dele. Dette kan være informasjon hentet fra treningsdata, andre brukeres økter eller dine egne tidligere samtaler som AI-en fortsatt har tilgang til. I forretningssammenheng, der flere personer deler det samme AI-verktøyet og sensitive data flyter gjennom det samme systemet, kan disse lekkasjene forårsake alvorlig skade.
Siden agentiske AI-er har mulighet til å sende e-poster, kjøre kode eller få tilgang til filene dine, blir konsekvensene av at de blir manipulert betydelig større. En AI-agent med for mange tillatelser kan utføre handlinger på tvers av flere tilkoblede systemer, ofte før noen merker at noe er galt. Jo mer du lar en AI handle på dine vegne, desto viktigere er det at tilgangen til den er strengt kontrollert.
Ledetekst-injeksjon (prompt injection) er en av de mest utbredte AI-sikkerhetsrisikoene. Det fungerer ved å skjule skadelige instruksjoner i innholdet som mates inn i AI-en, for eksempel i en PDF-fil eller på en nettside, for å manipulere AI-agenter som kan handle autonomt. Disse instruksjonene overstyrer i stillhet AI-agentens oppførsel, noe som potensielt kan føre til at den lekker konfidensielle data, handler mot dine interesser eller produserer villedende resultater – alt mens alt virker normalt på overflaten.
Hvordan Lumo tilnærmer seg AI-sikkerhet annerledes
De fleste AI-assistenter er utformet for å gi plattformen maksimal innsikt i hvordan du bruker dem. Lumo er utformet for å gjøre det motsatte, slik at du får større kontroll og trygghet over hvordan dataene dine blir behandlet.
Ingen logger, noen gang
Lumos LLM-tjener behandler meldingen din og forkaster den i samme øyeblikk som et svar blir generert. Det finnes ingen logg over hva du spurte om, hva som ble svart, eller når. Ingen chatter i ren tekst lagres på tjeneren, noe som betyr at det ikke finnes noe som kan utsettes for brudd, stevnes eller misbrukes.
Meldingene dine krypteres før de forlater enheten din
Lumo bruker toveis asymmetrisk kryptering — kalt bruker-til-Lumo-kryptering (U2L) — for å beskytte meldingene dine under overføring. Den faktiske meldingen din kan kun leses av selve LLM-tjeneren, og bare så lenge det tar å generere et svar.
Samtalehistorikken er låst med nulltilgangskryptering
Etter at et svar er generert, lagres samtalen din med nulltilgangskryptering — beskyttet av en nøkkel som bare du har. Proton har aldri tilgang til den. Selv om Protons tjenere skulle bli fullstendig kompromittert, ville samtalehistorikken din forbli uleselig.
Modeller og kode med åpen kildekode lar eksperter verifisere Lumos sikkerhet
I motsetning til lukkede AI-verktøy som ChatGPT, Copilot og Gemini, kjører Lumo på modeller og kode med åpen kildekode, slik at hvem som helst kan undersøke arkitekturen vår for sårbarheter og verifisere at den kun gjør nøyaktig det vi hevder.
Ingen reklame eller datadeling
De fleste AI-assistenter er bygget på forretningsmodeller som avhenger av å samle inn og lagre dataene dine. Lumo er annerledes. Protons inntekter kommer fra abonnementer, ikke inntektsgenerering av data, så det er ingen insentiver til å loggføre samtalene dine, dele dem med tredjeparter eller bruke dem til å vise deg annonser.
Driftes i Europa, ikke underlagt amerikanske overvåkingslover
AI-verktøy bygget av amerikanske selskaper kan tvinges til å utlevere dataene dine under lover som CLOUD Act. Lumo kjører på Proton-kontrollerte tjenere i Europa, underlagt noen av verdens sterkeste personvernregler. Samtalene dine er utenfor rekkevidde for innsynsbegjæringer fra utenlandske myndigheter.
Bli med i et kryptert økosystem som holder deg sikker overalt
Lumo er en del av et økosystem med personvern i fokus som beskytter dataene dine med kraftig kryptering. Ingen kan se dataene dine bortsett fra deg og personene du velger å dele dem med – ikke en gang oss.
Opprett en gratis Lumo-konto, så låser du også opp tilgang til vår VPN(nytt vindu), e-post, kalender, skylagring, dokumentbehandler, regnearkbehandler, passordapp, videokonferanser og mer.
Over 100 millioner mennesker og bedrifter over hele verden stoler på Proton
Elemnta, Australia
50–200 ansatte
«Det er egentlig aktivitetsloggene som er viktige for meg, og den detaljerte kontrollen. Overgangen til å bruke Proton Pass har vært til stor nytte for oss.»
GILAI, Sveits
Administrerer IT for 1000+ ansatte
«Vi trengte en passordapp som var enkel å bruke for sluttbrukeren og enkel å administrere for administratoren. Jeg trengte ikke å lage noe spesifikk dokumentasjon, eller noen demo bortsett fra klargjøringen av kontoen, fordi det er veldig, veldig brukervennlig.»
Novalytica AG, Sveits
11–50 ansatte
«Innføringen var veldig enkel. Alle bruker det og det fungerer, og ingen ønsker å gå tilbake til å skrive passord for hånd på et ark eller i en notatbok.»
Morning
350 ansatte
«Jeg ville at brukeropplevelsen skulle være vakker. Jeg synes det er viktig at når du migrerer 300 eller 400 brukere, bør du velge en løsning som ikke er for vanskelig å bruke eller ubehagelig å se på. Jeg synes det er viktig for kommersielle team å ha noe brukervennlig. Det var tilfellet med Proton Pass.»
Bytt til en genuint sikker AI-assistent
AI-verktøy bygget av de største teknologiplattformene er utformet for å være nyttige, men ofte på bekostning av din sikkerhet og ditt personvern. Lumo gir deg en kapabel, kryptert LLM- og AI-assistent uten at det går på bekostning av sikkerheten.
Ofte stilte spørsmål om LLM-er og AI-sikkerhet
- Hva er de største AI-sikkerhetsrisikoene for vanlige brukere?
- Er Lumo trygt for konfidensielt eller sensitivt arbeid?
- Hva er de største farene med AI for bedrifter?
- Hvilke språk støtter Lumo?
