Kunstig intelligens (AI) > Er LLM'er sikre?
Er LLM'er sikre? AI-sikkerhedsrisici forklaret
AI-assistenter er blevet hverdagsredskaber til arbejde, forskning og kommunikation. Men de samme systemer, der gør dem nyttige, gør dem også til en sikkerhedsrisiko. Her er, hvad De bør vide om sikkerhedsrisiciene ved LLM'er og AI.
Hvad er en LLM, og hvordan relaterer den sig til AI og sikkerhed?
Kunstig intelligens omfatter snesevis af typer software til maskinlæring, lige fra ansigtsgenkendelse til afsløring af banksvindel og brætspil. Store sprogmodeller (LLM'er) er en specifik type AI: De er motoren bag enhver stor AI-assistent, De har hørt om, herunder ChatGPT, Microsoft Copilot, Google Gemini og Protons egen Lumo.
En LLM lærer ved at behandle enorme mængder information – bøger, artikler, dokumentation, kode og akademiske artikler – og finde mønstre i, hvordan sprog fungerer. Over tid bliver den bedre til at forudsige, hvad der skal komme næst i enhver tekst, hvilket gør det muligt for den at føre hele samtaler, opsummere dokumenter eller udarbejde udkast til e-mails, der lyder som om, de er skrevet af et rigtigt menneske.
Da LLM'er behandler så meget information, og da folk i stigende grad deler følsomme personlige og professionelle detaljer med dem, er LLM-sikkerhed særlig afgørende for at sikre, at fortrolige data ikke bliver stjålet eller lækket.
Hvor passer agentisk AI ind?
Tidligere var LLM'er begrænset til svar – De spurgte om noget, og AI'en svarede. Agentisk AI går længere. En AI-agent bruger stadig en LLM til at ræsonnere og kommunikere, men den kan også udføre handlinger: surfe på webbet, skrive og køre kode, sende beskeder, forbinde til eksterne apps og administrere Deres filer. I stedet for blot at besvare et enkelt spørgsmål kan den arbejde sig igennem en opgave i flere trin med minimal menneskelig overvågning.
Den ekstra funktion medfører en øget risiko. Når en AI kan handle selvstændigt, er konsekvenserne af, at den bliver snydt eller begår fejl, langt mere alvorlige. Sikkerhed i forbindelse med agentisk AI er en af de hurtigst voksende bekymringer på feltet, netop fordi disse systemer i stigende grad integreres i arbejdspladsværktøjer, ofte med mere adgang, end de reelt har brug for.
LLM-sikkerhed og de potentielle farer ved AI
Sikkerhedsrisiciene ved AI og LLM'er er så bekymrende, fordi de er integreret i selve den grundlæggende arkitektur for, hvordan disse værktøjer designes og udrulles. Når De stiller en AI-assistent et personligt sundhedsspørgsmål, deler en forretningsstrategi eller taler om en juridisk situation, ender disse oplysninger typisk på servere, De ikke kontrollerer, og kan være underlagt lovgivning eller standarder for adfærd, som De måske ikke engang er klar over. LLM-sikkerhed er ikke kun noget, IT-afdelinger skal tænke på; det er et praktisk problem for alle, der bruger AI, uanset om det er til private eller professionelle formål.
De største sikkerhedsrisici ved LLM og AI
LLM'er indbygges i flere værktøjer hver dag – men de medfører stadig adskillige sikkerhedsrisici, som ikke er umiddelbart indlysende.
De fleste AI-platforme gemmer som standard Deres prompts, svar og interaktionsdata. Disse oplysninger kan blive læst af virksomhedens medarbejdere, brugt til fremtidig modeltræning, solgt til tredjeparter eller endda overdraget til myndighederne. Når først Deres samtaler lander på andres servere, har De ikke meget at skulle have sagt i forhold til, hvordan disse data lagres, bruges eller deles.
De fleste AI-produkter består af komponenter bygget af forskellige organisationer og virksomheder, herunder basismodeller, plugins, API'er og datapipeliner. Hvis noget i den forsyningskæde bliver kompromitteret, påvirkes enhver bruger af det pågældende produkt, ofte uden nogen synlig indikation af, at noget er galt.
LLM'er kan bringe data frem til overfladen, som det aldrig var meningen, de skulle dele. Dette kan være oplysninger fra træningsdata, andre brugeres sessioner eller Deres egne tidligere samtaler, som AI'en stadig har adgang til. I erhvervsmæssige indstillinger, hvor flere personer deler det samme AI-værktøj, og følsomme data flyder gennem det samme system, kan disse lækager forårsage alvorlig skade.
Eftersom agentiske AI'er har mulighed for at sende e-mails, køre kode eller få adgang til Deres filer, er risikoen ved, at de bliver manipuleret, betydeligt større. En AI-agent med for mange tilladelser kan udføre handlinger på tværs af flere forbundne systemer, ofte før nogen opdager, at noget er galt. Jo mere De lader en AI handle på Deres vegne, desto vigtigere er det, at dens adgang styres stramt.
Prompt injection er en af de mest udbredte AI-sikkerhedsrisici. Det fungerer ved at skjule ondsindede instruktioner i indhold, der fødes til AI'en, såsom i en PDF-fil eller på en webside, for at manipulere AI-agenter, der kan handle autonomt. Disse instruktioner tilsidesætter i al stilhed AI-agentens adfærd, hvilket potentielt kan få den til at lække fortrolige data, handle mod Deres interesser eller producere misvisende resultater – alt imens alt ser normalt ud på overfladen.
Hvordan Lumo griber AI-sikkerhed anderledes an
De fleste AI-assistenter er designet til at give platformen maksimal indsigt i, hvordan De bruger dem. Lumo er designet til at gøre det modsatte, hvilket giver Dem større kontrol og ro i sindet over, hvordan Deres data håndteres.
Ingen logfiler, nogensinde
Lumos LLM-server behandler Deres besked og kasserer den i samme øjeblik, som et svar genereres. Der findes ingen log over, hvad De spurgte om, hvad der blev svaret, eller hvornår. Ingen chats i klartekst gemmes på serveren, hvilket betyder, at der ikke er noget, der kan udsættes for databrud, stævnes eller misbruges.
Deres beskeder krypteres, før de forlader Deres enhed
Lumo bruger tovejs asymmetrisk kryptering — kaldet User-to-Lumo-kryptering (U2L) — til at beskytte Deres beskeder under overførsel. Deres faktiske besked kan kun læses af selve LLM-serveren, og kun i den tid, det tager at generere et svar.
Samtalehistorik er låst med nul-adgangs-kryptering
Efter at et svar er genereret, lagres Deres samtale ved hjælp af nul-adgangs-kryptering — beskyttet af en nøgle, som kun De har. Proton har aldrig adgang til den. Selvom Protons servere skulle blive fuldstændig kompromitteret, vil Deres samtalehistorik forblive ulæselig.
Open source-modeller og -kode lader eksperter verificere Lumos sikkerhed
I modsætning til lukkede AI-værktøjer som ChatGPT, Copilot og Gemini, kører Lumo på open source-modeller og -kode, så alle kan inspicere vores arkitektur for sårbarheder og verificere, at den kun gør præcis det, vi lover.
Ingen reklamer eller datadeling
De fleste AI-assistenter er bygget på forretningsmodeller, der afhænger af at indsamle og opbevare Deres data. Lumo er anderledes. Protons indtægter kommer fra abonnementer, ikke fra kommercialisering af data, så der er intet incitament til at logge Deres samtaler, dele dem med tredjeparter eller bruge dem til at vise Dem annoncer.
Hostet i Europa, ikke underlagt amerikansk overvågningslovgivning
AI-værktøjer bygget af amerikanske virksomheder kan tvinges til at udlevere Deres data i henhold til love som CLOUD Act. Lumo kører på Proton-kontrollerede serverer i Europa, underlagt nogle af verdens stærkeste beskyttelser af privatlivet. Deres samtaler er uden for rækkevidde af udenlandske regeringers anmodninger om aktindsigt.
Tilmeld Dem et krypteret økosystem, der holder Dem sikker overalt
Lumo er en del af et økosystem med privatlivet i højsædet, som beskytter Deres data med stærk kryptering. Ingen kan se Deres data undtagen Dem og de personer, De vælger at dele dem med — selv ikke os.
Opret en gratis Lumo-konto, og De vil også låse op for adgang til vores VPN(nyt vindue), e-mail, kalender, skylager, dokumentbehandler, regnearksbehandler, adgangskodeadministrator, videokonferencer med mere.
Hvad folk siger om Lumo
Det er det eneste sted, hvor nogen vil kunne se Deres samtaler.
@recant731
på X
Har lige anskaffet Lumo til at hjælpe med at planlægge et roadtrip med detaljerede ruter og budgetter til ophold og brændstof til min bil. @ProtonPrivacy gjorde mig allerede begejstret, og nu har @asklumo også gjort det.
@markruffalo
via Instagram-kommentar
Der findes andre chat-apps, De kan bruge, som faktisk er lige så gode, billigere eller mere private, og som ikke finansierer ondskab i verden. Man kommer til at tænke på Lumo fra ProtonMail
@banasnap.bsky.social
på Bluesky
Lovende præmis: En privatlivsorienteret AI er præcis, hvad det nuværende landskab manglede. Da de fleste tjenester er domineret af amerikanske og kinesiske virksomheder, udfylder en europæisk baseret mulighed, fra et team, der allerede er velfunderet i online privatliv, et tiltrængt hul. Ser frem til at prøve Lumo.
tintreack
på Reddit
Det her er ret fantastisk, og maskotten er ret nuttet. Jeg elsker virkelig brandingen her. Også tak som en visionær bruger, der er nødt til at bruge ChatGPT til sit arbejdsflow. Det kan jeg endelig slippe af med. Jeg har testet det af, det er ret fantastisk! Godt arbejde, team.
Skift til en virkeligt sikker AI-assistent
AI-værktøjer udviklet af de største teknologiplatforme er designet til at være nyttige, men ofte på bekostning af Deres sikkerhed og privatliv. Lumo giver Dem en kompetent, krypteret LLM- og AI-assistent uden nogen af de sikkerhedsmæssige kompromiser.
Ofte stillede spørgsmål om LLM'er og AI-sikkerhed
- Hvad er de største AI-sikkerhedsrisici for almindelige brugere?
- Er Lumo sikker til fortroligt eller følsomt arbejde?
- Hvad er de største farer ved AI for virksomheder?
- Hvilke sprog understøtter Lumo?
