Artificiële intelligentie (AI) > Zijn LLM's veilig?
Zijn LLM's veilig? Uitleg over AI-beveiligingsrisico's
AI-assistenten zijn alledaagse hulpmiddelen geworden voor werk, onderzoek en communicatie. Maar dezelfde systemen die hen nuttig maken, maken hen ook een risico voor de veiligheid. Dit is wat u moet weten over de beveiligingsrisico's van LLM's en AI.
Wat is een LLM en hoe houdt dit verband met AI en beveiliging?
Artificiële intelligentie omvat tientallen soorten software voor machine learning, van gezichtsherkenning tot de detectie van bankfraude en bordspellen. Grote taalmodellen (LLM's) zijn een specifiek type AI: ze zijn de motor achter elke grote AI-assistent waarvan u heeft gehoord, waaronder ChatGPT, Microsoft Copilot, Google Gemini en Lumo van Proton.
Een LLM leert door enorme hoeveelheden informatie te verwerken — boeken, artikelen, documentatie, code en academische papers — en patronen te vinden in hoe taal werkt. Na verloop van tijd wordt het beter in het voorspellen van wat er hierna moet volgen in een tekst, waardoor het volledige gesprekken kan voeren, documenten kan samenvatten of concepten van e-mails kan opstellen die klinken alsof ze door een echt persoon zijn geschreven.
Omdat LLM's zoveel informatie verwerken, en omdat mensen steeds vaker gevoelige persoonlijke en professionele gegevens met hen delen, is de beveiliging van LLM's uiterst cruciaal om te voorkomen dat vertrouwelijke gegevens worden gestolen of gelekt.
Welke rol speelt agentische AI hierin?
In het verleden waren LLM's beperkt tot reacties — u vroeg iets en de AI gaf antwoord. Agentische AI gaat verder. Een AI-agent gebruikt nog steeds een LLM om te redeneren en te communiceren, maar kan ook acties ondernemen: surfen op het web, code schrijven en uitvoeren, berichten verzenden, verbinding maken met externe apps en uw bestanden beheren. In plaats van een enkele vraag te beantwoorden, kan het een taak met meerdere stappen uitvoeren met weinig menselijk toezicht.
Die extra capaciteit brengt een groter risico met zich mee. Wanneer een AI zelfstandig kan handelen, zijn de gevolgen van misleiding of fouten veel ernstiger. De beveiliging van agentische AI is een van de snelst groeiende zorgen in het veld, juist omdat deze systemen steeds vaker worden ingebouwd in hulpmiddelen op de werkplek, vaak met meer toegang dan ze werkelijk nodig hebben.
LLM-beveiliging en de potentiële gevaren van AI
De beveiligingsrisico's van AI en LLM's zijn zo verontrustend omdat ze geïntegreerd zijn in de basisarchitectuur van hoe deze hulpmiddelen worden ontworpen en geïmplementeerd. Wanneer u een AI-assistent een persoonlijke gezondheidsvraag stelt, een zakelijke strategie deelt of een juridische situatie bespreekt, komt die informatie doorgaans terecht op servers die u niet beheert en kan deze onderworpen zijn aan wetten of gedragsnormen waarvan u wellicht niet eens op de hoogte bent. De beveiliging van LLM's is niet iets waar alleen IT-teams over na moeten denken; het is een praktisch probleem voor iedereen die AI gebruikt, of dat nu voor privé- of professionele doeleinden is.
Grootste beveiligingsrisico's van LLM's en AI
LLM's worden elke dag in meer hulpmiddelen ingebouwd — maar ze brengen nog steeds verschillende beveiligingsrisico's met zich mee
die niet meteen duidelijk zijn.
De meeste AI-platformen bewaren uw prompts, antwoorden en interactiegegevens standaard. Die informatie kan worden gelezen door medewerkers van het bedrijf, worden gebruikt voor toekomstige modeltraining, worden verkocht aan derden of zelfs worden overhandigd aan de autoriteiten. Zodra uw gesprekken op de servers van iemand anders belanden, heeft u weinig zeggenschap over hoe die gegevens worden opgeslagen, gebruikt of gedeeld.
De meeste AI-producten bestaan uit componenten die door verschillende organisaties en bedrijven zijn gebouwd, waaronder basismodellen, invoegtoepassingen, API's en datapipelines. Als er iets binnen die toeleveringsketen in gevaar wordt gebracht, heeft dit gevolgen voor elke gebruiker van dat product, vaak zonder enige duidelijke aanwijzing dat er iets mis is.
LLM's kunnen gegevens openbaar maken die ze nooit hadden mogen delen. Dit kan informatie zijn die is verkregen uit trainingsgegevens, sessies van andere gebruikers of uw eigen eerdere gesprekken waartoe de AI nog steeds toegang heeft. In zakelijke instellingen, waar meerdere mensen dezelfde AI-tool delen en gevoelige gegevens door hetzelfde systeem stromen, kunnen deze lekken ernstige schade veroorzaken.
Aangezien agentische AI's de mogelijkheid hebben om e-mails te verzenden, code uit te voeren of toegang te krijgen tot uw bestanden, worden de risico's van manipulatie aanzienlijk groter. Een AI-agent met te veel machtigingen kan acties ondernemen in meerdere verbonden systemen, vaak voordat iemand merkt dat er iets mis is. Hoe meer u een AI namens u laat handelen, hoe belangrijker het is dat de toegang ervan streng wordt gecontroleerd.
Prompt-injectie is een van de meest wijdverspreide AI-beveiligingsrisico's. Het werkt door kwaadaardige instructies te verbergen in inhoud die aan de AI wordt aangeboden, zoals in een pdf of webpagina, om AI-agents die autonoom kunnen handelen te manipuleren. Die instructies omzeilen geruisloos het gedrag van de AI-agent, wat er mogelijk toe kan leiden dat deze vertrouwelijke gegevens lekt, tegen uw belangen inhandelt of misleidende resultaten produceert — en dat alles terwijl aan de oppervlakte alles normaal lijkt.
Hoe Lumo AI-beveiliging anders aanpakt
De meeste AI-assistenten zijn ontworpen om het platform maximaal inzicht te geven in hoe u ze gebruikt. Lumo is ontworpen om het tegenovergestelde te doen, waardoor u meer controle en gemoedsrust krijgt over hoe uw gegevens worden behandeld.
Nooit logboeken
De LLM-server van Lumo verwerkt uw bericht en gooit het weg zodra er een antwoord is gegenereerd. Er is geen logboek van wat u hebt gevraagd, wat het antwoord was of wanneer. Er worden geen chats in tekst zonder opmaak op de server bewaard, wat betekent dat er niets kan worden gehackt, opgevraagd via een dagvaarding of misbruikt.
Uw berichten worden versleuteld voordat ze uw apparaat verlaten
Lumo maakt gebruik van bidirectionele asymmetrische versleuteling — User-to-Lumo (U2L)-versleuteling genoemd — om uw berichten tijdens de overdracht te beschermen. Uw feitelijke bericht is alleen leesbaar voor de LLM-server zelf, en alleen gedurende de tijd die nodig is om een antwoord te genereren.
Gespreksgeschiedenis is vergrendeld met zero-access-versleuteling
Nadat een antwoord is gegenereerd, wordt uw gesprek opgeslagen met behulp van zero-access-versleuteling — beschermd door een sleutel die alleen u bezit. Proton heeft hier nooit toegang toe. Zelfs als de servers van Proton volledig in gevaar zouden worden gebracht, zou uw gespreksgeschiedenis onleesbaar blijven.
Dankzij opensource-modellen en -code kunnen experts de beveiliging van Lumo verifiëren
In tegenstelling tot closed-source AI-tools zoals ChatGPT, Copilot en Gemini, draait Lumo op opensource-modellen en -code, zodat iedereen onze architectuur kan controleren op kwetsbaarheden en kan verifiëren dat deze uitsluitend doet wat we beweren.
Geen advertenties of het delen van gegevens
De meeste AI-assistenten zijn gebouwd op bedrijfsmodellen die afhankelijk zijn van het verzamelen en bewaren van uw gegevens. Lumo is anders. De inkomsten van Proton zijn afkomstig uit abonnementen, niet uit het verkopen van gegevens. Er is dus geen enkele stimulans om uw gesprekken te loggen, ze met derden te delen of ze te gebruiken om u advertenties te tonen.
Gehost in Europa, niet onderworpen aan Amerikaanse surveillancewetten
AI-tools die zijn gebouwd door Amerikaanse bedrijven kunnen worden gedwongen om uw gegevens vrij te geven onder wetten zoals de CLOUD Act. Lumo draait op door Proton beheerde servers in Europa, onder de strengste privacybescherming ter wereld. Uw gesprekken liggen buiten het bereik van toegangsverzoeken van buitenlandse overheden.
Sluit u aan bij een versleuteld ecosysteem dat u overal beveiligt
Lumo maakt deel uit van een ecosysteem waarbij privacy vooropstaat en dat uw gegevens beschermt met krachtige versleuteling. Niemand kan uw gegevens zien behalve u en de mensen met wie u ervoor kiest deze te delen — zelfs wij niet.
Maak een gratis Lumo-account aan en u krijgt ook toegang tot onze VPN(nieuw venster), e-mail, agenda, cloudopslag, documenteditor, spreadsheeteditor, wachtwoordbeheerder, videovergaderingen en meer.
Meer dan 100 miljoen mensen en bedrijven wereldwijd vertrouwen op Proton
Elemnta, Australië
50-200 medewerkers
“Het zijn echt de logboeken van activiteiten die voor mij belangrijk zijn, en de gedetailleerde controle. De overstap naar het gebruik van Proton Pass heeft ons enorm vooruit geholpen.”
GILAI, Zwitserland
IT beheren van 1000+ medewerkers
"We hadden een wachtwoordmanager nodig die gebruiksvriendelijk is voor de eindgebruiker en eenvoudig te beheren is voor de beheerder. "Ik hoefde geen specifieke documentatie te maken, of dingen te demonstreren, alleen maar accounts instellen, want het is echt, echt gebruiksvriendelijk."
Novalytica AG, Zwitserland
11-50 medewerkers
"Het onboarden was zeer eenvoudig. Iedereen gebruikt het en het werkt, en niemand wil terug naar het met de hand opschrijven van wachtwoorden op een blaadje of in een notitieboek."
Ochtend
350 medewerkers
"Ik wilde een prettige gebruikerservaring. Ik vind het belangrijk dat wanneer je 300 of 400 gebruikers migreert, je een oplossing kiest die niet te moeilijk is in het gebruik of er onprettig uitziet. Ik vind het belangrijk voor commerciële teams om met iets gebruiksvriendelijks te werken. Dat is het geval met Proton Pass."
Stap over op een echt veilige AI-assistent
AI-tools die zijn gebouwd door de grootste techplatforms zijn ontworpen om nuttig te zijn, maar vaak ten koste van uw beveiliging en privacy. Lumo biedt u een capabele, versleutelde LLM- en AI-assistent zonder concessies te doen op het gebied van beveiliging.
Veelgestelde vragen over LLM's en AI-beveiliging
- Wat zijn de grootste AI-beveiligingsrisico's voor alledaagse gebruikers?
- Is Lumo veilig voor vertrouwelijk of gevoelig werk?
- Wat zijn de grootste gevaren van AI voor bedrijven?
- Welke talen ondersteunt Lumo?
