Künstliche Intelligenz (KI) > Sind LLMs sicher?
Sind LLMs sicher? KI-Sicherheitsrisiken verständlich erklärt
KI-Assistenten sind zu alltäglichen Werkzeugen für die Arbeit, Recherche und Kommunikation geworden. Aber dieselben Systeme, die sie nützlich machen, bergen auch ein Sicherheitsrisiko. Das solltest du über die Sicherheitsrisiken von LLMs und KI wissen.
Was ist ein LLM und was hat es mit KI und Sicherheit zu tun?
Künstliche Intelligenz umfasst Dutzende Arten von Machine-Learning-Software, von der Gesichtserkennung über die Aufdeckung von Bankbetrug bis hin zu Brettspielen. Große Sprachmodelle (LLMs) sind eine ganz bestimmte Art von KI: Sie sind die treibende Kraft hinter jedem großen KI-Assistenten, von dem du je gehört hast, einschließlich ChatGPT, Microsoft Copilot, Google Gemini und Protons eigenem Lumo.
Ein LLM lernt, indem es riesige Mengen an Informationen verarbeitet – Bücher, Artikel, Dokumentationen, Code und wissenschaftliche Arbeiten – und Muster in der Funktionsweise von Sprache findet. Mit der Zeit kann es immer besser vorhersagen, was als Nächstes in einem Text stehen sollte. Dadurch ist es in der Lage, ganze Unterhaltungen zu führen, Dokumente zusammenzufassen oder E-Mail-Entwürfe zu verfassen, die klingen, als hätte sie ein echter Mensch geschrieben.
Weil LLMs so viele Informationen verarbeiten und Menschen ihnen zunehmend sensible persönliche und berufliche Details anvertrauen, ist die LLM-Sicherheit besonders wichtig, um zu verhindern, dass vertrauliche Daten gestohlen werden oder ein Leak entsteht.
Welche Rolle spielt agentische KI?
In der Vergangenheit waren LLMs auf Antworten beschränkt – du hast etwas gefragt, die KI hat geantwortet. Agentische KI geht einen Schritt weiter. Ein KI-Agent nutzt zwar immer noch ein LLM, um logisch zu denken und zu kommunizieren, kann aber auch selbstständig Aktionen ausführen: im Web surfen, Code schreiben und ausführen, Nachrichten senden, sich mit externen Apps verbinden und deine Dateien verwalten. Anstatt eine einzelne Frage zu beantworten, kann er eine mehrstufige Aufgabe mit minimaler menschlicher Aufsicht abarbeiten.
Diese zusätzlichen Fähigkeiten bringen jedoch auch ein erhöhtes Risiko mit sich. Wenn eine KI unabhängig agieren kann, sind die Folgen weitaus schwerwiegender, falls sie ausgetrickst wird oder Fehler macht. Die Sicherheit von agentischer KI ist eines der am schnellsten wachsenden Anliegen in diesem Feld, gerade weil diese Systeme immer häufiger in Arbeitsplatz-Tools integriert werden – oft mit mehr Zugriff, als sie eigentlich benötigen.
LLM-Sicherheit und die potenziellen Gefahren von KI
Die Sicherheitsrisiken von KI und LLMs sind deshalb so besorgniserregend, weil sie fest in der grundlegenden Architektur verankert sind, wie diese Tools entwickelt und bereitgestellt werden. Wenn du einem KI-Assistenten eine Frage zu deiner persönlichen Gesundheit stellst, eine Geschäftsstrategie teilst oder eine rechtliche Situation besprichst, landen diese Informationen in der Regel auf Servern, die du nicht kontrollierst, und können Gesetzen oder Verhaltensstandards unterliegen, derer du dir vielleicht gar nicht bewusst bist. LLM-Sicherheit ist kein Thema, über das sich nur IT-Teams Gedanken machen müssen. Es ist ein praktisches Problem für jeden, der KI nutzt, sei es für private oder berufliche Zwecke.
Die größten Sicherheitsrisiken von LLMs und KI
LLMs werden jeden Tag in mehr Tools integriert – aber sie bringen immer noch einige Sicherheitsrisiken mit sich, die nicht sofort offensichtlich sind.
Die meisten KI-Plattformen speichern deine Prompts, Antworten und Interaktionsdaten standardmäßig. Diese Informationen können von Mitarbeitern des Unternehmens gelesen, für das Training zukünftiger Modelle verwendet, an Dritte verkauft oder sogar an Behörden übergeben werden. Sobald deine Unterhaltungen auf den Servern von Drittanbietern landen, hast du kaum noch Einfluss darauf, wie diese Daten gespeichert, verwendet oder geteilt werden.
Die meisten KI-Produkte bestehen aus Komponenten, die von verschiedenen Organisationen und Unternehmen entwickelt wurden, darunter Basismodelle, Plugins, APIs und Daten-Pipelines. Wenn ein Element in dieser Lieferkette gefährdet wird, ist jeder Benutzer dieses Produkts betroffen – oft ohne dass es einen offensichtlichen Hinweis darauf gibt, dass etwas nicht stimmt.
LLMs können Daten offenlegen, die sie eigentlich nie teilen sollten. Dabei kann es sich um Informationen aus Trainingsdaten, Sitzungen anderer Benutzer oder deinen eigenen früheren Unterhaltungen handeln, auf die die KI immer noch Zugriff hat. Im geschäftlichen Umfeld, in dem mehrere Personen dasselbe KI-Tool nutzen und sensible Daten durch dasselbe System fließen, können diese Leaks ernsthaften Schaden anrichten.
Da agentische KIs in der Lage sind, E-Mails zu senden, Code auszuführen oder auf deine Dateien zuzugreifen, ist das Risiko bei einer Manipulation erheblich höher. Ein KI-Agent mit zu vielen Berechtigungen kann Aktionen über mehrere verbundene Systeme hinweg ausführen, oft bevor überhaupt jemand bemerkt, dass etwas nicht stimmt. Je mehr du eine KI in deinem Namen handeln lässt, desto wichtiger ist es, dass ihr Zugriff streng kontrolliert wird.
Prompt Injection ist eines der am weitesten verbreiteten KI-Sicherheitsrisiken. Dabei werden schädliche Anweisungen in Inhalten versteckt, die der KI zugeführt werden, beispielsweise in einer PDF-Datei oder einer Webseite, um KI-Agenten zu manipulieren, die autonom handeln können. Diese Anweisungen setzen das Verhalten des KI-Agenten unbemerkt außer Kraft, was dazu führen kann, dass er vertrauliche Daten leakt, gegen deine Interessen handelt oder irreführende Ergebnisse liefert – während oberflächlich alles völlig normal wirkt.
Wie Lumo KI-Sicherheit anders angeht
Die meisten KI-Assistenten sind so konzipiert, dass sie der Plattform maximalen Einblick darin gewähren, wie du sie nutzt. Lumo ist genau für das Gegenteil konzipiert und gibt dir mehr Kontrolle und Gewissheit darüber, wie deine Daten behandelt werden.
Keinerlei Protokolle, jemals
Der LLM-Server von Lumo verarbeitet deine Nachricht und verwirft sie, sobald eine Antwort generiert wurde. Es gibt kein Protokoll darüber, was du gefragt hast, was geantwortet wurde oder wann. Auf dem Server werden keine Klartext-Chats gespeichert, was bedeutet, dass es nichts gibt, das von Datenlecks betroffen sein, per Vorladung angefordert oder missbraucht werden könnte.
Deine Nachrichten werden verschlüsselt, bevor sie dein Gerät verlassen
Lumo verwendet eine bidirektionale asymmetrische Verschlüsselung – genannt User-to-Lumo-Verschlüsselung (U2L) –, um deine Nachrichten bei der Übertragung zu schützen. Deine eigentliche Nachricht ist immer nur für den LLM-Server selbst lesbar, und zwar nur so lange, wie es für die Erstellung einer Antwort erforderlich ist.
Der Verlauf der Unterhaltung ist mit einer Zero-Access-Verschlüsselung gesperrt
Nachdem eine Antwort generiert wurde, wird deine Unterhaltung mittels Zero-Access-Verschlüsselung gespeichert – geschützt durch einen Schlüssel, den nur du besitzt. Proton hat darauf niemals Zugriff. Selbst wenn die Server von Proton vollständig kompromittiert würden, bliebe der Verlauf deiner Unterhaltung unlesbar.
Open-Source-Modelle und -Code ermöglichen es Experten, die Sicherheit von Lumo zu überprüfen
Im Gegensatz zu Closed-Source-KI-Tools wie ChatGPT, Copilot und Gemini läuft Lumo auf Open-Source-Modellen und -Code, sodass jeder unsere Architektur auf Schwachstellen überprüfen und verifizieren kann, dass sie genau das tut, was wir versprechen.
Keine Werbung oder Datenweitergabe
Die meisten KI-Assistenten basieren auf Geschäftsmodellen, die auf das Erfassen und Speichern deiner Daten angewiesen sind. Lumo ist anders. Die Einnahmen von Proton stammen aus Abonnements, nicht aus der Datenmonetarisierung. Daher gibt es keinen Anreiz, deine Unterhaltungen zu protokollieren, sie mit Dritten zu teilen oder sie zu nutzen, um dir Werbung anzuzeigen.
In Europa gehostet, unterliegt nicht den US-Überwachungsgesetzen
Von US-Unternehmen entwickelte KI-Tools können unter Gesetzen wie dem CLOUD Act dazu gezwungen werden, deine Daten offenzulegen. Lumo läuft auf von Proton kontrollierten Servern in Europa unter einigen der weltweit strengsten Datenschutzbestimmungen. Deine Unterhaltungen sind für Zugriffsanfragen ausländischer Regierungen unerreichbar.
Tritt einem verschlüsselten Ökosystem bei, das dich überall schützt
Lumo ist Teil eines datenschutzfreundlichen Ökosystems, das deine Daten mit einer starken Verschlüsselung schützt. Niemand außer dir und den Personen, mit denen du sie teilst, kann deine Daten sehen – nicht einmal wir.
Erstelle ein kostenloses Lumo-Konto und du erhältst außerdem Zugriff auf unser VPN(neues Fenster), E-Mail, Kalender, Cloud-Speicher, Dokumenten-Editor, Tabellen-Editor, Passwort-Manager, Videokonferenzen und mehr.
Über 100 Millionen Menschen und Unternehmen weltweit vertrauen auf Proton
Elemnta, Australien
50–200 Mitarbeiter*innen
„Für mich sind die Aktivitätsprotokolle und die detaillierte Kontrolle sehr nützlich. Der Wechsel zu Proton Pass hat uns enorm geholfen.“
GILAI, Schweiz
IT-Verwaltung für über 1.000 Mitarbeiter*innen
„Wir brauchten einen Passwort-Manager, der für Endbenutzer einfach zu bedienen und für den Administrator einfach zu verwalten ist. Ich musste keine spezielle Dokumentation oder Demo durchführen, außer der Einrichtung des Kontos, denn es ist wirklich sehr benutzerfreundlich
Novalytica AG, Schweiz
11–50 Mitarbeiter*innen
„Das Onboarding war sehr einfach. Jeder nutzt es und es funktioniert, und niemand möchte wieder Passwörter von Hand in eine Tabelle oder in ein Notizbuch schreiben.“
Morgen
350 Mitarbeiter
"Ich wollte, dass die UX schön ist. Ich finde es wichtig, dass du bei der Migration von 300 oder 400 Benutzern eine Lösung wählst, die nicht zu schwierig zu bedienen oder unschön anzusehen ist. Ich finde es wichtig, dass kommerzielle Teams eine benutzerfreundliche Lösung haben. Das war bei Proton Pass der Fall."
Wechsle zu einem wirklich sicheren KI-Assistenten
KI-Tools, die von den größten Tech-Plattformen entwickelt werden, sind zwar nützlich, gehen jedoch oft auf Kosten deiner Sicherheit und Privatsphäre. Lumo bietet dir einen leistungsfähigen, verschlüsselten LLM- und KI-Assistenten ohne jegliche Kompromisse bei der Sicherheit.
Häufig gestellte Fragen zu LLMs und KI-Sicherheit
- Was sind die größten KI-Sicherheitsrisiken für alltägliche Nutzer?
- Ist Lumo für vertrauliche oder sensible Arbeiten sicher?
- Was sind die Hauptgefahren von KI für Unternehmen?
- Welche Sprachen unterstützt Lumo?
