Intelligence artificielle (IA) > Les LLM sont-ils sûrs ?
Les LLM sont-ils sûrs ? Explication des risques de sécurité liés à l'IA
Les assistants d'IA sont devenus des outils quotidiens de travail, de recherche et de communication. Mais les systèmes mêmes qui les rendent utiles en font également une faille de sécurité. Voici ce que vous devez savoir sur les risques de sécurité des LLM et de l'IA.
Qu'est-ce qu'un LLM et quel est son rapport avec l'IA et la sécurité ?
L'intelligence artificielle englobe des dizaines de types de logiciels d'apprentissage automatique, de la reconnaissance faciale à la détection des fraudes bancaires, en passant par les jeux de société. Les grands modèles de langage (LLM) constituent un type spécifique d'IA : ils sont le moteur de tous les principaux assistants d'IA dont vous avez entendu parler, notamment ChatGPT, Microsoft Copilot, Google Gemini et Lumo, le propre outil de Proton.
Un LLM apprend en traitant d'énormes quantités d'informations (livres, articles, documentation, code et articles universitaires) et en trouvant des structures dans le fonctionnement du langage. Au fil du temps, il parvient mieux à prédire ce qui devrait suivre dans n'importe quel texte rédigé, ce qui lui permet d'activer des conversations entières, de synthétiser des documents ou de rédiger des brouillons de messages comme si une vraie personne les avait écrits.
Parce que les LLM traitent énormément d'informations et que les gens partagent de plus en plus d'informations personnelles et professionnelles sensibles avec eux, la sécurité des LLM est particulièrement cruciale pour garantir que les données confidentielles ne soient pas volées ou qu'elles ne fassent pas l'objet d'une fuite.
Où se situe l'IA agentique ?
Auparavant, les LLM se limitaient à des réponses : vous demandiez quelque chose, l'IA répondait. L'IA agentique va plus loin. Un agent d'IA utilise toujours un LLM pour raisonner et communiquer, mais il peut également entreprendre des actions : naviguer sur le web, écrire et exécuter du code, envoyer des messages, se connecter à des applications externes et gérer vos fichiers. Au lieu de répondre à une seule question, il peut mener à bien une tâche comportant plusieurs étapes avec très peu de supervision humaine.
Cette capacité supplémentaire s'accompagne d'un risque accru. Lorsqu'une IA peut agir de manière indépendante, les conséquences d'une manipulation ou d'un dysfonctionnement sont beaucoup plus graves. La sécurité de l'IA agentique est l'une des préoccupations qui se développent le plus rapidement dans ce champ, précisément parce que ces systèmes sont de plus en plus intégrés aux outils de travail, souvent avec des privilèges plus larges que ce dont ils ont réellement besoin pour y accéder.
La sécurité des LLM et les dangers potentiels de l'IA
Les risques de sécurité de l'IA et des LLM sont d'autant plus préoccupants qu'ils sont intégrés à l'architecture de base de la conception et du déploiement de ces outils. Lorsque vous posez à un assistant d'IA une question sur votre santé personnelle, que vous partagez une stratégie commerciale ou que vous discutez d'une situation juridique, ces informations finissent généralement sur des serveurs que vous ne contrôlez pas et peuvent être soumises à des lois ou à des normes de conduite dont vous n'avez peut-être même pas conscience. La sécurité des LLM n'est pas un sujet de réflexion réservé aux équipes informatiques ; c'est un problème concret pour quiconque utilise l'IA, que ce soit à des fins privées ou professionnelles.
Les plus grands risques de sécurité liés aux LLM et à l'IA
Les LLM sont intégrés chaque jour dans de nouveaux outils, mais ils présentent toujours plusieurs risques de sécurité qui ne sont pas immédiatement évidents.
La plupart des plateformes d'IA conservent vos invites, vos réponses et vos données d'interaction par défaut. Ces informations peuvent être lues par le personnel de l'entreprise, intégrées à l'entraînement de futurs modèles, vendues à des tiers ou même transmises aux autorités. Une fois que vos conversations se retrouvent sur les serveurs d'un tiers, vous n'avez plus guère votre mot à dire sur la manière dont ces données sont stockées, utilisées ou partagées.
La plupart des produits d'IA se composent de composants créés par différentes organisations et entreprises, notamment des modèles de base, des extensions, des API et des pipelines de données. Si un élément de cette chaîne d'approvisionnement est compromis, chaque utilisateur de ce produit en est affecté, souvent sans qu'aucun indice apparent ne signale un dysfonctionnement.
Les LLM peuvent faire surface à des données qu'ils n'auraient jamais dû partager. Il peut s'agir d'informations obtenues à partir de données d'entraînement, de sessions d'autres utilisateurs ou de vos propres conversations antérieures auxquelles l'IA peut encore accéder. Dans le cadre professionnel, où plusieurs personnes partagent le même outil d'IA et où des données sensibles circulent dans le même système, ces fuites peuvent causer de graves préjudices.
Puisque les IA agentiques ont la capacité d'envoyer des messages, d'exécuter du code ou d'accéder à vos fichiers, les risques liés à leur manipulation augmentent considérablement. Un agent d'IA doté d'un trop grand nombre d'autorisations peut entreprendre des actions sur plusieurs systèmes connectés, souvent avant que quiconque ne remarque le moindre problème. Plus vous laissez une IA agir en votre nom, plus il est important que son droit d'y accéder soit étroitement contrôlé.
L'injection d'invites (prompt injection) est l'un des risques de sécurité de l'IA les plus répandus. Elle consiste à masquer des instructions malveillantes dans des contenus fournis à l'IA, comme dans un fichier PDF ou une page web, afin de manipuler les agents d'IA qui peuvent agir de manière autonome. Ces instructions neutralisent discrètement le comportement de l'agent d'IA, ce qui peut l'amener à provoquer la fuite de données confidentielles, à agir contre vos intérêts ou à produire des résultats trompeurs, le tout alors que tout semble normal en apparence.
Comment Lumo aborde la sécurité de l'IA différemment
La plupart des assistants d'IA sont conçus pour offrir à la plateforme une visibilité maximale sur la façon dont vous les utilisez. Lumo est conçu pour faire le contraire, vous offrant ainsi un meilleur contrôle et une plus grande tranquillité d'esprit quant à la manière dont vos données sont traitées.
Aucun journal, jamais
Le serveur LLM de Lumo traite votre message et l'abandonne dès qu'une réponse est générée. Il n'y a aucun journal de ce que vous avez demandé, de ce qui a été répondu ou du moment où cela l'a été. Aucune discussion en texte brut n'est conservée sur le serveur, ce qui signifie qu'il n'y a rien à pirater, à assigner en justice ou à utiliser à mauvais escient.
Vos messages sont chiffrés avant de quitter votre appareil
Lumo utilise un chiffrement asymétrique bidirectionnel — appelé chiffrement User-to-Lumo (U2L) — pour protéger vos messages en transit. Votre véritable message n'est lisible que par le serveur LLM lui-même, et uniquement pendant le temps nécessaire à la production d'une réponse.
L'historique des conversations est verrouillé par un chiffrement à accès zéro
Une fois la réponse générée, votre conversation est stockée à l'aide d'un chiffrement à accès zéro, protégé par une clé que vous êtes le seul à détenir. Proton n'y a jamais accès. Même si les serveurs de Proton étaient entièrement compromis, l'historique de vos conversations resterait illisible.
Des modèles et du code open source permettent aux experts de vérifier la sécurité de Lumo
Contrairement aux outils d'IA propriétaires comme ChatGPT, Copilot et Gemini, Lumo fonctionne avec des modèles et du code open source, de sorte que n'importe qui peut inspecter notre architecture à la recherche de vulnérabilités et vérifier qu'elle fait exactement ce que nous affirmons.
Pas de publicité ni de partage de données
La plupart des assistants d'IA reposent sur des modèles économiques qui dépendent de la collecte et de la conservation de vos données. Lumo est différent. Les revenus de Proton proviennent des abonnements, et non de la monétisation des données, il n'y a donc aucun intérêt à conserver un journal de vos conversations, à les partager avec des tiers ou à les utiliser pour vous présenter des publicités.
Hébergé en Europe, non soumis aux lois de surveillance américaines
Les outils d'IA conçus par des entreprises américaines peuvent être contraints de divulguer vos données en vertu de lois telles que le CLOUD Act. Lumo fonctionne sur des serveurs contrôlés par Proton en Europe, sous le régime de protections de la vie privée parmi les plus strictes au monde. Vos conversations sont hors de portée des demandes d'accès des gouvernements étrangers.
Rejoignez un écosystème chiffré qui assure votre sécurité partout
Lumo fait partie d'un écosystème axé sur le respect de la vie privée qui protège vos données grâce à un puissant chiffrement. Personne ne peut voir vos données, à l'exception de vous-même et des personnes avec qui vous choisissez de les partager — pas même nous.
Créez un compte Lumo gratuit et vous débloquerez également l'accès à notre VPN(nouvelle fenêtre), notre messagerie e-mail, notre calendrier, notre service de stockage cloud, notre éditeur de documents, notre éditeur de feuilles de calcul, notre gestionnaire de mots de passe, nos outils de visioconférence, et bien plus encore.
Plus de 100 millions de personnes et d'entreprises dans le monde font confiance à Proton
Elemnta, Australie
50 à 200 employés
« Ce sont vraiment les journaux d'activité qui sont importants pour moi, ainsi que le contrôle granulaire. Le passage à Proton Pass a été très bénéfique pour nous. »
GILAI, Suisse
Gérer l'IT de plus de 1 000 employés
« Nous avions besoin d'un gestionnaire de mots de passe qui soit facile à utiliser pour l'utilisateur final et simple à gérer pour l'administrateur. Je n'ai pas eu besoin de faire de documentation spécifique, ni de démonstration, excepté la configuration du compte, car il est vraiment, vraiment convivial. »
Novalytica AG, Suisse
11 à 50 employés
« L'intégration a été très facile. Tout le monde l'utilise et cela fonctionne, et personne ne souhaite revenir à l'écriture manuelle des mots de passe sur une feuille ou dans un carnet. »
Morning
350 employés
"Je voulais que l'expérience utilisateur soit belle. Je pense qu'il est important que, lorsque vous migrez 300 ou 400 utilisateurs, vous choisissiez une solution qui ne soit pas trop difficile à utiliser ou désagréable à regarder. Je pense qu'il est important pour les équipes commerciales d'avoir quelque chose de convivial. C'était le cas avec Proton Pass."
Passez à un assistant d'IA véritablement sécurisé
Les outils d'IA conçus par les plus grandes plateformes technologiques sont faits pour être utiles, mais souvent au détriment de votre sécurité et du respect de votre vie privée. Lumo vous offre un LLM et un assistant d'IA performants et chiffrés, sans aucun compromis sur la sécurité.
Foire aux questions sur les LLM et la sécurité de l'IA
- Quels sont les plus grands risques de sécurité liés à l'IA pour les utilisateurs au quotidien ?
- Lumo est-il sûr pour les travaux confidentiels ou sensibles ?
- Quels sont les principaux dangers de l'IA pour les entreprises ?
- Quelles langues Lumo prend-il en charge ?
