Lorsque vos employés utilisent des outils d’IA que vous n’avez pas approuvés, ils créent des comptes que vous ne voyez pas, que vous ne pouvez ni sécuriser ni fermer, chacun avec un historique de conversation rempli de vos données professionnelles.
Une nouvelle étude publiée par SOCRadar(nouvelle fenêtre) révèle que les identifiants d’IA des employés de plus de 80 000 organisations dans le monde sont apparus dans des journaux de logiciels voleurs d’informations. Les logiciels voleurs d’informations sont un type de logiciel malveillant qui collecte les mots de passe, les cookies de session, les données financières et personnelles ainsi que les historiques de conversation sur les appareils infectés, avant de les renvoyer à l’attaquant. Ces données rendent les attaques d’hameçonnage ou de rançongiciel bien plus efficaces.
D’après cette étude, les journaux ont été capturés par un logiciel malveillant voleur d’informations bien connu, en vente sur Telegram depuis 2022. Ce logiciel étant en vente depuis des années, il est impossible de savoir combien de criminels l’ont utilisé ni comment ils ont infecté les appareils : ce que nous savons, c’est qu’ils ciblent des appareils disposant d’un accès professionnel et détournent les sessions Claude de leurs utilisateurs. Les utilisateurs professionnels ont constaté que leur quota payant avait été épuisé du jour au lendemain dès que les cybercriminels ont obtenu l’accès.
L’étude de SOCRadar démontre que les identifiants de session d’IA ont une valeur considérable pour les attaquants. Un seul identifiant d’IA peut donner accès à « une archive interrogeable, un moteur d’exécution, une ressource facturable et une identité — et la session volée livre tout cela sans demander de mot de passe », comme le formule le rapport. Pour un criminel, c’est une mine d’or.
Le constat inquiétant pour les entreprises qui adoptent l’IA aujourd’hui est que ces identifiants ne fuient pas à cause de la sécurité des plateformes d’IA elles-mêmes. Ils fuient pour deux raisons moins évidentes : le nombre considérable d’employés qui utilisent des outils d’IA et la part croissante de cet usage qui échappe au contrôle du service informatique.
Que révèle l’étude ?
Dans l’ensemble, le rapport constate que les identifiants de services d’IA apparaissent en nombre important dans les journaux de logiciels voleurs d’informations. Les principaux enseignements sont les suivants :
- Plus de 1 000 000 d’enregistrements liés à des services d’IA ont été révélés sur 80 000 domaines d’entreprise uniques.
- Sur cet ensemble, un échantillon transversal de 482 organisations a été vérifié et identifié comme de grandes entreprises, principalement en Amérique du Nord : 68 % d’entre elles pèsent plusieurs milliards de dollars.
- Les entreprises technologiques forment le groupe le plus important, avec 144 sociétés et 40 % des enregistrements.
- Ces 482 organisations représentent 5 434 entrées de journal liées à 1 500 adresses e-mail professionnelles.
- L’exposition est récente : 295 des 482 organisations ont vu des entrées de journaux de logiciels voleurs d’informations apparaître au cours des 90 derniers jours.
- ChatGPT apparaît dans les journaux de 358 des 482 organisations et dans environ 90 % des enregistrements, suivi de Zapier, Notion, Hugging Face, Replit, Lovable et ElevenLabs.
Ce dernier chiffre soulève une question évidente : pourquoi ChatGPT ? L’explication de SOCRadar tient moins aux outils qu’à la façon dont les employés les utilisent.
L’IA fantôme crée des risques
L’IA fantôme désigne tout outil d’IA que les employés utilisent sans l’approbation ou la connaissance de leur entreprise. Les employés introduisent l’IA fantôme dans les réseaux de l’entreprise lorsque leurs comptes professionnels sont limités ou que les outils dont ils disposent ne sont pas assez efficaces pour la tâche qu’ils accomplissent.
Un chercheur de SOCRadar commente :
« Nous interprétons la domination quasi totale de ChatGPT comme un signal d’IA fantôme, et non comme un jugement sur la sécurité d’un fournisseur. L’avantage de ChatGPT en tant que précurseur signifie qu’il compte probablement un ordre de grandeur de plus d’utilisateurs professionnels, dont beaucoup s’inscrivent avec une adresse e-mail professionnelle sur un appareil personnel, en dehors de toute politique. C’est exactement la population que les logiciels voleurs d’informations ciblent. Claude et Gemini apparaissent à peine parce que beaucoup moins d’employés y ont discrètement créé un compte, et non parce que leurs identifiants seraient plus faciles à voler. À mesure que l’adoption de ces autres assistants progresse en entreprise, nous nous attendons à ce que ce graphique s’équilibre. »
La sécurité de ChatGPT n’est donc pas responsable de la place prépondérante de l’outil dans les journaux des logiciels voleurs d’informations. ChatGPT arrive en tête parce qu’il compte le plus d’utilisateurs professionnels et parce que beaucoup d’entre eux l’utilisent en dehors des politiques de l’entreprise.
Les employés peuvent aussi chercher à contourner des politiques informatiques restrictives qui les empêchent de choisir l’option la plus rapide ou la plus simple, mais ils peuvent également ignorer sincèrement quelles politiques ou restrictions sont en place. Votre entreprise ne peut pas protéger des comptes dont elle ignore l’existence, ni les requêtes effectuées en dehors d’un compte professionnel.
Quelle que soit l’intention, lorsqu’un employé mêle usage personnel et usage professionnel de l’IA, il enfreint les politiques d’utilisation des données de votre entreprise et se retrouve soumis aux conditions grand public d’OpenAI.
OpenAI affirme qu’il n’entraîne pas ses modèles sur les données professionnelles, mais lorsqu’un employé agit en dehors des règles d’usage acceptable de l’entreprise ou utilise un compte personnel à des fins professionnelles, ces données échappent à tout contrôle : les archives des conversations (y compris des données professionnelles sensibles ou des informations personnelles identifiables (PII)) sont collectées, journalisées et potentiellement utilisées pour entraîner les modèles d’OpenAI.
OpenAI peut partager des données professionnelles avec des tiers ou via des intégrations d’applications : en 2025, des pirates ont pu compromettre un prestataire d’OpenAI et dérober des données de clients professionnels, notamment des noms, des adresses e-mail, des emplacements et des informations système. En tant qu’entreprise américaine, elle peut aussi être contrainte de partager des données avec le gouvernement américain au titre du Patriot Act ou de la FISA, même sans vous en informer.
Comment protéger votre entreprise de l’IA fantôme
L’IA fantôme apparaît lorsque les employés n’ont pas d’outil qu’ils sont autorisés à utiliser, ou pas d’outil suffisamment performant. La première solution est donc de leur en fournir un.
Lumo, développé par Proton, offre à votre équipe une alternative autorisée aux comptes personnels et préserve la confidentialité des données professionnelles. Il ne conserve aucun journal et n’entraîne ses modèles ni sur les conversations professionnelles ni sur les conversations personnelles. Tout l’historique de conversation enregistré est protégé par un chiffrement à accès zéro : personne, pas même Proton, ne peut le lire.
Le chiffrement protège les données stockées, mais il est inutile si un attaquant se trouve déjà sur l’appareil de l’employé. Pour combler cette faille, suivez ces étapes :
- Identifiez les comptes que vous ignorez. Vérifiez si les domaines de votre entreprise apparaissent déjà dans des journaux de logiciels voleurs d’informations et demandez aux équipes quels outils d’IA elles utilisent réellement.
- Traitez toute mention dans un journal de logiciel voleur d’informations comme un incident de point de terminaison. Si les identifiants d’un employé apparaissent dans un journal, l’appareil est infecté. Réinitialiser le mot de passe seul laisse la session volée de l’attaquant active : révoquez les sessions actives et nettoyez ou remplacez la machine.
- Placez chaque outil d’IA autorisé derrière une authentification unique (SSO) avec des sessions à durée de vie courte. Un cookie volé qui expire en quelques heures vaut bien moins qu’un cookie qui dure des semaines.
- Protégez les clés API. Limitez-les à ce qui est nécessaire, renouvelez-les régulièrement et ne les stockez jamais dans des applications de notes ou des documents partagés.
- Gardez le travail hors des appareils non gérés. Si vos collaborateurs ont besoin d’IA sur des appareils personnels, exigez qu’ils se connectent via des comptes d’entreprise que vous pouvez surveiller et révoquer.
- Configurez la surveillance du dark web. Elle vous alerte lorsque les identifiants d’employés apparaissent dans des fuites, pour que vous puissiez agir avant un attaquant.
Vos employés utiliseront l’IA de toute façon. Offrez-leur une alternative à ChatGPT qui ne conserve aucun journal, n’entraîne jamais ses modèles sur vos données et protège chaque conversation enregistrée par un chiffrement que même Proton ne peut ouvrir.
