Vous saisissez une invite, vous obtenez une réponse, et rien ne se passe tant que vous n’en saisissez pas une autre. C’est ainsi que la plupart des assistants IA ont fonctionné jusqu’ici, mais l’IA proactive change la donne.

L’IA proactive n’a pas besoin d’invite pour agir. Elle peut effectuer votre enregistrement pour un vol ou déposer une candidature à votre place, en prenant ces décisions à partir du contexte qu’elle a accumulé au fil du temps. Avec des assistants IA proactifs comme Muse et Instinct de Meta, devenus viraux, les scénarios de science-fiction semblent soudain proches de la réalité.

Mais comme dans toute bonne histoire de science-fiction, cette technologie est une arme à double tranchant. Voyons comment fonctionne l’IA proactive et ce que vous sacrifiez en échange du confort qu’elle apporte.

Pour en savoir plus sur les enjeux, consultez notre guide complet sur l’IA et le respect de la vie privée, ou essayez notre outil AI paper trail pour voir exactement ce que les chatbots IA grand public ont pu collecter sur vous au fil de vos conversations.

Ce qui rend une IA proactive

Les agents IA proactifs s’appuient sur les mêmes grands modèles de langage que les chatbots IA auxquels nous sommes habitués. Ce qui les distingue tient à trois éléments qui fonctionnent ensemble :

  1. Ils surveillent en permanence : au lieu d’attendre une invite, les agents proactifs surveillent un ensemble de sources et détectent les changements dès qu’ils surviennent.
  2. Ils disposent d’une mémoire persistante : les agents proactifs construisent progressivement un modèle de vos habitudes et de vos préférences. C’est ce qui leur permet d’anticiper ce dont vous aurez probablement besoin ensuite, et pas seulement de restituer un fait lorsque vous le leur demandez.
  3. Ils décident comment agir, et s’ils doivent agir : les agents proactifs peuvent « raisonner ». Ils évaluent une situation au regard de vos habitudes, jugent si elle mérite une action et déterminent jusqu’où aller avant de vous consulter.

L’IA proactive associe automatisation et jugement. Là où une simple automatisation se déclenche chaque fois qu’une condition est remplie, les agents proactifs anticipent vos besoins et déterminent si une action est utile avant de choisir d’agir.

Cela peut être utile, mais aussi entraîner des conséquences inattendues. Instinct, par exemple, achetait un article pour un utilisateur, mais lorsqu’il s’est heurté à une page de connexion, il a simplement réinitialisé le mot de passe de l’utilisateur(nouvelle fenêtre) sans rien demander. Ce type d’initiative rend les agents IA proactifs impressionnants, mais aussi risqués.

Cas d’usage des agents IA proactifs

Les agents proactifs peuvent être utiles pour les tâches que vous oubliez habituellement ou auxquelles vous consacrez une soirée entière. Voici quelques exemples :

Garder ses voyages bien organisés

Un agent proactif peut surveiller votre itinéraire de voyage pour détecter les changements. Si un vol est reporté et met votre correspondance en péril, il le repère et vous alerte. Il peut même, le cas échéant, modifier votre réservation de vol pour que votre voyage se déroule sans accroc.

Récupérer ce que vous auriez manqué

La même veille peut s’appliquer à tout ce qui est en quantité limitée, comme une paire de chaussures en rupture de stock dans votre taille. L’agent continue de surveiller et passe commande dès le réapprovisionnement.

Relancer un message

Les agents proactifs peuvent surveiller votre boite de réception pour y repérer les messages que vous attendez. Si votre message à un service client n’a pas reçu de réponse, un agent peut le remarquer, rédiger une relance, puis l’envoyer ou vous le laisser prêt à envoyer.

Réduire les abonnements

Aujourd’hui où presque tout se paie par abonnement, un agent proactif pourrait analyser votre usage et annuler les abonnements aux services que vous payez sans les utiliser régulièrement.

Surveiller les opérations de l’entreprise

En entreprise, les agents proactifs pourraient surveiller l’infrastructure informatique afin de détecter les premiers signes de panne et déclencher une correction avant que la situation ne se dégrade. Ils peuvent aussi suivre les opportunités commerciales et éviter qu’elles ne refroidissent, en relançant les prospects de manière proactive au moment où votre équipe est débordée.

La différence entre IA proactive et IA réactive

Un assistant IA réactif, comme ChatGPT, ne fait rien tant que vous ne le lui demandez pas. Même ceux dotés d’une mémoire restent inertes entre deux invites, conservant ce que vous leur avez dit jusqu’à votre prochaine question. L’IA proactive supprime cette attente. Elle surveille un déclencheur et décide seule s’il faut agir.

Autrement dit, l’IA réactive, c’est vous qui la faites fonctionner. L’IA proactive, elle, agit en votre nom et s’approprie votre capacité de décision.

Le confort des agents proactifs a un prix

Pour accomplir ce qu’ils font, les agents IA proactifs ont besoin d’un accès permanent à vos comptes. C’est un risque d’une autre nature que celui lié à l’utilisation d’un assistant IA.

Vous donnez à une seule entreprise un accès complet à toutes vos données

Nous nous méfions de la quantité de données que Google collecte, mais même Google n’a pas un accès complet à toutes vos informations privées. Google peut avoir vos données de localisation(nouvelle fenêtre), mais vos données de santé sont stockées sur Apple Health. Vos préférences de streaming sont bien gardées sur Netflix, et vos finances, dans votre application bancaire.

Utiliser des agents IA proactifs, c’est confier tout cela, et bien davantage, à une seule entreprise. Ces agents sont conçus pour connecter l’ensemble de vos données ; c’est ce qui leur permet de repérer des schémas et d’agir. Selon l’agent, cela peut inclure les noms d’utilisateur et les mots de passe de vos comptes tiers, vos informations de paiement…

Muse montre à quel point les agents proactifs peuvent être avides de données. Un testeur de WIRED(nouvelle fenêtre) a constaté que Muse semblait plus intéressé par la collecte de données que par l’exécution des tâches, suggérant à plusieurs reprises de connecter toujours plus de services. Ce comportement correspond à ce que nous savons des antécédents de Meta.

Le prix de ce confort, c’est que tout ce qui vous concerne se retrouve entre les mains d’une seule entreprise. Et à moins qu’elle ne fasse l’objet d’audits indépendants, vous n’avez aucun moyen réel de savoir si vos données sont gérées de manière sûre. Si votre compte est compromis ou vendu, des tiers auxquels vous n’avez jamais consenti disposent alors d’une vision complète de l’endroit où vous étiez, des personnes à qui vous avez parlé, de ce que vous avez acheté et de ce que vous avez dit en privé. Cela ouvre la porte à des menaces comme l’usurpation d’identité et les arnaques ciblées.

Se déconnecter n’est pas la même chose que supprimer

TechCrunch(nouvelle fenêtre) a rapporté que des captures d’écran des conditions d’Instinct montraient une licence « perpétuelle et irrévocable » sur les données des utilisateurs. Instinct les a depuis révisées, et les conditions d’utilisation du service et la politique de confidentialité actuelles ne contiennent plus cette formulation.

Les nouvelles conditions comptent toutefois toujours. Les conditions actuelles d’Instinct (au moment de la rédaction) l’autorisent à « accéder aux données, les copier, les collecter et les indexer(nouvelle fenêtre) » depuis les services que vous connectez, et tant ces conditions que sa politique de confidentialité indiquent que déconnecter un compte ne supprime pas vos données(nouvelle fenêtre) sauf si vous en faites la demande. Une utilisatrice(nouvelle fenêtre) a expliqué avoir déconnecté l’accès d’Instinct à son compte Google et avoir tout de même reçu, quelques heures plus tard, un résumé de ses derniers messages. Lorsqu’elle a demandé pourquoi, Instinct a confirmé avoir stocké ses messages en texte brut pour de futures recherches. Si vous déconnectez vos services d’Instinct, pensez à demander aussi la suppression de vos données.

Se désinscrire de l’entraînement de l’IA sur Instinct comporte aussi un piège : le refus ne « s’applique qu’aux échanges à venir(nouvelle fenêtre) ». Ainsi, toutes les données que le modèle a absorbées à votre sujet resteront intégrées à son entraînement et à ses connaissances. Muse fonctionne différemment : le refus de l’entraînement de l’IA s’applique rétroactivement aux interactions passées(nouvelle fenêtre). Toutefois, supprimer des données de Muse ne signifie pas que vos données sont retirées. Meta indique que le modèle peut toujours se souvenir de ce que vous avez supprimé(nouvelle fenêtre), et que sa fonctionnalité « oublier » fonctionne dans la mesure du possible(nouvelle fenêtre).

Les erreurs des agents sont bien réelles, pas seulement inexactes

Quand un chatbot comme Gemini hallucine, il ne cause de préjudice réel(nouvelle fenêtre) que si vous agissez sur la base de cette information. Quand un agent proactif commet une erreur, vous pouvez ne pas en être informé avant d’en subir les conséquences dans la vie réelle.

Imaginez qu’un agent proactif décide de vous réserver des places en première classe pour votre voyage. Vous voilà redevable d’une facture que vous n’avez jamais acceptée. En acceptant les conditions d’Instinct, par exemple, vous lui donnez le pouvoir de conclure des accords contraignants en votre nom(nouvelle fenêtre) : il peut engager votre argent sans votre validation, et vous ne pouvez pas légalement prétendre qu’il a agi de sa propre initiative. Pire encore, ces conditions précisent que les garde-fous de confirmation(nouvelle fenêtre) ne garantissent pas d’empêcher les actions non souhaitées.

Cela n’est pas propre à Instinct. L’agent proactif de SpaceXAI, Grok Bot, a des conditions similaires. Les validations d’action ne sont qu’une « aide(nouvelle fenêtre) » et ne permettent pas forcément d’empêcher une action non souhaitée. De même, toute responsabilité découlant des actions de l’agent IA vous incombe entièrement(nouvelle fenêtre). Les conditions d’utilisation de Muse par Meta font de vous le seul responsable(nouvelle fenêtre) de tout ce que son agent fait. Le schéma est assez clair : les actions des agents sont les vôtres.

Il peut être manipulé pour agir contre vous

Les agents proactifs peuvent prendre des décisions de façon autonome, mais comme ils ne distinguent pas vos instructions d’un texte inséré par quelqu’un d’autre et qu’ils ne confirment pas une action avec vous, ils peuvent être facilement manipulés. Un utilisateur d’Instinct(nouvelle fenêtre) a constaté que l’agent proactif avait été piégé par une attaque par injection d’invite : il a suivi des instructions malveillantes que l’utilisateur s’était lui-même envoyées. Les escrocs n’ont pas besoin de pirater l’agent ; il leur suffit qu’il lise un texte qu’ils ont écrit et qu’il agisse en conséquence.

En réalité, Instinct(nouvelle fenêtre), Meta(nouvelle fenêtre), SpaceXAI(nouvelle fenêtre) et OpenClaw(nouvelle fenêtre) reconnaissent tous l’injection d’invite comme une menace connue. Aucun ne propose actuellement de protection complète contre ces attaques : ils promettent tout au plus que les défenses de l’agent contribuent à réduire ce risque.

Sachez ce que vous confiez

L’IA proactive fonctionne grâce à la quantité de données que vous lui confiez. Plus elle en sait sur vous, plus elle peut faire pour vous, mais plus le dossier de votre vie conservé par une seule entreprise est volumineux.

Un schéma propre au secteur s’est dessiné. Ces assistants peuvent s’entraîner sur vos données les plus personnelles, sauf si vous vous y opposez, et les désactiver n’efface pas de façon fiable ce qu’ils ont déjà collecté. Et quand un agent fait quelque chose que vous n’aviez pas prévu, les conditions d’utilisation font peser les conséquences sur vous, et non sur l’entreprise. Il faut reconnaître aux entreprises qu’elles explicitent tout cela. Mais cette transparence n’annule pas votre droit au respect de la vie privée.

Il vous appartient en dernier ressort de décider si ce type de confort vaut votre vie privée et la sécurité de vos données. Mais avant de dire oui, sachez ce qu’un assistant peut réellement voir, ce qu’il est autorisé à faire sans vous demander au préalable, et si vous pouvez vraiment récupérer vos données une fois qu’elles sont chez lui. Veillez à ce qu’il s’agisse d’une décision que vous avez réellement prise, et non d’un choix que vous avez cédé parce qu’un produit est devenu viral.

Si vous préférez ne pas faire ce compromis du tout, tournez-vous plutôt vers notre assistant IA Lumo. Nous l’avons conçu à l’inverse. Aucun journal, aucun entraînement sur vos données, rien de conservé plus longtemps que vous ne le souhaitez. Vous perdez un peu de la magie de l’IA proactive, mais vous gardez ce qu’elle vous demande d’abandonner : le contrôle de votre vie.