Si invia un prompt, si ottiene una risposta e non succede nulla finché non si immette un altro input. È così che hanno funzionato la maggior parte degli assistenti AI, ma l’AI proattiva cambia tutto questo.

L’AI proattiva non ha bisogno di un prompt per agire. Può effettuare il check-in per un volo o inviare una domanda per tuo conto, prendendo decisioni in base al contesto accumulato nel tempo. Con assistenti AI proattivi come Muse di Meta e Instinct che diventano virali, ciò che sembrava appartenere alla fantascienza appare improvvisamente vicino alla realtà.

Ma, come ogni buona storia di fantascienza, questa tecnologia è una spada a doppio taglio. Esploriamo come funziona l’AI proattiva e cosa si rinuncia in cambio della comodità che offre.

Per saperne di più su ciò che è in gioco, consulta la nostra guida completa su AI e privacy — oppure prova lo strumento AI paper trail per vedere esattamente cosa i chatbot AI più diffusi potrebbero aver raccolto su di te attraverso le tue conversazioni.

Cosa rende un’AI proattiva

Gli agenti AI proattivi funzionano sugli stessi modelli linguistici di grandi dimensioni dei chatbot AI a cui siamo abituati. Ciò che li distingue sono questi tre elementi che lavorano insieme:

  1. Sono sempre in osservazione: anziché attendere un comando, gli agenti proattivi monitorano una serie di fonti e rilevano i cambiamenti nel momento in cui avvengono.
  2. Hanno una memoria persistente: gli agenti proattivi costruiscono un modello di lavoro delle tue abitudini e preferenze nel tempo. È ciò che permette loro di anticipare ciò di cui potresti aver bisogno in seguito, non solo di ricordare un dato quando glielo chiedi.
  3. Decidono come e se agire: gli agenti proattivi possono “ragionare”. Valutano una situazione in base alle tue abitudini, giudicano se valga la pena agire e decidono fino a che punto spingersi prima di consultarti.

L’AI proattiva combina automazione e giudizio. Mentre un’automazione semplice si attiva ogni volta che una condizione viene soddisfatta, gli agenti proattivi anticipano le tue esigenze e stabiliscono se un’azione è utile prima di decidere di agire.

Questo può essere utile, ma può anche portare a conseguenze indesiderate. Instinct, ad esempio, stava acquistando qualcosa per un utente, ma quando è stato bloccato da una barriera di login, ha semplicemente reimpostato la password dell’utente(nuova finestra) senza chiedere. Questo tipo di iniziativa rende gli agenti AI proattivi impressionanti, ma anche rischiosi.

Casi d’uso per gli agenti AI proattivi

Gli agenti proattivi possono essere utili per il tipo di attività che normalmente dimenticheresti o per cui sprecheresti una serata. Ecco alcuni esempi:

Tenere in ordine i piani di viaggio

Un agente proattivo può monitorare l’itinerario di viaggio per individuare eventuali modifiche. Se un volo viene riprogrammato e mette a rischio la tua connessione di viaggio, se ne accorge e te lo segnala. Potrebbe anche riprenotare i tuoi voli per mantenere i tuoi piani di viaggio in ordine senza intoppi.

Cogliere ciò che altrimenti ti sfuggirebbe

Lo stesso meccanismo di osservazione e attesa può funzionare per qualsiasi cosa sia in esaurimento, come un paio di scarpe esaurite nella tua dimensione. L’agente continua a monitorare e fa un ordine nel momento esatto in cui viene effettuato un nuovo rifornimento.

Dare seguito a un’email

Gli agenti proattivi possono monitorare la tua posta in arrivo per individuare le email che aspetti. Se la tua email a un addetto al servizio clienti non ha ricevuto risposta, un agente potrebbe accorgersene, scrivere un sollecito e inviarlo oppure lasciarlo pronto perché tu lo invii.

Ridurre gli abbonamenti

Dato che oggi quasi tutto è a pagamento tramite abbonamento, un agente proattivo potrebbe controllare il tuo utilizzo e annullare gli abbonamenti ai servizi per cui paghi e che non usi regolarmente.

Monitoraggio delle operazioni aziendali

In ambito aziendale, gli agenti proattivi potrebbero monitorare l’infrastruttura IT per individuare i primi segnali di problemi e attivare una correzione prima che le cose vadano storte. Può anche monitorare le trattative e impedire che si raffreddino, coinvolgendo proattivamente i potenziali clienti quando il tuo team altrimenti rischierebbe di essere sommerso di lavoro.

La differenza tra AI proattiva e AI reattiva

Un assistente AI reattivo, come ChatGPT, si muove solo quando glielo dici. Anche quelli con memoria restano inattivi tra un prompt e l’altro, conservando ciò che gli hai detto finché non chiedi qualcos’altro. L’AI proattiva rimuove quell’attesa. Osserva la comparsa di un segnale e decide autonomamente se agire.

In altre parole, l’AI reattiva è qualcosa che tu gestisci. L’AI proattiva opera per tuo conto e si sostituisce alla tua capacità di agire.

La comodità degli agenti proattivi ha un costo

Per poter fare ciò che fa, gli agenti AI proattivi hanno bisogno di un accesso costante ai tuoi account. Si tratta di un rischio diverso da quello che comporta l’uso di un assistente AI.

Stai concedendo a un’unica azienda l’accesso completo a tutti i tuoi dati

Siamo diffidenti nei confronti della quantità di dati che Google raccoglie, ma anche loro non hanno accesso completo alle tue informazioni private. Google potrebbe avere i tuoi dati sulla posizione(nuova finestra), ma i tuoi dati sulla salute sono archiviati su Apple Health. Le tue preferenze di streaming sono custodite su Netflix, e le tue finanze nell’app della tua banca.

Usare agenti AI proattivi significa affidare tutto questo, e altro, a un’unica azienda. Questi agenti sono progettati per connettere tutti i tuoi dati; è questo che permette loro di individuare schemi e agire. A seconda dell’agente, ciò può includere i nomi utente e le password degli account di terze parti, i dettagli di pagamento e altro ancora.

Muse mostra quanto possano essere affamati di dati gli agenti proattivi. Un revisore di WIRED(nuova finestra) ha scoperto che Muse sembrava più interessato a raccogliere dati che a completare le attività, suggerendogli ripetutamente di connettere sempre più servizi. Questo comportamento è in linea con ciò che sappiamo sullo storico di Meta.

Il costo di questa comodità è che tutto di te è ora nelle mani di un’unica azienda. E, a meno che l’azienda non si sottoponga a verifiche indipendenti, non hai modo reale di sapere se i tuoi dati vengano gestiti in modo sicuro. Se il tuo account viene violato o venduto, terze parti a cui non hai mai acconsentito hanno ora una visione completa di dove sei stato, con chi hai parlato, cosa hai acquistato e cosa hai detto in privato. Questo apre la porta a diventare vittima di minacce come il furto d’identità e le truffe mirate.

La disconnessione non equivale all’eliminazione

TechCrunch(nuova finestra) ha riferito che gli screenshot dei termini di Instinct mostravano una licenza “perpetua e irrevocabile” sui dati degli utenti. Instinct l’ha poi rivista e i termini di servizio e l’informativa sulla privacy attuali non includono tale formulazione.

I nuovi termini restano comunque importanti. I termini attuali di Instinct (al momento della stesura) gli consentono di “accedere, copiare, raccogliere e indicizzare i dati(nuova finestra)” dai servizi che colleghi, e sia i termini sia la sua informativa sulla privacy affermano che disconnettere un account non elimina i tuoi dati(nuova finestra) a meno che tu non lo richieda. Una delle prime utenti(nuova finestra) ha dichiarato di aver disconnesso l’accesso di Instinct al suo account Google e di aver ricevuto comunque un riepilogo delle sue ultime email qualche ora dopo. Quando ha chiesto il motivo, Instinct ha confermato di aver archiviato le sue email in testo normale per ricerche successive. Se disconnetti i tuoi servizi da Instinct, assicurati di richiedere anche l’eliminazione dei dati.

Anche la disattivazione dell’addestramento dell’AI su Instinct ha un inconveniente: vale solo “si applica da questo momento in poi(nuova finestra)”. Quindi qualsiasi dato su di te che il modello ha assorbito rimarrà parte del suo addestramento e della sua conoscenza. Muse funziona diversamente: disattivare l’addestramento dell’AI si applica retroattivamente alle interazioni passate(nuova finestra). Tuttavia, eliminare dati da Muse non significa che i tuoi dati vengano rimossi. Meta afferma che il modello potrebbe ancora ricordare ciò che hai eliminato(nuova finestra), e la sua funzionalità “dimentica” opera in base al miglior sforzo possibile(nuova finestra).

Gli errori degli agenti sono reali, non solo sbagliati

Quando un chatbot come Gemini allucina, causa danni reali(nuova finestra) solo se agisci in base a quell’informazione. Quando un agente proattivo commette un errore, potresti non accorgertene finché non devi affrontare conseguenze nel mondo reale.

Immagina se un agente proattivo decidesse di prenotarti dei posti in prima classe per il tuo viaggio. Ora sei tu a dover pagare un conto che non hai mai approvato. Quando accetti i termini di Instinct, per esempio, concedi l’autorità di inserire accordi vincolanti per tuo conto(nuova finestra) — può impegnare il tuo denaro senza la tua approvazione, e non puoi legalmente sostenere che sia andato fuori controllo. Peggio ancora, afferma che le misure di sicurezza per la conferma(nuova finestra) non sono garantite per impedire azioni non intenzionali.

Non è esclusivo di Instinct. L’agente proattivo di SpaceXAI, Grok Bot, ha termini simili. Le approvazioni delle azioni sono “solo ausili(nuova finestra)” e potrebbero non impedire azioni non intenzionali. Analogamente, qualsiasi responsabilità derivante dalle azioni dell’agente AI ricade interamente su di te(nuova finestra). I termini di Meta per l’uso di Muse ti rendono l’unico responsabile(nuova finestra) di tutto ciò che fa il suo agente. Il quadro che emerge è piuttosto chiaro: le azioni degli agenti sono tue.

Può essere manipolato e spinto a lavorare contro di te

Gli agenti proattivi possono prendere decisioni in autonomia, ma quando non riescono a distinguere le tue istruzioni dal testo inserito da qualcun altro e non confermano un’azione con te, possono essere facilmente ingannati. Un utente di Instinct(nuova finestra) ha scoperto che l’agente proattivo è caduto in un attacco di prompt injection: ha seguito istruzioni dannose che l’utente gli aveva inviato. I truffatori non devono hackerare l’agente; basta che lo facciano leggere qualcosa che hanno scritto, lasciando che agisca di conseguenza.

In effetti, Instinct(nuova finestra), Meta(nuova finestra), SpaceXAI(nuova finestra), e OpenClaw(nuova finestra) riconoscono tutti l’iniezione di prompt come una minaccia nota. Nessuno, al momento, offre una protezione completa contro questi attacchi, promettendo al massimo che le difese dell’agente lavorino per ridurre questo rischio.

Fai attenzione a ciò che cedi

L’AI proattiva funziona grazie a quanti dati le fornisci. Più sa di te, più può fare per te, ma più grande diventa l’archivio della tua vita che si trova presso un’unica azienda.

Nel settore si è affermato uno schema ricorrente. Questi assistenti possono addestrarsi sui tuoi dati più personali, a meno che tu non ti opponga, e interromperne l’uso non cancella in modo affidabile ciò che hanno già raccolto. E quando un agente fa qualcosa che non avevi previsto, i termini fanno ricadere le conseguenze su di te, non sull’azienda. A loro merito, le aziende spiegano chiaramente tutto ciò. Ma essere trasparenti non annulla il tuo diritto alla privacy dei dati.

In definitiva, spetta a te decidere se questo tipo di comodità valga la pena per la privacy e la sicurezza dei dati. Ma prima di dire di sì, sappi cosa può vedere davvero un assistente, cosa gli è permesso fare senza chiedertelo prima e se è davvero possibile riavere i propri dati una volta che sono stati inseriti. Assicurati che sia una decisione presa davvero da te, e non una a cui hai ceduto solo perché è diventata virale.

Se preferisci non accettare questo compromesso, rivolgiti invece al nostro assistente AI Lumo. Lo abbiamo costruito in modo opposto: nessun log, nessun addestramento sui tuoi dati, nulla conservato più a lungo di quanto tu desideri. Rinunci a un po’ della magia dell’AI proattiva, ma conservi ciò che ti chiede di sacrificare: il controllo sulla propria vita.