Introduceți un prompt, primiți un răspuns, iar nimic nu se întâmplă până nu introduceți o altă intrare. Așa au funcționat majoritatea asistenților AI, dar AI-ul proactiv schimbă acest lucru.

AI-ul proactiv nu are nevoie de un prompt ca să acționeze. Poate face check-in pentru un zbor sau poate depune o aplicație în numele dumneavoastră, luând aceste decizii pe baza contextului acumulat în timp. Odată cu asistenții AI proactivi precum Muse de la Meta și Instinct, care devin virali, lucrurile din science fiction par brusc aproape de realitate.

Dar, la fel ca orice poveste bună de science fiction, această tehnologie este o sabie cu două tăișuri. Să explorăm cum funcționează AI-ul proactiv și ce renunțați în schimbul comodității pe care o oferă.

Pentru a afla mai multe despre ce este în joc, consultați ghidul nostru complet despre AI și confidențialitate, sau încercați instrumentul AI paper trail pentru a vedea exact ce date despre dumneavoastră ar fi putut colecta chatbot-urile AI populare din conversațiile dumneavoastră.

Ce face un AI proactiv

Agenții AI proactivi rulează pe aceleași modele lingvistice mari ca și chatbot-urile AI la care suntem obișnuiți. Ceea ce îi diferențiază sunt aceste trei lucruri care funcționează împreună:

  1. Sunt mereu atenți: În loc să aștepte să fie solicitați, agenții proactivi monitorizează o serie de surse și sesizează schimbările pe măsură ce au loc.
  2. Au memorie persistentă: Agenții proactivi construiesc un model de lucru al obiceiurilor și preferințelor dumneavoastră în timp. Tocmai asta le permite să anticipeze ce veți avea probabil nevoie în continuare, nu doar să reamintească un fapt atunci când îl solicitați.
  3. Decid cum și dacă să acționeze: Agenții proactivi pot „raționa”. Cântăresc o situație în raport cu obiceiurile dumneavoastră, evaluează dacă merită să acționeze și decid cât de departe ar trebui să meargă înainte de a vă contacta.

AI-ul proactiv combină automatizarea cu judecata. Pe când o automatizare simplă se declanșează de fiecare dată când este îndeplinită o condiție, agenții proactivi anticipează nevoile dumneavoastră și stabilesc dacă o acțiune este utilă înainte de a decide să acționeze.

Acest lucru poate fi util, dar poate duce și la consecințe neintenționate. Instinct, de exemplu, încerca să cumpere ceva pentru un utilizator, dar, când a fost blocat de o barieră de conectare, a efectuat resetarea parolei utilizatorului(fereastră nouă) fără să ceară permisiunea. Acest tip de inițiativă face agenții AI proactivi impresionanți, dar și riscanți.

Cazuri de utilizare pentru agenții AI proactivi

Agenții proactivi pot fi de ajutor pentru sarcinile pe care, în mod normal, fie le uitați, fie pierdeți o seară întreagă cu ele. Iată câteva exemple:

Menținerea planurilor de călătorie în ordine

Un agent proactiv poate urmări itinerariul de călătorie pentru eventuale modificări. Dacă un zbor este reprogramat și pune în pericol conexiunea, agentul îl observă și vă semnalează. Poate rezerva din nou zborurile, pentru ca planurile de călătorie să decurgă fără probleme.

Prinderea lucrului pe care altfel l-ați rata

Aceeași combinație de urmărire și așteptare poate funcționa pentru orice produs aflat în stoc limitat, cum ar fi o pereche de pantofi epuizată în mărimea dumneavoastră. Agentul continuă să urmărească și plasează o comandă în momentul în care stocul este reaprovizionat.

Urmărirea unui e-mail

Agenții proactivi pot monitoriza inbox-ul pentru e-mailurile pe care le așteptați. Dacă e-mailul trimis unui reprezentant al serviciului de relații cu clienții nu a primit răspuns, un agent ar putea observa acest lucru, ar putea redacta un mesaj de reamintire și fie l-ar trimite, fie l-ar lăsa pregătit pentru ca dumneavoastră să îl trimiteți.

Reducerea abonamentelor

Întrucât aproape totul se plătește prin abonament în zilele noastre, un agent proactiv ar putea audita utilizarea dumneavoastră și ar putea anula abonamentele pentru serviciile pe care le plătiți, dar pe care nu le folosiți în mod regulat.

Monitorizarea operațiunilor de afaceri

În afaceri, agenții proactivi ar putea monitoriza infrastructura IT pentru a detecta din timp semnele unor probleme și a declanșa o remediere înainte ca lucrurile să ia o întorsătură proastă. Agentul poate, de asemenea, monitoriza tranzacțiile și le poate împiedica să se răcească, contactând proactiv potențialii clienți atunci când echipa dumneavoastră ar fi altfel copleșită.

Diferența dintre AI proactiv și AI reactiv

Un asistent AI reactiv, precum ChatGPT, acționează doar când îi spuneți să o facă. Chiar și cei cu memorie stau inactivi între prompturi, păstrând ceea ce le-ați spus până când cereți altceva. AI-ul proactiv elimină această așteptare. Urmărește un declanșator și decide singur dacă să acționeze.

Cu alte cuvinte, AI-ul reactiv este ceva ce operați dumneavoastră. AI-ul proactiv acționează în numele dumneavoastră, preluând controlul asupra capacității dumneavoastră de a acționa.

Comoditatea agenților proactivi are un cost

Pentru a putea face ceea ce fac, agenții AI proactivi au nevoie de accesare constantă la conturile dumneavoastră. Acesta este un tip de risc diferit de cel care vine odată cu utilizarea unui asistent AI.

Oferiți unei singure companii accesare completă la toate datele dumneavoastră

Suntem precauți cu privire la cantitatea de date colectate de Google, dar nici ei nu au accesare completă la toate informațiile dumneavoastră private. Google ar putea avea datele despre loc(fereastră nouă), dar datele dumneavoastră medicale sunt stocate în Apple Health. Preferințele dumneavoastră de transmisie în flux sunt ascunse pe Netflix, iar finanțele în aplicația dumneavoastră bancară.

Utilizarea agenților AI proactivi înseamnă predarea tuturor acestor date, și nu numai, unei singure companii. Acești agenți sunt concepuți să se conecteze la toate datele dumneavoastră; tocmai asta le permite să identifice tipare și să acționeze. În funcție de agent, asta poate include numele de utilizator și parolele pentru conturile terțelor părți, detaliile de plată și altele.

Muse arată cât de avide de date pot fi agenții proactivi. Un recenzent de la WIRED(fereastră nouă) a constatat că Muse părea mai interesat de colectarea datelor decât de îndeplinirea sarcinilor, sugerându-i în mod repetat să își conecteze tot mai multe servicii. Acest comportament se potrivește cu ceea ce știm despre palmaresul Meta.

Costul acestei comodități este că totul despre dumneavoastră se află acum în mâinile unei singure companii. Iar dacă nu trec prin audituri independente, nu aveți nicio modalitate reală de a ști dacă datele dumneavoastră sunt gestionate în siguranță. Dacă contul dumneavoastră este compromis sau vândut, terțe părți cărora nu le-ați dat consimțământul au acum acces complet la informații despre locul unde ați fost, cu cine ați vorbit, ce ați cumpărat și ce ați spus în privat. Acest lucru deschide ușa către a deveni victima unor amenințări precum furtul de identitate și înșelătoriile direcționate.

Deconectarea nu înseamnă același lucru cu ștergerea

TechCrunch(fereastră nouă) a raportat că unele capturi de ecran ale condițiilor Instinct afișau o licență „perpetuă și irevocabilă” asupra datelor utilizatorilor. Instinct a revizuit-o între timp, iar condițiile serviciului și politica de confidențialitate actuale nu mai includ această formulare.

Totuși, noile condiții contează. Condițiile actuale ale Instinct (la momentul redactării acestui articol) îi permit să „accesează, copiază, colectează și indexează date(fereastră nouă)” din serviciile pe care le conectați, iar atât condițiile, cât și politica sa de confidențialitate spun că deconectarea unui cont nu șterge datele dumneavoastră(fereastră nouă) decât dacă solicitați acest lucru. O primă utilizatoare(fereastră nouă) a spus că a deconectat accesul Instinct la contul ei Google, dar a primit totuși un rezumat al ultimelor sale e-mailuri câteva ore mai târziu. Când a întrebat de ce, Instinct a confirmat că stocase e-mailurile în text simplu pentru căutări ulterioare. Dacă deconectați serviciile de la Instinct, asigurați-vă că solicitați și ștergerea datelor.

Renunțarea la antrenarea AI pe Instinct vine și cu o restricție: ea se aplică doar „pentru viitor(fereastră nouă)”. Așadar, orice date despre dumneavoastră pe care modelul le-a absorbit vor rămâne parte din antrenarea și cunoștințele sale. Muse funcționează diferit: renunțarea la antrenarea AI se aplică retroactiv interacțiunilor anterioare(fereastră nouă). Totuși, ștergerea datelor din Muse nu înseamnă că datele dumneavoastră sunt eliminate. Meta spune că modelul ar putea să își amintească ce ați șters(fereastră nouă), iar caracteristica sa de „uitare” funcționează pe baza celor mai bune eforturi(fereastră nouă).

Greșelile agenților sunt reale, nu doar greșite

Când un chatbot precum Gemini halucinează, cauzează un prejudiciu real(fereastră nouă) doar dacă acționați în baza acelei informații. Când un agent proactiv face o greșeală, s-ar putea să nu aflați despre ea decât atunci când vă confruntați cu consecințe concrete.

Imaginați-vă că un agent proactiv decide să vă rezerve locuri în clasa întâi pentru călătoria dumneavoastră. Acum trebuie să plătiți o factură pe care nu ați acceptat-o niciodată. Când acceptați condițiile Instinct, de exemplu, acordați autoritatea de a încheia acorduri obligatorii în numele dumneavoastră(fereastră nouă): acesta poate angaja banii fără aprobarea dumneavoastră, iar nu puteți susține în mod legal că a scăpat de sub control. Mai mult, condițiile spun că orice măsuri de siguranță bazate pe confirmare(fereastră nouă) nu sunt garantate că vor preveni acțiunile neintenționate.

Acest lucru nu este specific Instinct. Agentul proactiv al SpaceXAI, Grok Bot, are condiții similare. Aprobările acțiunilor sunt „doar ca ajutor(fereastră nouă)” și nu pot preveni neapărat acțiunile neintenționate. În mod similar, orice răspundere care decurge din acțiunile agentului AI revine integral dumneavoastră(fereastră nouă). Condițiile Meta pentru utilizarea Muse vă fac singurul responsabil(fereastră nouă) pentru tot ce face agentul său. Tiparul este destul de clar: acțiunile agenților vă aparțin.

Poate fi păcălit să lucreze împotriva dumneavoastră

Agenții proactivi pot lua decizii autonom, dar, când nu pot deosebi instrucțiunile dumneavoastră de textul plantat de altcineva și nu cer confirmarea unei acțiuni, pot fi ușor păcăliți. Un utilizator Instinct(fereastră nouă) a constatat că agentul proactiv a căzut într-un atac prin injectare de prompt, adică a urmat instrucțiuni malițioase pe care utilizatorul însuși le-a trimis. Înșelătorii nu au nevoie să spargă agentul; trebuie doar să îl facă să citească ceva scris de ei și să îl lase să acționeze pe baza acelui conținut.

De fapt, Instinct(fereastră nouă), Meta(fereastră nouă), SpaceXAI(fereastră nouă) și OpenClaw(fereastră nouă) recunosc toate injectarea de prompt drept o amenințare cunoscută. Niciuna nu oferă în prezent protecție completă împotriva acestor atacuri, promițând cel mult că mecanismele de apărare ale agentului funcționează pentru a reduce acest risc.

Fiți atenți la ce predați

AI-ul proactiv funcționează datorită cantității de date pe care i le oferiți. Cu cât știe mai multe despre dumneavoastră, cu atât poate face mai mult pentru dumneavoastră, dar cu atât devine mai mare dosarul vieții dumneavoastră care se află la o singură companie.

S-a conturat un tipar în industrie. Acești asistenți pot fi antrenați pe cele mai personale date ale dumneavoastră, cu excepția cazului în care renunțați, iar a le întrerupe utilizarea nu șterge în mod fiabil ceea ce au colectat deja. Și atunci când un agent face ceva ce nu ați intenționat, condițiile pun consecințele pe seama dumneavoastră, nu a companiei. Spre meritul lor, companiile explică toate acestea clar. Dar a fi sincer nu anulează dreptul dumneavoastră la confidențialitatea datelor.

În cele din urmă, decizia vă aparține: dacă acest tip de confort merită confidențialitatea și securitatea datelor. Dar înainte de a spune da, aflați ce poate vedea cu adevărat un asistent, ce are voie să facă fără să vă întrebe mai întâi și dacă puteți recupera cu adevărat datele odată ce au ajuns acolo. Asigurați-vă că este o decizie pe care ați luat-o cu adevărat, nu una pe care ați cedat-o pentru că ceva a devenit viral.

Dacă preferați să nu faceți deloc acest schimb, optați în schimb pentru asistentul AI Lumo. L-am creat invers: fără jurnale, fără antrenare pe date, nimic nu este păstrat mai mult decât doriți. Pierdeți puțin din magia proactivă a AI-ului, dar păstrați lucrul pe care vă cere să-l renunțați: controlul asupra vieții.