Du angiver en prompt, får et svar, og der sker ikke noget, før du angiver en ny. Sådan har de fleste AI-assistenter fungeret, men proaktiv AI ændrer på det.

Proaktiv AI har ikke brug for en prompt for at handle. Den tjekker dig ind til en flyvning eller indsender en applikation på dine vegne og træffer disse beslutninger ud fra den kontekst, den har opsamlet med tiden. Når proaktive AI-assistenter som Metas Muse og Instinct går viralt, virker sci-fi pludselig tæt på virkeligheden.

Men ligesom i enhver god sci-fi-historie er denne teknologi et tveægget sværd. Lad os se på, hvordan proaktiv AI fungerer, og hvad du giver afkald på for den bekvemmelighed, den giver.

Hvis du vil vide mere om, hvad der er på spil, kan du læse vores fulde guide om AI og privatliv – eller prøve vores værktøj AI paper trail for at se præcis, hvad almindelige AI-chatbots kan have indsamlet om dig gennem dine samtaler.

Hvad gør en AI proaktiv

Proaktive AI-agenter kører på de samme store sprogmodeller som de AI-chatbots, vi er vant til. Det, der adskiller dem, er disse tre ting, som spiller sammen:

  1. De holder altid øje: I stedet for at vente på en prompt overvåger proaktive agenter en række kilder og opfanger ændringer, efterhånden som de sker.
  2. De har vedvarende hukommelse: Proaktive agenter opbygger med tiden en arbejdsmodel over dine vaner og præferencer. Det er det, der gør dem i stand til at forudse, hvad du sandsynligvis får brug for næste gang, og ikke bare genkalde en oplysning, når du spørger om den.
  3. De beslutter, hvordan og hvorvidt de skal handle: Proaktive agenter kan »ræsonnere«. De vejer en situation op mod dine vaner, vurderer, om den er værd at handle på, og beslutter, hvor langt de skal gå, før de vender tilbage til dig.

Proaktiv AI kombinerer automatisering med dømmekraft. Hvor en simpel automatisering udløses, hver gang en betingelse er opfyldt, forudser proaktive agenter dine behov og vurderer, om en handling er nyttig, før de vælger at handle.

Det kan være nyttigt, men det kan også føre til utilsigtede konsekvenser. Instinct var for eksempel ved at købe noget for en bruger, men da det blev blokeret af en loginvæg, nulstillede det bare brugerens adgangskode(nyt vindue) uden at spørge. Den slags initiativ gør proaktive AI-agenter imponerende, men også risikable.

Anvendelsesmuligheder for proaktive AI-agenter

Proaktive agenter kan være nyttige til den slags opgaver, du normalt enten glemmer eller bruger en hel aften på. Her er nogle eksempler:

Styr på rejseplanerne

En proaktiv agent kan holde øje med ændringer i din rejseplan. Hvis en flyvning omlægges og bringer din forbindelse i fare, opdager den det og gør dig opmærksom på det. Den kan potentielt ombooke dine flyvninger, så dine rejseplaner glider problemfrit.

Fanger det, du ellers ville gå glip af

Den samme overvågning og venten kan bruges på alt, der er i underskud, for eksempel et par sko, der er udsolgt i din størrelse. Agenten holder øje og afgiver en ordre, i samme øjeblik varen kommer på lager igen.

Opfølgning på en e-mail

Proaktive agenter kan overvåge din indbakke for de e-mails, du venter på. Hvis der ikke er svaret på din e-mail til en kundeservicemedarbejder, kan en agent opdage det, skrive en venlig påmindelse og enten sende den eller gøre den klar til, at du selv kan sende den.

Skær ned på abonnementer

Når næsten alt i dag betales via abonnement, kan en proaktiv agent gennemgå dit forbrug og annullere dine abonnementer på tjenester, du betaler for, men ikke bruger regelmæssigt.

Overvågning af forretningsdrift

I erhvervslivet kan proaktive agenter overvåge IT-infrastruktur for at opdage tidlige tegn på problemer og sætte en rettelse i gang, før tingene går galt. De kan også overvåge aftaler og forhindre, at de går i stå, ved proaktivt at kontakte mulige kunder, når dit team ellers ville være tynget af andre opgaver.

Forskellen på proaktiv og reaktiv AI

En reaktiv AI-assistent som ChatGPT rører sig kun, når du beder den om det. Selv dem med hukommelse ligger stille mellem prompter og holder fast i det, du har fortalt dem, indtil du spørger om noget andet. Proaktiv AI fjerner den ventetid. Den holder øje med en udløser og beslutter selv, om den skal handle.

Med andre ord er reaktiv AI noget, du betjener. Proaktiv AI handler på dine vegne og overtager din handlefrihed.

Bekvemmeligheden ved proaktive agenter har en pris

For at kunne gøre det, de gør, har proaktive AI-agenter brug for konstant adgang til dine konti. Det er en anden slags risiko end den, der følger med brugen af en AI-assistent.

Du giver én virksomhed fuld adgang til alle dine data

Vi er på vagt over for mængden af data, Google indsamler, men selv de har ikke fuld adgang til alle dine private oplysninger. Google kan have dine placeringsdata(nyt vindue), men dine helbredsdata ligger i Apple Health. Dine streamingpræferencer gemmer sig på Netflix, og din økonomi i din bankapp.

At bruge proaktive AI-agenter betyder, at du afleverer alt dette og mere til én enkelt virksomhed. Disse agenter er designet til at forbinde alle dine data; det er det, der gør dem i stand til at opdage mønstre og handle. Afhængigt af agenten kan det omfatte brugernavne og adgangskoder til dine tredjepartskonti, dine betalingsoplysninger og meget mere.

Muse viser, hvor datatørstige proaktive agenter kan være. En anmelder fra WIRED(nyt vindue) oplevede, at Muse virkede mere interesseret i at indsamle data end i at løse opgaver og gentagne gange foreslog at forbinde flere og flere tjenester. Den adfærd passer med det, vi ved om Metas historik.

Prisen for den bekvemmelighed er, at alt om dig nu er i hænderne på én virksomhed. Og medmindre de gennemgår uafhængige revisioner, har du ingen reel mulighed for at vide, om dine data administreres sikkert. Hvis din konto kompromitteres eller sælges, har tredjeparter, du aldrig har givet samtykke til, pludselig fuldt indblik i, hvor du har været, hvem du har talt med, hvad du har købt, og hvad du har sagt privat. Det åbner døren til at blive offer for trusler som identitetstyveri og målrettet svindel.

At afbryde er ikke det samme som at slette

TechCrunch(nyt vindue) rapporterede, at skærmfotos af Instincts vilkår viste en »evig og uigenkaldelig« licens til brugernes data. Instinct har siden revideret den, og de nuværende servicevilkår og privatlivspolitikken indeholder ikke den formulering.

De nye vilkår er dog stadig vigtige. Instincts nuværende vilkår (på skrivetidspunktet) giver det lov til at »få adgang til, kopiere, indsamle og indeksere data(nyt vindue)« fra de tjenester, du forbinder, og både vilkårene og privatlivspolitikken siger, at afbrydelse af en konto ikke sletter dine data(nyt vindue), medmindre du beder om det. En tidlig bruger(nyt vindue) fortalte, at hun afbrød Instincts adgang til sin Google-konto og stadig fik en oversigt over sine seneste e-mails et par timer senere. Da hun spurgte hvorfor, bekræftede Instinct, at den havde lagret hendes e-mails i almindelig tekst til senere søgninger. Hvis du afbryder dine tjenester fra Instinct, skal du huske også at anmode om sletning af dine data.

At fravælge AI-træning på Instinct har også en hage – det gælder kun »fremadrettet(nyt vindue)«. Så uanset hvilke data modellen har optaget om dig, forbliver de en del af dens træning og viden. Muse fungerer anderledes; fravalg af AI-træning gælder med tilbagevirkende kraft for tidligere interaktioner(nyt vindue). Men at slette data fra Muse betyder ikke, at dine data er fjernet. Meta siger, at modellen stadig kan huske det, du slettede(nyt vindue), og at dens »glem«-funktion fungerer efter bedste evne(nyt vindue).

Agentfejl er virkelige, ikke bare forkerte

Når en chatbot som Gemini hallucinerer, gør det kun reel skade(nyt vindue), hvis du handler på oplysningerne. Når en proaktiv agent begår en fejl, opdager du den måske først, når du står med konsekvenserne i den virkelige verden.

Forestil dig, at en proaktiv agent beslutter at booke første klasses pladser til din rejse. Nu hænger du på en regning, du aldrig har accepteret. Når du accepterer Instincts vilkår, giver du for eksempel agenten bemyndigelse til at indgå bindende aftaler på dine vegne(nyt vindue) – den kan bruge dine penge uden din godkendelse, og du kan ikke juridisk hævde, at den handlede på egen hånd. Og endnu værre: vilkårene siger, at bekræftelsesmekanismer(nyt vindue) ikke garanterer at forhindre utilsigtede handlinger.

Det er ikke unikt for Instinct. SpaceXAIs proaktive agent, Grok Bot, har lignende vilkår. Godkendelse af handlinger er »kun hjælpemidler(nyt vindue)« og forhindrer måske ikke utilsigtede handlinger. På samme måde falder ethvert ansvar(nyt vindue) som følge af AI-agentens handlinger udelukkende på dig. Metas vilkår for brug af Muse gør dig eneansvarlig(nyt vindue) for alt, hvad agenten gør. Det tegner et ret tydeligt mønster: agenternes handlinger er dine.

Den kan narres til at arbejde imod dig

Proaktive agenter kan træffe beslutninger autonomt, men når de ikke kan skelne dine instruktioner fra tekst, som andre har indsat, og ikke bekræfter en handling med dig, kan de nemt narres. En Instinct-bruger(nyt vindue) oplevede, at den proaktive agent faldt for et prompt injection-angreb – den fulgte ondsindede instruktioner, som brugeren selv havde sendt. Svindlere behøver ikke hacke agenten; de skal blot få den til at læse noget, de har skrevet, og lade den handle på det.

Faktisk anerkender Instinct(nyt vindue), Meta(nyt vindue), SpaceXAI(nyt vindue) og OpenClaw(nyt vindue) alle prompt injection som en kendt trussel. Ingen af dem tilbyder i dag fuld beskyttelse mod disse angreb, men lover højst, at agentens forsvar reducerer risikoen.

Vær opmærksom på, hvad du udleverer

Proaktiv AI fungerer, fordi du giver den så meget data. Jo mere den ved om dig, jo mere kan den gøre for dig, men jo større bliver historikken over dit liv, som ligger hos én virksomhed.

Der er opstået et mønster i branchen. Disse assistenter kan træne på dine mest personlige data, medmindre du aktivt framelder dig, og det er ikke ensbetydende med, at det, de allerede har indsamlet, bliver slettet. Og når en agent gør noget, du ikke havde til hensigt, er det dig og ikke virksomheden, der ifølge vilkårene hæfter for konsekvenserne. Virksomhederne skal have ros for at gøre alt dette klart. Men at være åben om det ophæver ikke din ret til databeskyttelse.

Det er i sidste ende op til dig at afgøre, om den slags bekvemmelighed er dit privatliv og din datasikkerhed værd. Men før du siger ja, bør du vide, hvad en assistent reelt kan se, hvad den må gøre, uden at spørge dig først, og om du reelt kan få dine data tilbage, når de først er afleveret. Sørg for, at det er en beslutning, du selv har taget – og ikke en, du gav væk, fordi noget gik viralt.

Hvis du hellere vil undgå den handel helt, så vend dig i stedet mod vores AI-assistent Lumo. Vi har bygget den den anden vej rundt – ingen logfiler, ingen træning på dine data, intet gemt længere, end du ønsker. Du mister lidt af den proaktive AI-magi, men du beholder det, den beder dig give afkald på: kontrollen over dit liv.