Du skriver inn en instruks, får et svar, og ingenting skjer før du legger inn en ny. Slik har de fleste AI-assistenter fungert, men proaktiv AI endrer på det.

Proaktiv AI trenger ikke en instruks for å handle. Den sjekker deg inn på et fly eller sender inn en søknad på dine vegne, og tar beslutninger basert på kontekst den har samlet over tid. Med proaktive AI-assistenter som Metas Muse og Instinct, som sprer seg raskt, virker det som om science fiction plutselig er nær virkeligheten.

Men akkurat som enhver god science fiction-historie er denne teknologien et tveegget sverd. La oss utforske hvordan proaktiv AI fungerer, og hva du gir fra deg for bekvemmeligheten den tilbyr.

For å finne ut mer om hva som står på spill, ta en titt på vår fullstendige guide om AI og personvern – eller prøv verktøyet AI paper trail for å se nøyaktig hva vanlige AI-chatboter kan ha samlet inn om deg gjennom samtalene dine.

Hva gjør en AI proaktiv

Proaktive AI-agenter kjører på de samme store språkmodellene som AI-chatbotene vi er vant til. Det som skiller dem fra hverandre, er disse tre tingene som fungerer sammen o:

  1. De er alltid på vakt o: I stedet for å vente på å få en instruks, overvåker proaktive agenter en rekke kilder og fanger opp endringer etter hvert som de skjer.
  2. De har et vedvarende minne o: Proaktive agenter bygger en fungerende modell av vanene og preferansene dine over tid. Det er dette som gjør at de kan forutse hva du sannsynligvis trenger neste gang, og ikke bare huske en opplysning når du spør om den.
  3. De avgjør hvordan og om de skal handle o: Proaktive agenter kan «resonnere». De veier en situasjon opp mot vanene dine, vurderer om den er verdt å handle på, og avgjør hvor langt de skal gå før de sjekker inn med deg.

Proaktiv AI kombinerer automatisering med skjønn. Der en enkel automatisering utløses hver gang et vilkår er oppfylt, forutser proaktive agenter behovene dine og vurderer om en handling er nyttig, før de bestemmer seg for å handle.

Det kan være nyttig, men det kan også føre til utilsiktede konsekvenser. Instinct skulle for eksempel kjøpe noe for en bruker, men da en påloggingsmur stoppet det, tilbakestilte brukerens passord(nytt vindu) uten å spørre. Denne typen initiativ gjør proaktive AI-agenter imponerende, men også risikofylte.

Bruksområder for proaktive AI-agenter

Proaktive agenter kan være nyttige for den typen oppgaver du vanligvis enten glemmer eller bruker en hel kveld på. Her er noen eksempler o:

Holde styr på reiseplanene

En proaktiv agent kan følge med på reiseplanen din og fange opp endringer. Hvis et fly blir omlagt og setter forbindelsen din i fare, oppdager den det og varsler deg. Den kan eventuelt bestille nye fly for deg, slik at reiseplanene dine går smidig.

Få tak i det du ellers ville gått glipp av

Den samme jevnlige overvåkingen og ventingen kan fungere for alt som er mangelvare, for eksempel et par sko som er utsolgt i din størrelse. Agenten følger hele tiden med og legger en bestilling i det øyeblikket varen er tilbake på lager.

Følge opp en e-post

Proaktive agenter kan overvåke innboksen din for e-poster du venter på. Hvis e-posten din til en kundeservicemedarbeider ikke har fått svar, kan en agent legge merke til det, skrive en purring og enten sende den eller la den ligge klar for at du skal sende den.

Kutt ned på abonnementer

Med nesten alt betalt via abonnement i dag, kan en proaktiv agent gå gjennom bruken din og avbryte abonnementene dine for tjenester du betaler for, men ikke bruker regelmessig.

Overvåking av forretningsdrift

I næringslivet kan proaktive agenter overvåke IT-infrastrukturen for å fange opp tidlige tegn på problemer og utløse en løsning før ting går galt. Den kan også overvåke avtaler og hindre at de stagnerer, ved å ta proaktivt kontakt med potensielle kunder når teamet ditt ellers kan være overbelastet.

Forskjellen mellom proaktiv AI og reaktiv AI

En reaktiv AI-assistent, som ChatGPT, beveger seg bare når du ber den om det. Selv de med minnefunksjon står inaktive mellom instruksene og holder fast på det du har fortalt dem, til du spør om noe annet. Proaktiv AI fjerner den ventingen. Den følger med på en utløser og bestemmer selv om den skal handle.

Med andre ord er reaktiv AI noe du styrer. Proaktiv AI opererer på dine vegne og tar over din handlefrihet.

Bekvemmeligheten med proaktive agenter har en pris

For å kunne gjøre det den gjør, trenger proaktive AI-agenter konstant tilgang til kontoene dine. Det er en annen type risiko enn den som følger med når du bruker en AI-assistent.

Du gir ett selskap fullstendig tilgang til alle dataene dine

Vi er skeptiske til mengden data Google samler inn, men selv de har ikke fullstendig tilgang til all privat informasjon om deg. Google kan ha plasseringsdataene dine(nytt vindu), men helsedataene dine er lagret i Apple Health. Strømmepreferansene dine ligger gjemt på Netflix, og økonomien din ligger i bankappen din.

Å bruke proaktive AI-agenter betyr å overlate alt dette, og mer, til ett enkelt selskap. Disse agentene er laget for å koble sammen alle dataene dine, og det er nettopp det som gjør at de kan oppdage mønstre og handle. Avhengig av agenten kan det inkludere brukernavn og passord for tredjepartskontoene dine, betalingsdetaljer og mer.

Muse viser hvor datasultne proaktive agenter kan være. En anmelder fra WIRED(nytt vindu) fant at Muse virket mer interessert i å samle inn data enn i å fullføre oppgaver, og foreslo gjentatte ganger at han koblet til flere og flere tjenester. Denne atferden stemmer overens med det vi vet om Metas trackrecord.

Prisen for den bekvemmeligheten er at alt om deg nå ligger i hendene på ett selskap. Med mindre de gjennomgår uavhengige revisjoner, har du ingen reell måte å vite om dataene dine administreres trygt. Hvis kontoen din blir kompromittert eller solgt, har tredjeparter du aldri samtykket til, nå fullstendig innsikt i hvor du har vært, hvem du har snakket med, hva du har kjøpt og hva du har sagt i fortrolighet. Det åpner døren for å bli offer for trusler som identitetstyveri og målrettede svindelforsøk.

Å koble fra er ikke det samme som å slette

TechCrunch(nytt vindu) rapporterte at skjermbilder av Instincts vilkår viste en «perpetual and irrevocable»-lisens over brukernes data. Instinct har siden revidert dem, og de gjeldende bruksvilkårene og personvernerklæringen inneholder ikke det språket.

De nye vilkårene betyr likevel noe. Instincts nåværende vilkår (på tidspunktet for skrivingen) lar den «access, copy, collect, and index data(nytt vindu)» fra tjenestene du kobler til, og både vilkårene og personvernerklæringen sier at å koble fra en konto sletter ikke dataene dine(nytt vindu) med mindre du ber om det. En tidlig bruker(nytt vindu) sa at hun koblet fra Instincts tilgang til Google-kontoen sin, men fikk likevel et sammendrag av de siste e-postene sine noen timer senere. Da hun spurte hvorfor, bekreftet Instinct at den hadde lagret e-postene hennes i ren tekst for senere søk. Hvis du kobler tjenestene dine fra Instinct, husk også å be om sletting av dataene dine.

Å takke nei til AI-trening hos Instinct har også en hake – den gjelder bare «fremover i tid(nytt vindu)». Dataene modellen har tilegnet seg om deg, vil derfor forbli en del av treningen og kunnskapen den har. Muse fungerer annerledes: å takke nei til AI-trening gjelder retroaktivt for tidligere interaksjoner(nytt vindu). Å slette data fra Muse betyr imidlertid ikke at dataene dine blir fjernet. Meta sier at modellen fortsatt kan huske det du slettet(nytt vindu), og funksjonen «glem» fungerer etter beste evne(nytt vindu).

Agentfeil er reelle, ikke bare upresise

Når en chatbot som Gemini hallusinerer, forårsaker den bare reell skade(nytt vindu) hvis du handler på grunnlag av informasjonen. Når en proaktiv agent gjør en feil, kan du kanskje ikke engang vite om den før du møter konsekvenser i den virkelige verden.

Tenk deg at en proaktiv agent bestemmer seg for å bestille førsteklasses seter til reisen din. Nå sitter du igjen med en regning du aldri godtok. Når du godtar Instincts vilkår, gir du for eksempel fullmakt til å inngå bindende avtaler på dine vegne(nytt vindu) – den kan binde pengene dine uten din godkjenning, og du kan ikke juridisk hevde at den gikk av sporet. Enda verre er det at den sier at eventuelle bekreftelsestiltak(nytt vindu) ikke er garantert å forhindre utilsiktede handlinger.

Dette er ikke unikt for Instinct. SpaceXAIs proaktive agent, Grok Bot, har lignende vilkår. Handlingsgodkjenninger er «bare hjelpemidler(nytt vindu)» og forhindrer kanskje ikke utilsiktede handlinger. På samme måte faller alt ansvar som følger av AI-agentens handlinger helt på deg(nytt vindu). Metas vilkår for bruk av Muse gjør deg alene ansvarlig(nytt vindu) for alt agenten gjør. Dette tegner et ganske tydelig mønster: agentenes handlinger er dine.

Den kan lures til å jobbe mot deg

Proaktive agenter kan ta autonome beslutninger, men når de ikke kan skille instruksene dine fra tekst som noen andre har plantet, og ikke bekrefter en handling med deg, kan de lett lures. En Instinct-bruker(nytt vindu) fant at den proaktive agenten gikk på et «prompt injection»-angrep – den fulgte ondsinnede instrukser som brukeren selv hadde sendt. Svindlere trenger ikke å hacke agenten; de trenger bare at den leser noe de har skrevet og handler på det.

Faktisk anerkjenner Instinct(nytt vindu), Meta(nytt vindu), SpaceXAI(nytt vindu) og OpenClaw(nytt vindu) alle at prompt injection er en kjent trussel. Ingen tilbyr for øyeblikket fullstendig beskyttelse mot disse angrepene, og de lover i beste fall at agentens forsvar bidrar til å redusere denne risikoen.

Vær oppmerksom på hva du gir fra deg

Proaktiv AI fungerer fordi du gir den så mye data. Jo mer den vet om deg, desto mer kan den gjøre for deg, men jo større blir oversikten over livet ditt som ligger hos ett enkelt selskap.

Et mønster har dukket opp i bransjen. Disse assistentene kan trenes på dine mest personlige data med mindre du reserverer deg, og å kutte dem av sletter ikke pålitelig det de allerede har samlet inn. Når en agent gjør noe du ikke hadde tenkt deg, legger vilkårene ansvaret på deg, ikke på selskapet. Til selskapenes ære forklarer de alt dette tydelig. Men at de er åpne om det, tar ikke bort retten din til personvern.

Det er til syvende og sist opp til deg å avgjøre om denne typen bekvemmelighet er verdt personvernet og datasikkerheten din. Men før du sier ja, må du vite hva en assistent faktisk kan se, hva den har lov til å gjøre uten å spørre deg først, og om du virkelig kan få dataene dine tilbake når de først er inne. Sørg for at det er en beslutning du faktisk tok selv, og ikke en du ga fra deg fordi noe ble viralt.

Hvis du helst ikke vil gjøre den avveiningen, kan du i stedet prøve AI-assistenten Lumo. Vi har bygget den på motsatt måte – ingen logger, ingen trening på dataene dine, ingenting lagres lenger enn du vil. Du mister litt av den proaktive AI-magien, men beholder det den ber deg gi avkall på, nemlig kontroll over livet ditt.