Du skriver in en prompt, får ett svar och inget händer förrän du infogar en ny. Så har de flesta AI-assistenter fungerat, men proaktiv AI förändrar det.

Proaktiv AI behöver ingen prompt för att agera. Den checkar in dig till ett flyg eller skickar in en ansökan åt dig, och fattar dessa beslut utifrån sammanhang som den har samlat på sig över tid. Med proaktiva AI-assistenter som Metas Muse och Instinct som blir virala känns science fiction-historierna plötsligt nära verkligheten.

Men precis som i all bra science fiction har den här tekniken en tveeggad sida. Låt oss utforska hur proaktiv AI fungerar och vad du ger upp i utbyte mot den bekvämlighet den erbjuder.

Vill du veta mer om vad som står på spel? Läs vår kompletta guide om AI och integritet, eller testa verktyget AI paper trail för att se exakt vad vanliga AI-chattbotar kan ha samlat in om dig genom dina konversationer.

Vad gör en AI proaktiv

Proaktiva AI-agenter använder samma stora språkmodeller som vanliga AI-chattbotar. Det som skiljer dem åt är dessa tre saker som samverkar:

  1. De är alltid vaksamma: istället för att vänta på en uppmaning övervakar proaktiva agenter en uppsättning källor och upptäcker förändringar i samma stund som de sker.
  2. De har ett ihållande minne: proaktiva agenter bygger upp en fungerande modell av dina vanor och preferenser över tid. Det är vad som gör att de kan förutse vad du sannolikt behöver härnäst, och inte bara komma ihåg ett faktum när du frågar efter det.
  3. De avgör hur och om de ska agera: proaktiva agenter kan “resonera”. De väger en situation mot dina vanor, bedömer om den är värd att agera på och avgör hur långt den ska gå innan de återkommer till dig.

Proaktiv AI kombinerar automatisering med omdöme. Där en enkel automatisering aktiveras varje gång ett villkor uppfylls, förutser proaktiva agenter dina behov och avgör om en åtgärd är användbar innan de väljer att agera.

Det kan vara till hjälp, men det kan också leda till oavsiktliga konsekvenser. Instinct skulle till exempel köpa något åt en användare, men när det blockerades av en inloggningsvägg återställde det helt enkelt användarens lösenord(nytt fönster) utan att fråga. Den här typen av initiativ gör proaktiva AI-agenter imponerande men också riskfyllda.

Användningsfall för proaktiva AI-agenter

Proaktiva agenter kan vara till hjälp för den typ av uppgifter som annars antingen glöms bort eller tar en hel kväll i anspråk. Här är några exempel:

Att hålla ordning på resplanerna

En proaktiv agent kan bevaka din reseplan för eventuella ändringar. Om ett flyg flyttas och din anslutning hamnar i fara uppmärksammar den det och flaggar det för dig. Den kan eventuellt boka om dina flyg så att dina resor fortsätter att gå smidigt.

Att fånga det du annars skulle missa

Samma bevakande och väntan kan fungera för allt som är bristvara, till exempel ett par skor som är slutsålda i din storlek. Agenten fortsätter att bevaka och lägger en beställning i samma stund som varorna fylls på igen.

Att följa upp ett e-postmeddelande

Proaktiva agenter kan bevaka din inkorg efter e-post du väntar på. Om ditt e-postmeddelande till en kundtjänstmedarbetare inte har fått något svar kan en agent uppmärksamma det, skriva en påminnelse och antingen skicka den eller lämna den redo för dig att skicka.

Att städa bland prenumerationer

Eftersom nästan allt numera betalas med prenumeration kan en proaktiv agent granska din användning och avbryta dina prenumerationer för tjänster du betalar för men inte använder regelbundet.

Övervakning av affärsverksamhet

I företag skulle proaktiva agenter kunna övervaka IT-infrastrukturen för att upptäcka tidiga tecken på problem och utlösa en åtgärd innan saker går snett. Den kan också övervaka affärer och förhindra att de stannar av genom att proaktivt kontakta potentiella kunder när ditt team annars är överbelastat.

Skillnaden mellan proaktiv AI och reaktiv AI

En reaktiv AI-assistent, som ChatGPT, agerar bara när du säger till den att göra det. Även de med minne sitter overksamma mellan prompterna och håller kvar det du har berättat för dem tills du frågar om något annat. Proaktiv AI tar bort väntan. Den bevakar efter en utlösare och avgör själv om den ska agera.

Med andra ord är reaktiv AI något du styr. Proaktiv AI agerar för din räkning och tar över din handlingskraft.

Bekvämligheten med proaktiva agenter har sitt pris

För att kunna göra det de gör behöver proaktiva AI-agenter ständigt få åtkomst till dina konton. Det är en annan typ av risk än den som följer med när man använder en AI-assistent.

Du låter ett enda företag få fullständig åtkomst till all din data

Mängden data Google samlar in är oroande, men inte ens de har fullständig åtkomst till all din privata information. Google kan ha din platsdata(nytt fönster), men dina hälsodata lagras i Apple Health. Dina preferenser för streaming finns gömda hos Netflix, och dina finanser i din bankapp.

Att använda proaktiva AI-agenter innebär att allt detta, och mer, lämnas över till ett enda företag. Agenterna är utformade för att ansluta all din data; det är vad som gör att de kan upptäcka mönster och agera. Beroende på agenten kan det inkludera användarnamn och lösenord för dina konton hos tredje part, dina betalningsdetaljer och mycket mer.

Muse visar hur datahungriga proaktiva agenter kan vara. En recensent på WIRED(nytt fönster) konstaterade att Muse verkade mer intresserad av att samla in data än av att utföra uppgifter, och uppmanade upprepade gånger till att ansluta fler och fler tjänster. Det beteendet stämmer överens med vad man känner till om Metas meritlista.

Priset för den bekvämligheten är att allt om dig nu finns i händerna på ett enda företag. Och om de inte genomgår oberoende granskningar har du ingen verklig möjlighet att veta om dina data hanteras på ett säkert sätt. Om ditt konto utsätts för intrång eller säljs får tredje parter som du aldrig har samtyckt till nu fullständig insyn i var du har varit, vem du har pratat med, vad du har köpt och vad du har sagt privat. Det öppnar dörren för att bli offer för hot som identitetsstöld och riktade bedrägerier.

Att koppla från är inte samma sak som att ta bort

TechCrunch(nytt fönster) rapporterade att skärmdumpar av Instincts villkor visade en ”perpetual and irrevocable”-licens över användares data. Instinct har sedan dess reviderat dem, och de nuvarande användarvillkoren och integritetspolicyn innehåller inte den formuleringen.

De nya villkoren är fortfarande viktiga, dock. Instincts nuvarande villkor (vid tiden för skrivandet) låter den ”access, copy, collect, and index data(nytt fönster)” från de tjänster du ansluter, och både villkoren och integritetspolicyn säger att när du kopplar från ett konto tar det inte bort dina data(nytt fönster) om du inte begär det. En tidig användare(nytt fönster) sa att hon hade kopplat från Instincts åtkomst till sitt Google-konto och ändå fick en sammanfattning av sina senaste e-postmeddelanden några timmar senare. När hon frågade varför bekräftade Instinct att företaget hade lagrat hennes e-post i oformaterad text för senare sökningar. Om du kopplar från dina tjänster i Instinct, se till att även begära att dina data raderas.

Att välja bort AI-träning hos Instinct har också en hake: det “gäller endast framåt i tiden(nytt fönster)”. Så den data som modellen redan har tagit upp om dig finns kvar i dess träning och kunskap. Muse fungerar annorlunda: att välja bort AI-träning gäller retroaktivt för tidigare interaktioner(nytt fönster). Men att ta bort data från Muse innebär inte att dina data är borttagna. Meta säger att modellen fortfarande kan komma ihåg det du har tagit bort(nytt fönster), och dess funktion för ”glöm” fungerar efter bästa förmåga(nytt fönster).

Agentfel är verkliga, inte bara felaktiga

När en chattbot som Gemini hallucinerar orsakar den bara verklig skada(nytt fönster) om du agerar på informationen. När en proaktiv agent gör ett misstag kanske du inte ens märker det förrän verkliga konsekvenser uppstår.

Tänk dig att en proaktiv agent bestämmer sig för att boka dig på förstaklassplatser för din resa. Då står du för en räkning som du aldrig gick med på. När du godkänner Instincts villkor ger du tillstånd att ingå bindande avtal å dina vägnar(nytt fönster). Det innebär att den kan binda dina pengar utan ditt godkännande, och du kan inte juridiskt hävda att den agerade på egen hand. Ännu värre är att den säger att eventuella bekräftelseskydd(nytt fönster) inte garanteras förhindra oavsiktliga åtgärder.

Detta är inte unikt för Instinct. SpaceXAI:s proaktiva agent, Grok Bot, har liknande villkor. Godkännanden av åtgärder är “endast hjälpmedel(nytt fönster)” och kan inte förhindra oavsiktliga, obehöriga eller skadliga åtgärder. På samma sätt faller allt ansvar som uppstår av AI-agentens handlingar helt på dig(nytt fönster). Metas villkor för användning av Muse gör dig ensam ansvarig(nytt fönster) för allt agenten gör. Det tecknar en ganska tydlig bild: agenternas handlingar är dina.

Den kan luras att arbeta mot dig

Proaktiva agenter kan fatta beslut autonomt, men när de inte kan skilja dina instruktioner från text som någon annan har planterat och inte bekräftar en åtgärd med dig, kan de lätt luras. En Instinct-användare(nytt fönster) upptäckte att den proaktiva agenten föll för en promptinjektionsattack, eftersom den följde skadliga instruktioner som användaren själv hade skickat. Bedragare behöver inte hacka agenten; de behöver bara att den läser något de skrivit och agerar på det.

Faktum är att Instinct(nytt fönster), Meta(nytt fönster), SpaceXAI(nytt fönster) och OpenClaw(nytt fönster) erkänner alla promptinjektion som ett känt hot. Ingen av dem erbjuder för närvarande fullständigt skydd mot dessa attacker, och de lovar i bästa fall att agentens försvar arbetar för att minska risken.

Var medveten om vad du lämnar ifrån dig

Proaktiv AI fungerar tack vare hur mycket data du ger den. Ju mer den vet om dig, desto mer kan den göra för dig, men desto större blir sammanställningen av ditt liv som ligger hos ett enda företag.

Ett mönster i branschen har uppstått. Dessa assistenter kan tränas på dina mest personliga data om du inte väljer bort det, och att avbryta dem tar inte pålitligt bort det de redan har samlat in. När en agent gör något du inte avsåg lägger villkoren ansvaret på dig, inte på företaget. Till företagens heder redogör de för allt detta tydligt. Men att vara öppen tar inte bort din rätt till dataintegritet.

Det är i slutändan upp till dig att avgöra om den här typen av bekvämlighet är värd din integritet och datasäkerhet. Men innan du säger ja bör du ta reda på vad en assistent faktiskt kan se, vad den får göra utan att fråga dig först och om du verkligen kan få tillbaka dina data när de väl har lagts in. Se till att det är ett beslut du verkligen själv fattat, inte ett du lämnat ifrån dig för att något blivit viralt.

Om du hellre undviker den avvägningen helt kan du i stället välja vår AI-assistent Lumo. Vi har byggt den på motsatt vis: inga loggar, ingen träning på dina data och inget sparas längre än du vill. Du går miste om lite av den proaktiva AI-magin, men behåller det som den ber dig ge upp: kontrollen över ditt liv.