Zadáte výzvu, dostanete odpověď a nic se neděje, dokud nezadáte další. Tak funguje většina AI asistentů, ale proaktivní AI to mění.

Proaktivní AI nepotřebuje výzvu, aby něco udělala. Může vás odbavit na let nebo za vás podat žádost a tato rozhodnutí dělá na základě kontextu, který postupně nasbírala. Když se proaktivní AI asistenti jako Muse a Instinct od společnosti Meta stali virálními, zdá se najednou, že věci ze sci-fi jsou blízko realitě.

Ale jako každý dobrý sci-fi příběh je i tato technologie dvousečná zbraň. Podívejme se, jak proaktivní AI funguje a co za pohodlí, které nabízí, obětujete.

Pokud chcete vědět, o co tady jde, přečtěte si celého našeho průvodce AI a soukromím, nebo si vyzkoušejte nástroj AI paper trail a zjistěte, co všechno o vás běžní AI chatboti mohli nasbírat z vašich konverzací.

Co dělá AI proaktivní

Proaktivní AI agenti běží na stejných velkých jazykových modelech jako AI chatboti, na které jsme zvyklí. Odlišují je tyto tři věci, které fungují společně:

  1. Neustále sledují: Místo aby čekali na výzvu, proaktivní agenti sledují řadu zdrojů a zachytí změny, jakmile nastanou.
  2. Mají trvalou paměť: Proaktivní agenti si postupně vytvářejí pracovní model vašich zvyků a předvoleb. Právě díky tomu dokážou předvídat, co budete pravděpodobně potřebovat dál, a ne jen si vybavit fakt, když se na něj zeptáte.
  3. Rozhodují, zda a jak jednat: Proaktivní agenti umějí „uvažovat“. Zvažují situaci ve světle vašich zvyků, posoudí, zda stojí za to jednat, a rozhodnou, jak daleko mohou zajít, než si to s vámi ověří.

Proaktivní AI spojuje automatizaci s úsudkem. Zatímco jednoduchá automatizace se spustí pokaždé, když je splněna podmínka, proaktivní agenti předvídají vaše potřeby a než se rozhodnou jednat, posoudí, zda má daná akce smysl.

To může být užitečné, ale může to také vést k nechtěným následkům. Instinct například za uživatele něco nakupoval, ale když narazil na přihlašovací stěnu, jednoduše resetoval uživateli heslo(nové okno), aniž by se zeptal. Taková iniciativa dělá z proaktivních AI agentů působivou, ale také riskantní záležitost.

Příklady použití proaktivních AI agentů

Proaktivní agenti umí pomoci s úkoly, na které byste běžně zapomněli nebo kvůli kterým byste ztratili celý večer. Tady je několik příkladů:

Udržování cestovních plánů v pořádku

Proaktivní agent může sledovat váš cestovní itinerář a hlídat změny. Pokud dojde k přesunutí letu a váš přestup je ohrožen, agent to zachytí a upozorní vás. Může vám případně zajistit nové lety, aby vaše cestovní plány šly hladce.

Získá to, co byste jinak propásli

Stejný princip sledování a čekání může fungovat u všeho, čeho je nedostatek, třeba u bot, které jsou ve vaší velikosti vyprodané. Agent dál sleduje a v okamžiku, kdy se zboží vrátí na sklad, zadá objednávku.

Následné urgování e-mailu

Proaktivní agenti mohou sledovat doručenou poštu kvůli e-mailům, na které čekáte. Pokud na váš e-mail zákaznické podpoře nikdo neodpověděl, agent si toho může všimnout, napsat připomínku a buď ji odeslat, nebo ji nechat připravenou k odeslání.

Omezení předplatných

Když se dnes téměř za všechno platí formou předplatného, proaktivní agent by mohl prověřit, jak služby využíváte, a zrušit předplatná těch, za které platíte, ale nepoužíváte je pravidelně.

Sledování chodu firmy

Ve firmách by proaktivní agenti mohli sledovat IT infrastrukturu, aby zachytili první náznaky problémů a spustili opravu dřív, než se věci zvrtnou. Mohou také sledovat obchodní příležitosti a nedovolit, aby vychladly, a aktivně se věnovat potenciálním zákazníkům, když by váš tým byl jinak plně vytížený.

Rozdíl mezi proaktivní a reaktivní AI

Reaktivní AI asistent, jako je ChatGPT, udělá něco jen tehdy, když mu to řeknete. Dokonce i ti, kteří mají paměť, mezi výzvami nečinně čekají a uchovávají si, co jste jim řekli, dokud se nezeptáte na něco dalšího. Proaktivní AI tohle čekání odstraňuje. Hlídá spouštěcí podněty a sama se rozhoduje, zda jednat.

Jinými slovy, reaktivní AI ovládáte vy. Proaktivní AI jedná vaším jménem a přebírá kontrolu nad vaším rozhodováním.

Pohodlí, které proaktivní agenti nabízejí, má svou cenu

Aby mohli dělat to, co dělají, potřebují proaktivní AI agenti neustálý přístup k vašim účtům. To je jiný druh rizika než ten, který přináší používání AI asistenta.

Dáváte jedné společnosti úplný přístup ke všem svým datům

Množství dat, která Google shromažďuje, vzbuzuje oprávněné obavy, ale ani Google nemá úplný přístup ke všem vašim soukromým informacím. Google může mít vaše údaje o poloze(nové okno), ale vaše zdravotní údaje jsou uložené v Apple Health. Vaše předvolby streamování zůstávají na Netflixu a vaše finance v bankovní aplikaci.

Používání proaktivních AI agentů znamená předat to všechno a ještě mnohem víc jedné společnosti. Tito agenti jsou navrženi tak, aby propojili všechna vaše data. Právě díky tomu si všímají vzorců a dokážou jednat. Podle konkrétního agenta to mohou být uživatelská jména a hesla k účtům třetích stran, platební údaje a další věci.

Muse ukazuje, jak hladoví po datech mohou proaktivní agenti být. Podle recenze ve WIRED(nové okno) působil Muse spíš jako nástroj na sběr dat než na plnění úkolů a opakovaně nabádal k připojení dalších a dalších služeb. Takové chování odpovídá tomu, co víme o dosavadním působení Meta.

Cena za toto pohodlí spočívá v tom, že všechno o vás je nyní v rukou jedné společnosti. A dokud neprojde nezávislými audity, nemáte reálnou možnost zjistit, zda jsou vaše data spravována bezpečně. Pokud je váš účet napaden nebo prodán, třetí strany, kterým jste nikdy nedali souhlas, mají najednou úplný přehled o tom, kde jste byli, s kým jste mluvili, co jste si koupili a co jste řekli v soukromí. Tím se otevírají dveře k tomu, abyste se stali obětí hrozeb, jako je krádež identity a cílené podvody.

Odpojení není totéž co smazání

TechCrunch(nové okno) uvedl, že snímky obrazovky s podmínkami Instinctu ukazovaly licenci k datům uživatelů označovanou jako „věčná a neodvolatelná“. Instinct ji od té doby upravil a současné podmínky služby a zásady ochrany osobních údajů už toto znění neobsahují.

Nové podmínky ale pořád mají svůj význam. Podle současných podmínek Instinctu (v době psaní tohoto textu) může ze služeb, které propojíte, „přistupovat k datům, kopírovat je, shromažďovat je a indexovat je(nové okno)“, a jak podmínky, tak zásady ochrany osobních údajů uvádějí, že odpojení účtu vaše data nesmaže(nové okno), pokud o to nepožádáte. Jedna z prvních uživatelek(nové okno) uvedla, že odpojila přístup Instinctu ke svému účtu Google, a přesto o několik hodin později dostala shrnutí svých nejnovějších e-mailů. Když se zeptala proč, Instinct potvrdil, že její e-maily uložil v prostém textu pro pozdější vyhledávání. Pokud své služby od Instinctu odpojíte, nezapomeňte požádat i o smazání dat.

Odhlášení z trénování AI v Instinctu má také háček: platí jen „do budoucna(nové okno)“. Takže všechna data, která o vás model nasál, zůstanou součástí jeho tréninku a znalostí. Muse funguje jinak. Odhlášení z trénování AI se zpětně vztahuje i na minulé interakce(nové okno). Smazání dat z Muse ale neznamená, že jsou vaše data odebrána. Meta uvádí, že model si stále může pamatovat to, co jste smazali(nové okno), a že jeho funkce „zapomenutí“ funguje na základě maximálního úsilí(nové okno).

Chyby agentů mají reálné následky, nejde jen o chybnou odpověď

Když chatbot jako Gemini halucinuje, způsobí skutečnou škodu(nové okno) jen tehdy, když na základě těchto informací jednáte. Když ale chybu udělá proaktivní agent, možná o ní ani nebudete vědět, dokud nepocítíte následky v reálném světě.

Představte si, že se proaktivní agent rozhodne zarezervovat vám letenky v první třídě. Najednou máte na krku účet, se kterým jste nikdy nesouhlasili. Když například souhlasíte s podmínkami Instinctu, udělujete mu oprávnění uzavírat závazné dohody vaším jménem(nové okno). Může utratit vaše peníze bez vašeho schválení a právně se nemůžete dovolávat toho, že se vymkl kontrole. A co je horší, uvádí, že žádné ochranné mechanismy pro potvrzení(nové okno) nezaručují, že zabrání nechtěným akcím.

Nejde jen o Instinct. Proaktivní agent společnosti SpaceXAI Grok Bot má podobné podmínky. Schvalování akcí slouží „pouze jako pomůcka(nové okno)“ a nemusí zabránit nechtěnému jednání. Stejně tak veškerá odpovědnost vyplývající z jednání AI agenta leží zcela na vás(nové okno). Podmínky společnosti Meta pro používání Muse znamenají, že výhradní odpovědnost(nové okno) za všechno, co jeho agent udělá, nesete vy. Vzniká z toho poměrně jasný vzorec. Za jednání agentů odpovídáte vy.

Lze ho oklamat, aby jednal proti vám

Proaktivní agenti se mohou rozhodovat samostatně, ale když nedokážou rozeznat vaše pokyny od textu, který tam nastražil někdo jiný, a nepotvrdí s vámi danou akci, lze je snadno oklamat. Jeden uživatel Instinctu(nové okno) zjistil, že jeho proaktivní agent podlehl útoku typu prompt injection a řídil se škodlivými pokyny, které si uživatel sám poslal. Podvodníci nemusí agenta hacknout, stačí, když si přečte něco, co napsali, a začne podle toho jednat.

Ve skutečnosti Instinct(nové okno), Meta(nové okno), SpaceXAI(nové okno) i OpenClaw(nové okno) uznávají prompt injection jako známou hrozbu. Žádný z nich zatím neposkytuje úplnou ochranu proti těmto útokům a nanejvýš slibuje, že obranné mechanismy agenta toto riziko snižují.

Uvědomte si, co odevzdáváte

Proaktivní AI funguje díky tomu, kolik dat jí dáte. Čím víc o vás ví, tím víc pro vás dokáže udělat, ale tím rozsáhlejší je i záznam o vašem životě, který leží u jedné společnosti.

V odvětví se už objevil určitý vzorec. Tito asistenti mohou trénovat na vašich nejosobnějších datech, pokud se neodhlásíte, a když je vypnete, spolehlivě to nesmaže, co už nasbírali. A když agent udělá něco, co jste nezamýšleli, podmínky přenášejí následky na vás, ne na společnost. Ke cti firem je, že to všechno jasně uvádějí. Jenže otevřenost neruší vaše právo na soukromí dat.

Je nakonec jen na vás, abyste se rozhodli, zda vám tento typ pohodlí stojí za vaše soukromí a bezpečnost dat. Než ale řeknete ano, zjistěte, co asistent skutečně vidí, co smí udělat, aniž by se vás nejdřív zeptal, a zda se ke svým datům dokážete skutečně dostat zpět, když už je jednou předáte. Ujistěte se, že jde o rozhodnutí, které jste skutečně učinili vy, a ne o jedno z těch, kterých jste se vzdali, protože se něco stalo virálním.

Pokud takový obchod nechcete vůbec uzavřít, obraťte se místo toho na našeho AI asistenta Lumo. Postavili jsme ho obráceně: žádné logy, žádné trénování na vašich datech, nic se neuchovává déle, než chcete. Přijdete o kousek kouzla proaktivní AI, ale udržíte si to, co po vás chce odevzdat: kontrolu nad svým životem.