Wprowadzasz polecenie, otrzymujesz odpowiedź i nic się nie dzieje, dopóki nie wprowadzisz kolejnego. Tak działa większość asystentów AI, ale proaktywna AI to zmienia.

Proaktywna AI nie potrzebuje podpowiedzi, by działać. Może odprawić cię na lot albo złożyć wniosek w twoim imieniu, podejmując te decyzje na podstawie kontekstu, który zgromadziła z czasem. Wraz z popularnością proaktywnych asystentów AI, takich jak Muse firmy Meta i Instinct, motywy rodem z science fiction wydają się nagle bliskie rzeczywistości.

Ale jak w każdej dobrej historii science fiction, ta technologia to miecz obosieczny. Przyjrzyjmy się, jak działa proaktywna AI i co tracisz w zamian za wygodę, którą zapewnia.

Aby dowiedzieć się więcej o tym, co jest stawką, zajrzyj do pełnego przewodnika o AI a prywatność – albo wypróbuj narzędzie AI paper trail, by sprawdzić dokładnie, co popularne chatboty AI mogły o tobie zebrać na podstawie twoich wątków.

Co sprawia, że AI jest proaktywna

Proaktywni agenci AI działają na tych samych dużych modelach językowych co popularne chatboty AI, do których przywykło się. Wyróżnia ich trzy cechy, które działają razem:

  1. Zawsze czuwają: Zamiast czekać na polecenie, proaktywni agenci monitorują określone źródła i wychwytują zmiany w chwili ich wystąpienia.
  2. Mają trwałą pamięć: Proaktywni agenci z czasem budują roboczy model twoich nawyków i ustawień. Dzięki temu mogą przewidzieć, czego prawdopodobnie będziesz potrzebować dalej, a nie tylko przypomnieć fakt, gdy o niego zapytasz.
  3. Sami decydują, jak i czy działać: Proaktywni agenci mogą „rozumować”. Zestawiają sytuację z twoimi nawykami, oceniają, czy warto na niej działać, i decydują, jak daleko powinna zajść, zanim się z tobą skontaktują.

Proaktywna AI łączy automatyzację z osądem. Podczas gdy prosta automatyzacja uruchamia się za każdym razem, gdy spełniony zostanie warunek, proaktywni agenci przewidują twoje potrzeby i zanim podejmą działanie, ustalają, czy jest ono przydatne.

To może być pomocne, ale może też prowadzić do niezamierzonych konsekwencji. Na przykład Instinct próbował kupić coś dla użytkownika, ale gdy napotkał barierę w postaci ekranu logowania, po prostu zresetował hasło użytkownika(nowe okno) bez pytania. Taka inicjatywa sprawia, że proaktywni agenci AI są imponujący, ale i ryzykowni.

Zastosowania proaktywnych agentów AI

Proaktywni agenci mogą być pomocni w zadaniach, o których zwykle się zapomina albo które pochłaniają cały wieczór. Oto kilka przykładów:

Porządkowanie planów podróży

Proaktywny agent może monitorować twoją trasę podróży pod kątem zmian. Jeśli lot zostanie przełożony i zagrozi twojemu połączeniu, agent to wychwyci i zgłosi ci to. Może też ponownie zarezerwować twoje loty, dzięki czemu plany podróży będą przebiegać gładko.

Wyłapywanie tego, co inaczej umknęłoby uwadze

Ten sam mechanizm stałego obserwowania i czekania może zadziałać w przypadku wszystkiego, czego brakuje, na przykład pary butów wyprzedanej w twoim rozmiarze. Agent nieustannie obserwuje i składa zamówienie w chwili, gdy towar zostanie ponownie dostarczony.

Przypominanie o wiadomości e-mail

Proaktywni agenci mogą monitorować skrzynkę odbiorczą pod kątem oczekiwanych wiadomości. Jeśli wiadomość wysłana do konsultanta obsługi klienta pozostaje bez odpowiedzi, agent może to zauważyć, napisać przypomnienie i albo je wysłać, albo zostawić gotowe do wysłania przez ciebie.

Ograniczanie subskrypcji

Skoro niemal wszystko jest dziś opłacane w ramach subskrypcji, proaktywny agent mógłby przeanalizować, z czego korzystasz, i anulować subskrypcje za usługi, za które płacisz, a z których nie korzystasz regularnie.

Monitoring operacji biznesowych

W biznesie proaktywni agenci mogliby monitorować infrastrukturę IT, by wychwycić wczesne sygnały problemów i uruchomić naprawę, zanim sprawy pójdą źle. Mogą też monitorować transakcje i nie dopuścić do ich wystygnięcia, proaktywnie angażując potencjalnych klientów, gdy zespół byłby przeciążony innymi zadaniami.

Różnica między proaktywną a reaktywną AI

Reaktywny asystent AI, taki jak ChatGPT, rusza się tylko wtedy, gdy otrzyma polecenie. Nawet te z pamięcią wciąż bezczynnie czekają między podpowiedziami, przechowując to, co zostało im przekazane, dopóki nie zapytasz o coś innego. Proaktywna AI usuwa to oczekiwanie. Obserwuje, czy pojawił się wyzwalacz, i sama decyduje, czy podjąć działanie.

Innymi słowy, reaktywną AI się steruje. Proaktywna AI działa w twoim imieniu, przejmując twoją sprawczość.

Wygoda proaktywnych agentów ma swoją cenę

Aby działać w ten sposób, proaktywni agenci AI potrzebują stałego dostępu do kont. To inny rodzaj ryzyka niż ten, który wiąże się z korzystaniem z asystenta AI.

Oddajesz jednej firmie pełny dostęp do wszystkich danych

Niepokoi nas ilość danych, które zbiera Google, ale nawet Google nie ma pełnego dostępu do wszystkich prywatnych informacji o tobie. Google może mieć dane o lokalizacji(nowe okno), ale dane zdrowotne są przechowywane w Apple Health. Ustawienia streamingu są ukryte w Netflix, a finanse w aplikacji bankowej.

Korzystanie z proaktywnych agentów AI oznacza przekazanie tego wszystkiego, a nawet więcej, jednej firmie. Agenci są zaprojektowani tak, by łączyć wszystkie dane, dzięki czemu dostrzegają wzorce i działają. W zależności od agenta może to obejmować nazwy użytkownika i hasła do kont stron trzecich, szczegóły płatności i nie tylko.

Muse pokazuje, jak bardzo proaktywni agenci mogą być żądni danych. Recenzja WIRED(nowe okno) wykazała, że Muse wydawał się bardziej zainteresowany zbieraniem danych niż wykonywaniem zadań, wielokrotnie sugerując podłączanie coraz większej liczby usług. To zachowanie zgadza się z tym, co wiadomo o historii Meta.

Koszt tej wygody polega na tym, że wszystko o tobie znajduje się teraz w rękach jednej firmy. A jeśli firma nie przechodzi niezależnych audytów, nie ma realnego sposobu, by sprawdzić, czy dane są bezpiecznie zarządzane. Jeśli konto zostanie przejęte lub sprzedane, strony trzecie, na które nigdy nie wyrażono zgody, będą miały pełny wgląd w to, gdzie się przebywa, z kim się rozmawia, co się kupuje i co się mówi w prywatnych rozmowach. To otwiera drogę do stania się ofiarą zagrożeń, takich jak kradzież tożsamości i ukierunkowane oszustwa.

Rozłączanie nie jest tym samym co usuwanie

TechCrunch(nowe okno) poinformował, że zrzuty ekranu regulaminu Instinct pokazywały „trwałą i nieodwołalną” licencję na dane użytkowników. Instinct od tego czasu ją zmienił, a obecny regulamin i polityka prywatności nie zawierają tego sformułowania.

Nowe warunki mają jednak znaczenie. Obecny (w chwili pisania tego tekstu) regulamin Instinct pozwala mu „uzyskiwać dostęp, kopiować, zbierać i indeksować dane(nowe okno)” z usług, które połączysz, a zarówno regulamin, jak i jego polityka prywatności mówią, że rozłączenie konta nie usuwa danych(nowe okno) chyba że o to poprosisz. Wczesna użytkowniczka(nowe okno) powiedziała, że rozłączyła dostęp Instinct do konta Google, a kilka godzin później nadal otrzymała podsumowanie najnowszych wiadomości e-mail. Gdy zapytała dlaczego, Instinct potwierdził, że przechowywał jej wiadomości w postaci zwykłego tekstu, by móc je później przeszukiwać. Jeśli rozłączysz usługi z Instinct, pamiętaj, by też zażądać usunięcia danych.

Rezygnacja z trenowania AI w Instinct również ma haczyk – ma zastosowanie wyłącznie „od tej pory(nowe okno)”. Dlatego wszystkie dane, które model wchłonął na twój temat, pozostaną częścią jego treningu i wiedzy. Muse działa inaczej: rezygnacja z trenowania AI wstecznie obejmuje wcześniejsze interakcje(nowe okno). Usunięcie danych z Muse nie oznacza jednak, że zostają one usunięte. Meta twierdzi, że model nadal może pamiętać to, co usunięto(nowe okno), a jego funkcja „zapominania” działa na zasadzie najlepszych starań(nowe okno).

Błędy agentów są realne, a nie tylko nietrafne

Gdy chatbot taki jak Gemini halucynuje, wyrządza realne szkody(nowe okno) tylko wtedy, gdy działasz na podstawie tych informacji. Gdy proaktywny agent popełni błąd, możesz nawet nie wiedzieć o nim, dopóki nie poniesiesz realnych konsekwencji.

Wyobraź sobie, że proaktywny agent decyduje się zarezerwować ci miejsca w pierwszej klasie na tę podróż. Nagle ciąży na tobie obowiązek zapłaty rachunku, na który nigdy nie wyrażono zgody. Na przykład po zaakceptowaniu regulaminu Instinct przyznajesz uprawnienia do zawierania wiążących umów w twoim imieniu(nowe okno) – agent może zobowiązać twoje pieniądze bez twojej zgody, a nie można prawnie twierdzić, że wymknął się spod kontroli. Co gorsza, regulamin mówi, że żadne zabezpieczenia w postaci potwierdzeń(nowe okno) nie gwarantują zapobiegania niezamierzonym działaniom.

To nie jest unikalne dla Instinct. Proaktywny agent SpaceXAI, Grok Bot, ma podobny regulamin. Zatwierdzenia działań są „wyłącznie pomocnicze(nowe okno)” i mogą nie zapobiegać niezamierzonym działaniom. Podobnie wszelka odpowiedzialność wynikająca z działań agenta AI spada w całości na ciebie(nowe okno). Regulamin Meta dotyczący korzystania z Muse sprawia, że wyłącznie ty odpowiadasz(nowe okno) za wszystko, co robi jego agent. To wyraźnie pokazuje schemat: działania agentów należą do ciebie.

Można go oszukać, by działał przeciwko tobie

Proaktywni agenci mogą autonomicznie podejmować decyzje, ale gdy nie potrafią odróżnić twoich poleceń od tekstu podrzuconego przez kogoś innego i nie potwierdzają działań z tobą, łatwo ich oszukać. Jeden użytkownik Instinct(nowe okno) odkrył, że proaktywny agent dał się złapać na atak typu „prompt injection” – wykonał złośliwe polecenia, które użytkownik wysłał sam do siebie. Oszuści nie muszą włamywać się do agenta; wystarczy, że agent przeczyta coś, co napisali, i zadziała na tej podstawie.

W rzeczywistości Instinct(nowe okno), Meta(nowe okno), SpaceXAI(nowe okno) i OpenClaw(nowe okno) przyznają, że prompt injection to znane zagrożenie. Żadne z nich nie oferuje obecnie pełnej ochrony przed tymi atakami, a co najwyżej obiecują, że zabezpieczenia agenta pomagają ograniczyć to ryzyko.

Uważaj, co przekazujesz

Proaktywna AI działa dzięki ilości danych, które jej przekazujesz. Im więcej wie o tobie, tym więcej może dla ciebie zrobić, ale tym większy zapis twojego życia spoczywa w rękach jednej firmy.

W branży pojawił się schemat. Te asystenty mogą trenować na twoich najbardziej osobistych danych, chyba że z tego zrezygnujesz, a rozłączenie ich nie gwarantuje usunięcia tego, co już zebrały. Gdy agent zrobi coś, czego nie zamierzano, regulamin przerzuca konsekwencje na ciebie, a nie na firmę. Trzeba im oddać, że firmy opisują to wszystko wprost. Jednak jawność nie znosi twojego prawa do prywatności danych.

Ostatecznie decyzja, czy taka wygoda jest warta prywatności i bezpieczeństwa danych, należy do Ciebie. Zanim jednak się zgodzisz, sprawdź, co asystent faktycznie widzi, co może zrobić bez pytania i czy da się naprawdę odzyskać dane, gdy już tam trafią. Upewnij się, że to decyzja podjęta świadomie, a nie oddana tylko dlatego, że coś stało się viralem.

Jeśli wolisz w ogóle nie iść na taki kompromis, zamiast tego skorzystaj z asystenta AI Lumo. Stworzyliśmy go odwrotnie — bez logów, bez trenowania na danych, bez przechowywania czegokolwiek dłużej, niż chcesz. Tracisz odrobinę magii proaktywnej AI, ale zachowujesz to, czego ona od Ciebie wymaga: kontrolę nad własnym życiem.