프롬프트를 입력하면 답변을 받게 되며, 다른 내용을 입력하기 전까지는 아무 일도 일어나지 않습니다. 대부분의 AI 어시스턴트는 이런 방식으로 작동해 왔지만, 선제적 AI는 이를 바꿉니다.

프로액티브 AI는 행동하기 위해 프롬프트가 필요하지 않습니다. 항공편 체크인을 대신하거나 사용자를 대신해 신청서를 제출하기도 하며, 시간이 지나면서 쌓인 맥락을 바탕으로 이러한 결정을 내립니다. Meta의 Muse나 Instinct 같은 프로액티브 AI 어시스턴트가 입소문을 타면서, 공상과학 속 이야기가 갑자기 현실에 가까워 보입니다.

모든 훌륭한 공상과학 이야기가 그렇듯, 이 기술도 양날의 검입니다. 프로액티브 AI가 어떻게 작동하는지, 그리고 편리함을 얻는 대가로 무엇을 포기하게 되는지 함께 살펴보겠습니다.

무엇이 걸려 있는지 자세히 알아보려면 AI와 개인정보 전체 가이드를 확인하세요. 주요 AI 챗봇이 대화를 통해 사용자에 대해 무엇을 수집했는지 정확히 확인하려면 AI paper trail 도구를 사용해 보세요.

AI를 프로액티브하게 만드는 요소

프로액티브 AI 에이전트는 우리에게 익숙한 AI 챗봇과 같은 대규모 언어 모델로 작동합니다. 이들을 차별화하는 것은 함께 작동하는 다음 세 가지 요소입니다 :

  1. 항상 지켜봅니다 : 프롬프트를 기다리는 대신, 프로액티브 에이전트는 여러 소스를 모니터링하고 변화가 일어나는 즉시 이를 포착합니다.
  2. 지속적인 메모리를 갖추고 있습니다 : 프로액티브 에이전트는 시간이 지나면서 사용자의 습관과 설정을 파악한 작동 모델을 구축합니다. 덕분에 사용자가 요청하기 전에 다음에 필요할 가능성이 높은 것을 예측할 수 있으며, 단순히 요청받을 때 사실을 떠올리는 데 그치지 않습니다.
  3. 행동 방법과 행동 여부를 스스로 결정합니다 : 프로액티브 에이전트는 “추론”할 수 있습니다. 상황을 사용자의 습관과 비교해 따져 보고, 행동할 가치가 있는지 판단하며, 사용자에게 확인하기 전에 어디까지 진행할지 결정합니다.

프로액티브 AI는 자동화와 판단을 결합합니다. 단순한 자동화는 조건이 충족될 때마다 실행되지만, 프로액티브 에이전트는 사용자의 필요를 예측하고 행동을 선택하기 전에 그 행동이 유용한지 판단합니다.

이런 기능은 도움이 될 수 있지만, 의도하지 않은 결과로 이어질 수도 있습니다. 예를 들어 Instinct는 사용자를 위해 무언가를 구매하려고 했지만, 로그인 장벽에 가로막히자 묻지 않고 사용자의 비밀번호를 재설정(새 창)해 버렸습니다. 이런 주도적 행동은 프로액티브 AI 에이전트를 인상적이면서도 위험하게 만듭니다.

프로액티브 AI 에이전트의 활용 사례

프로액티브 에이전트는 평소라면 잊어버리거나 저녁 시간을 허비하게 되는 종류의 작업에 특히 유용할 수 있습니다. 다음은 몇 가지 예입니다 :

여행 일정 정리하기

프로액티브 에이전트는 여행 일정에 변경 사항이 있는지 지켜볼 수 있습니다. 항공편 일정이 변경되어 환승 연결이 위험해지면, 이를 포착해 사용자에게 알립니다. 또한 경우에 따라 항공편을 다시 예약해 여행 일정이 원활하게 진행되도록 유지할 수도 있습니다.

놓칠 뻔한 것 챙기기

원하는 크기의 신발 한 켤레가 품절된 경우처럼, 재고가 부족한 물건이라면 같은 지켜보기와 기다리기 방식이 통할 수 있습니다. 에이전트는 계속 지켜보다가 재입고되는 순간 주문합니다.

이메일 후속 조치하기

프로액티브 에이전트는 기다리고 있는 이메일이 도착하는지 받은 편지함을 모니터링할 수 있습니다. 고객 서비스 담당자에게 보낸 이메일에 답장이 없다면, 에이전트가 이를 알아차리고 독촉 이메일을 작성한 뒤 직접 보내거나, 사용자가 보낼 수 있도록 준비해 둘 수도 있습니다.

구독 정리하기

요즘은 거의 모든 것을 구독료로 결제하는 만큼, 프로액티브 에이전트는 사용자의 이용 내역을 점검해 돈을 내고 있지만 정기적으로 사용하지 않는 서비스의 구독을 취소할 수 있습니다.

비즈니스 운영 모니터링하기

비즈니스 영역에서 프로액티브 에이전트는 IT 인프라를 모니터링해 문제의 초기 징후를 포착하고, 상황이 잘못되기 전에 수정 작업을 시작할 수 있습니다. 또한 영업 거래를 모니터링하고, 팀이 다른 업무에 발목 잡혀 있을 때도 잠재 고객에게 선제적으로 연락해 거래가 식지 않도록 유지할 수 있습니다.

프로액티브 AI와 리액티브 AI의 차이

ChatGPT와 같은 리액티브 AI 어시스턴트는 사용자가 지시할 때만 움직입니다. 메모리가 있는 어시스턴트라도 프롬프트와 프롬프트 사이에서는 대기 상태로 머물며, 사용자가 다른 것을 묻기 전까지 말해 준 내용을 붙잡고 있을 뿐입니다. 프로액티브 AI는 이런 대기 시간을 없앱니다. 특정 신호를 감시하다가 스스로 행동할지 결정합니다.

다시 말해, 리액티브 AI는 사용자가 직접 조작하는 도구입니다. 프로액티브 AI는 사용자를 대신해 작동하며, 사용자의 주도권을 넘겨받습니다.

프로액티브 에이전트의 편리함에는 대가가 따릅니다

프로액티브 AI 에이전트가 이런 일을 하려면 사용자의 계정에 지속적으로 접근해야 합니다. 이는 AI 어시스턴트를 사용할 때 생기는 위험과는 다른 종류의 위험입니다.

한 회사에 모든 데이터에 대한 완전한 접근 권한을 주는 셈입니다

Google이 수집하는 데이터의 양이 우려스럽지만, Google조차 사용자의 모든 개인 정보에 완전히 접근하지는 못합니다. Google은 위치 데이터(새 창)를 보유할 수 있지만, 건강 데이터는 Apple Health에 저장되어 있습니다. 스트리밍 서비스 설정은 Netflix에 숨어 있고, 금융 정보는 은행 앱에 있습니다.

프로액티브 AI 에이전트를 사용한다는 것은 이 모든 것과 그 이상을 단 한 회사에 넘긴다는 뜻입니다. 이 에이전트들은 모든 데이터를 연결하도록 설계되어 있으며, 그래야 패턴을 파악하고 행동할 수 있습니다. 에이전트에 따라 타사 계정의 사용자 이름과 비밀번호, 결제 세부사항 등도 포함될 수 있습니다.

Muse는 프로액티브 에이전트가 얼마나 데이터를 탐하는지 보여 줍니다. WIRED(새 창) 리뷰어는 Muse가 작업 완료보다 데이터 수집에 더 관심이 많아 보인다고 판단했으며, 해당 리뷰어에게 더 많은 서비스를 계속해서 연결하라고 반복적으로 제안했다고 밝혔습니다. 이런 행동은 Meta의 이력에서 우리가 알고 있는 것과 일맥상통합니다.

그 편리함의 대가는 사용자에 관한 모든 것이 이제 한 회사의 손에 들어간다는 것입니다. 독립적인 감사를 거치지 않는 한, 데이터가 안전하게 관리되고 있는지 실질적으로 알 방법이 없습니다. 계정이 침해되거나 판매되면, 동의한 적 없는 제3자가 사용자가 어디에 있었는지, 누구와 대화했는지, 무엇을 샀는지, 그리고 개인적으로 무엇을 말했는지 완전히 들여다볼 수 있게 됩니다. 이는 신원 도용이나 표적 사기 같은 위협의 피해자가 될 가능성을 열어 줍니다.

연결 해제와 삭제는 다릅니다

TechCrunch(새 창)는 Instinct 약관의 스크린샷에서 사용자 데이터에 대한 “영구적이고 철회 불가능한” 라이선스가 명시되어 있었다고 보도했습니다. Instinct는 이후 이를 수정했으며, 현재 서비스 약관과 개인정보취급방침에는 해당 문구가 포함되어 있지 않습니다.

그럼에도 새 약관은 여전히 중요합니다. 작성 시점 기준 Instinct의 현재 약관은 사용자가 연결한 서비스의 데이터를 “접근, 복사, 수집, 색인(새 창)“할 수 있도록 허용합니다. 약관과 개인정보취급방침 모두 계정 연결을 해제하더라도 데이터가 삭제되지 않으며(새 창), 요청하지 않는 한 그대로 보관된다고 명시하고 있습니다. 초기 사용자 한 명(새 창)은 Google 계정에 대한 Instinct의 접근 권한을 해제했는데도 몇 시간 뒤 최신 이메일 요약본을 받았다고 전했습니다. 이유를 묻자, Instinct는 나중에 검색할 수 있도록 이메일을 일반 텍스트로 저장해 두었다고 확인했습니다. Instinct에서 서비스 연결을 해제한다면, 데이터 삭제도 반드시 요청하세요.

Instinct에서 AI 학습을 거부하는 방식에도 단서가 붙습니다. 이는 “앞으로 수집되는 데이터에만 적용됩니다(새 창).” 따라서 모델이 사용자에 대해 이미 흡수한 데이터는 학습과 지식의 일부로 계속 남습니다. Muse는 다르게 작동합니다. AI 학습 거부는 과거 상호작용에도 소급 적용됩니다(새 창). 그러나 Muse에서 데이터를 삭제한다고 해서 데이터가 완전히 사라지는 것은 아닙니다. Meta에 따르면 모델은 여전히 삭제한 내용을 기억할 수 있으며(새 창), “잊기” 기능은 최선을 다하는 방식(새 창)으로만 작동합니다.

에이전트의 실수는 단순한 오답이 아니라 실제 문제입니다

Gemini와 같은 챗봇이 환각 현상을 일으키더라도, 그 정보를 바탕으로 행동할 때만 실제 피해(새 창)가 발생합니다. 프로액티브 에이전트가 실수를 저지르면, 현실에서의 결과를 마주하기 전까지는 그 사실조차 모를 수 있습니다.

프로액티브 에이전트가 여행을 위해 사용자를 퍼스트 클래스 좌석으로 예약해 버리는 상황을 상상해 보세요. 사용자는 동의한 적 없는 청구서를 떠안게 됩니다. 예를 들어 Instinct의 약관에 동의하면, 사용자를 대신해 구속력 있는 계약(새 창)을 체결할 권한을 부여하게 됩니다. 이 에이전트는 사용자의 최종 승인 없이 돈을 쓸 수 있으며, 법적으로 그것이 오작동했다고 주장할 수도 없습니다. 더 심각한 것은, 모든 확인 절차(새 창)가 의도하지 않은 행동을 막을 것이라고 보장되지 않는다고 명시되어 있다는 점입니다.

이는 Instinct만의 문제가 아닙니다. SpaceXAI의 프로액티브 에이전트인 Grok Bot도 비슷한 약관을 가지고 있습니다. 작업 승인은 “보조 수단일 뿐(새 창)“이며, 의도하지 않은 행동을 막지 못할 수도 있습니다. 마찬가지로 AI 에이전트의 행동에서 발생하는 모든 책임은 전적으로 사용자에게 돌아갑니다(새 창). Muse를 사용하기 위한 Meta의 약관은 에이전트가 하는 모든 일에 대해 사용자가 단독으로 책임(새 창)을 지도록 합니다. 이는 분명한 패턴을 보여 줍니다 : 에이전트의 행동은 결국 사용자의 몫입니다.

속아서 사용자에게 불리하게 작동할 수 있습니다

프로액티브 에이전트는 자율적으로 결정을 내릴 수 있지만, 사용자의 지시와 다른 사람이 심어 놓은 텍스트를 구분하지 못하고 행동을 사용자에게 확인받지 않는 경우 쉽게 속을 수 있습니다. Instinct 사용자 한 명(새 창)은 프로액티브 에이전트가 프롬프트 인젝션 공격에 속아 넘어가는 것을 확인했습니다. 악의적인 지시를 사용자가 직접 보냈는데도 에이전트가 그 지시를 따랐던 것입니다. 사기꾼은 에이전트를 해킹할 필요가 없습니다. 그들이 작성한 내용을 에이전트가 읽고 그에 따라 행동하도록 만드는 것으로 충분합니다.

실제로 Instinct(새 창), Meta(새 창), SpaceXAI(새 창), OpenClaw(새 창) 모두 프롬프트 인젝션을 알려진 위협으로 인정하고 있습니다. 현재 이러한 공격을 완전히 막아 주는 곳은 없으며, 기껏해야 에이전트의 방어 기능이 이 위험을 줄이기 위해 작동한다고 약속할 뿐입니다.

넘기는 정보에 주의하세요

프로액티브 AI는 사용자가 얼마나 많은 데이터를 제공하는지에 따라 작동합니다. AI가 사용자에 대해 더 많이 알수록 더 많은 일을 해 줄 수 있지만, 한 회사에 보관되는 사용자 삶의 기록도 그만큼 커집니다.

업계에서 하나의 패턴이 나타났습니다. 이런 어시스턴트는 사용자가 거부하지 않는 한 가장 개인적인 데이터로 학습할 수 있으며, 연결을 끊더라도 이미 수집한 정보가 확실히 지워지지는 않습니다. 에이전트가 의도하지 않은 행동을 할 경우, 약관은 결과를 회사가 아니라 사용자에게 떠넘깁니다. 기업들이 이 모든 내용을 명확히 밝히고 있다는 점은 높이 살 만합니다. 그러나 솔직하게 밝혔다고 해서 개인정보 보호를 받을 권리가 사라지는 것은 아닙니다.

결국 이런 편리함이 개인정보와 데이터 보안을 감수할 만한 가치가 있는지는 직접 판단해야 합니다. 하지만 예라고 답하기 전에, 어시스턴트가 실제로 무엇을 볼 수 있는지, 요청 없이도 무엇을 할 수 있는지, 그리고 한번 데이터를 입력하면 정말로 되찾을 수 있는지 확인하세요. 입소문이 났다는 이유로 넘겨준 결정이 아니라, 실제로 내린 결정인지 꼭 확인하세요.

이런 거래를 전혀 원하지 않는다면, 대신 AI 어시스턴트 Lumo를 이용해 보세요. Lumo는 정반대 방식으로 설계되었습니다. 로그를 남기지 않고, 데이터로 학습하지 않으며, 원하는 것보다 오래 보관되는 데이터도 없습니다. 선제적 AI의 마법 같은 기능은 다소 줄어들지만, 그 대신 기능이 요구하는 것, 즉 삶에 대한 통제권은 지킬 수 있습니다.