AI는 신기한 기술에서 많은 사람들이 매일 사용하는 기술로 빠르게 발전했습니다. 가장 간단하고 일반적인 용도는 메시지 초안 작성, 문서 요약, 웹 검색 등입니다. 하지만 단순히 질문에 답할 뿐만 아니라 작업을 수행하기 위해 반자율적으로 작동하는 AI 시스템인 AI 에이전트의 등장으로 새로운 진화가 진행 중입니다.

간단히 말해, AI 에이전트는 최소한의 감독 하에 귀하의 디지털 생활에서 목표를 추구하고 조치를 취하기 위해 AI를 사용하는 소프트웨어입니다. 한 번에 하나의 프롬프트에 응답하는 대신, 에이전트는 정보를 읽고 다음에 무엇을 할지 결정하며 결과에 도달하거나 귀하의 입력이 필요할 때까지 계속 작업을 진행할 수 있습니다. 단순히 AI에게 “내 이메일 요약해 줘”라고 요청하는 대신 에이전트에게 “받은 편지함 관리를 도와줘”라고 지시하면, 귀하가 설정한 범위 내에서 이메일을 읽고, 분류하고, 초안을 작성하고, 심지어 보내기까지 할 것입니다.

이러한 조치 취하기 능력이 대규모 언어 모델과 같은 더 단순한 AI 도구와 AI 에이전트를 구분 짓는 핵심 요소입니다. AI 에이전트가 무엇인지, 어떤 기능이 있는지, 수반되는 위험은 무엇인지, 그리고 사용 중에 귀하가 어떻게 안전을 유지할 수 있는지 자세히 살펴보겠습니다.

이 문서에서 다음 내용을 배우게 됩니다:

AI 에이전트는 어디에 사용되나요?

AI 에이전트는 디지털 환경에 배포되어 개인용 및 업무용 설정 모두에서 생산성을 높이기 위해 사용됩니다.

일상적인 사용을 위해 AI 에이전트는 다음을 수행할 수 있습니다.

  • 받은 편지함을 모니터링하고, 추천 답장 초안을 작성하며, 긴급한 사항을 강조 표시합니다
  • 메모나 저장된 아티클을 정리하고 빠른 요약을 생성합니다
  • 항공권이나 상품의 가격 변동을 추적하고 가격이 하락하면 귀하에게 알립니다
  • 회의 시간을 제안하고 초대장을 발송하여 귀하의 캘린더에서 일정을 관리합니다
  • 쉽게 참조할 수 있도록 사진이나 파일을 분류하고 태그를 지정합니다

비즈니스 사례에서 AI 에이전트는 주로 다음과 같은 작업에 사용됩니다.

  • 고객 지원 팀이 티켓의 우선순위를 정하고, 분류하며, 답변 초안을 작성하도록 돕습니다
  • 계정 정보를 요약하고 검토를 위한 맞춤형 아웃리치 메시지를 생성하여 영업 및 마케팅 팀을 지원합니다
  • 송장 데이터를 회계 도구로 추출하거나 비정상적인 거래를 표시하는 등 반복적인 백오피스 작업을 대신 처리합니다
  • 로그를 스캔하고 관련 알림을 그룹화하여 IT 및 보안 팀을 지원합니다

이 모든 경우에서 실질적인 이점은 분명합니다. AI 에이전트는 여러 도구에 걸친 여러 단계를 조율함으로써 시간을 절약하고 수작업을 줄여줄 수 있습니다. 하지만 AI 에이전트가 생산성과 자동화를 향상시키는 한편, 아래에서 살펴보겠지만 새로운 유형의 실수, 공격 및 보안 사고가 발생할 가능성도 열어둡니다.

AI 에이전트는 어떻게 작동하나요?

대부분의 사람들이 AI를 경험하는 주된 방식은 ChatGPT, Google Gemini 또는 Microsoft Copilot과 같은 챗봇을 통해서입니다. 챗봇은 대화형 인터페이스로 AI 모델을 감싼 어플리케이션입니다. 귀하가 질문을 입력하면 챗봇이 이를 모델로 전송하고 귀하는 답장을 받습니다.

AI 에이전트는 이러한 기본 개념을 바탕으로 하지만 몇 가지 중요한 구성 요소를 추가합니다. 대부분의 현대적인 에이전트는 세 가지 핵심 요소를 결합합니다.

언어 모델

많은 에이전트의 핵심에는 대규모 언어 모델(LLM)이 있습니다. LLM은 언어 명령을 이해하고 이를 추론하며 텍스트를 생성하는 역할을 담당합니다. 이는 귀하가 AI 에이전트에 대해 설정한 목표를 구체적인 단계와 결정으로 전환합니다.

도구 사용(또는 도구 호출)

에이전트는 일반적으로 이메일, 캘린더, 데이터베이스, 웹 브라우저와 같은 외부 도구 및 서비스에 연결됩니다. 에이전트는 이러한 도구를 호출하여 데이터를 읽거나 최근 이메일을 가져오고 레코드나 회의 초대장을 업데이트하는 등의 작업을 수행할 수 있습니다.

메모리 및 컨텍스트

AI 에이전트는 종종 일종의 메모리를 유지하여 이미 일어난 일과 아직 수행해야 할 작업을 추적할 수 있습니다. 여기에는 이전 작업부터 사용자 설정까지 모든 항목이 포함될 수 있습니다. 메모리는 에이전트가 모든 상호 작용을 개별적인 것으로 처리하는 대신 여러 단계에 걸쳐 유기적으로 작업할 수 있도록 돕습니다.

일반적으로 AI 에이전트는 다음 단계를 따릅니다.

  • 귀하가 에이전트에 목표와 관련 컨텍스트가 포함된 프롬프트를 입력합니다
  • 에이전트가 귀하의 요청을 해석하고 일련의 단계별 계획을 수립합니다
  • 도구를 사용하여 정보를 수집하거나 작업을 수행합니다
  • 발생한 상황에 따라 메모리가 지속적으로 업데이트되며, 이를 바탕으로 다음에 수행할 작업을 파악합니다
  • 귀하의 목표가 달성되거나 귀하의 응답이 필요할 때까지 이 과정이 반복됩니다

간단히 말해, 챗봇은 귀하가 모델과 ‘대화’하고 답변을 받을 수 있는 인터페이스를 제공하지만, AI 에이전트는 해당 모델에 도구와 메모리를 결합하여 귀하의 앱과 계정 내에서 실제로 작업을 수행할 수 있도록 합니다.

AI 에이전트의 유형

AI 에이전트는 기능과 의사 결정 방식에 따라 다양한 유형으로 분류할 수 있습니다. 일반적으로 AI 에이전트에는 다섯 가지 유형이 있습니다.

단순 반사 에이전트

가장 기본적인 유형의 AI 에이전트인 단순 반사 에이전트는 과거의 컨텍스트를 고려하지 않고 현재 정보에만 반응하며 미리 지정된 조건에 따라 작동합니다. 이들은 이메일 필터링과 같이 반복적이고 단순한 작업에 가장 적합합니다.

모델 기반 반사 에이전트

단순 반사 에이전트와 마찬가지로 모델 기반 반사 에이전트도 조건에 따라 결정을 내리지만, 과거의 결정과 상황도 함께 고려합니다. 이를 통해 이전 환경의 기억으로부터 학습하고 그에 따라 패턴을 조정할 수 있습니다. 자율주행 차량이나 로봇 청소기가 보통 모델 기반 반사 에이전트를 사용합니다.

목표 기반 에이전트

단순히 입력에 반응하는 것이 아니라, 목표 기반 에이전트는 원하는 목표에 따라 결정을 내립니다. 이들은 더 역동적이고 진보되어 있어 장애물이 발생하더라도 진화하며 새로운 전략을 구상할 수 있습니다. GPS 내비게이션 시스템이 목표 기반 에이전트의 한 예로, 귀하의 목적지가 의도한 결과가 되며 도로 트래픽 상황에 따라 경로가 변경될 수 있습니다.

효용 기반 에이전트

효용 기반 에이전트는 여러 결과의 최적 ‘가치’를 비교 검토하고 시간, 비용 또는 위험과 같이 선택한 기준에 따라 최선의 절충안을 제공하는 옵션을 선택합니다. 이들은 충돌하는 우선순위가 있는 상황(예: 귀하가 작업의 우선순위를 지정해야 하는 경우)에서 가장 유용합니다.

학습 에이전트

지속적으로 개선되도록 설계된 학습 에이전트는 경험과 의견을 바탕으로 행동을 조정할 수 있습니다. 이로 인해 더 많은 데이터를 축적하고 처리하면서 시간이 흐를수록 더 효과적이 되며, 가상 개인 비서와 같이 빠르게 변화하는 역할에 특히 유용합니다.

AI 에이전트 사용 시작 방법

귀하가 AI 에이전트를 처음 시작할 때는 수행을 요청하는 작업에 대해 주의를 기울이고, 점차 이를 세분화해 나가는 것이 좋습니다.

  1. 위험도가 낮은 작업부터 시작하세요
    AI 에이전트가 뉴스레터 폴더를 정리하거나, 귀하가 여전히 수동으로 승인하는 답장의 초안을 작성하거나, 저장된 기사를 요약하도록 하는 등 자동화하려는 간단한 작업을 생각해 보세요. 이를 통해 해당 작업에 가장 적합한 에이전트 유형을 결정할 수 있으며, 민감한 정보에 대한 접근 권한을 부여하지 않고도 에이전트가 어떻게 작동하는지 먼저 관찰할 수 있습니다.
  2. 기본 제공되는 에이전트 기능을 먼저 사용해 보세요
    오늘날 많은 도구에는 ‘스마트’ 받은 편지함 비서, 문서 정리(주최자) 도구, 지원 봇과 같은 기본적인 에이전트 기능이 포함되어 있습니다. 특히 코딩 및 개발 경험이 많지 않은 경우, 이러한 내장 기능을 사용하는 것이 사용자 지정 에이전트를 직접 만드는 것보다 훨씬 안전합니다.
  3. 접근 권한을 단계적으로 추가하세요
    에이전트를 귀하의 계정에 연결할 때는 제한적인 읽기 전용 접근 권한으로 시작하세요. 에이전트의 작동 방식에 익숙해진 후에만 이메일을 보내거나 레코드를 업데이트하고 변경 작업을 수행할 수 있도록 허용하세요.
  4. 지속적으로 검토하고 조정하세요
    에이전트가 어떤 작업을 올바르게 수행하고 어떤 작업에서 어려움을 겪는지 주의 깊게 살펴보세요. 대부분의 시스템에서는 귀하가 설정을 미세 조정하거나 범위를 좁힐 수 있으므로, 에이전트가 가장 큰 가치를 창출하는 작업에만 집중하도록 유지할 수 있습니다.

귀하가 에이전트의 작동 및 행동 방식에 더 익숙해진 후에는 적절한 안전 장치를 마련한 상태에서 소규모의 개인적인 사용 사례에서 더 복잡하고 통합된 워크플로우로 확장해 나갈 수 있습니다.

AI 에이전트가 새로운 위험을 의미하는 이유

귀하를 대신하여 작동할 수 있는 모든 시스템은 귀하를 대신해 실수를 저지르거나 다른 사람에게 악용될 수도 있으며, AI 에이전트 역시 예외는 아닙니다. AI 에이전트의 몇 가지 일반적인 위험은 다음과 같습니다.

더 넓어진 공격 표면

AI 에이전트는 일반적으로 이메일, 클라우드 저장공간, 캘린더, 대시보드와 같은 앱에 대한 접근 권한을 가지므로 더 큰 표적이 됩니다. 공격자가 해당 에이전트에 영향력을 행사할 수 있게 되면, 연결된 모든 시스템을 탐색하며 기밀 데이터에 손쉽게 접근할 수 있습니다.

프롬프트 주입 및 악성 콘텐츠

많은 에이전트는 업무의 일환으로 웹페이지, 문서, 이메일을 일상적으로 구문 분석합니다. AI 에이전트는 일반적으로 진짜 명령과 위조된 명령을 구별하지 못하기 때문에, 공격자는 이러한 콘텐츠 내에 교묘히 명령을 숨겨서 에이전트가 데이터를 유출하거나 안전 장치를 우회하도록 유도할 수 있습니다.

과도한 접근 권한

효율성을 최대화하기 위해 에이전트에 전체 받은 편지함 제어 권한, 프로덕션 데이터베이스 또는 여러 내부 도구에 대한 동시 접근 권한과 같이 광범위한 접근 권한을 부여하고 싶은 유혹이 생길 수 있습니다. 하지만 이는 더 큰 위험을 의미하기도 합니다. 과도한 권한을 가진 에이전트의 정보가 유출되거나 오작동하는 경우, 피해는 훨씬 더 심각할 것입니다.

데이터 유출 및 규정 준수 문제

많은 에이전트가 서드파티 AI 서비스로 프롬프트와 문서를 보냅니다. 해당 서비스 제공업체가 데이터를 저장하거나 학습에 사용하는 경우, 귀하가 의도한 것보다 더 많은 정보를 공유하게 될 수 있으며, 이는 개인정보 보호 및 규정 요구 사항에 영향을 미칠 수 있습니다.

하지만 이 모든 것이 AI 에이전트의 사용이 본질적으로 위험하다는 뜻은 아닙니다. 귀하의 안전을 지키기 위해서는 더 많은 주의와 올바른 도구 및 관행이 필요할 뿐입니다.

AI 에이전트를 사용하는 동안 안전을 유지하는 방법

목표는 AI 에이전트를 아예 피하는 것이 아니라, 귀하의 개인정보를 존중하고 문제가 발생했을 때 영향을 최소화하는 방식으로 사용하는 것입니다. 개인 생활에서 AI를 실험하고 있든, 직장에서 에이전트를 도입하고 있든, 다음 단계가 도움이 될 수 있습니다:

  1. 에이전트가 접근할 수 있는 대상을 제한하세요. 각 에이전트에 광범위한 접근 권한 대신 좁고 명확하게 정의된 범위를 부여하세요. 예를 들어, 개인용 에이전트가 전체 받은 편지함 대신 특정 이메일 라벨만 읽도록 설정하거나, 재무 에이전트의 작동을 신뢰할 수 있을 때까지 테스트 데이터에만 접근할 수 있도록 권한을 부여하세요.
  2. 민감한 상호작용에는 항상 사람의 승인을 요구하세요. 금전, 보안 설정 또는 조직 외부로의 데이터 공유와 관련된 작업은 명시적인 승인을 거쳐야 합니다. 에이전트가 결제, 초안 또는 보고서를 준비할 수는 있지만, 영향력이 큰 모든 사항은 사람이 검토하고 확인해야 합니다.
  3. 데이터가 이동하는 경로를 파악하세요. 에이전트를 실제 계정이나 문서에 연결하기 전에, 어떤 제공업체를 사용하는지, 데이터가 어디서 처리되는지, 얼마나 오래 저장되는지, 모델 학습에 사용되는지 확인하세요. 귀하에게 명확하고 개인정보를 존중하는 통제권을 제공하는 도구를 선택하세요.
  4. 에이전트가 수행하는 작업을 로그로 기록하고, 정기적으로 검토하며, 문제가 발견되면 즉시 접근 권한을 취소할 수 있도록 준비하세요. 조직에서는 어떤 에이전트가 존재하는지, 어떤 시스템에 접근하는지, 그리고 어떻게 하면 즉시 끌 수 있는지 파악하는 것을 의미합니다.

여기서 바로 Proton Pass가 차이를 만들어 냅니다. Proton Pass는 종단간 암호화된 비밀번호 관리자이며, 에이전트가 어떤 자격 증명에 접근할 수 있는지 제어하고 모니터링할 수 있는 AI 액세스 토큰도 제공합니다.

그때그때 임시방편으로 AI 에이전트와 사용자 이름, 비밀번호, API 키를 공유하는 대신, Proton Pass 액세스 토큰을 사용하면 특정 항목이나 보관함에 대한 제한된 접근 권한만 부여할 수 있습니다. 각기 다른 에이전트에 대해 개별 토큰을 발급할 수 있으므로, 보안 문제를 방지하고 모든 자격 증명을 암호화된 상태로 항상 귀하의 통제 하에 둘 수 있습니다. 에이전트가 항목을 사용할 때마다 접근 이유가 포함된 감사 로그가 생성되므로, 귀하는 에이전트의 활동을 검토하고 모니터링할 수 있습니다.

이러한 관행을 함께 활용하면 위험을 통제하면서 AI 에이전트의 이점을 누릴 수 있습니다.

Proton Pass로 안전하게 작업하고 AI 에이전트를 자동화하세요

AI 에이전트는 우리가 AI를 사용하는 방식의 자연스러운 다음 단계입니다. 이들은 단순한 질문 답변을 넘어 귀하의 받은 편지함, 파일, 중요 시스템에서 매일 수행하는 작업을 실제로 돕습니다. 그렇기에 이들은 매우 강력하며, 다른 어떤 민감한 소프트웨어와 마찬가지로 동일한 보호를 받을 가치가 있습니다.

각 에이전트가 접근할 수 있는 대상을 제한하고, 중요 의사 결정에 사람을 계속 참여시키며, 데이터가 처리되는 위치를 파악하고, 미가공 자격 증명 공유를 거부함으로써 이 새로운 자동화의 흐름에 따르는 위험을 획기적으로 줄일 수 있습니다. Proton Pass와 같이 개인정보 보호를 최우선으로 하는 비밀번호 관리자를 추가하면 에이전트가 사용하는 자격 증명을 안전하게 관리할 수 있으며, AI 액세스 토큰을 통해 어떤 도구가 어떤 보관함에 접근할 수 있는지 정밀하게 제어할 수 있습니다.

그리고 기밀 정보를 요구하는 모든 기술이 그러하듯, AI 에이전트를 사용할 때 명심해야 할 가장 중요한 점은 훌륭한 보안 습관을 기르는 것입니다. 작게 시작하고, 접근을 제한하며, 귀하가 항상 자신의 데이터와 비밀번호를 통제할 수 있도록 지원하는 도구를 사용하세요.