직원이 승인되지 않은 AI 도구를 사용하면 확인하거나, 보호하거나, 차단할 수 없는 계정이 만들어지고, 그 각각의 계정에는 비즈니스 데이터로 가득한 채팅 기록이 담깁니다.
SOCRadar(새 창)가 발표한 새로운 연구에 따르면, 전 세계 80,000개 이상의 조직에서 직원의 AI 로그인이 인포스틸러 로그에 나타났습니다. 인포스틸러는 감염된 기기에서 비밀번호, 세션 쿠키, 금융 및 개인 정보, 채팅 로그를 수집해 공격자에게 전송하는 멀웨어 유형입니다. 이렇게 수집된 데이터는 피싱이나 랜섬웨어 공격을 훨씬 더 효과적으로 만듭니다.
연구에 따르면, 해당 로그는 2022년부터 텔레그램에서 판매되고 있는 잘 알려진 인포스틸러 멀웨어가 수집한 것입니다. 이 멀웨어는 수년간 판매되어 왔기 때문에 얼마나 많은 범죄자가 이를 사용했는지, 어떻게 사람들의 기기를 감염시켰는지는 알 수 없습니다. 다만 확인된 사실은 범죄자들이 기업 접근 권한이 있는 기기를 표적으로 삼아 Claude 세션을 탈취해 왔다는 점입니다. 사이버 범죄자들이 접근 권한을 얻은 뒤, 기업 사용자들은 자신의 유료 사용량이 하룻밤 사이에 소진된 것을 발견했습니다.
SOCRadar의 연구는 AI 세션 자격 증명이 공격자에게 대단히 가치가 높다는 점을 보여줍니다. 보고서는 “AI 로그인 하나로 검색 가능한 보관함, 실행 엔진, 과금 대상 리소스, 신원이 열리며, 탈취된 세션은 비밀번호 입력 없이 이 모두를 넘겨준다”고 설명합니다. 범죄자에게 이는 금광과 같습니다.
오늘날 AI를 도입하는 기업에 우려스러운 점은, 이러한 자격 증명이 유출되는原因이 AI 플랫폼 자체의 보안 때문이 아니라는 사실입니다. 유출 원인은 덜 뚜렷한 두 가지 요인입니다. AI 도구를 사용하는 직원 수가 워낙 많다는 점, 그리고 IT 부서의 통제를 벗어난 사용 비중이 커지고 있다는 점입니다.
연구 결과는 무엇을 보여주는가?
전체적으로 보고서는 AI 서비스 자격 증명이 인포스틸러 로그에 상당한 규모로 나타나고 있음을 확인했습니다. 주요 내용은 다음과 같습니다.
- AI 서비스와 연결된 1,000,000건 이상의 레코드가 80,000개의 고유한 기업 도메인에 걸쳐 발견되었습니다.
- 이 중에서 검증한 표본을 보면 482개 조직이 대기업으로 확인되었으며, 대부분 북미에 위치합니다. 이 중 68%는 매출 10억 달러 규모의 조직입니다.
- 기술 기업이 144개사, 레코드의 40%로 가장 큰 그룹을 차지했습니다.
- 이 482개 조직은 1,500개의 기업 이메일 주소와 연결된 5,434건의 로그 레코드를 차지합니다.
- 노출은 최근에 발생했습니다. 해당 482개 조직 중 295개 조직의 인포스틸러 로그 레코드가 지난 90일 이내에 확인되었습니다.
- ChatGPT는 482개 조직 중 358개 조직의 로그와 약 90%의 레코드에 나타났으며, 그 뒤를 Zapier, Notion, Hugging Face, Replit, Lovable, ElevenLabs가 이었습니다.
마지막 통계는 당연한 의문을 제기합니다. 왜 ChatGPT일까요? SOCRadar의 설명은 도구 자체보다 직원들이 도구를 사용하는 방식에 더 가깝습니다.
섀도 AI가 초래하는 위험
섀도 AI는 직원이 회사의 승인이나 인지 없이 사용하는 모든 AI 도구를 말합니다. 회사 계정에 제약이 있거나 보유한 도구가 수행 중인 업무에 효과적이지 않을 때, 직원들은 섀도 AI를 업무 네트워크로 들여옵니다.
SOCRadar의 한 연구원은 이렇게 설명합니다.
“ChatGPT의 거의 압도적인 점유율은 특정 업체의 보안에 대한 평가가 아니라 섀도 AI의 신호로 읽어야 합니다. ChatGPT는 선점 우위 덕분에 기업 사용자가 훨씬 많을 가능성이 큽니다. 그중 상당수는 개인 기기에서 업무용 이메일로 가입하며 어떤 정책도 적용받지 않습니다. 인포스틸러가 긁어 모으는 대상이 바로 이 집단입니다. Claude와 Gemini가 거의 나타나지 않는 것은 해당 자격 증명이 탈취하기 더 안전하기 때문이 아니라, 아직 이들을 조용히 사용하는 직원이 훨씬 적기 때문입니다. 다른 어시스턴트의 기업 도입이 늘어나면 이 차트도 균형을 찾을 것으로 예상합니다.”
따라서 인포스틸러 로그에서 이 도구가 두드러지는 원인은 ChatGPT의 보안 문제가 아닙니다. ChatGPT가 목록 1위인 것은 기업 사용자가 가장 많고, 그중 상당수가 회사 정책을 벗어나 사용하고 있기 때문입니다.
직원들은 가장 빠르고 쉬운 방법을 택하지 못하게 막는 제한적인 IT 정책을 피하려 할 수도 있지만, 어떤 정책이나 제한이 적용되는지 정말로 모르는 경우도 있습니다. 기업은 존재하는지조차 모르는 계정이나 비즈니스 계정 외부에서 이루어진 쿼리를 보호할 수 없습니다.
의도와 무관하게, 직원이 개인적 AI 사용과 업무용 AI 사용을 섞으면 회사의 데이터 사용 정책을 위반하고 대신 OpenAI의 소비자 약관 적용을 받게 됩니다.
OpenAI는 비즈니스 데이터로 학습하지 않는다고 말하지만, 직원이 업무용 허용 사용 지침을 벗어나거나 개인 계정을 업무 목적으로 사용하면 해당 데이터에 대한 통제권을 잃게 됩니다. 민감한 비즈니스 데이터나 개인 식별 정보(PII)가 포함된 채팅 보관함이 수집되고 기록되며, OpenAI 모델 학습에 사용될 수도 있습니다.
OpenAI는 제3자와 비즈니스 데이터를 공유하거나 앱 연동을 통해 데이터를 공유할 수 있습니다. 2025년에는 해커가 OpenAI 공급업체를 해킹해 이름, 이메일, 위치, 시스템 세부사항 등 비즈니스 고객 데이터를 탈취했습니다. 또한 미국 기업인 만큼 미국 애국법(Patriot Act)이나 FISA(해외 정보 감시법)에 따라 사용자에게 알리지 않고 미국 정부에 데이터를 제공하도록 강제될 수도 있습니다.
섀도 AI로부터 비즈니스를 보호하는 방법
섀도 AI는 직원이 사용이 허용된 도구를 갖지 못했거나 충분히 좋은 도구가 없을 때 발생합니다. 따라서 가장 먼저 해야 할 일은 그런 도구를 제공하는 것입니다.
Proton이 만든 Lumo는 개인 계정을 대신할 수 있는 공식 승인된 대안을 팀에 제공하고 비즈니스 데이터를 비공개로 유지합니다. 로그를 남기지 않으며 비즈니스 또는 개인 대화로 학습하지도 않습니다. 저장된 모든 채팅 기록은 제로 액세스 암호화로 보호되므로 Proton조차도 이를 읽을 수 없습니다.
암호화는 저장된 데이터를 보호하지만, 공격자가 이미 직원의 기기에 침입한 경우에는 도움이 되지 않습니다. 이 허점을 막으려면 다음 단계를 따르세요.
- 알지 못하는 계정을 찾으세요. 회사 도메인이 이미 스틸러 로그에 나타나는지 확인하고, 팀에서 실제로 어떤 AI 도구를 사용하는지 물어보세요.
- 스틸러 로그에서 발견된 항목은 엔드포인트 사고로 취급하세요. 직원의 자격 증명이 로그에 나타나면 해당 기기는 감염된 것입니다. 비밀번호만 재설정하면 공격자가 탈취한 세션이 그대로 살아 있으므로, 활성 세션을 취소하고 기기를 정리하거나 교체하세요.
- 승인된 모든 AI 도구를 SSO 뒤에 두고 세션 수명을 짧게 유지하세요. 몇 시간 만에 만료되는 탈취된 쿠키는 몇 주간 유지되는 쿠키보다 가치가 훨씬 낮습니다.
- API 키를 철저히 관리하세요. 필요한 범위로만 권한을 부여하고, 정기적으로 교체하며, 메모 앱이나 공유 문서에 절대 저장하지 마세요.
- 관리되지 않는 기기에서 업무를 처리하지 마세요. 직원이 개인 기기에서 AI를 사용해야 한다면, 모니터링하고 취소할 수 있는 회사 계정을 통해 로그인하도록 요구하세요.
- 다크 웹 모니터링을 설정하세요. 직원의 자격 증명이 유출에 나타나면 알림을 받아, 공격자가 움직이기 전에 대응할 수 있습니다.
직원들은 어찌 됐든 AI를 사용합니다. 로그를 남기지 않고, 데이터로 학습하지 않으며, 저장된 모든 채팅을 Proton조차 열 수 없는 암호화로 보호하는 ChatGPT 대안을 제공하세요.
