AI 피싱 공격으로 인해 보안 인식의 가장 오래된 규칙 중 하나가 바뀌고 있습니다. 바로 어색한 문법이 더 이상 신뢰할 수 있는 위험 신호가 아니라는 점입니다.
오랫동안 직원들은 어색한 표현, 이상한 서식, 맞춤법 오류, 일반적인 인사말을 찾아내도록 교육받아 왔습니다. 이러한 단서는 여전히 중요하지만, AI 기반 피싱 공격을 감지하기에는 역부족입니다.
생성형 AI를 사용하면 공격자가 몇 초 만에 맞춤형 메시지를 작성할 수 있습니다. 회사의 어조를 모방하고, 직원에 대한 공개 정보를 요약하며, 짧은 프롬프트로 그럴듯한 청구서 요청을 생성하거나, 사기 메시지를 대상 언어의 원어민처럼 자연스럽게 현지화할 수 있습니다.
하지만 이것이 완전히 새로운 위협은 아닙니다. 더 뛰어난 작문, 더 빠른 준비, 더 설득력 있는 사칭으로 피싱의 수준이 한 단계 높아진 것입니다. 피싱의 목적은 여전히 사용자가 링크를 클릭하거나, 자격 증명을 공유하거나, 결제를 승인하거나, 파일을 열거나, 공격자가 제어하는 채널로 대화를 옮기도록 유도하는 데 있습니다. AI는 이러한 조작을 더욱 설득력 있게 만들고 대규모로 실행하기 쉽게 만들어 줄 뿐입니다.
기업 내 팀들은 새로운 보안 습관을 형성해야 합니다. 주의 깊게 살펴봐야 할 사항과 비즈니스 네트워크 내에서 더 강력한 피싱 및 데이터 유출 방지 보호 조치를 구축하는 방법을 설명해 드리겠습니다.
AI로 생성된 피싱 이메일은 실제 업무 메일처럼 보입니다
Proton Pass for Business가 자격 증명 위험을 줄이는 데 도움이 되는 방법
AI 피싱 공격은 무엇이 다른가요?
생성형 AI가 등장하기 전에는 피싱에 더 많은 수작업이 필요했습니다. 공격자는 대상을 조사하고, 그럴듯한 문구를 작성하고, 어조를 조정하며, 때로는 다양한 시장에 맞게 메시지를 번역해야 했습니다. 생성형 AI는 이러한 진입 장벽을 대폭 낮췄습니다.
영국 국립사이버안보센터(NCSC)의 AI가 사이버 위협에 미치는 영향(현재~2027년)(새 창)에 관한 보고서에 따르면, AI는 사이버 침입의 일부 요소를 더욱 효과적이고 효율적으로 만들어 사이버 위협의 빈도와 강도를 높일 것이 거의 확실시된다고 밝혔습니다. 또한 위협 행위자들은 이미 사회공학적 기법을 비롯한 기존 전술을 개선하는 데 AI를 활용하고 있다고 지적했습니다.
이제 공격자는 더욱 자연스럽고 구체적인 피싱 공격 메시지를 생성할 수 있습니다. 사기 이메일에는 실제 공급업체, 최근 LinkedIn 게시물, 직책, 지역 이벤트 또는 사내 프로젝트 이름 등이 언급될 수 있습니다. 공격자가 가진 정보가 제한적이더라도, AI가 그럴듯한 문구로 빈틈을 채울 수 있습니다.
피싱 공격의 경고 신호는 여전히 동일합니다. 의심스러운 링크, 긴급한 요청, 예상치 못한 첨부 파일, 낯선 보낸 사람 도메인은 여전히 중요합니다. 그러나 본문 내용 자체만으로는 더 이상 공격 여부를 쉽게 파악할 수 없습니다.
| 기존 피싱 공격 | AI 기반 피싱 공격 |
| 오타, 어색한 문법, 일반적인 인사말이 자주 포함됨 | 적절한 어조의 세련되고 자연스러운 문장 사용 가능 |
| 대체로 광범위하고 일반적인 메시지에 의존함 | 개인 세부사항, 회사 상황 또는 공급업체 관련 내용 포함 가능 |
| 대부분 의심스러운 이메일 형태로 나타남 | 이메일, 음성 복제, 가짜 청구서, 딥페이크 동영상 결합 가능 |
AI로 생성된 피싱 이메일은 실제 업무 메일처럼 보입니다
피싱 공격은 언제나 조잡한 수준부터 고도로 정교한 수준까지 다양했지만, 생성형 AI는 유창하고 체계적이며 전문적인 언어로 작성된 메시지를 제작하는 데 필요한 기술과 시간을 줄여줍니다.
NCSC의 피싱 지침(새 창)에서는 피싱 캠페인이 비밀번호와 같은 민감한 정보를 탈취하거나 금전 이체를 유도하려 할 수 있다고 설명합니다. 또한 보다 표적화된 캠페인은 직원이나 회사에 대한 정보를 활용하여 메시지를 더욱 사실적으로 만듭니다. AI는 이를 대규모로 더 쉽게 실행할 수 있게 해줍니다.
최신 피싱 공격에 대응하려면 단일 필터가 아닌 다층적인 통제 체계가 필요합니다. 도난당한 자격 증명의 위협을 낮추는 다단계 인증(MFA), 중요한 요청에 대한 검증된 커뮤니케이션 절차, 그리고 자격 증명을 넘겨주기 전에 사회공학적 기법을 식별할 수 있는 직원 교육이 포함됩니다.
안전한 자격 증명 관리 또한 보안 방어의 핵심 요소입니다. Proton Pass for Business와 같은 비즈니스용 비밀번호 관리자를 사용하면 모든 계정에 강력하고 고유한 비밀번호를 쉽게 생성할 수 있습니다. 또한 비즈니스 네트워크 내의 유출 여부를 모니터링할 수 있으므로, 팀원이 단 하나의 메시지에 속더라도 해당 자격 증명으로 여러 계정에 접근할 수 없습니다.
직원들은 이러한 새로운 AI 기반 위협을 감지하기 위해 피싱에 대한 보안 인식을 발전시켜야 합니다. 이를 위해 스스로에게 다음 세 가지 질문을 던져보아야 합니다.
- 이 이메일이 가짜처럼 보이는가?
- 이 요청이 타당한가?
- 신뢰할 수 있는 채널을 통해 이를 확인했거나 확인할 수 있는가?
이메일의 맞춤법과 서식을 넘어 메일이 발송된 전체적인 맥락을 살펴보는 것이 큰 도움이 될 수 있습니다. 세련되게 작성된 이메일이라도 자격 증명을 요구하거나, 결제 세부사항을 변경하거나, 비정상적인 긴급성을 조성하거나, 정상적인 절차를 벗어나도록 압박한다면 피싱 시도일 수 있습니다.
AI 사회공학적 기법의 새로운 형태
AI 피싱은 이메일에만 국한되지 않습니다. 이제 공격자는 AI를 활용해 텍스트, 음성, 이미지, 동영상을 결합하여 하나의 설득력 있는 이야기를 만들어낼 수 있습니다.
AI 생성 스피어 피싱
스피어 피싱이 효과적인 이유는 메시지가 수신자를 정확히 겨냥하기 때문입니다. AI는 이러한 타겟팅을 더욱 쉽게 만듭니다. 공격자는 더 이상 처음부터 문안을 작성하거나 각 대상에 맞게 어조를 조정하는 데 많은 시간을 들일 필요가 없습니다. 공개 정보, 유출된 데이터, 또는 침해된 받은 편지함을 활용하여 정당해 보이는 메시지를 작성할 수 있습니다.
적절한 타이밍에 도착한 계약서 업데이트, 인사팀으로 전송된 지원자 파일, 익숙한 표현을 사용하는 공급업체의 요청, 일반적인 재무 업무 흐름과 일치하는 결제 지침 등이 그 예가 될 수 있습니다. 위험한 것은 완벽함이 아니라 그럴듯함입니다. 스피어 피싱 메시지는 수신자가 사실 여부를 확인하기 전에 파일을 열거나, 요청을 승인하거나, 자격 증명을 입력하게 만들 정도로 관련성이 있어 보이기만 하면 됩니다.
음성 복제 및 비싱
AI 생성 오디오 기술이 발전함에 따라 보이스 피싱, 즉 비싱(Vishing)이 더욱 설득력을 얻고 있습니다. 미국 연방수사국(FBI)의 인터넷범죄신고센터는 2025년(새 창) 악의적인 공격자가 문자 메시지와 AI 생성 음성 메시지를 사용해 미국 고위 관리를 사칭하는 행위에 대해 경고했습니다. 해당 경고는 비싱에 AI 생성 음성이 통합될 수 있음을 설명하며, 독립적으로 확인된 연락처 정보를 통해 발신자를 검증할 것을 권장합니다.
Proton의 Data Breach Observatory 2026 보고서에서도 대규모 침해로 이어져 수천만 건의 기록을 유출한 조직적 공격을 포함하여 비싱 캠페인의 증가를 강조하고 있습니다. 동일한 보고서에 따르면 추적된 보안 사고의 47%에서 비밀번호가 관련된 것으로 나타나, 사회공학적 기법과 자격 증명 보호가 밀접하게 연결되어 있는 이유를 보여줍니다.
영상 통화에서의 딥페이크 피싱
딥페이크 피싱은 비디오를 통해서도 발생할 수 있습니다. 2024년 홍콩의 한 금융업계 직원은 화상 회의 중 사기범들이 딥페이크 비디오를 사용해 고위 직급 동료들을 사칭한 것에 속아 약 2,500만 달러를 송금한 것으로 알려졌습니다(새 창).
통화에서 익숙한 얼굴을 확인하는 것만으로는 민감한 요청을 승인하기에 충분하지 않습니다. 거액 결제, 자격 증명 공유, 접근 권한 변경 및 비정상적인 요청은 여전히 신뢰할 수 있는 채널을 통한 별도의 검증 절차가 필요합니다.
AI로 생성된 가짜 청구서
AI를 사용하면 청구서 사기가 훨씬 쉬워집니다. 가짜 청구서라도 세련된 표현, 현실적인 결제 조건, 익숙한 공급업체 이름, 그리고 계좌 세부사항 변경에 대한 그럴듯한 설명을 담을 수 있습니다. 공격자가 유출된 받은 편지함이나 유출된 공급업체 정보에 접근할 수 있다면 해당 요청은 더욱 신뢰할 만해 보일 수 있습니다.
잘 다듬어진 청구서라는 이유만으로 자금을 송금해서는 안 됩니다. 계좌 세부사항이 변경되었거나, 타이밍이 이상하거나, 메시지에서 정상적인 승인 절차를 건너뛰도록 요구하는 경우, 결제하기 전에 신뢰할 수 있는 채널을 통해 요청을 확인해야 합니다.
중소기업(SMB)이 점점 더 위험에 노출되는 이유
AI는 표적 공격의 비용을 낮춤으로써 피싱의 경제성을 바꾸어 놓았습니다. 과거에는 고도로 개인화된 공격을 준비하는 데 더 많은 시간이 소요되었기 때문에 대기업에 집중되는 경향이 있었습니다. 하지만 AI를 사용하면 소규모 기업을 겨냥한 표적 메시지를 훨씬 쉽게 작성할 수 있습니다. 공격자는 동일한 시간이나 노력을 들이지 않고도 더 많은 변종을 생성하고, 다양한 접근 방식을 테스트하며, 메시지를 신속하게 수정할 수 있습니다.
소규모 기업은 자금, 접근 권한, 의사 결정이 소수의 사람에게 집중되어 있는 경우가 많아 매력적인 표적이 됩니다. 한 사람이 인보이스 승인, 공급업체 관계 관리, 여러 비즈니스 도구에 대한 접근 권한 보유를 모두 담당할 수도 있습니다. 프로세스가 비공식적으로 이루어질 경우, 설득력 있게 생성된 AI 요청 하나만으로도 누군가 의심을 품기도 전에 결제 워크플로, 공유 계정, 고객 데이터 또는 관리자 시스템에 침투할 수 있습니다.
이러한 위험은 보안 사고 데이터에서도 명확히 드러납니다. 동일한 Proton Data Breach Observatory 보고서에 따르면, 2025년 1월 이후 추적된 보안 사고의 63%를 중소기업이 차지했으며, 인증 데이터, 개인 식별 정보, 금융 세부사항과 같은 민감한 데이터와 관련된 중대한 사고의 피해를 불균형적으로 많이 입은 것으로 나타났습니다.
AI는 비밀번호 재사용, 비공식적인 자격 증명 공유, 취약한 승인 프로세스, 사기가 당연히 눈에 띌 것이라고 안일하게 생각하는 교육 등 소규모 기업이 이미 가지고 있는 취약점을 공격자가 악용할 수 있도록 돕습니다.
AI 기반 공격에 맞춰 피싱 교육을 조정하는 방법
AI 피싱 공격에 제대로 대처하려면, 보안 인식 교육이 단순한 오탈자 확인 수준을 넘어서야 합니다. 직원들은 단순히 메시지를 판단하는 것을 넘어 요청의 진위를 검증하는 방법을 배워야 합니다.
교육에 필요한 기본 원칙은 간단합니다. 요청이 평소와 다르거나, 민감하거나, 시급한 경우 행동하기 전에 먼저 검증하는 것입니다.
- 답장하기 전에 멈추고, 동일한 이메일 스레드에서 응답하지 마세요.
- 메시지에 포함된 연락처 정보는 무시하고, 메시지에 제공된 전화번호, 링크, 답장 주소는 절대 사용하지 마세요.
- 음성 통화나 영상 통화를 증거로 간주하지 마세요. 통화 중 들리는 익숙한 목소리나 화면 속 익숙한 얼굴 모두 인공지능으로 생성될 수 있습니다.
- 사내 디렉터리, 저장된 공급업체 기록, 사전에 검증된 연락 방법 등 이미 신뢰하고 있는 채널을 통해 당사자에게 연락하세요.
- 보낸 사람뿐만 아니라 요청 내용 자체를 확인하고, 결제, 접근 권한 변경 또는 파일 요청이 실제 사실인지 물어보세요.
교육은 또한 팀원들이 AI 피싱이 성공할 가능성이 가장 높은 순간을 포착할 수 있도록 돕는 데 집중해야 합니다.
- 결제 세부사항 변경
- 비밀번호, 복구 코드 또는 MFA 승인 요청
- 긴급한 파일 공유 요청
- 비정상적인 로그인 메시지 프롬프트
- 공급업체 포털 변경
- 일반적인 프로세스를 우회하는 경영진의 요청
- 개인 메시징 앱으로 대화를 옮기자는 제안
업무 공간에서 소규모 기업 사이버 보안 문화를 구축하기 위한 Proton의 가이드는 보안 행동을 일상 업무의 일부로 정착시키는 데 유용하고 시의적절한 리소스입니다.
기업이 달라져야 할 부분
AI 기반 피싱은 검증의 기준을 바꿉니다. 메시지가 진짜처럼 보인다면, 더 이상 한눈에 드러나지 않는 위험을 프로세스를 통해 잡아내야 합니다.
별도 경로를 통한 확인(Out-of-band verification) 활용
요청에 자금, 자격 증명, 민감한 파일 또는 특권 접근 권한이 포함되어 있는 경우, 위험을 초래한 동일한 스레드 내에서 답장해서는 안 됩니다. 팀에는 해당 요청의 진위를 확인할 수 있는 두 번째 경로가 필요합니다.
공급업체 기록에 이미 저장된 번호로 공급업체에 전화를 걸거나, 내부 채널을 통해 경영진의 요청을 확인하거나, 프로젝트 책임자에게 접근 권한 변경을 확인하는 방법 등이 이에 해당할 수 있습니다. 핵심은 의심스러운 메시지에 제공된 전화번호, 링크, 답장 경로가 아니라 기업이 이미 신뢰하는 연락처 정보를 사용하는 것입니다.
다인 승인 의무화
위험성이 높은 작업은 한 사람의 판단에만 의존해서는 안 됩니다. 결제 변경, 거액 이체, 신규 공급업체 은행 계좌 정보, 특권 접근 권한 부여, 대량 데이터 내보내기 등은 취약점을 줄이기 위해 2차 승인을 거쳐야 합니다.
긴급해 보이는 메시지 하나 때문에 일반적인 업무가 중단될 필요는 없습니다. 2차 승인은 자금이 이체되거나, 접근 권한이 부여되거나, 민감한 데이터가 회사 외부로 유출되기 전에 팀이 잠시 멈추고 검토할 수 있는 기회를 제공합니다.
표적이 되기 전에 자격 증명 보호
AI 피싱의 최종 목적지는 기존 피싱과 마찬가지로 자격 증명인 경우가 많습니다. 공격자는 비밀번호, 세션 토큰, MFA 승인, 또는 다른 시스템으로 들어갈 수 있는 문을 열어주는 계정 접근 권한을 노립니다.
IBM의 2025 데이터 침해 비용 보고서(새 창)에서는 자격 증명 남용의 위험을 줄이기 위해 신원 보안을 강화하고 피싱 저항성이 있는 인증 방식을 도입할 것을 권장합니다. 또한 전 세계 평균 보안 사고 피해액이 440만 달러에 달한다고 보고하며, 신원 및 접근 제어가 단순한 기술적 문제를 넘어 재정적인 결과를 초래하는 이유를 보여줍니다.
중소기업에게는 피해 확산 방지가 핵심입니다. AI로 인해 최초 메시지를 감지하기가 더 어려워질 수는 있지만, 실수가 발생한 이후의 상황은 여전히 기업이 통제할 수 있습니다. 강력하고 고유한 비밀번호, MFA, 안전한 공유, 제한된 관리자 접근 권한, 일관된 퇴사자 처리(오프보딩)는 유출된 하나의 계정이 이메일, 금융 도구, 엔터프라이즈 클라우드 저장공간 또는 기타 비즈니스 시스템 전반에 대한 접근으로 이어질 가능성을 줄여줍니다.
Proton Pass for Business가 자격 증명 위험을 줄이는 데 도움을 주는 방법
조직의 비밀번호 정책은 직원이 공격의 표적이 되기 전에 자격 증명 관리 습관을 통제할 수 있도록 해야 합니다. 비즈니스 계정 간 비밀번호 재사용을 제한하고, 암호화된 비밀번호 보관함을 사용하며, 브라우저, 스프레드시트, 채팅 스레드에 민감한 접근 정보가 노출되지 않도록 하고, 안전한 공유 옵션을 제공해야 합니다. 이러한 조치를 통해 팀은 오래된 메시지나 문서를 일일이 뒤지지 않고도 제어된 방식으로 접근 권한을 부여하거나 삭제할 수 있습니다.
Proton Pass for Business와 같은 비즈니스 비밀번호 관리자는 피싱 공격으로 인한 피해를 최소화합니다. 자격 증명이 고유하고 암호화되어 중앙에서 관리되면, 메시지 하나가 성공하더라도 이메일, 금융 도구, 클라우드 저장공간으로 향하는 경로가 열리는 대신 단 하나의 계정만 유출되는 것으로 피해를 막을 수 있습니다. 이는 인식 교육, 이메일 필터링, 결제 제어 등을 대체하는 것이 아니라 함께 상호보완적으로 작동합니다.
Proton Pass for Business는 또한 팀이 강력한 비밀번호를 생성하고, 자동완성을 사용하며, 중앙화된 관리자 제어를 통해 자격 증명을 관리할 수 있도록 지원합니다. 고유한 비밀번호, 강력한 인증, 안전한 자격 증명 공유, 제어된 접근 권한을 통해 단 한 번의 피싱 성공이 비즈니스 전체로 확산되는 것을 방지합니다.
비즈니스 비밀번호 관리자로 AI 기반 피싱으로부터 팀을 보호하세요.
