MS “AI 활용한 경영진 사칭 이메일, 3일만에 100만건 육박”

생성형 인공지능(AI)을 활용해 만든 것으로 보이는 이메일 템플릿으로 기업 경영진을 사칭한 송장 사기 캠페인이 포착됐다. 공격자는 3일 동안 기업 사용자에게 100만건이 넘는 이메일을 보내 재무 담당자에게 약 5만달러를 송금하도록 유도했다.

마이크로소프트(MS)는 최근 시큐리티 블로그를 통해 이런 내용의 ‘AI 지원형 경영진 사칭·송장 사기’ 캠페인을 공개했다. 이번 캠페인에서는 이메일 HTML 코드에 상세한 주석이 반복되고 일정한 형식의 구분선과 템플릿 구조가 나타나는 등 생성형 AI 활용과 일치하는 특징이 확인됐다.

다만 MS는 이런 특징만으로 AI가 공격 콘텐츠를 어느 정도 생성했는지는 단정할 수 없다고 설명했다. 생성형 AI를 실제 공격 주체로 지목하기보다 공격용 이메일 템플릿 제작에 AI를 활용했을 가능성이 있다는 의미다.

경영진 사칭해 재무 담당자에 송금 요청

MS가 탐지한 캠페인은 지난 8월 3일부터 5일까지 진행됐다. 이 기간 기업 사용자를 대상으로 100만건 이상의 이메일이 발송됐다. 전체 이메일의 87.7%는 미국 사용자에게 전달됐다.

공격자는 여러 제3자 이메일 서비스 계정을 이용했다. 표적 기업의 최고경영자(CEO)와 최고재무책임자(CFO), 사장 등 경영진을 사칭해 회계·지급 담당자에게 약 5만달러의 자동결제망(ACH) 이체를 요청했다. ACH는 미국에서 은행 계좌 사이의 전자이체에 사용하는 결제망이다.

단순히 경영진 이름만 도용하지도 않았다. 발신자 표시 이름과 회신 대상 이름, 이메일 서명에 실제 경영진 정보를 넣었다. 이메일 본문에는 송장을 승인했으니 결제를 진행하라는 짧은 문구를 사용했다.

공격자는 경영진 사칭과 함께 공급업체 위장, 조작된 송장, 가짜 이메일 대화까지 하나의 이메일에 넣었다.

MS가 공개한 사례에서는 소프트웨어 기업 서비스나우(ServiceNow)를 사칭했다. 공격자는 ‘ServiceNow Platform – Annual Subscription’이라고 적힌 허위 송장을 만들어 실제 서비스나우가 발행한 것처럼 꾸몄다.

송장에는 서비스나우의 로고와 브랜드 요소뿐 아니라 송장 번호와 발행일, 결제 기한, 통화, 결제 금액, 세부 항목을 넣었다. 표적 기업에 따라 ‘청구 대상(BILLED TO)’ 항목에는 해당 기업과 경영진 이름을 넣었다.

결제 정보는 공격자가 통제하는 계좌로 연결했다. MS는 여러 사례에서 송금에 이용된 금융기관이 서로 달랐다고 설명했다. 서비스나우와 사칭된 기업의 시스템이 실제 침해된 정황은 확인되지 않았다. MS는 공격자가 실제 기업과 인물을 흉내 낸 허위 도메인과 콘텐츠를 이용했다고 밝혔다.

가짜 이메일 대화까지 만들어 신뢰 높여

공격자는 가짜 송장 아래에 전달 메일처럼 보이는 대화도 추가했다. 표적 기업 경영진과 서비스나우 사장이 제품 구매와 도입, 송장 처리 문제를 논의한 것처럼 꾸몄다. 메시지에는 담당자에게 송장을 직접 보내고 자신을 참조에 넣지 않아도 된다는 문구도 사용했다.

MS는 이런 이메일이 실제 대화가 아니라는 점을 확인할 수 있는 단서도 남아 있었다고 설명했다. 조작된 전달 메일에는 일반적인 이메일 헤더 정보가 없었다. 발신자 표시 이름과 이메일 주소도 일치하지 않았다. 과거 대화가 실제 이메일처럼 안쪽으로 들어가거나 시각적으로 구분되지 않고 모두 왼쪽에 정렬된 사례도 있었다.

대화 내용 사이의 모순도 있었다. 앞선 이메일에서는 CEO가 송장을 자신에게 보내지 말고 담당자에게 직접 보내라고 했지만 이후에는 CEO가 송장을 승인하고 직접 전달한 것처럼 구성됐다.

서비스나우 사칭한 가짜 도메인도 만들어

공격자는 캠페인을 시작하기 직전 사칭에 사용할 도메인도 만들었다. 서비스나우와 비슷하게 만든 ‘service-nowinc[.]com’ 도메인은 공격 활동이 확인되기 나흘 전인 7월 31일 등록됐다. 이 도메인은 서비스나우 사장을 사칭하는 이메일 주소와 허위 송장의 문의처 등에 사용됐다.

같은 날 ‘domainlify[.]net’ 도메인도 등록했다. 이 도메인은 피해자가 이메일에 답장했을 때 회신이 전달되는 주소에 사용됐다.

공격 흐름은 도메인 등록에서 시작해 경영진을 사칭한 이메일 발송, 허위 송장과 가짜 대화 제시, 재무 담당자의 ACH 결제, 공격자 계좌로의 자금 이동 순으로 이어졌다.

HTML 코드에서 생성형 AI 활용 정황

이번 캠페인에서 MS가 주목한 부분은 이메일을 구성한 HTML 코드다. HTML 코드에는 각 영역의 역할을 설명하는 상세한 주석이 반복적으로 들어갔다. 주요 영역을 일정한 형식으로 구분하고 스타일 요소까지 설명하는 주석도 확인됐다.

긴 대시(—)나 ‘===’ 형태의 구분선, 대문자로 작성한 긴 섹션 이름 등도 여러 템플릿에서 반복됐다. MS는 이를 AI 지원형 템플릿 제작 과정에서 나타나는 특징과 일치하는 지표로 판단했다.

표적 기업마다 기업명과 경영진 정보 등은 달랐지만 송장 식별 정보와 전체 이메일 구성, 공격 시나리오는 대부분 일정했다. 하나의 기본 템플릿을 만든 뒤 표적별 정보를 바꿔 대량 발송했을 가능성을 보여주는 부분이다.

다만 MS는 코드에 나타난 개별 특징만으로 생성형 AI가 이메일이나 송장을 직접 만들었다고 판단할 수는 없다고 선을 그었다.

MS는 이번 공격에 대응하기 위해 이메일 발신자 인증과 위조 방지 설정을 적용하고 재무 담당자가 결제 요청을 별도 경로로 확인하도록 하는 절차가 필요하다고 권고했다. 특히 경영진이 보낸 것처럼 보이는 이메일이라도 계좌 정보가 바뀌거나 고액 송금을 요구할 경우 실제 요청 여부를 다시 확인해야 한다고 강조했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network