티오리 박세준 대표 “AI 해킹, AI 방어 체계로 대응해야”

사이버보안에서는 원래 지키는 쪽이 불리하다. 해커는 침투에 실패해도 크게 손해 볼 게 없기 때문이다. 인공지능(AI)은 이 불균형을 더욱 키우고 있다. 앤트로픽이 작년 9월 발표한 보고서에 따르면, 한 해킹 조직은 전체 작전의 90%가량을 AI 에이전트에 맡겼고, 인간의 의사결정 개입 횟수는 고작 5회 정도였다. 이처럼 공격 비용은 크게 줄어든 반면, 미국 기준 데이터 침해 1건당 피해액은 1000만달러(한화 약 150억원)를 넘었다. 방어의 가성비가 처참하게 무너졌다.

오펜시브 보안 전문 기업 티오리의 박세준 대표는 13일 여의도에서 열린 ‘아톤 시큐리티 서밋 2026’에서 “보안과 신뢰 유지가 어느 때보다 어렵고 값비싼 일이 됐다”고 진단했다. 박 대표는 세계 최대 해킹 방어 대회 데프콘 CTF에서 9회 우승한 화이트햇 해커다. 그는 이날 실제 현장에서 발생하는 AI 기반 해킹의 최신 양상과 대응 방안을 공유했다.

박 대표는 공격자들이 기업 내부의 신뢰 프로세스를 역이용하는 신뢰 해킹(Trust Hack)에 AI를 활용하는 사례가 늘고 있다고 전했다. 홍콩 기업 아룹(Arup)의 한 직원은 최고재무책임자와 대표이사를 완벽히 모방한 AI 딥페이크 화상 회의에 속아 약 400억원을 해커에게 이체하는 대형 사고를 냈다. 딥페이크는 위장 취업에도 사용된다. FBI 발표에 따르면, 미국에서만 300곳 이상의 기업이 신분을 위조한 북한 IT 인력을 고용했다.

공격자가 정상 계정으로 로그인하는 계정 탈취(ATO)도 빈번하다. 박 대표가 인용한 마이크로소프트 보고서에 따르면, 매일 발생하는 6억건 이상의 신원 공격 시도 중 99%가 패스워드 탈취를 노린 공격이다. 이런 대규모 공격이 가능한 이유는 AI가 공격 효율성을 극대화했기 때문이다. AI는 방대한 데이터를 학습해 성공 확률이 높은 패스워드 조합을 찾아내고, 자동으로 로그인 시도를 수행한다.

직원들의 무분별한 AI 사용도 문제가 된다. 박 대표는 마이크로소프트 영국 임직원의 70% 이상이 미승인 AI 도구를 사용 중이었다는 조사 결과를 인용하며, 사내 코드 디버깅 등에 외부 AI를 사용하면 핵심 소스 코드나 회사 기밀이 유출될 위험이 크다고 지적했다.

뿐만 아니라 에이전트 시대로 접어들면서, 늘어난 생산성에 비례해 보안 사고 빈도와 시스템 불안정성도 대폭 증가했다. 박 대표는 이를 두고 “AI가 불안전한 소프트웨어를 산업화했다”고 표현했다. AI가 취약한 코드를 전례 없는 규모와 속도로 산업화하듯 찍어내고 있다는 의미다.

이러한 AI 기반 보안 위협에 대응할 방안으로 박 대표는 ‘AI 방어 체계’를 지목했다. 앤트로픽의 미토스 사례에서 보았듯, 최신 AI 모델들은 순식간에 수천개의 제로데이 취약점을 찾아낸다. 사람이 직접 코드를 검토하는 기존 방식으로는 공격자의 효율성과 속도를 따라잡을 수 없다. 공격자가 기계의 속도로 취약점을 찾아낸다면, 방어 체계 역시 AI를 활용해 기계의 속도로 끌어올려야 한다.

효과는 뚜렷하다. IBM의 ‘데이터 침해 비용 2025’ 보고서에 따르면, AI 방어 체계를 실무에 활용한 조직은 침해 사고 발생 시 처리 비용을 평균 대비 약 20% 절감하고, 대응 시간도 약 80일 단축했다.

박 대표가 제안하는 AI 방어 체계 구축 전략은 단순 패턴 매칭을 넘어 코드의 맥락과 신뢰 경계(Trust boundaries)를 추론하는 AI 기반 코드 리뷰 시스템을 파이프라인에 내장하는 것이다. 방대한 양의 코드를 AI가 검증하도록 하면 무너진 보안 경제성을 회복할 수 있다.

박 대표는 이처럼 반복 업무를 자동화한 뒤, 새로운 아키텍처 설계와 고차원적인 위협 분석에 인적 자원을 집중하라고 조언한다. 그는 “코드를 많이 생산하는 기업이 아니라, 그 코드가 안전하다는 것을 기계의 속도로 증명해내는 기업이 시장의 승자가 될 것”이라며 “AI를 활용한 코드 리뷰 체계의 도입을 경영진이 직접 챙겨야 한다”고 강조했다.

글. 바이라인네트워크

<이슬찬 기자>seulbae@byline.network