정보보호의 날, 화두는 ‘AI 자동 공격’…“방어도 AI로 자동화해야”

8일 서울 신라호텔에서 열린 제15회 정보보호의 날 기념식의 핵심 화두는 ‘AI가 끌어올린 공격 속도에 어떻게 맞설 것인가’였다. 이날 기조연설을 맡은 연사들은 사람 중심의 대응만으로는 공격 속도와 규모를 따라가기 어렵다며, 보안 체계를 자동화된 방어 중심으로 전환해야 한다고 입을 모았다.

미국 사이버보안·인프라보안청(CISA)과 영국 AI보안연구소, 구글, 국내 보안 전문가들은 AI가 사이버 공격과 방어 방식을 어떻게 바꾸고 있는지를 설명했다. 이들은 AI 모델의 공격 역량 평가부터 능동 방어, AI 에이전트 통제, 자율 보안관제 체계까지 대응 방향을 제시했다.

CISA “AI 오용 막으려면 국가 간 협력 필요”

닉 앤더슨(Nick Andersen) 미국 CISA 국장대행은 ‘회복력 있는 협력체계: AI 환경 변화에 대응하는 길’을 주제로 발표했다.

앤더슨 국장대행은 AI와 같은 신기술이 공격에 악용되지 않고 이용자 보호에 쓰이도록 국가 간 정보 공유와 공동 투자를 확대해야 한다고 강조했다.

그는 “AI와 같은 신기술이 오용되지 않고 사람의 역량을 높이고 보호하는 데 쓰이도록 통찰을 교환하고 해결책에 투자해야 한다”며 한국과 미국의 협력을 이어가겠다고 밝혔다.

영국 AI보안연구소 “사이버 역량 증가 속도 8개월에서 4개월로”

애덤 보몬트(Adam Beaumont) 영국 AI보안연구소(UK AI Security Institute) 임시소장은 AI 모델이 수행할 수 있는 사이버보안 작업의 난이도가 빠르게 높아지고 있다고 강조했다.

연구소는 AI가 안정적으로 수행할 수 있는 사이버 작업의 길이가 지난해에는 약 8개월마다 두 배로 증가했지만 올해는 약 4개월마다 두 배로 늘어나는 것으로 추정했다. 최신 모델은 전문가가 약 10시간 동안 수행할 작업을 수행할 정도로 능력이 뛰어났다.

연구소는 취약한 기업 네트워크를 재현한 사이버 훈련 환경에서 AI 모델의 공격 능력도 시험했다. 모델은 정찰부터 내부 이동, 기반시설 장악, 전체 네트워크 탈취까지 이어지는 32개 공격 단계를 수행했다.

일부 최신 모델은 기반시설 침해와 전체 네트워크 장악에 해당하는 상위 단계까지 도달했다. 이전 세대 모델은 초기 정찰과 내부 이동 단계에서 멈췄다.

보몬트 임시소장은 모델의 안전장치 수준도 개발사마다 차이가 났다고 밝혔다. 연구진이 한 업체 모델의 안전장치를 우회하는 데는 30분이 채 걸리지 않았지만 다른 업체 모델은 약 5시간이 필요했다.

그는 “안전장치를 강화할 수 있지만 모든 모델이 공격에 완전히 안전한 것은 아니라며 지속적인 평가와 국가 간 협력이 필요하다”고 말했다.

구글 “공격자는 AI에 해킹 도구 연결…방어자도 AI 써야”

셰인 헌틀리(Shane Huntley) 구글 최고기술책임자(CTO)는 AI가 사이버 공격의 규모와 속도, 정교함을 동시에 높이고 있다고 진단했다.

과거에는 공격자가 AI에 침투 과정에서 필요한 정보를 묻는 수준에 머물렀다. 최근에는 AI 에이전트에 해킹 도구를 직접 연결해 공격 단계를 실행하는 방식으로 바뀌고 있다는 설명이다.

공격자가 모든 작업을 AI에 맡기는 완전 자율 공격 단계에 이른 것은 아니다. 사람이 공격을 감독하고 일부 단계를 승인하지만 AI가 여러 도구를 연결하고 공격 과정을 조정하면서 실행 속도가 빨라졌다.

헌틀리 CTO는 ”공개된 취약점 공격 재현 코드(PoC)가 실제 공격 도구로 바뀌는 데 걸리는 시간도 수시간 이하로 줄고 있다”고 말했다. 방어 조직이 패치를 검토하고 적용하는 동안 공격자는 AI로 공격 코드를 만들 수 있다는 의미다.

그는 방어자도 AI를 활용해야 한다고 강조했다. AI를 공격자만 사용하면 공격 측이 우위를 차지하지만 방어자가 더 효과적으로 활용하면 기존 인력 중심 보안의 규모 한계를 줄일 수 있다는 설명이다.

구글이 말하는 ‘능동 방어’는 공격자의 시스템을 역으로 해킹하는 방식은 아니다. 법적 조치와 위협 공개, 기술적 차단, 위협정보 공유를 결합해 공격 비용을 높이고 공격 기반을 무력화시키는 방식이다.

윤두식 이로운앤컴퍼니 대표 “보안은 AI 시대의 안전벨트”

윤두식 이로운앤컴퍼니 대표는 AI의 발전 속도를 자동차에 비유했다. 그는 ”자동차의 속도를 높이면서 안전벨트와 가드레일을 함께 마련했듯 AI도 사용과 행동을 통제할 안전장치가 필요하다”고 강조했다.

윤 대표는 AI가 어떤 데이터에 접근하고 어떤 작업을 수행하는지 먼저 볼 수 있어야 한다고 말했다. AI에 입력되는 개인정보와 민감정보를 통제하고 외부로 나가는 결과도 검사해야 한다고 강조했다.

프롬프트 인젝션처럼 AI에 숨겨진 명령을 전달하는 공격을 차단하고 AI가 생성한 답변도 서비스에 제공하기 전에 검증해야 한다고 설명했다.

또한 그는 업무를 자율적으로 수행하는 AI 에이전트에는 별도의 신원과 권한 관리가 필요하다고 설명했다. 사람이 아닌 에이전트가 여러 업무 시스템에 접근하는 만큼 각 에이전트가 누구의 지시를 받아 어떤 권한으로 일하는지 확인해야 한다는 의미다.

윤 대표는 AI의 모든 작업 기록을 남겨야 한다고도 말했다. 사고가 발생하면 자동차 블랙박스처럼 AI가 어떤 정보를 읽고 어떤 판단과 행동을 했는지 추적해야 책임 소재와 사고 원인을 확인할 수 있다는 것이다.

이상근 고려대 교수 “AI가 공격 전 과정 자동화…자율 방어 체계 필요”

이상근 고려대학교 정보보호대학원 교수는 프런티어 AI가 사이버 공격의 전 과정을 자동화할 수 있다고 진단했다.

사이버 공격은 대상 정찰과 취약점 악용 코드 제작, 내부 시스템 이동, 정보 탈취 등의 단계로 진행된다. 과거에는 각 단계에 전문지식과 사람이 필요했지만 AI는 이를 연결해 수행할 수 있다는 설명이다.

이 교수는 취약점이 공개된 뒤 실제 공격이 시작되기까지의 시간이 계속 줄고 있다고 말했다. 일부 취약점은 공개 전에 공격이 시작되는 사례도 나타나 기존처럼 사람이 취약점을 검토하고 패치를 적용하는 방식만으로 대응하기 어렵다고 지적했다.

대응책으로는 취약점을 자동으로 찾고 수정하는 AI와 네트워크 방어 체계, AI 기반 보안관제센터(AI SOC)를 제시했다. AI SOC는 사람이 경보를 하나씩 분석하는 방식에서 벗어나 AI가 공격 징후를 분석하고 대응 작업을 수행하는 체계다.

이 교수는 기업과 기관에 AI 보안을 전담하는 의사결정 기구가 필요하다고도 강조했다. 정책 문서를 만드는 데 그치지 않고 데이터 반출과 AI 권한, 에이전트 행동을 실제로 통제하는 기술까지 연결해야 한다는 주장이다.

이어 그는 “국가 차원에서도 AI와 보안을 함께 책임질 최고AI보안책임자(CAISO) 체계와 민·관 협력 컨트롤타워가 필요하다”며 “해외 AI 모델에 대한 비용·기술 종속을 줄이기 위한 독자 AI 방어 기술과 인재 양성이 필요하다”고 강조했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network