미토스 등장 반년, 프론티어 AI의 보안 능력은 얼마나 발전했나

지난 4월 앤트로픽이 ‘클로드 미토스 프리뷰’를 공개했을 때, 보안업계는 크게 놀랐다. AI가 소프트웨어 취약점을 찾아 실제 공격 코드까지 만들었기 때문이다. 반년이 지난 지금, 오픈AI·앤트로픽·구글 등 주요 AI 기업들은 취약점 발견과 공격 검증 능력을 높인 프론티어 모델을 앞다퉈 공개하고 있다. 최근에는 AI가 취약점을 수정하는 패치까지 작성하는 단계에 도달했다.

앤트로픽, 1년새 취약점 후보 3만7966건 탐색…고위험 결함도 발견

앤트로픽은 지난 2일 자사 AI 모델을 활용한 취약점 발견 현황을 공개했다. ‘클로드 미토스 프리뷰(Claude Mythos Preview)’를 비롯한 여러 클로드 모델은 지난해 11월부터 올해 11월 2일까지 취약점 후보 3만7966건을 찾아냈다.

외부 보안 연구기관 6곳은 이 가운데 6376건을 검토해 6009건을 실제 취약점으로 판단했다. 검토한 후보의 94.2%다. 다만 전체 후보 중 일부를 검토한 결과이며 이미 알려진 취약점도 포함됐다. 앤트로픽은 오픈소스 프로젝트 680개에서 발견한 취약점 5087건을 개발사에 전달했다. 이 가운데 629건은 수정 패치가 배포됐다.

앤트로픽은 고위험 취약점도 발견했다. 콘텐츠 관리 소프트웨어 ‘고스트(Ghost)’에서는 인증 없이 데이터베이스 정보를 조회할 수 있는 취약점(CVE-2026-26980)을 확인했다. 협업 소프트웨어 ‘로켓챗(Rocket.Chat)’에서는 관리자 인증을 우회하는 취약점(CVE-2026-29198)을 찾아냈다. 두 취약점의 위험도는 공통 취약점 평가체계(CVSS) 기준 각각 9.1점과 9.8점이다.

지난 10월 공개된 ‘PHP2Shell’도 AI를 활용해 찾아낸 고위험 취약점이다. 클라우드 보안기업 위즈(Wiz)는 구글의 ‘제미나이 4 아르곤(Gemini 4 Argon)’과 오픈AI의 ‘GPT-5.6 솔(GPT-5.6 Sol)’ 등을 활용해 프로그래밍 언어 PHP의 취약점을 발견했다. 별도 인증 없이 서버에서 명령을 실행하거나 메모리 정보를 읽을 수 있는 결함이다. 위험도는 최대 CVSS 9.2점이다.

노드JS(Node.js)에서도 AI를 활용한 보안 연구 사례가 나왔다. 노드JS 프로젝트는 지난달 21일 압축 데이터 처리 과정에서 메모리가 손상되는 취약점(CVE-2026-111497)을 공개했다. 서비스 중단이나 정보 유출, 원격 코드 실행으로 이어질 수 있는 결함이다. 노드JS 측은 오픈AI의 ‘코덱스 시큐리티(Codex Security)’ 연구진이 해당 취약점을 신고했다고 밝혔다. 구글도 지난달 28일 공개한 ‘제미나이 4 카본(Gemini 4 Carbon)’이 취약점 탐색 능력을 평가하는 ‘SEC-bench Pro’에서 88.2%를 기록했다고 밝혔다.

오픈AI, 공격 코드 948종 개발…최고 관리자 권한까지 획득

AI의 공격 코드 개발 능력도 계속 발전하고 있다. 취약점을 찾아내는 데서 나아가, 이를 악용해 시스템 권한을 획득하는 공격 코드를 만들고 실제 작동 여부까지 검증하는 수준에 이르렀다.

오픈AI는 지난 4일 리눅스 커널의 취약점 연구 결과를 공개했다. 커널은 하드웨어와 프로그램의 작동을 관리하는 운영체제의 핵심 소프트웨어다. 연구에는 5일 공개된 ‘GPT-6 사이버(GPT-6 Cyber)’가 활용됐다.

오픈AI는 지난 10월 중순 해당 모델로 약 12시간 만에 취약점 후보 2308건을 찾아냈다. 이 가운데 1724건에서 취약한 동작을 재현했다. 연구진은 일반 사용자 권한에서 최고 관리자 권한을 획득하는 공격 코드도 개발했다. 서로 다른 취약점 948건에서 권한 상승 공격이 실제로 작동했다. 지난 7월 ‘GPT-5.6 솔’을 활용한 실험에서는 권한 상승 취약점 166건에 대한 공격에 성공했다. 최근 GPT-6 사이버를 활용한 실험에서는 그 수가 948건으로 늘었다.

오픈AI가 5일 공개한 성능 평가에서도 개선된 결과가 나왔다. GPT-6 사이버는 알려진 취약점으로 실제 공격을 수행하는 능력을 평가하는 ‘익스플로잇짐(ExploitGym)’에서 48.5%를 기록했다. 이전 모델인 ‘GPT-5.6 사이버’의 32.1%보다 16.4%포인트 높아졌다. 구글의 제미나이 4 카본은 익스플로잇짐 평가에서 54.8%를 기록했다.

AI가 여러 공격 단계를 스스로 수행한 사례도 나왔다. 영국 AI안전연구소(AISI)는 기업 내부망을 모사한 32단계 공격 실험을 진행했다. 미토스 프리뷰 개선 모델은 10차례 실험 중 6차례 전체 과정을 완료했으며, 오픈AI의 GPT-5.5는 3차례 성공했다.

국내 오펜시브 보안 전문기업 엔키화이트햇 관계자는 “최근 공개된 프론티어 AI 모델과 오픈웨이트 모델을 실무 검증과 자사 제품 테스트에 활용하고 있다”며 “취약점 식별의 정밀도와 오탐 제어 수준에서 실제로 성능이 향상된 것을 확인할 수 있었다”고 평가했다. 다만 “공격 시나리오를 구동하고 검증하는 수행 시간 측면에서는 기존 세대 모델 대비 눈에 띄는 단축 효과를 체감하기는 어려웠다”고 덧붙였다.

AI가 패치도 생성, 실제 적용에는 검증 필요

이제 AI는 취약점을 찾고 공격 가능성을 검증하는 데서 나아가 패치에 필요한 수정 코드도 작성한다. 구글은 제미나이 4 카본이 취약점 수정 능력을 평가하는 ‘CWE-bench’에서 71.0%를 기록했다고 밝혔다. 정해진 평가 과제에서 약 10건 중 7건을 해결한 수준이다.

오픈AI도 리눅스 커널 연구에서 취약점 948건에 대한 패치 후보를 생성했다. 연구진은 이 가운데 중요도가 높은 발견 사항 304건을 패치 후보와 함께 리눅스 커널 유지관리자에게 보고했다고 밝혔다.

PHP2Shell 대응에서도 AI가 패치 검증에 활용됐다. 위즈는 제미나이 4 아르곤으로 수정 코드를 검증했다. 오픈AI도 PHP 개발진이 작성한 패치에 추가 공격 가능성이 있는지 점검했다.

오픈소스 웹브라우저 ‘파이어폭스(Firefox)’를 개발하는 모질라도 AI를 취약점 발견과 수정에 활용하고 있다. 오픈AI는 GPT-6 사이버로 기존에 알려지지 않은 고위험 취약점 81건을 찾아낸 후, AI가 작성한 패치 후보를 모질라에 전달했다. 모질라 개발진은 이를 활용해 다수의 취약점을 수정했다. 모질라는 지난 2월부터 오픈AI와 앤트로픽의 AI 모델을 활용한 결과, 올해 배포한 보안 패치 건수가 지난해 같은 기간보다 7배 이상 늘었다고 밝혔다.

AI를 활용해 패치 작업을 늘리는 사례가 나오고 있지만, 아직 AI가 수정한 코드를 검증 없이 적용할 수 있는 단계까지는 아니다. 오픈AI는 리눅스 커널 실험에서 AI가 불필요한 코드를 추가하거나 성능 저하를 일으킬 수 있는 패치를 생성한 사례를 확인했다. 클라우드플레어도 AI를 활용해 취약점을 수정하는 과정에서 다른 기능에 문제가 생긴 사례를 공개한 바 있다.

엔키화이트햇 관계자는 “취약점 발견은 상당히 자동화됐고, 익스플로잇 검증은 의미 있는 수준에 도달했으며, 패치는 출발하는 단계로 보인다”고 평가했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network