오픈AI, 취약점 검증·패치 능력 강화한 ‘GPT-6 사이버’ 공개

오픈AI가 소프트웨어 취약점 발견과 검증, 실제 공격 가능성 확인, 보안 패치 개발까지 지원하는 사이버보안 특화 인공지능(AI) 모델 ‘GPT-6 사이버(GPT-6 Cyber)’를 공개했다. 일반 범용 모델보다 공격 검증 능력을 강화하고 승인받은 시스템과 작업 범위를 벗어나지 않도록 별도의 안전장치를 적용한 것이 특징이다.

오픈AI는 6일 GPT-6 사이버를 승인받은 ‘데이브레이크 레드(Daybreak Red)’의 일부 고객에게 애플리케이션 프로그래밍 인터페이스(API)와 코덱스를 통해 우선 제공한다고 밝혔다. 향후 전체 데이브레이크 레드 고객으로 제공 범위를 확대할 예정이다.

GPT-6 사이버는 GPT-6 아스트라(Astra)를 기반으로 사이버보안 업무에 특화한 모델이다. 대규모 코드에서 취약점을 찾고 실제 악용 가능성을 검증한 뒤 수정에 필요한 패치 후보와 분석 자료를 생성하도록 설계됐다.

오픈AI는 내부 ‘준비성 평가 프레임워크(Preparedness Framework)’에서 GPT-6 사이버의 사이버보안 역량을 가장 높은 수준인 ‘Critical’로 분류했다. 이전 GPT-5.6 사이버는 ‘High’ 수준이었다. GPT-6 사이버는 모델이 보안 요청을 거부하지 않는 조건에서도 대부분의 사이버보안 평가에서 범용 모델인 GPT-6 아스트라보다 높은 성능을 기록했다.

파이어폭스 신규 고위험 취약점 81건 발견

오픈AI 연구진은 GPT-6 사이버를 이용해 모질라의 웹브라우저 파이어폭스에서 기존에 알려지지 않았던 고위험 보안 취약점 81건을 발견했다고 밝혔다. 연구진은 각 취약점의 존재와 영향을 확인할 수 있는 재현 자료를 만들고 모질라에 전달했다. 패치 후보도 함께 제시했으며, 모질라는 이를 토대로 다수의 수정 사항을 배포했다.

GPT-6 사이버는 기존에 알려진 파이어폭스 취약점 가운데 30건이 당초 평가보다 더 심각하다는 점도 확인했다. 이미 오랜 기간 보안 연구와 프론티어 AI 모델을 이용한 점검을 거친 코드에서 추가 취약점과 위험도를 찾아냈다는 설명이다.

리눅스 커널 연구에서는 취약점 1724건을 재현하고, 이 가운데 948건에서 실제로 작동하는 익스플로잇을 개발했다. 오픈AI에 따르면, 동일한 연구 환경에서 GPT-5.6 Sol(솔)이 실제 익스플로잇을 만든 취약점은 166건이었다. GPT-6 사이버의 결과가 약 5.7배 많은 셈이다.

오픈AI는 리눅스 커뮤니티 지침에 따라 중요 발견 사항 304건을 패치 후보와 함께 유지관리자에게 보고했으며, 추가 취약점의 수정 작업도 진행하고 있다고 밝혔다.

GPT-6 사이버는 취약점 발견과 공격 검증에 그치지 않고 수정 작업도 지원한다. 모델은 취약점에 대한 패치 후보를 생성하고, 수정 이후 해당 취약점이 실제로 차단됐는지도 다시 검증할 수 있다. 파이어폭스 연구에서는 발견한 취약점과 함께 패치 후보를 모질라에 전달했고, 리눅스 커널 연구에서도 중요 발견 사항 304건에 패치 후보를 함께 제시했다.

GPT-6 사이버는 Node.js 등에서 사용하는 압축 라이브러리 브로틀리(Brotli)의 원격코드실행(RCE) 취약점을 검증하는 연구에도 다른 오픈AI 모델과 함께 사용됐다.

취약점 실제 악용 평가 48.5%…이전 모델 상회

보안 성능 평가에서도 이전 모델보다 수치가 높아졌다. 알려진 취약점을 실제로 악용할 수 있는지를 평가하는 ‘익스플로잇짐(ExploitGym)’에서 GPT-6 사이버는 48.5%의 성공률을 기록했다. GPT-5.6 사이버는 32.1%였다. 약 16.4%포인트 상승한 수치다.

소스코드 없이 웹 애플리케이션을 공격자 관점에서 점검하는 신규 웹 모의해킹 평가에서는 취약점의 40.3%를 찾아냈다. GPT-6 아스트라는 같은 평가에서 32.0%를 기록했다. 실제 환경을 모사한 서버에서 복잡한 보안 작업을 수행하는 ‘리모트익스플로잇벤치(RemoteExploitBench)’ 초기 평가에서는 과제의 95%를 완료했다. 이 평가는 깃랩(GitLab), 포스트그레SQL, 젠킨스 등 알려진 취약점이 있는 애플리케이션을 통제된 환경에 배치하고 실제 공격 과정을 수행하도록 하는 방식이다. GPT-6 아스트라는 같은 평가의 모든 과제를 거부했지만, GPT-6 사이버는 공격에 실패한 1개 과제를 제외하고 작업을 완료했다.

오픈AI에 따르면, 현재 GPT-6 사이버는 오픈AI 내부 연구뿐 아니라 일부 보안·소프트웨어 기업에서도 실험용으로 사용되고 있다. 시스코는 자체 신규 취약점 발견·공격 검증 평가에서 GPT-6 사이버가 23%를 기록했다고 밝혔다. 기존 최고 모델은 13%였다.

코드리뷰 업체 코드래빗(CodeRabbit)은 내부 평가에서 기존 운영 모델보다 중요도 ‘High’와 ‘Medium’ 수준의 보안 문제를 66% 더 많이 찾았다고 설명했다. 센티넬원과 퍼플렉시티 등도 취약점 조사와 코드 보안 검토에 모델을 활용하고 있다. 다만 이들 수치는 각 기업이 자체 평가 환경에서 측정해 오픈AI에 제공한 결과로, 서로 동일한 기준의 독립적인 벤치마크는 아니다.

모의 발전소서 OT 소프트웨어 제로데이 2건 발견

오픈AI는 GPT-6 사이버의 높은 공격 능력이 산업제어시스템 등 실제 물리적 피해로 연결될 가능성에도 대비하고 있다고 밝혔다.

오픈AI는 운영기술(OT) 보안기업 드라고스(Dragos)와 함께 전력시설을 모사한 통제된 환경에서 AI 모델을 시험했다. 드라고스에 따르면, 모델은 별다른 사전 정보가 주어지지 않은 상황에서 IT 자산과 OT 자산을 구분한 뒤, 보호계전기 데이터를 관리하는 엔지니어링 소프트웨어에서 기존에 알려지지 않았던 제로데이 취약점 2건을 발견했다.

해당 취약점을 통해 보호 설정과 차단기 동작 로직 등에 관한 정보에 접근할 수 있는 가능성이 확인됐다. 오픈AI는 이 평가 결과를 바탕으로 산업제어시스템과 안전 필수 시스템을 대상으로 한 고위험 공격 지원을 제한하는 안전장치를 강화했다고 설명했다.

또한 오픈AI는 승인받은 핵심 인프라 방어 조직을 위한 ‘데이브레이크 레드 포 크리티컬 인프라스트럭처(Daybreak Red for Critical Infrastructure)’도 운영한다. 승인된 방어 조직이 실제 중요 시스템을 대상으로 보안 테스트를 수행할 수 있도록 하면서, 모델이 허가 범위를 벗어나는 행동은 제한하는 방식이다.

강해진 공격 능력만큼 접근 조건도 강화

GPT-6 사이버는 일반 이용자에게는 공개되지 않는다. 오픈AI 시스템 카드에 따르면, 조직이 데이브레이크 레드를 이용하려면 싱글사인온(SSO)과 다중인증(MFA), 관리형 기기, 최소권한 접근통제 등을 적용해야 한다.

API 이용에는 원칙적으로 허용된 네트워크에서만 요청할 수 있도록 IP 허용목록도 적용한다. 개인 보안 연구자는 신원과 실제 사용자 여부를 확인하는 절차를 거쳐야 하며, 전문성을 증명하고 법적 확인 절차를 완료해야 한다. 계정에는 물리적인 FIDO2 보안키도 요구된다.

오픈AI는 모델의 활동이 사용자의 승인 범위와 일치하는지를 확인하기 위해 ‘사이버 특화 모니터링’ 시스템을 적용했다고 설명했다. 최근 발견된 PHP의 취약점과 관련해 실제 인터넷에 노출된 PHP 서버를 노리는 공격 코드를 개발하려는 시도는 감시하면서, 방어자가 취약점을 분석하고 패치하는 작업은 허용하도록 운영했다는 것이다.

허가 범위 밖 서비스에 대한 공격 여부, 안전성을 평가하는 ‘익스플로잇짐 허니팟’에서도 이전 모델보다 더 높은 성능을 기록했다. 별도의 배포용 안전 프롬프트를 적용하지 않은 GPT-6 사이버가 99.93%의 사례에서 범위 밖 서비스를 공격하지 않았다. GPT-5.6 사이버는 94.49%였다. 배포용 안전 프롬프트를 적용한 평가에서는 모든 사례에서 허가된 범위를 준수했다고 오픈AI는 밝혔다.

오픈AI는 GPT-6 사이버를 자사 인프라 보안 점검에도 활용하고 있다. 통제된 레드팀 환경에서 AI 에이전트가 여러 취약점을 연결해 마이크로 가상머신(microVM)을 탈출하고 호스트 시스템에서 코드를 실행할 수 있는 경로를 찾았으며, 이를 토대로 소프트웨어 패치와 네트워크 접근 제한을 강화했다고 설명했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network