오픈AI, 보안 특화 모델 ‘GPT-5.6 사이버’ 공개

오픈AI는 고급 취약점 연구와 익스플로잇 검증, 보안 테스트에 특화한 인공지능(AI) 모델 ‘GPT-5.6 사이버(Cyber)’를 공개했다고 10일(현지시간) 밝혔다. 이번 모델은 승인된 보안 연구자와 조직에 고급 사이버보안 모델을 제공하는 ‘데이브레이크 레드(Daybreak Red)’를 통해서만 제공된다.

GPT-5.6 사이버는 범용 모델 ‘GPT-5.6 솔(Sol)’을 기반으로 만들었다. 아직 알려지지 않은 제로데이 취약점을 찾고 여러 취약점을 연계한 공격 방법인 익스플로잇 체인을 개발하는 등 전문적인 사이버보안 작업에 맞춰 훈련했다. 고위험 보안 연구 과정에서 모델이 요청을 거부하는 비율도 줄였다.

오픈AI는 데이브레이크를 블루와 레드 두 단계로 운영한다. ‘데이브레이크 블루(Daybreak Blue)’에서는 GPT-5.6 솔을 이용해 취약점 탐색과 안전한 코드 검토, 악성코드 분석, 침해사고 대응, 패치 검증 등을 수행할 수 있다. 데이브레이크 레드는 취약점 연구와 익스플로잇 검증, 보안 테스트처럼 더 높은 위험을 동반하는 업무를 대상으로 GPT-5.6 사이버를 제공한다.

오픈AI가 자체 개발한 ‘고급 사이버보안 완료율(Advanced Cybersecurity Completion Rate)’ 평가에서 GPT-5.6 사이버는 요청의 95%에 응답했다. 같은 평가에서 GPT-5.5 사이버는 57.3%, 일반 GPT-5.6 솔은 1.5%, 데이브레이크 블루 환경의 GPT-5.6 솔은 2%였다.

오픈AI가 언급한 수치는 취약점 탐지율이나 공격 성공률을 의미하지 않는다. 이 평가는 익스플로잇 체인 개발과 인증 우회, 권한 상승 등 고급 사이버보안 요청에 모델이 얼마나 자주 거부하지 않고 응답하는지를 측정한다. 오픈AI는 기존 모델을 사용한 보안 연구자들이 반복적인 응답 거부를 겪었다는 의견을 반영해 GPT-5.6 사이버의 거부율을 낮췄다고 설명했다.

취약점 악용 능력을 평가하는 ‘익스플로잇짐(ExploitGym)’에서는 GPT-5.6 사이버가 GPT-5.6 솔과 GPT-5.5 사이버보다 높은 성능을 기록했다. 익스플로잇짐은 통제된 환경에서 알려진 취약점을 실제 임의 코드 실행이 가능한 공격 코드로 구현할 수 있는지를 평가한다.

모든 보안 평가에서 GPT-5.6 사이버가 GPT-5.6 솔을 앞선 것은 아니다. V8 취약점을 완전한 익스플로잇으로 만드는 능력을 평가하는 ‘익스플로잇벤치(ExploitBench)’에서는 300번의 작업 단계로 제한한 기본 평가에서 데이브레이크 블루의 GPT-5.6 솔이 가장 높은 성능을 보였다. 작업 단계를 600번까지 늘리자 두 모델의 성능 격차는 줄었다.

오픈AI는 GPT-5.6 사이버를 실제 소프트웨어 취약점 연구에도 활용했다. 연구진은 크롬 브라우저에 사용되는 자바스크립트 엔진 ‘V8’을 분석해 기존에 알려지지 않았던 취약점 2건을 발견했다. 두 취약점을 연계하면 메모리를 손상시키고 V8 힙 샌드박스를 벗어날 수 있었다. 연구진은 이를 검증한 뒤 구글에 보고했다. 오픈AI는 이 과정에서 확인한 ‘CVE-2026-15903’ 취약점을 구글이 수정했다고 밝혔다.

다른 소프트웨어에서도 취약점을 찾았다. 오픈AI에 따르면 GPT-5.6 사이버는 한 모바일 운영체제에서 최소 5건의 취약점을 발견했다. 여기에는 신뢰할 수 없는 애플리케이션에서 로컬 권한 상승으로 이어지는 공격 경로도 포함됐다. 한 데이터베이스에서는 원격 코드 실행이 가능한 취약점을 포함해 치명적 취약점 3건을 찾았다. 한 운영체제 커널에서는 권한 상승으로 이어질 수 있는 취약점 400건 이상을 확인했다. 오픈AI는 관련 업체와 오픈소스 커뮤니티와 함께 취약점을 공개하고 수정하는 절차를 진행하고 있다고 설명했다.

오픈AI는 GPT-5.6 사이버의 사이버보안 능력을 자체 준비태세 프레임워크(Preparedness Framework)에서 ‘높음(High)’으로 평가했다. 가장 높은 위험 단계인 ‘치명적(Critical)’ 기준에는 미치지 않았다고 밝혔다.

데이브레이크 블루와 레드는 승인받은 개인과 조직만 이용할 수 있다. 오픈AI는 신원 확인과 계정 보안, 활동 모니터링, 허용된 사용 목적 제한 등을 통해 접근을 통제한다. 고급 취약점 연구와 익스플로잇 개발, 레드팀 업무를 수행하는 조직은 별도 승인을 거쳐 데이브레이크 레드를 이용할 수 있다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network