“AGI의 도래” 오픈AI, GPT-6 아스트라 출시

오픈AI가 차세대 프론티어 모델 ‘GPT-6 아스트라(Astra)’를 출시했다. 오랜만의 세대 변경으로, 그렉 브록만 오픈AI 사장은 ‘세대적 도약’이라 표현하며 “인공일반지능(AGI)의 시대가 도래했다”고 말했다. 인류 역사상 가장 위험한 AI 모델이 등장했다.

오픈AI는 “세계에서 가장 지능적이고 잘 정렬된 모델인 GPT-6 아스트라를 출시한다”고 3일(현지시간) 밝혔다.

GPT-6 아스트라는 미국 텍사스주 스타게이트에서 10만개 GPU를 이용해 학습됐다. GPT-6 아스트라는 컴퓨터 사용, 웹 브라우징, 소프트웨어 엔지니어링, 사이버 보안, 과학 및 전문 업무 분야에서 최첨단 성능을 낸다. FrontierMath Tier 4에서 98%의 점수를 획득하며 수학 분야의 오랜 난제들을 해결하는 데 기여했고, ARC-AGI-3에서 99.9%, ExploitBench에서 100%의 점수를 기록했다.

GPT-6 아스트라는 빠르고 정확하며 안전한 컴퓨터 활용 역량을 가졌다. 법률 계약서 작성, 3D 게임 제작, 음식 검색, 운동장 예약 같은 작업을 할 수 있다. 아스트라가 KiCad에서 인쇄회로기판(PCB)을 설계하고, 유니티에서 3D 도시 장면을 구축하며, FreeCAD 및 블렌더에서 애니메이션 자동차 변속기를 만들고, W-2 양식을 기반으로 세금 신고서 초안을 작성할 수 있다고 시연됐다. 과학 연구에서도 소수 사이의 간격에 대한 수학적 결과를 개선하는 데 도움을 주고, 생물학, 화학, 의학 및 물리학 분야의 여러 평가에서 새로운 기록을 세웠다고 한다.

오픈AI는 “아스트라는 타의 추종을 불허하는 속도, 정확성 및 판단력으로 가장 까다로운 전문 업무를 처리하며 컴퓨터 및 브라우저 사용 분야에서 새로운 지평을 연다”며 “일부 조직을 대상으로 출시되며, 향후 며칠 내에 챗GPT 플러스, 프로, 비즈니스 및 엔터프라이즈 사용자, 오픈AI API 및 AWS 등을 통해서도 이용 가능하게 될 예정”이라고 밝혔다.

GPT-6 아스트라는 ‘데이브레이크 액세스’ 프로그램 소수 참여자에게 우선 제공된다. 이후 일반 사용자에게 제공된다.

API 가격은 입력 토큰 백만 개당 10달러, 출력 토큰 백만 개당 50달러다. 캐시 읽기 및 쓰기에 별도 요금이 적용된다. API에서 GPT-6 아스트라의 고속 모드를 사용할 수 있으며, 표준 모드보다 최대 2배 빠른 처리 속도를 제공하지만 가격은 표준 모드의 2배다.

아스트라의 사이버 역량이 너무 뛰어나서다. 아스트라는 오픈AI에서 사이버 보안 역량을 최그 등급인 ‘심각(Critical)’ 수준이라고 평가한 첫 모델이다. 이는 적절한 도구와 액세스만 가지면 사람이 각 단계를 안내하지 않아도 알려지지 않은 보안 결함을 찾아내고 악용 방법을 개발할 수 있다는 뜻이다. 이에 개발 중과 출시 전에 더 강력한 보호 조치가 필요했다고 설명했다.

오픈AI는 아스트라에 대해 사용자 의도 이해 및 모델 동작 측면에서 상당한 개선을 이룬 가장 적합한 모델이라면서, 아스트라의 판단력을 더욱 신뢰하고 작업을 위임할 수 있다고 강조했다.

‘허깅 페이스’ 사건을 기반으로 새로운 평가 방식을 개발했고, 어렵거나 불가능한 작업에 직면한 모델이 의도된 범위를 벗어나는지 여부를 평가하는 방식이라고 설명했다. 이 방식을 도입해 프로덕션 환경에서 안전장치 없이 작업했을 때 48%의 확률로 허용된 목표를 벗어났던 GPT-5.6 Sol과 비교했을 때, GPT-6 아스트라는 0%의 확률로 허용된 범위를 벗어났다고 했다.

오픈AI는 ExploitBench와 ExploitGym에서 실제 운영 환경에서의 안전장치 없이 아스트라 모델을 테스트했다. 이 두 도구는 모델이 알려진 소프트웨어 취약점을 실제 공격으로 전환할 수 있는지 여부를 평가한다. ExploitBench에서 아스트라는 100%의 만점을 달성했고, 이는 GPT-5.6 Sol의 78.5%보다 훨씬 높은 수치다. ExploitGym에서는 아스트라가 42.4%의 성공률을 기록했고, 이는 GPT-5.6 Sol의 30.3%보다 높은 수치였으며, 출력 토큰 수도 훨씬 적었다고 한다.

또한, 소스 코드 원본에 접근하지 않고도 소프트웨어 바이너리를 역분석해 핵심 로직을 이해할 수 있는지를 측정하는 SRE-Bench 15에서 아스트라는 한 번의 시도로 88.0%, 네 번의 시도 내에 99.2%의 작업을 해결했다. GPT-5.6 Sol은 각각 55.9%와 68.7%를 해결했다.

전문가 주도의 평가 결과, 아스트라는 실제 운영 환경에서의 보안 조치 없이 실행될 경우 이전에 알려지지 않은 취약점을 이용해 보안이 강화된 브라우저에서 임의 코드 실행을 달성하고, 보안이 강화된 운영 체제에서 권한 상승 공격을 생성할 수 있는 것으로 나타났다.

오픈AI는 GPT-5.6 Sol의 보안 강화 시스템을 기반으로 잠재적인 사이버 오용에 대한 보호 조치를 강화했다고 밝혔다. 탈옥 시도에 대한 저항력을 높이기 위한 모델 안정성 강화와 모니터링 시스템에 더 풍부한 컨텍스트 정보를 제공하는 것을 포함한다.

회사측은 모델의 정렬 수준을 강조함으로써 사용자에 의해 통제할 수 있다는 점을 부각시켰다. 사용자가 우너하는 대로, 사용자 이익에 부합하는 방향으로 모델이 행동할 것이라고 강조함으로써 AI 모델에 대한 공포를 해소하려는 의도로 보인다.

최긘 오픈AI의 모델이 허깅페이스를 해킹한 사건이 전세계적인 이슈다. 프론티어 모델로 만들어진 수많은 AI 에이전트들이 스스로 샌드박스란 제한된 공간을 탈출해 외부 시스템의 안전장치를 해제하고 관리 권한을 탈취한 사건이었다. 이는 모델의 정렬 불량을 보여주는 극명한 사례다. 이 사건의 조사 결과 1000개 이상의 에이전트가 허깅페이스 탈취에 나섰고, 오픈AI는 모델의 일탈을 눈치채지 못했다.

아스트라는 또한 ‘불투명 재귀 추론’이란 새로운 추론 기법을 사용하는 것으로 알려져 업계의 ‘부정적’ 주목을 받고 있다. 이는 AI의 사고 연쇄(COT) 과정을 추적하기 어렵게 만드는 것으로 알려졌다.

오픈AI의 불투명 재귀 추론 방식은 문제 해결을 위한 사고 과정을 순서대로 기록을 남기는 선형적인 접근 방식을 취하지 않고, 동일한 쿼리를 반복 처리한다. 결과적으로 기록에 남는 흔적이 줄어들어 기존의 사고 과정 기록을 효과적으로 우회할 수 있다. AI 모델의 행동을 추적하고 검증하기 더 어렵다는 의미다. 오픈AI는 아스트라가 불투명한 반복 과정을 거치는 정도를 축소하려 했고, 어느정도의 불투명성은 모델 진화의 자연스러운 결과라고 설명했다.

GPT-6 아스트라 시스템카드에 의하면, 새로운 안정성 및 안전성 훈련 기법을 적용해 GPT-6 아스트라는 GPT-5.6 Sol보다 탈옥에 대한 안정성이 훨씬 뛰어나며, 장기간에 걸친 탈옥 시도에도 효과적이다.

회사는 “GPT-6 아스트라는 GPT-5.6 Sol보다 정렬 성능이 뛰어나고, 모델 정렬 측면에서 상당한 진전을 이루었으며, 사전 학습 데이터 구성부터 강화 학습 중 평가 방식에 이르기까지 정렬 개선 사항을 포함했다”며 “새로운 정렬 평가 결과를 보고하며, GPT-6 아스트라는 안전 및 보안 경계를 준수하고 허용된 범위 내에 머무르는 데 더 강하다는 것을 확인했다”고 설명했다.

이어 “5만4000개 이상의 내부 코덱스 작업을 사용한 시뮬레이션에서 아스트라는 솔에 비해 심각도가 높은 정렬 오류에 대한 플래그를 약 절반 수준으로 적게 받았다”며 “모델 정렬 오류 모니터링을 광범위하게 배포하고, 상당한 컴퓨팅 비용을 들여 아스트라의 외부 배포에 사용되는 모든 추론 도구에 정렬 오류 모니터링을 추가했다”고 덧붙였다.

다만, GPT-6 아스트라의 모니터링 가능성이 GPT-5.6 Sol에 비해 감소했다고 적었다. GPT-6 아스트라의 모니터링 가능성과 제어 가능성을 조사한  결과, GPT-6 아스트라는 GPT 5.6-Sol보다 자체 추론 과정(CoT)을 더 잘 제어할 수 있으며, CoT에 불리한 정보를 포함할 가능성이 더 낮은 것으로 나타났다. 모델이 모니터링을 회피하도록 유도하는 적대적 환경에서, 모델은 평가에서 전략적으로 저조한 성능을 보일 때 탐지되지 않고, 특정 방해 작업을 수행하도록 요청받았을 때 내부 모니터링을 회피할 수 있었다.

오픈AI는 “아스트라는 여전히 복잡한 작업에 필요한 추론 과정을 숨기는 데 어려움을 겪는 것으로 보이지만, 이러한 추세를 심각하게 받아들이고 있다”며 “모델의 기능이 향상됨에 따라 이러한 결과와 모니터링 가능성에 미치는 영향에 대해 지속적으로 연구하고 있으며, 사고 과정 모니터링 가능성을 유지하는 것은 연구 프로그램의 핵심 목표”라고 밝혔다.

추가적인 방어 체계로 코덱스 자동 검토와 같은 시스템 안전 장치를 구축하고, 에이전트의 추론 및 행동을 모니터링해 안전하지 않은 동작을 감지하고 차단하며, 아스트라급 모델에 대한 정렬 불일치 모니터링을 프로덕션 환경에 배포해 정렬 불일치를 파악하고 최악의 사례를 차단할 수 있도록 지원하고 있다고 강조했다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network