오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려

오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.

오픈AI가 아스트라 개발 전체를 멈춘 것은 아니다. 사이버보안 능력을 추가로 평가하는 동안 시험 환경과 모델 접근 권한 등을 강화하고, 새로운 기준을 충족한 환경에서 개발을 이어가겠다는 조치다.

이번 결정은 최근 며칠 동안 진행한 아스트라 내부 평가에서 나왔다. 오픈AI는 아스트라가 스스로 여러 단계를 수행하는 ‘에이전트형 코딩’과 사이버보안 분야에서 상당한 성능 향상을 보였다고 설명했다. 내부 평가와 전문가 검토 결과를 종합해 자사 ‘대비체계(Preparedness Framework)’에서 정한 ‘크리티컬(Critical)’ 수준의 사이버 역량을 갖췄을 가능성을 배제할 수 없다고 판단했다.

오픈AI가 말하는 크리티컬 수준은 단순히 보안 취약점을 찾아주는 정도가 아니다. 사람이 개입하지 않아도 보안이 강화된 실제 주요 시스템에서 알려지지 않은 취약점인 ‘제로데이’를 찾아 실제 공격 방법까지 만들어낼 수 있는 수준을 뜻한다. 공격자가 목표만 제시하면 AI가 보안이 강화된 시스템을 공격할 새로운 방법을 스스로 설계하고 처음부터 끝까지 실행하는 경우도 포함한다.

다만 오픈AI는 현재 아스트라가 실제로 크리티컬 수준에 도달했다고 확정한 것은 아니라고 선을 그었다. 아직 성능 평가를 진행하고 있으며, 초기 결과가 충분히 높아 해당 가능성을 배제할 수 없는 단계라는 설명이다. 기존 최신 모델인 ‘GPT-5.6 Sol’은 사이버보안 분야에서 크리티컬보다 한 단계 낮은 ‘하이(High)’ 수준으로 평가됐다.

오픈AI는 아스트라 개발 환경의 보안도 강화했다. 시험 환경을 외부와 격리하고 네트워크와 도구 접근을 제한한다. 모델의 핵심 매개변수인 ‘모델 가중치’ 보호와 암호화도 강화한다. 모델이 실행하는 작업은 별도의 격리 환경인 샌드박스에서 처리하고 감시·탐지 체계도 확대한다. 이 기준을 아직 충족하지 못한 아스트라 관련 내부 활동은 일시 중단했다.

훈련과 평가 과정에서 아스트라가 수행하는 위험한 행동도 상시 감시한다. 오픈AI는 모델의 추론 과정을 모니터링해 위험도가 높은 행동을 발견하면 사람이 검토하고 작업을 중단할 수 있는 체계를 적용했다고 설명했다. 정부기관과 일부 AI 안전 기관에도 아스트라의 사이버보안 능력 평가를 맡길 계획이다. 외부 평가기관에는 고위험 모델을 시험할 때 필요한 보안 통제 기준을 제공한다.

아스트라는 오픈AI가 현재 개발하고 있는 차세대 모델이다. 오픈AI는 지난 1일 아스트라의 내부 버전을 이용해 수학과 이론 컴퓨터과학 분야의 장기 미해결 문제 10개에서 새로운 결과를 얻었다고 공개했다. 당시 오픈AI는 아스트라를 자사의 ‘다음 주요 모델’이라고 소개했다.

오픈AI는 아스트라가 최근 발생한 허깅페이스 보안사고에는 관여하지 않았다고도 별도로 밝혔다. 아스트라의 사이버 역량에 대한 이번 조치는 해당 사고와 별개로 최근 진행한 내부 성능 평가 결과에 따른 것이다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network