[그게 뭔가요] 페이블 5는 왜 사흘 만에 막혔나

지난 12일 앤트로픽의 최신 모델 페이블 5가 전 세계에서 동시에 차단됐다. 출시된 지 사흘만에 세계 최상위급 AI 모델에 접근하는 것이 금지된 것이다. 무슨 일이 있었던 것일까?

페이블 5는 무엇?

페이블 5는 앤트로픽의 최상위 모델 미토스를 안전장치와 함께 대중에게 공개한 버전이다. 안전장치가 달린 미토스라고 볼 수 있다.

앤트로픽의 AI 모델에는 등급이 있다. 일반 사용자가 널리 쓰는 모델인 소네트(Sonnet), 소네트보다 좀 더 강력한 오푸스(Opus), 그리고 최상위 성능을 자랑하는 미토스(Mythos)로 나뉘다.

미토스는 출시된 이후 대중에게 즉각 공개되지 않았다. 워낙 뛰어나 소프트웨어 취약점을 발견하고 공격 코드를 작성하는 능력이 월등했기 때문이다. 해커나 악의적 사용자가 미토스를 이용할 경우 무슨 일이 벌어질지 예측할 수 없는 상황이다. 때문에 회사 측은 모델을 개발해 놓고도 일반에 쉽게 공개하지 못했다.

앤트로픽은 ‘프로젝트 글래스윙’이라는 프로젝트를 운영한 이유다. 프로젝트 글래스윙은 신뢰가 검증된 일부 기관에만 미토스를 제공하는 프로그램이다. 정부기관, 금융기관, 글로벌 빅테크 업체 등 신원이 보증된 기관이나 기업에 미토스를 먼저 제공했다. 이들은 미토스를 이용해 취약점을 찾고 해커의 공격에 대비하는 활동을 하고 있다.

페이블 5는 지난 9일 출시된 앤트로픽의 최신 모델이다. 미토스에 위험한 답변을 차단하는 안전장치(가드레일)가 붙인 것이 페이블 5의 특징이다. 예를 들어 “해킹 프로그램 작성해줘”와 같은 위험한 요청이 들어오면, 미토스가 아닌 다른 모델이 답을 하도록 설계됐다.

그러나 미국 상무부는 출시 사흘만에 페이블 5를 수출금지 목록에 포함시켰다. 외국인에게 제공하지 못하도록 한 것이다. 이에 앤트로픽은 페이블 5 서비스를 중단했다.

아마존이 쏘아 올린 공

페이블 5 사태의 발단은 아마존 CEO 앤디 재시였다. 그는 스콧 베센트 재무장관에게 “아마존 연구원들이 페이블5를 이용해 사이버 공격에 쓰일 수 있는 정보를 추출했다”고 전했다. 페이블 5의 안전장치를 우회(탈옥)할 수 있다는 것이었다.

이에 미 상무부는 앤트로픽 CEO 다리오 아모데이에게 서한을 보내, 외국 국적자의 페이블5·마이토스5 접근을 차단하라는 수출통제 지시를 내렸다. 이에 대해 앤트로픽은 “확인 결과, 이건 특정 코드베이스를 읽고 결함을 수정해달라고 요청하는 수준의 좁은 탈옥일 뿐”이라며 “이 정도는 오픈AI의 GPT-5.5를 비롯한 다른 모델에서도 벌어지는 일”이라고 반박했다.

하지만 앤트로픽의 반박은 받아들여지지 않았다. 수출 금지 지시 범위가 미국 내 외국 국적자, 심지어 앤트로픽 소속 외국 출신 직원에게까지 적용됐다. 앤트로픽은 결국 전 세계 모든 고객의 접근을 차단하는 수밖에 없었다. 현재 클로드에 접속하면 ‘클로드 페이블 5는 현재 사용할 수 없습니다’라는 안내문이 나온다. 페이블 5와 더불어 미토스 5도 전면 비활성화됐다.

아마존도 페이블 5 서비스를 중단했다. 앤트로픽은 아마존 베드록에서 자사 모델을 기업용으로 서비스하고 있다. AWS 블로그에는 “미국 정부의 수출통제 지침 준수를 위해 페이블 5 및 미토스 5 이용 권한을 취소합니다”라는 안내문이 올라왔다.

미 정부와 앤트로픽의 구원(舊怨)

업계에서는 미국 정부와 앤트로픽의 오랜 갈등이 이번 사태의 배경에 있다고 이해한다. 페이블 5 사태 이전에도 미국 정부와 앤트로픽은 정면으로 충돌한 바 있다.

앤트로픽은 2025년 7월 국방부와 2억 달러 규모의 계약을 맺고, 클로드를 기밀 네트워크와 국립연구소 등 국가안보 분야에 공급해왔다. 정보 분석, 모델링·시뮬레이션, 작전 계획, 사이버 작전 등에 쓰이는 식이었다.

문제는 계약 갱신 과정에서 터졌다. 앤트로픽은 새 계약에 두 가지 안전장치(가드레일)를 넣자고 요구했다. 인간의 개입 없이 표적을 결정하는 완전 자율 살상무기에는 클로드를 쓸 수 없다는조건과 미국 시민에 대한 대규모 감시에 쓸 수 없다는 조건이었다.

국방부는 이를 받아들이지 않았다. 국방부는 “모든 합법적 목적에 제한 없이 활용 가능해야 한다”는 조항을 계약에 명시하도록 했다. 앤트로픽이 내건 두 가지 제한과 정면으로 충돌하는 내용이었다.

갈등이 깊어지자 미 정부는 앤트로픽을 ‘공급망 위험 기업’으로 지정했다. 이는 중국이나 러시아 등 적대국 기업에 적용되는 거래 통제 조치인데, 사상 처음으로 자국 기업에 이 같은 조치를 내렸다. 앤트로픽과 미 정부의 깊은 갈등을 보여준다.

양측은 법정으로 문제를 가져갔다. 법정에서는 앤트로픽이 이겼다. 캘리포니아 연방법원은 올 3월 국방부의 앤트로픽에 대한 공급망 위험 지정이 위헌적 보복 조치라며 무효화했다.

AI는 의약품처럼 취급해야 하나

페이블 5 차단 사태는 AI 발전을 어떻게 대처해야 할지 질문을 남긴다.

앤트로픽은 “완벽한 탈옥 방지는 현재 어떤 모델 제공자에게도 불가능하다”고 설명했다. 완벽한 탈옥 방지가 불가능하다면, 이렇게 강력한 AI 모델을 지금처럼 기업이 자유롭게 출시해도 되는 걸까.

일례로 의약품은 기업 마음대로 출시할 수 없다. 미국에서는 FDA, 한국에서는 식약처의 허가가 있어야 출시할 수 있다. 잘못된 AI는 의약품 이상의 부정적 파급력을 가질 수 있다.

이런 발상에서 출발한 것이 바로 AI 허가제 논의다. 미국 국가 AI 자문위원회(NAIAC)는 FDA의 부작용 보고 시스템(AERS)을 본떠 AI 이상 사례 보고 시스템을 만들자고 제안한 바 있다. 마이크로소프트, 시민단체 인코드 저스티스·미래생명연구소, 랜드연구소 등이 2023년부터 모델 개발·배포·데이터센터 운영에 적용하는 라이선스 제도를 제안한 바 있다.

찬성론자들은 또한 이번 사태에서 정부가 보인 신속한 대응 자체를 긍정적으로 평가한다. 위험 신호가 감지되자마자 즉시 접근을 차단할 수 있는 체계가 있었기에 피해가 확산되기 전에 멈출 수 있었다는 논리다. 사후에 문제가 커진 뒤에야 규제하는 것보다, 사전에 위험을 차단할 수 있는 장치가 필요하다는 입장이다.

반론도 만만치 않다. 이번 사태에서 가장 강하게 반발한 것은 오히려 사이버보안 전문가들이었다.

전직 페이스북 최고보안책임자(CSO) 알렉스 스타모스는 어도비·줌·소포스 등 기업의 보안 책임자 40여 명과 함께 공개 서한을 발표했다. “페이블5를 차단함으로써 수비자들에게서 최고의 도구를 빼앗고, 공격자들에게만 이득을 줬다”는 것이 이들의 주장이다.

스타모스는 “우리가 최고의 역량을 차단하는 동안, 중국은 그 취약점들을 수집하고 비축하고 있다. 우리는 지금 그 버그들을 최대한 빨리 수정해야 하는 경쟁을 하고 있다. 이 순간 수비 역량을 끊는 것은 완전히 어리석은 짓”이라고 강조했다.

사실 앤트로픽이 차단당한 ‘특정 코드의 보안 결함을 찾아 고치는 기능’은 오픈AI의 GPT-5.5, 앤트로픽 자신의 오퍼스 모델, 중국 모델에서도 이미 가능한 기능이다. 페이블 5만 막는다고 해결되지는 않는다.

스트래트체리의 벤 톰슨은 “스마트폰을 만드는 사람들이 ‘우리가 가장 잘 안다’고 확신하는 것은 불편하지만 감당할 수 있다”면서 “그러나 인류 전체의 경제 활동을 대체할 수 있는 초지능을 만드는 사람들이 그렇게 확신하는 것은 전혀 다른 문제”라고 말했다.

AI가 정말로 그런 존재가 돼가고 있다면, 우리는 지금 그것을 누가, 어떻게 통제해야 하는지에 대한 답을 아직 갖고 있지 못하다. 페이블5 차단 사태는 그 답이 얼마나 급박하게 필요한지를 보여줬다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network