미국 정보당국 “중국 AI 기업, 미국 프론티어 모델 대규모 증류”

미국 정보·사이버 당국이 중국 인공지능(AI) 기업들이 미국 프론티어 AI 모델의 기능과 역량을 대규모로 추출해 자사 모델 개발에 활용하고 있다고 경고했다.

미 국가안보국(NSA), 사이버보안·인프라보안국(CISA), 연방수사국(FBI)은 8일 ‘미국 AI 기업을 대상으로 산업 규모의 증류 캠페인을 수행하는 중국 AI 기업’이라는 제목의 공동 사이버보안 권고문을 공개했다.

권고문에 따르면 딥시크(DeepSeek), 문샷AI(Moonshot AI), 알리바바, 미니맥스(MiniMax), 스텝펀(StepFun), Z.AI 등은 최소 2024년 말부터 미국 프론티어 AI 모델을 대상으로 수백만건의 질의를 수행하고 수십억개의 토큰을 추출했다. 대상에는 앤트로픽의 클로드(Claude), 오픈AI의 GPT, 구글의 제미나이(Gemini), xAI의 그록(Grok) 계열 모델이 포함됐다.

AI 분야에서 ‘증류(distillation)’는 성능이 높은 모델의 출력을 활용해 다른 모델을 학습시키는 기법으로 정상적인 연구에도 사용된다. 다만 미 당국은 이번 활동을 미국 프론티어 모델의 제한된 독점 기능과 역량을 체계적으로 추출하는 ‘공격적이고 악의적이며 표적화된 산업 규모의 증류’로 규정했다.

미 당국은 중국 기업들이 모델의 기본 API뿐 아니라 클라우드 사업자와 제3자 API 중계 서비스를 이용하고, ‘트랜스퍼 스테이션(transfer station)’으로 불리는 프록시 시장을 통해 지역 제한과 이용통제를 우회했다고 밝혔다. 차단이 발생하면 다른 접속 경로로 자동 전환하거나 이용자 메타데이터를 제거해 추적을 어렵게 하는 방식도 사용된 것으로 분석했다.

추출 대상도 단순한 답변 데이터에 그치지 않았다. 권고문에는 사고과정(CoT) 추론과 소프트웨어 개발, 강화학습(RL), 에이전트 기능 등 특정 능력을 겨냥한 대규모 질의가 이뤄졌다고 적시됐다. 딥시크의 경우 추론 능력과 특정 분야 기능을 추출해 R1과 V3 모델 학습에 활용했고, 문샷AI도 에이전트 추론과 도구 사용, 코딩·데이터 분석 등의 능력을 대상으로 수백만건의 질의를 수행한 것으로 조사됐다.

NSA·CISA·FBI는 미국 AI 기업에 ▲이상 프롬프트·계정·네트워크·행동에 대한 탐지 강화 ▲악의적인 증류가 의심되는 요청에 대한 출력 조정 ▲모델 사업자·클라우드·API 중계사업자 간 위협정보 공유 등 세 가지 즉각적인 대응을 권고했다. 미 당국은 개별 사업자를 넘어 AI 생태계 전반에서 활동을 연계 분석해야 분산된 증류 캠페인을 탐지할 수 있다고 강조했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network