미국, 프론티어 AI 출시 전 보안 평가체계 만든다
미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.
미국 국립표준기술연구소(NIST) 산하 인공지능 표준혁신센터(CAISI)는 지난 5월 구글 딥마인드(Google DeepMind), 마이크로소프트(Microsoft), 엑스AI(xAI)와 프론티어 AI 평가 협약을 맺었다. CAISI는 모델 출시 전 평가와 별도 연구를 통해 프론티어 AI의 능력을 측정하고 보안 평가 방식을 개선한다.
CAISI는 오픈AI(OpenAI), 앤트로픽(Anthropic)과 맺은 기존 협약도 현 정부 정책에 맞춰 조정했다. 미국 정부는 2024년부터 두 기업의 주요 모델에 공개 전후로 접근해 성능과 위험을 평가할 수 있는 협력 구조를 운영해 왔다. 모델 평가 결과를 바탕으로 개발사에 보안 개선 의견도 전달한다.
개별 기업과 진행하던 협력은 지난 6월 백악관 행정명령을 통해 범정부 정책으로 구체화됐다. 도널드 트럼프 미국 대통령이 서명한 ‘첨단 인공지능 혁신과 보안 촉진’ 행정명령은 국가안보국(NSA), 사이버보안·인프라보안국(CISA), 국립표준기술연구소 등이 AI 모델의 고도화된 사이버 능력을 측정할 기밀 벤치마크를 마련하도록 했다.
정부는 이 기준을 사용해 일정 수준 이상의 사이버 능력을 갖춘 AI를 ‘대상 프론티어 모델(covered frontier model)’로 지정한다. 최종 지정은 국가안보국장이 국가사이버국장과 대통령 과학기술보좌관, 사이버보안·인프라보안국장 등과 협의해 결정한다.
개발사는 정부에 자사가 개발하는 모델이 대상 프론티어 모델에 해당하는지 판단해 달라고 요청할 수 있다. 대상 모델로 판단되면 개발사가 다른 신뢰 파트너에게 모델을 제공하기 전 최대 30일 동안 정부에 접근 권한을 제공한다.
정부와 개발사는 모델을 먼저 사용할 연구기관이나 보안기관 등 신뢰 파트너도 함께 선정한다. 모델을 제공하는 과정에는 비밀유지와 사이버보안, 내부자 위험 관리, 지식재산 보호 요건을 적용한다.
다만 이 체계는 의무적인 출시 심사나 허가 제도는 아니다. 행정명령은 프론티어 모델의 개발과 공개, 출시, 배포에 정부의 의무적인 면허나 사전승인, 허가 요건을 만드는 근거로 해석해서는 안 된다고 명시했다. 백악관도 개발사가 참여 여부를 결정하는 ‘자발적 체계’라고 설명했다.
미국 정부는 행정명령 발표 전부터 모델의 사이버 공격 능력을 실제로 평가해 왔다. CAISI는 지난달 17일 중국 즈푸AI(Z.ai)의 공개 가중치 모델 ‘GLM-5.2’ 평가 결과를 발표했다. CAISI는 GLM-5.2의 사이버 공격 능력이 2026년 2월 출시된 미국 프론티어 모델 수준과 비슷하다고 평가했다. 모델의 안전장치가 자율형 사이버 공격과 취약점 악용에 필요한 지원을 충분히 차단하지 못했다고도 밝혔다.
CAISI와 영국 인공지능 안보연구소(AISI)는 지난달 23일 문샷AI(Moonshot AI)의 ‘키미K3(Kimi K3)’ 사이버 능력 평가 결과도 공개했다. 키미K3는 32단계로 구성된 가상 기업망 공격 평가에서 평균 17단계까지 진행했다. 미국의 사이버 능력 상위 모델은 같은 평가에서 평균 28.5단계까지 도달했다. 키미K3는 10차례 평가 가운데 1차례 가상 기업망 공격 전 과정을 완료했다.
이들 평가는 미국 정부가 프론티어 AI의 취약점 악용과 공격 코드 개발, 기업망 침투 능력을 측정할 평가 기반을 이미 운영하고 있다는 점을 보여준다. 다만 중국 공개 가중치 모델을 대상으로 한 평가와 미국 기업이 출시 전에 모델을 제공하는 자발적 프레임워크는 운영 목적과 절차가 다르다.
백악관은 모델 평가와 함께 AI가 발견한 소프트웨어 취약점을 실제 보안조치로 연결하는 체계도 가동했다.
백악관은 지난달 14일 AI 기반 취약점 조정기구 ‘골드 이글(GOLD EAGLE)’을 출범했다. 골드 이글은 정부와 AI기업, 오픈소스 개발자, 주요 기반시설 운영자가 발견한 취약점을 모아 검증하고 조치 순서를 정한다. 중복된 취약점 탐색을 줄이고 패치 정보를 연방정부와 민간기업에 전달하는 역할도 맡는다.
백악관은 골드 이글이 산업계에서 발견한 취약점을 접수해 우선순위를 정하고 검증 작업을 시작했다고 밝혔다. 프론티어 AI의 사이버 능력을 평가하는 데 그치지 않고 취약점 탐색과 검증, 패치 배포까지 연결하려는 구조다. 행정명령은 관계기관이 60일 안에 기밀 벤치마크와 자발적 프레임워크를 설계하도록 했다.
로이터는 지난 4일 백악관이 메타와 구글, 엔비디아, 오픈AI, 앤트로픽 등 AI기업 관계자들에게 공개 가중치 모델을 초기 자발적 평가 대상에 넣지 않겠다는 방침을 설명했다고 보도했다. 공개 가중치 모델은 개발사가 학습된 모델의 핵심 수치인 가중치를 공개해 이용자가 내려받고 수정할 수 있는 AI다.
글. 바이라인네트워크
<곽중희 기자>god8889@byline.network
