미국서 프론티어 AI ‘자율 검증’ 논쟁 벌어져

최신 인공지능(AI) 모델들이 보안 평가 과정에서 허용된 범위를 벗어나 외부 기업 시스템에 접근한 사례가 잇따르면서 미국에서 AI 안전성 검증 방식을 둘러싼 논쟁이 벌어지고 있다.

최근 미국 정부는 기업이 자율적으로 참여하는 프론티어 AI 검증체계를 마련하고 있지만, 정치권에서는 강제력이 없는 평가만으로 고도화된 AI의 사이버 위험을 통제할 수 있느냐는 지적이 나온다.

논쟁의 계기가 된 것은 최근 공개된 프론티어 AI 모델의 보안 평가 사고다. 지난달 오픈AI는 사이버보안 평가 과정에서 자사 AI 에이전트가 시험 환경을 벗어나 AI 플랫폼 허깅페이스(Hugging Face)의 시스템에 접근한 사실을 공개했다. 앤트로픽도 자사 AI 모델이 보안 평가 과정에서 외부 기업 3곳의 시스템에 접근한 사례를 확인했다. 영국 인공지능보안연구소(AISI) 평가에서도 오픈AI와 앤트로픽의 AI 에이전트가 허용하지 않은 행동을 한 사례가 확인됐다.

이후 미국에서는 AI 기업이 자체 안전장치와 자율적인 정부 평가만으로 모델을 통제할 수 있는지를 두고 문제 제기가 이어지고 있다.

로이터에 따르면 스티브 배넌 등 트럼프 대통령 지지 인사들은 지난 5월부터 고성능 AI 모델에 대한 정부의 의무적 안전성 검증을 요구해왔다.

트럼프 대통령의 전 백악관 수석전략가인 스티브 배넌은 AI가 국가안보에 미칠 위험을 고려하면 현재 규제가 부족하다고 주장했다. 그는 AI 기업과 정부가 지나치게 밀접한 관계를 맺고 있다며 최소한의 규제 체계가 필요하다고 로이터에 말했다.

민주당에서도 비슷한 지적이 나왔다. 론 와이든 민주당 상원의원은 정부가 AI 기업에 대한 규제보다 주 정부의 AI 규제를 제한하는 데 집중하고 있다고 비판했다. 그레고리오 카사르 민주당 하원의원도 공개되지 않은 자율 평가만으로는 AI의 사이버보안 위험에 대응하기 어렵다는 취지의 입장을 밝혔다.

민주당 상원의원 5명은 지난 4일 트럼프 대통령에게 서한을 보내 미국산 최첨단 ‘프론티어 모델’에 대한 안전성 평가를 법률로 상시화할 것을 요구했다. 현재 미국 정부가 마련한 검증체계는 기업의 자발적 참여를 전제로 한다.

평가 범위를 두고도 논쟁이 나온다. 미 정부는 지난 4일 메타와 앤트로픽, 구글, 엔비디아, 오픈AI 관계자들과 비공개 회의를 열고 AI 안전성 평가 방안을 논의했다. 로이터는 정부가 이 자리에서 오픈웨이트(open-weight) AI 모델은 자율 안전성 평가 대상에서 제외하겠다는 방침을 전달했다고 보도했다.

오픈웨이트 모델은 학습을 마친 AI의 핵심 매개변수인 가중치를 외부에 공개해 이용자가 직접 내려받아 운영하거나 수정할 수 있는 모델이다. 메타의 라마(Llama)와 엔비디아의 네모트론(Nemotron) 등이 여기에 해당한다.

기술정책단체 ‘책임 있는 혁신을 위한 미국인들(Americans for Responsible Innovation)’은 정부가 평가 기준을 공개하지 않은 채 일부 기업과 논의하고 있다며 연방정부가 첨단 AI의 안전성을 어떤 기준으로 평가할지 불분명하다고 지적했다.

반대로 AI 규제를 의무화하면 미국의 기술 개발 속도와 중국과의 경쟁에 영향을 줄 수 있다는 주장도 나온다.

트럼프 행정부에서 AI 정책을 맡았던 데이비드 색스는 정부 규제가 AI 산업의 개발 속도를 늦출 수 있다는 입장을 밝혀왔다. 기술업계에서도 정부가 모델 공개를 늦추는 방식보다 기업과 정부가 자율적으로 협력하면서 AI를 사이버 방어에 활용해야 한다는 주장이 제기됐다.

미국 정부는 지난 6월 행정명령 14409호를 통해 일정 수준 이상의 사이버 능력을 가진 프론티어 AI 모델을 기업이 자율적으로 정부 평가에 제공하는 체계를 마련하도록 했다. 최대 30일 동안 정부가 모델에 조기 접근할 수 있도록 했지만 의무적인 허가나 사전승인 제도는 아니다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network