美 국방부, ‘클로드’ 무기화 요구…앤트로픽 존폐 위기

미국 국방부가 앤트로픽에게 군사 목적을 위해 클로드 모델의 AI 안전 장치 해제를 요구했다. 앤트로픽은 이를 거부했고, 국방부는 계약 해지와 함께 앤트로픽을 국가 안보를 위협하는 위험 기업으로 지정하겠다고 협박하고 있다. 국방부가 이를 실행에 옮기면 앤트로픽은 정부 계약을 취소당하고, 미국 내에서 사실상 사업을 할 수 없게 된다.

24일(현지시간) 액시오스의 보도에 의하면, 피트 헤그세스 미국 국방부 장관은 이날 다리오 아모데이 앤트로픽 CEO와 간담회에서 27일까지 클로드 모델에 국방부에서 무제한으로 접근할 수 있게 허용하지 않으면, 강력한 제재를 가하겠다고 밝혔다.

구체적으로 미국 국방부는 앤트로픽 클로드 모델에 설정된 AI 안전 장치를 완전히 해제할 것을 요구했다. 미국 국방부는 아무런 안전 장치 없이 앤트로픽이 국방부의 의지에 따라 클로드 모델을 변경하도록 강제하는 것을 목표로 한다. 국방부가 군사 작전에서 표적 추적과 제거에 클로드 모델을 사용할 권한을 요구한 것이다.

앤트로픽은 클로드 모델에 비윤리적 행동을 차단하는 AI 안전 장치를 설정해 국방부와 정부 기관에 제공하고 있다. 이는 앤트로픽의 AI 윤리 강령에 따른 것이다. 때문에 다리오 아모데이 앤트로픽 CEO는 미국 행정부의 요구에 난색을 표하며 협상을 통해 사용자 정책을 조정하는 선에서 갈등을 끝내고 싶어한다.

그러나 미국 국방부는 매우 완강하게 앤트로픽을 위협하고 있다. 헤그세스 장관은 앤트로픽과 체결한 공급 계약을 해지할 뿐 아니라, 앤트로픽 클로드를 ‘공급망 위험(supply chain risk)’ 요소로 지정할 것이라고 했다. 공급망 위험 요소란 미국 국가 안보를 위협하는 존재란 뜻이다.

이는 사실상 미국 내에서 앤트로픽의 모든 사업이 중단될 수도 있다는 것을 뜻한다. 정부기관에 AI 서비스를 제공하는 팔란티어, 안두릴, AWS 등은 기반 AI 모델로 앤트로픽 클로드를 활용하고 있는데, 공급망 위험 기업으로 지정된 앤트로픽의 모델 대신 다른 기업의 모델로 교체해야 한다.

실제로 미국 국방부는 일론 머스크 소유의 xAI에서 제공하는 ‘그록’을 기밀 시스템에 사용하는 계약을 체결한 것으로 알려졌다.

미국 국방부가 내세우는 앤트로픽 제재의 근거는 국방생산법(DPA)이다. 국가 방위에 필요한 특정 계약을 민간 기업이 수락하고 미국 대통령에게 이를 강제 이행하도록 명령할 권한을 부여한 법이다. 대통령은 이 법에 따라 국가 안보, 재난 대응, 경제 안보를 위해 민간 기업에 핵심 물자의 생산 확대와 우선 공급을 명령할 수 있는 권한을 갖는다. 대표적인 권한 활용 사례로 코로나19 대유행 시기 백신과 인공호흡기 등의 생산량 증가를 명령한 것이다.

국방부와 앤트로픽의 간담회엔 국방부의 스티브 파인버그 차관, 에밀 마이클 연구개발 담당 차관, 마이클 더피 조달 및 유지 담당 차관, 숀 파넬 장관 수석 대변인, 얼 매튜스 최고법률고문 등이 동석한 것으로 알려졌다. 그만큼 국방부가 강력하게 앤트로픽을 압박하려 했다는 걸 보여준다.

다리오 아모데이 CEO는 간담회에서 화해적인 태도를 취하면서도 국방부 요구의 수용을 완곡히 거부한 것으로 전해졌다. 그는 신뢰할 수 있고 책임감 있게 수행할 수 있는 범위 내에서 국가 안보 임무를 지속 지원하도록 사용 정책에 대해 성실히 논의하겠다고 밝혔다고 한다.

미국 국방부는 AI 모델을 살상을 수행하는 군사 작전에서 점점 더 활발히 사용하고 있다. 최근 베네수엘라의 니콜라스 마두로 대통령 습격 작전에서 팔란티어의 소프트웨어와 클로드 모델을 사용한 것으로 알려져 있다. 헤그세스 장관은 간담회에서 다리오 아모데이가 베네수엘라 작전 당시 팔란티어 측에 클로드 사용에 우려를 제기했다고 주장했다.

앤트로픽과 국방부의 갈등은 지난 1월부터 본격화됐다. 헤그세스 장관이 국방부 모든 구성 요소에 걸쳐 AI 우선 전투력을 갖추게 될 것이며, 모든 합법적 사용 조항을 기존 지침을 포함해 180일 내에 모든 AI 서비스 조달 계약에 표함시켜야 한다는 메모를 발표하면서다. 미군이 AI 도구를 필요에 따라 자유롭게 사용할 수 있어야 한다는 얘기다. 여러 보도에 의하면, 오픈AI, xAI, 구글 등은 정부의 요구에 동의했지만, 앤트로픽은 합의를 거부하고 있다.

앤트로픽이 작년 7월 미국 국방부와 체결한 2억달러 규모 계약에 의하면, ‘책임있는 AI’란 용어를 통해 책임있는 인간의 개입을 전제로 AI를 사용하도록 하고 있다. 앤트로픽은 계약 원안 내용에 따라 원칙을 고수하려 하지만, 국방부가 합의 내용을 바꾸려 하는 상황이다.

만약 앤트로픽이 물러나 국방부 요구를 수용하면, 미국 정부는 자율 군사 작전을 넘어 대규모 국내 감시, 첩보 등에 AI 모델을 무제한으로 휘두를 수 있게 된다. 또한 앤트로픽은 전면에 내걸어온 책임있는 AI 원칙을 스스로 폐기하게 된다.

현재 오픈AI, 구글, xAI 등이 국방부와 공급 계약을 재협상했지만, 3사의 모델은 국방부로부터 ‘영향 등급 6(Impact Level 6)’의 보안 등급을 받지 못했다. 국방부가 그록, 챗GPT, 제미나이 등으로 사용 AI 모델을 즉각 바꿀 수는 없다는 뜻이다. 앤트로픽 클로드 모델만 해당 등급을 받은 상황이어서 국방부의 엄포가 단기간 내 실행되긴 힘들 것이란 전망이 나온다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network