앤트로픽 빈자리 꿰찼던 오픈AI, ‘기회주의’ 비판에 계약 수정

오픈AI가 미 국방부와의 협력을 강화하는 과정에서 내부 직원들의 거센 반발과 외부의 윤리적 비판이라는 이중고에 직면했다. AI 기술의 군사적 활용과 대중 감시 체계 편입 논란이 거세게 일었다. 결국 샘 올트먼 CEO가 직접 나서 계약 내용을 수정하자고 국방부에 요청하는 이례적인 사태가 벌어졌다.

이번 논란은 2월 말 트럼프 행정부가 앤트로픽을 ‘국가 안보에 대한 공급망 위험’ 기업으로 지정하면서 시작됐다. 앤트로픽은 자사 AI 모델이 미국 시민에 대한 대규모 국내 감시나 인간의 통제 없이 자동으로 공격을 결정하는 자율 무기에 사용되지 않도록 명시적 보호 조항을 요구했으나, 국방부가 이를 받아들이지 않아 협상이 결렬됐다. 

앤트로픽이 국방부와의 협상 결렬로 블랙리스트에 오르던 바로 그날, 오픈AI는 국방부와 AI 공급 계약 체결을 전격 발표했다. 트럼프 대통령이 앤트로픽을 “좌파 엉터리들”이라고 공격하고 연방 기관들에 앤트로픽과의 협력을 즉각 중단하라고 명령한 지 불과 몇 시간 만에 이뤄진 계약이었다. 

오픈AI를 향한 여론의 역풍

계약 발표 직후 오픈AI 내부에서 반발이 터져 나왔다. 다수의 오픈AI 직원들이 앤트로픽의 입장을 지지하는 서명을 했다. 한 직원이 오픈AI와 국방부의 계약에 대해 “가치가 없다고 생각한다”고 글을 올리자 수십만 조회수를 기록했다. 

샌프란시스코 오픈AI 본사 앞에서는 시위대가 분필로 “당신의 이웃을 감시할 건가요?”, “미국 시민이 오픈AI를 믿을 수 있는가?” 같은 문구를 바닥에 적으며 항의했다. 반면 앤트로픽 사무실 인근에는 감사와 지지를 표현하는 낙서가 이어졌다.

여론의 역풍은 앱 다운로드 순위에도 즉각 반영됐다. 클로드가 챗GPT를 제치고 애플 앱스토어 무료 앱 1위에 오르는 일이 벌어졌다. 

사태수습에 나선 올트먼

사태가 걷잡을 수 없이 커지자 올트먼은 직원들에게 내부 메모를 보내고, 이를 X(트위터)에 직접 공개했다. 그는 “이 계약을 금요일에 서둘러 발표하지 말았어야 했다”며 “진심으로 상황을 완화하고 더 나쁜 결과를 막으려 했지만, 결과적으로 기회주의적이고 어수선해 보였다”고 시인했다. 

올트먼 CEO는 국방부 차관에게 직접 연락해 계약 내용의 재협상을 요청해 계약을 수정했다. 수정된 계약은 미국 시민과 국민에 대한 국내 감시에 AI를 ‘의도적으로’ 사용하는 것을 금지한다. 또한 자율 무기 시스템 운용과 사회적 신용 시스템 같은 고위험 자동화 의사결정에 활용하는 것도 제한했다.

수정된 계약에 대해서도 비판이 있다. ‘의도적으로’으로 시민으로 감시하는 경우가 아닌 부수적·우발적으로 감시가 일어날 경우 문제되지 않을 수 있기 때문이다.  AI를 통해 시민을 감시해 놓고 “의도적인 것은 아니었다”고 주장할 여지가 있다는 것이다. 앤트로픽이 협상에서 요구했던 조항은 고의성 요건 없이 사용 자체를 차단하는 것이었다. 

아울러 수정 계약에서는 “상업적으로 취득한 개인정보나 식별 가능한 정보를 통한 미국 시민의 추적·감시·모니터링을 금지한다”고 명시했다. 민간에서 합법적으로 유통되는 데이터를 구매해 활용하는 것도 금지하겠다는 의미다. 

NSA 등 국방부 산하 정보기관들은 이번 계약 적용 대상에서 제외되며, 해당 기관들과의 협력은 별도 계약 수정 절차가 필요하다.

계약 수정 발표 이후 올트먼은 직원 전체 회의를 열고 내부 불만을 직접 수습했다. 올트먼은 “이란 공습이 옳다고 생각하든, 베네수엘라 침공이 잘못됐다고 생각하든, 우리에게는 그에 대해 발언할 권한이 없다”며 군의 작전적 결정은 회사가 관여할 사안이 아님을 분명히 했다.  

논란이 커지자 올트먼은 X에서 직접 철학적 논쟁에 뛰어들었다. “나는 민주주의 프로세스와 선출된 지도자들의 권한을 깊이 믿는다. AI 기업들이 정부보다 더 큰 권력을 갖는 세상이 두렵다”면서도 “동시에 정부가 대규모 국내 감시를 정당화하는 세상도 두렵다”고 밝혔다. 

그는 비판론자들이 선출된 공직자보다 비선출 테크 기업 임원들의 판단을 더 신뢰하는 것처럼 보인다는 점이 의외라고도 덧붙였다.

올트먼은 국가 안보를 위한 정부와의 협력 자체는 피할 수 없는 시대적 과제임을 분명히 했다. 특히 그는 “AI 기술이 어떻게 운용될지에 대한 최종적인 운영 결정은 기업이 아닌 정부의 몫”이라고 일갈했다. 정부가 적법한 절차에 따라 기술을 사용한다면, 오픈AI는 기술적 기반을 제공할 의무가 있다는 논리로 해석된다.

앤트로픽 구하기?

한편 올트먼은 경쟁사 앤트로픽을 위해 이례적으로 목소리를 높이기도 했다. 올트먼은 자신이 주말 대화에서 앤트로픽이 ‘공급망 위험’ 기업으로 지정되어서는 안 된다는 점을 거듭 강조했으며, 국방부가 앤트로픽에도 오픈AI와 같은 계약 조건을 제안하기를 바란다고 밝혔다.

그러나 미 국무부, 재무부, 연방주택금융청 등이 잇따라 앤트로픽 도구 사용 중단 계획을 발표했다. 

오픈AI의 이번 행보는 실리콘밸리 테크 기업들이 겪는 윤리와 비즈니스 사이의 딜레마를 상징적으로 보여준다. 과거 구글도 국방부의 ‘메이븐 프로젝트’에 참여했다가 직원들의 대규모 반발로 철회했었다. 

AI가 전쟁의 양상을 바꾸고 국가 통제 수단으로 급부상하는 시점에서 “결정은 정부가 한다”는 올트먼의 논리가 시민과 고객, 직원들에게 설득력을 가질 수 있을지 주목된다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network