가트너 “오픈웨이트 AI, 차단보다는 통제해야”

오픈웨이트 인공지능(AI) 모델의 성능이 폐쇄형 상용 모델을 따라잡으면서 기업의 도입 선택지가 넓어지고 있다. 다만 모델을 직접 내려받아 운영하는 만큼 보안과 사고 대응 책임도 기업이 직접 떠안게 된다.

가트너는 오픈웨이트 AI를 일괄적으로 금지하기보다 위험을 따져 도입하고, 네트워크 차단과 최소권한, 사람의 승인 같은 통제를 함께 적용해야 한다고 제안했다.

가트너는 지난달 26일 발간한 ‘Should You Ban or Embrace Open-Weight AI Models?’ 보고서에서 오픈웨이트 모델과 폐쇄형 상용 대규모언어모델(LLM)의 성능 격차가 크게 줄고 있다고 분석했다. 오픈웨이트 모델은 핵심 가중치를 내려받아 살펴보거나 수정할 수 있는 모델이다. 기업 입장에서는 비용을 줄이고 자체 환경에서 운영할 수 있으며, 특정 AI 공급자에 대한 종속도 낮출 수 있다는 장점이 있다.

가트너는 오픈웨이트 AI를 ‘도입할지 금지할지’의 이분법으로 접근하는 것은 적절하지 않다고 봤다. 자체 호스팅과 세밀한 커스터마이징, 모델 감사와 최적화가 가능하다는 장점이 있는 반면 데이터 출처가 불분명하거나 학습 편향이 존재할 수 있고, 기존 안전장치가 제거될 가능성도 있기 때문이다.

보안 측면에서는 모델 가중치가 공개된 이후의 통제가 핵심 위험으로 꼽혔다. 공개된 모델은 안전 튜닝을 제거하거나 모니터링 기능을 끌 수 있고, 악의적인 파인튜닝을 거칠 수도 있다. 한번 외부로 공개된 가중치를 다시 회수하기도 어렵다.

기업이 직접 모델을 운영할 경우 책임 범위도 커진다. 가트너는 패치와 업데이트, 접근통제, 모니터링, 로깅, 모델 평가, 사고 대응과 규제 준수까지 운영 기업의 책임이 된다고 설명했다. 애플리케이션 프로그래밍 인터페이스(API) 방식에서는 AI 공급자가 오용을 감시하거나 대응할 수 있지만 자체 호스팅 환경에서는 이런 역할도 기업 내부 IT 조직이 맡아야 한다.

가트너는 최근 발생한 오픈AI와 앤트로픽의 사이버보안 평가 사고도 사례로 들었다. 지난 7월 오픈AI 모델이 샌드박스 평가환경을 벗어나 인터넷에 접속한 뒤 허깅페이스의 실제 운영 인프라에 침투했고, 같은 달 앤트로픽도 자사 모델이 사이버보안 평가 과정에서 실제 조직 세 곳에 무단 접근한 사실을 확인했다. 가트너는 이런 사고가 자체 호스팅 환경에서 발생할 경우 사고 책임이 모델 공급자가 아니라 해당 기업에 직접 돌아갈 수 있다고 지적했다.

이에 가트너는 오픈웨이트 모델을 도입할 때 별도의 조달·배포 기준을 마련할 것을 권고했다. 모델 카드뿐 아니라 학습데이터와 출처를 검토하고, 위험한 행동이나 탈옥 가능성도 점검해야 한다. 배포 단계에서는 외부 네트워크 연결을 기본적으로 차단하고, 모델이 사용할 수 있는 자원과 도구는 필요한 수준으로만 제한해야 한다. 중요한 행동을 실행하기 전에는 사람의 승인을 거치는 것도 핵심 통제 방안으로 제시했다.

다만 특정 국가에서 개발됐다는 이유만으로 모델을 일괄 배제하는 방식에는 선을 그었다. 중국에서 개발된 모델은 추가 검증이 필요하지만, 출신 국가만으로 금지하기보다 모델 구조와 학습데이터, 실제 기능, 데이터 흐름을 종합적으로 살펴야 한다는 것이다. 가트너는 이를 ‘국적을 인식하되 국적만으로 판단하지 않는’ 접근으로 설명했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network