앤트로픽, 페이블5.1과 미토스5.1 출시

앤트로픽이 클로드 페이블 5.1과 미토스 5.1 버전을 출시했다. 페이블 5.1은 일반 사용자용 버전이고, 미토스 5.1은 신뢰 접근 프로그램 참여자에게만 제공되는 버전이다. 이전 모델 대비 토큰 효율 높여 비용을 줄이고, 모델 안전 장치의 오탐을 최소화하도록 했다. 특히 기업 이용자의 입출력 데이터를 앤트로픽 인프라에 저장하지 않고 고객의 별도 클라우드 인프라에만 보존하도록 했다.

앤트로픽은 1일(현지시간) 프론티어 모델의 차세대 버전인 클로드 페이블 5.1과 미토스 5.1을 출시했다.

두 모델은 동일한 모델이지만, 보안 수준에 따라 이용자 접근을 구분한다. 페이블5.1은 일반 사용자 모두 이용할 수 있지만, 미토스 5.1은 신뢰 접근 프로그램(Trusted Access Program)에 참여하는 조직의 허용된 사용자만 이용할 수 있다. 앤트로픽은 미토스 5.1의 보안 조치가 사이버 보안과 생명 과학 분야 연구를 지원하도록 설계됐다고 덧붙였다.

일단 페이블5에서 나타난 토큰 비용 증가를 인식한 듯 가격 효율성을 높였다. 페이블 5.1의 캐시 읽기 비용은 전보다 75% 인하돼 100만토큰당 0.25달러다. 회사측에 의하면, 페이블 5.1은 일반적 워크로드에 토큰 기반 사용량 청구 방식을 적용할 경우  캐시 읽기를 통해 페이블5보다 25% 저렴하다. 고도의 에이전트 작업의 경우 비용이 최대 45%까지 절감될 수 있다고 강조했다. 기본적인 가격은 전과 동일하게 토큰 100만개당 입력 10달러, 출력 50달러다.

기업 고객에게 가장 큰 변화는 사용자 입출력 데이터 보존 조치 부분이다. 앤트로픽은 새롭게 ‘엔터프라이즈 프론티어 세이프가드(EFS)’ 시스템을 도입해 고객의 이용 데이터를 전혀 보유하지 않으며, 고객에게 데이터 관리를 전적으로 일임한다고 설명했다.

이는 올해초 앤트로픽에서 발표한 고객 데이터 저장 조치 발표를 뒤집은 것이다. 앤트로픽은 기업고객과 데이터 보존 기간 제로(ZDR, zero data retention) 계약을 체결했더라도 안전 규정 위반 여부 검토를 목적으로 모델에 대한 입출력값을 30일 간 일시 보존 조치한다고 발표했다. 이에 많은 기업이 고객의 내밀한 데이터를 프론티어 모델 학습에 활용하고, 모델이 기업의 인프라를 해킹할 것을 우려했다. 실제로 앤트로픽과 오픈AI의 모델이 외부 조직의 시스템을 해킹한 사례가 발생하기도 했다.

앤트로픽은 AI 모델 오용 시도에 대한 증거로 활용하기 위해 고객의 사용 데이터를 확보해야 한다고 주장해왔다. 경쟁사 오픈AI는 지난달 ZDR을 위반하지 않고, 고객과 모델 간 상호 작용에서 위험을 확인하는 새로운 방법인 ‘개인 안전 처리(Private Safety Processing)’를 공개해 고객 데이터 활용 논란에서 벗어났다. 경쟁사와 고객사의 강한 압박에 결국 앤트로픽도 기존 입장에서 후퇴한 것이다.

앤트로픽의 새로운 EFS 시스템을 통해 기업 고객은 직접 관리하는 클라우드 인프라에 데이터를 저장하게 된다. 고객은 자체 암호화 키, 액세스 정책, 감사 로깅 등으로 제어되는 인프라에 데이터를 저장할 수 있고, 모니터링에 사용되는 활동 데이터는 고객 클라우드 계정에 저장할 수 있다. 이 시스템은 에이전트나 사용자의 모델 오용을 모니터링하지만, 모니터링 방식을 고객이 직접 제어한다.  모니터링 시스템에서 주의를 요하는 패턴이 감지되면, 해당 시그널이 고객에게 전송돼 검토할 수 있게 한다.

앤트로픽은 “EFS는 올가을부터 단계적으로 기업 고객에게 제공될 예정이며, EFS 제공 전까지 적격 고객은 ZDR 정책으로 페이블 5.1을 사용할 수 있다”며 “앤트로픽은 명시적인 허가 없이 기업 데이터를 사용해 학습시킨 적이 없으며, 앞으로도 그럴 것”이라고 강조했다.

모델 보안 측면에서 최신 모델은 무해 콘텐츠를 악성으로 오탐하는 비율을 줄이도록 개선됐다. 사이버 보안에서 이전보다 오탐 발생률을 60% 줄였다고 한다.

증류 방지 메커니즘도 포함됐다. 수천개 가짜 계정을 동원해 고급 모델의 기능을 추출하는 증류 공격을 더욱 어렵게 만들도록 했다고 한다. 가령, 앞으로 생성되는 새로운 API 계정은 클로드의 이전 대화 내용을 기록한 스크립트를 유지하면서, 여러 차례에 걸친 대화에서 클로드의 이전 컨텍스트를 수동으로 편집할 수 없다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network