앤트로픽, 미토스5 보안 제품에 통합…직접 접근은 제한

앤트로픽이 자사의 프론티어 모델 ‘클로드 미토스5(Claude Mythos 5)’를 기존 보안 제품과 서비스에 통합한다. 이용자가 미토스5에 직접 접근하는 대신 취약점 패치나 보안 경고 등 방어에 필요한 결과물을 받을 수 있도록 하는 방식이다.

앤트로픽은 지난 21일 공식 블로그를 통해 미토스5의 사이버 방어 역량을 더 많은 보안 조직에 제공하기 위한 계획을 공개했다. 미토스5를 자사 코드 보안 기능 ‘클로드 시큐리티(Claude Security)’에 적용하고 보안 기업의 제품과 서비스에도 통합할 예정이다.

앤트로픽이 모델의 방어 역량을 개방하면서 직접 접근은 제한하는 이유는 이용자가 모델에 직접 접근하면 악의적인 목적으로 모델을 이용할 가능성이 크기 때문이다. 반면 이용자가 취약점 패치나 보안 경고처럼 특정 결과물만 받도록 하면 위험을 낮출 수 있다는 게 앤트로픽의 입장이다.

보안기업의 제품에 미토스5가 들어가는 경우에도 이용자가 모델과 직접 대화하지 않는 방식을 적용한다. 제품에 마련된 인터페이스에서 특정 보안 작업을 요청하면 미토스5가 뒤에서 분석한 뒤 결과물을 제공한다.

예를 들어 취약점 대응 제품은 미토스5가 생성한 패치 제안 목록을 이용자에게 보여줄 수 있다. 이용자는 같은 미토스5에 취약점을 공격하는 익스플로잇 코드를 만들어 달라고 직접 명령할 수 없다. 앤트로픽과 파트너사는 모델이 정해진 범위를 벗어나지 않는지 확인하기 위한 오용 방지 조치도 적용한다.

클로드 시큐리티에서도 미토스5를 사용할 수 있다. 클로드 엔터프라이즈 이용자는 미토스5로 코드 저장소를 분석해 보안 취약점을 찾고 수정안을 제안받을 수 있다. 클로드 시큐리티는 현재 공개 베타로 제공된다.

분석 결과에는 취약점 유형을 분류하는 공통 약점 목록(Common Weakness Enumeration·CWE)과 신뢰도, 심각도, 수정안이 포함된다. 제안된 패치는 사람이 검토하고 승인해야 실제 코드에 적용된다. 클로드 시큐리티에서 미토스5로 코드를 분석할 수 있다고 해서 다른 서비스에서 미토스5를 직접 사용할 수 있는 권한이 주어지는 것은 아니다.

오픈소스 소프트웨어 보안 지원도 확대한다. 앤트로픽은 ‘디펜더 어드밴티지 펀드(Defender Advantage Fund·0xDAF)’를 만들고 오픈소스 보안 분야에 3500만달러 상당의 클로드 이용 크레딧을 제공한다.

지원 대상은 실제 사용되는 오픈소스 프로젝트의 취약점 수정, 취약점 탐지·패치 자동화, 새로운 보안 기법 개발 등이다. 초기에는 소수 프로젝트에 상대적으로 큰 규모의 크레딧을 제공한 뒤 지원 방식을 검토할 계획이다.

보안 연구기관에 일부 모델 사용 제한을 완화하는 ‘사이버 검증 프로그램(Cyber Verification Program)’도 확대한다. 현재 검증을 거친 기관은 클로드 오퍼스(Opus)와 소네트(Sonnet)를 합법적인 보안 연구에 사용할 때 일부 제한을 완화받는다.

앤트로픽은 앞으로 취약점 분류와 검증 등 방어 작업에서 미토스 같은 프론티어 모델을 활용할 수 있도록 접근 범위를 넓힐 계획이다. 미토스5의 공격 역량이 악용되는 것을 막으면서 보안 조직에는 방어 기능을 제공하는 방향이다.

앤트로픽은 지난 4월 ‘프로젝트 글래스윙(Project Glasswing)’을 시작해 일부 기관에 클로드 미토스 프리뷰와 후속 모델인 미토스5를 제공해 왔다. 비슷한 수준의 AI가 일반에 공개되거나 공격자에게 넘어가기 전에 보안 조직이 먼저 취약점을 찾아 수정할 시간을 확보한다는 취지다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network