오픈AI, 고객 데이터 저장 없이 AI 악용 탐지…‘비공개 안전 처리’ 도입

오픈AI가 기업 고객의 프롬프트와 인공지능(AI) 모델 응답을 보관하지 않으면서도 여러 상호작용에 걸친 악용 패턴을 탐지하는 기술을 도입한다.

오픈AI는 지난 19일 ‘비공개 안전 처리(Private Safety Processing)’를 공개하고 초기 고객을 대상으로 시험하고 있다고 밝혔다. 현재 ‘데이터 비보관(Zero Data Retention·ZDR)’을 이용하는 API 고객의 프롬프트와 모델 응답은 요청 처리가 끝난 뒤 보관되지 않는다. 기업 고객이 별도로 동의하지 않는 한 학습에도 사용하지 않는다.

문제는 AI 에이전트가 여러 단계에 걸쳐 작업하면서 한 번의 요청만으로는 악의적인 행위인지 판단하기 어려운 경우가 늘고 있다는 점이다. 공격자가 여러 요청으로 안전장치를 탐색하거나 여러 계정을 이용하고, 정상적인 연구처럼 공격 의도를 숨기는 경우 등이 대표적이다.

비공개 안전 처리는 고객의 원본 대화를 오픈AI 측에 공개하지 않으면서 연관된 여러 상호작용의 패턴을 분석한다. ZDR 환경에서는 데이터가 고객이 관리하는 인프라에 남는다. 오픈AI의 저장공간을 이용하는 방식도 개발 중인데, 이 경우 고객이 관리하는 키로 데이터를 암호화하며 오픈AI 직원은 해당 키를 보유하지 않는다. 위험이 발견되면 오픈AI에는 행위 유형을 나타내는 제한적인 신호만 전달된다. 오픈AI는 오는 9월부터 비공개 안전 처리를 도입하고 기술 백서도 공개할 계획이다.

한편, 경쟁사인 앤트로픽은 클로드 페이블 5와 미토스 5를 비롯한 ‘미토스급’ 모델의 모든 트래픽을 30일간 보관하고 있다. 여러 요청에 걸친 공격과 새로운 탈옥 시도를 탐지하기 위해서다. 해당 데이터는 모델 학습이나 안전 이외의 목적으로 사용하지 않고 사람의 데이터 접근도 기록한다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network