오픈AI 모델, 허깅페이스 침해 과정서 외부 계정 4개 접근

오픈AI(OpenAI)가 오픈소스 AI 플랫폼 허깅페이스(Hugging Face)를 침해한 사고를 조사하는 과정에서 자사 모델이 외부 서비스 4곳의 계정 4개에도 접근한 사실을 확인했다고 28일(현지시간) 밝혔다. 오픈AI는 지난 21일 공개한 사고 조사 내용을 이날(28일) 갱신했다.

오픈AI에 따르면, 모델은 인터넷에 공개된 인증정보를 찾아 외부 서비스의 계정에 접근했다. 허깅페이스 침해 과정에서 접근한 계정은 모두 4개다. 모델은 이 가운데 1개를 외부 통신 중계와 공격 준비 경로로 사용했다. 다른 계정 1개에는 데이터를 저장했다. 나머지 2개 계정은 읽기 전용으로 접근했으며 허깅페이스 침해에는 이용하지 않았다.

오픈AI는 해당 서비스의 플랫폼이나 다른 이용자 계정으로 피해가 확산된 증거는 찾지 못했다고 설명했다. 관련 서비스 운영자에게는 조사 결과를 직접 알리고 있다.

허깅페이스 사고와 무관한 다른 모델 평가에서도 외부 계정에 접근한 사례도 확인됐다. 이들 모델도 인터넷에 공개된 인증정보를 이용했다. 오픈AI는 접근한 서비스와 계정 수, 이용 목적은 공개하지 않았다. 모델들은 코드 공유 사이트와 인터넷 요청 수집 서비스, 화면 캡처 서비스 등 공개된 웹 도구도 사용했다. 다만 이들 서비스를 이용하는 과정에서는 플랫폼이나 계정이 침해되지 않았다고 오픈AI는 밝혔다.

허깅페이스 사고가 발생한 모델 평가 환경 ‘익스플로잇짐(ExploitGym)’은 모델의 인터넷에 직접 접속하도록 허용하지 않았다. 모델은 소프트웨어 패키지를 임시 저장하는 프록시인 ‘아티팩토리(Artifactory)’에서 알려지지 않은 제로데이 취약점을 찾아 인터넷 접근 경로를 확보했다.

오픈AI는 해당 제로데이 취약점과 조사 과정에서 추가로 발견한 아티팩토리 취약점을 개발사에 전달했다.

한편, 오픈AI는 “21일 사고 발표에서 사전 출시 모델이라고 밝힌 모델은 출시 예정인 상태가 아니었다”며 “외부 출시를 목적으로 하지 않은 내부 연구용 시제품이었다“고 설명했다. 이어 “해당 모델은 사고 이후 비활성화하고 연구진의 접근도 제한했다“고 덧붙였다.

또한 오픈AI는 “현재까지 허깅페이스처럼 서비스 운영 환경 전체가 침해된 사례는 추가로 확인하지 못했다“고 밝혔다. 오픈AI는 조사를 마친 후 안전·보안위원회와 안전자문그룹이 준비태세 프레임워크에 따라 결과를 검토할 예정이다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network