옵스왓, AI 모델 보안 검사 기능 추가한 ‘메타디펜더 이더’ 출시

인섹시큐리티(대표 김종광)는 옵스왓이 통합 보안 솔루션 ‘메타디펜더 이더(MetaDefender Aether)’ 3.3.0 버전에 대규모언어모델(LLM) 검사 기능을 추가한 버전을 출시했다고 20일 밝혔다.

이번 업데이트는 기존 5단계 위협 탐지 체계의 정적 분석과 동적 분석에 AI 모델 검사 기능을 추가한 것이 핵심이다. 모델 파일 자체에 악성코드가 있는지 확인하고 실제 모델에 공격용 명령을 입력해 보안 취약성을 점검한다.

AI 모델은 학습한 결과를 수많은 숫자로 기록한 ‘가중치(Weight)’ 파일 등을 통해 저장·배포된다. 가중치는 AI가 입력된 정보를 처리하고 결과를 생성하는 데 사용하는 학습된 수치다. 기업은 외부에서 개발한 AI 모델을 내려받아 자체 시스템에서 운영할 수 있다. 이 과정에서 악의적으로 조작된 모델 파일을 불러오면 숨겨진 코드가 실행되는 등 보안 문제가 발생할 수 있다.

메타디펜더 이더는 이러한 위험을 확인하기 위해 AI 모델을 실행하지 않고 파일 내부 구조를 검사하는 ‘정적 분석’ 기능을 제공한다. 피클(Pickle), 파이토치(PyTorch), 텐서플로(TensorFlow), 케라스(Keras), 세이프텐서(SafeTensors), GGUF, ONNX 등 7개 모델 파일 형식을 지원한다.

예를 들어 피클과 파이토치 형식의 모델 파일에는 저장된 데이터를 다시 불러오는 ‘역직렬화’ 과정에서 악성코드가 실행되도록 하는 요소가 숨겨질 수 있다. 메타디펜더 이더는 이러한 파일의 내부 명령어와 구조를 분석해 위험 요소를 찾아낸다.

세이프텐서 형식에서는 파일 내부에 숨겨진 데이터나 변조된 구조를 검사한다. ONNX 형식에서는 외부 파일을 참조하거나 사용자 정의 연산자를 통해 코드를 실행하는 요소 등을 분석한다.

옵스왓은 30개 이상의 전용 위협 지표를 활용해 악성코드와 비정상적인 파일 구조 등을 탐지한다고 설명했다. 파일 자체에 문제가 없더라도 AI 모델이 안전하다고 단정할 수는 없다. 공격자가 악의적인 명령을 입력해 AI의 안전장치를 우회하거나 민감정보를 유출하도록 유도할 수 있기 때문이다. 이를 점검하는 기능이 ‘동적 분석’이다. 실제 AI 모델을 실행하고 공격을 가정한 질문과 명령을 입력해 응답을 확인하는 방식이다.

메타디펜더 이더는 50개 이상의 공격 기법과 1000개 이상의 공격용 프롬프트를 활용해 9개 범주의 보안 위험을 검사한다. 대표적인 검사 대상은 ‘프롬프트 인젝션(Prompt Injection)’이다. 프롬프트 인젝션은 AI에 악의적인 명령을 입력해 기존 지침을 무시하거나 허용되지 않은 작업을 수행하도록 유도하는 공격이다.

이 밖에도 개인정보와 인증정보 등 민감정보 노출, AI 모델의 내부 지침 유출, AI 에이전트의 도구 사용 권한 악용, 과도한 자원 사용을 유발하는 공격 등을 점검한다.

동적 분석은 오픈AI 호환 채팅 완성(Chat Completions) 접속점을 제공하는 모델을 대상으로 한다. 검사 결과는 미국 비영리 연구기관 마이터(MITRE)의 AI 공격 기법 지식 기반인 ‘아틀라스(ATLAS)’와 연계해 분석한다. 이를 통해 보안 담당자는 발견된 위험의 근거와 예상 피해 수준, 판정 신뢰도 등을 확인할 수 있다.

옵스왓은 이번 기능을 통해 기업이 외부 저장소나 공급업체에서 확보한 AI 모델을 내부 시스템에 배포하기 전에 파일 자체의 악성 요소와 모델 동작 과정의 보안 위험을 함께 검증할 수 있다고 설명했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network