쿤텍, 온디바이스 AI 모델 정보 숨기는 난독화 기술 개발

쿤텍(대표 방혁준)은 한국전자통신연구원(ETRI)이 주관하는 연구과제에서 온디바이스 인공지능(AI) 모델의 구조와 핵심 정보를 외부 분석으로부터 보호하는 난독화 기술과 데이터 흐름 분석 기술을 개발하고 있다고 7일 밝혔다.

이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받는 ‘온디바이스 AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발’ 과제의 2차년도 연구다.

온디바이스 AI는 스마트폰과 사물인터넷(IoT) 장비, 차량, 산업용 단말 등 기기 안에서 직접 AI 연산을 수행하는 기술이다. 데이터를 외부 서버로 보내지 않고 처리할 수 있지만 AI 모델과 응용 프로그램이 단말에 직접 저장돼 공격자가 기기를 확보하면 구조와 데이터 처리 과정을 분석할 수 있다.

쿤텍은 AI 모델을 다중 수준 중간 표현(MLIR) 형태로 변환한 뒤 난독화 기능을 적용하고 있다. 연산자의 식별 정보를 변경하거나 가중치와 편향 등 파라미터를 분리해 숨기는 방식이다. 텐서 형상을 바꾸거나 가짜 연결과 노드를 추가해 모델의 그래프 구조를 분석하기 어렵게 만드는 기술도 개발하고 있다.

AI 응용 프로그램에서 실제 보호가 필요한 코드를 자동으로 찾는 기술도 연구한다. C·C++ 기반 프로그램을 LLVM 중간 표현(IR)으로 변환한 뒤 오염 분석(Taint Analysis)을 이용해 데이터가 변수와 포인터, 함수 호출 등을 거쳐 이동하는 과정을 추적한다.

이를 통해 함수 이름과 같은 단순한 패턴 대신 실제 데이터 의존 관계를 바탕으로 AI 추론에 관여하는 코드를 식별한다. 쿤텍은 향후 이 기술을 모델 난독화와 연계해 프로그램 전체가 아닌 AI 추론과 직접 관련된 핵심 코드만 선택적으로 보호할 계획이다. 쿤텍은 관련 기술에 대한 특허 2건도 출원했다.

방혁준 쿤텍 대표는 “온디바이스 AI가 다양한 산업과 제품으로 확산되면서 AI 모델뿐 아니라 이를 구동하는 응용 프로그램의 핵심 로직까지 보호해야 할 필요성이 높아지고 있다”며 “AI 모델 난독화 기술과 데이터 흐름 기반 보호 대상 식별 기술을 함께 고도화해 실제 제품 환경에서 활용할 수 있는 온디바이스 AI 정보 보호 기술을 확보해 나가겠다”고 말했다.

글. 바이라인네트워크
<곽중희 기자> god8889@byline.network