쿤텍 “공들인 AI 전주기 보안 기술, 글로벌과 견줄 수준”

국내 융합보안 전문기업 쿤텍이 인공지능(AI) 모델 도입부터 에이전트 운영, 데이터 활용까지 아우르는 전주기 보안 제품군을 앞세워 AI 보안 시장 공략에 나선다.

방혁준 쿤텍 대표는 27일 서울 양재동 엘타워에서 열린 기자간담회에서 AI 에이전트 보안 시장의 성장 가능성과 그동안 준비해 온 기술을 소개했다. 쿤텍은 AI 에이전트 활용이 확산하기 시작한 지난해부터 에이전트의 행동을 감시하고 위험한 작업을 실행 전에 차단하는 기술을 개발해 왔다. 여기에 기존 공급망 보안과 데이터 보호 기술을 연계해 보안 범위를 넓혔다.

방 대표가 일찍부터 AI 에이전트 전주기 보안 기술 개발에 나선 배경에는 글로벌 기업과의 경쟁이 가능하다는 판단이 있었다. 그는 기존 클라우드 보안 시장에서는 글로벌 기업과 격차가 벌어졌지만, AI 에이전트 보안은 시장 형성 초기부터 경쟁할 수 있는 분야로 봤다. 지난해 글로벌 보안기업들의 제품을 살펴봤을 당시 기술 개발 시차가 3~6개월 정도라고 판단했으며, 현재는 그 격차를 상당 부분 좁혔다고 자체 평가했다.

쿤텍의 전주기 보안 전략은 한 플랫폼 안에서 세 가지 제품을 연결한다. 공급망 보안 솔루션 ‘이지즈(AEZIZ)’로 AI 모델과 에이전트의 위험을 도입 전에 점검하고, AI 에이전트 보안 플랫폼 ‘애쉬(ASH)’로 실제 행동을 통제한다. 데이터 보호 플랫폼 ‘넥사(NEXA)’는 민감한 정보를 외부에 공개하지 않고 활용하도록 돕는다.

쿤텍은 이를 통해 보안에 필요한 시간을 최대한 줄이겠다는 목표를 세웠다. 평균 가시화 시간(MTTV), 평균 탐지 시간(MTTD), 평균 대응 시간(MTTR)을 핵심 지표로 삼았다. 방 대표는 “AI 에이전트를 활용한 공격에 대응하려면 자산과 위협을 빠르게 파악하고 조치해야 한다”며 “세계 최단 시간 대응을 목표로 고객 환경에서 지속적으로 단축해 나갈 것”이라고 강조했다.

AI 모델 도입부터 에이전트 행동 통제까지

쿤텍의 전주기 보안 전략은 도입·운영·데이터 활용 등 세 단계로 구성된다. 도입 단계에서는 ㅁ이지즈, 운영 단계에서는 애쉬, 데이터 활용 단계에서는 넥사를 적용한다.

먼저 ‘이지즈’는 기존 소프트웨어 부품 목록(SBOM)을 AI 모델과 에이전트까지 확대한다. 이를 AI 부품 목록(AI-BOM)이라고 한다. 기업이 도입하는 AI 모델의 출처와 공급자, 라이선스, 취약점을 확인하고, 에이전트가 어떤 모델과 외부 도구를 사용하는지도 파악한다.

쿤텍은 기존 소프트웨어 보안 검사만으로는 AI 모델에 포함된 위험을 모두 확인하기 어렵다는 점에 주목했다. 외부에서 내려받은 AI 모델이 파일을 불러오는 과정에서 악성코드를 실행하거나, 정상 모델을 사칭한 파일이 특정 질문에 조작된 답변을 내놓는 등의 공격 가능성이 있기 때문이다.

이지즈는 에이전트와 모델, 도구 사이의 연결 관계도 시각화한다. 이를 통해 기업은 에이전트가 어떤 파일에 접근하고 외부 서비스를 호출할 수 있는지 운영 전에 점검할 수 있다. 기존 시스템에서 사용 중인 AI 모델과 에이전트를 찾아 위험을 분석하는 기능도 갖췄다.

이렇게 확보한 자산 정보는 운영 단계의 보안 정책을 만드는 데 활용한다. 새로운 취약점이 공개되면 기존 자산 목록과 자동으로 대조해 영향을 받는 시스템을 식별하고 담당자에게 알릴 수도 있다.

운영 단계의 핵심은 ‘애쉬’다. 방 대표는 “AI 보안이 기존의 코드 검사에서 행동 감시로 확대돼야 한다”고 강조했다. AI 모델은 기존 소프트웨어와 다르게 방대한 가중치를 기반으로 작동하기 때문에 기존 프로그램처럼 코드를 분석하는 방법만으로 판단 과정을 파악하기 어렵다. 특히 AI 에이전트는 정상적인 계정과 권한을 사용하면서도 업무 목적에서 벗어난 행동을 할 수 있다. 그는 “기존 보안체계가 정상적인 계정 인증이나 애플리케이션 프로그래밍 인터페이스(API) 호출을 허용하더라도 AI의 행동이 반드시 안전한 것은 아니다”라고 설명했다.

애쉬는 AI 에이전트와 업무 시스템 사이에서 행동을 확인하고 통제하는 역할을 한다. 에이전트가 데이터베이스(DB)나 파일, 외부 서비스에 접근하려 할 때 사전에 정한 정책과 비교해 실행을 허용하거나 차단한다. 위험한 작업에는 사람의 승인을 요구한다..

이를 위해 애쉬는 네 가지 기능을 갖췄다. 먼저 ‘모델게이트(ModelGate)’가 도입 전 모델을 검증한다. ‘런워치(RunWatch)’는 에이전트의 행동을 실시간으로 감시한다. ‘엔드포스(EndForce)’는 위험한 행동을 실행 직전에 차단하거나 사람의 승인을 요구한다. ‘엔터프라이즈(Enterprise)’는 기업 내부의 AI 사용 현황과 실행 기록을 통합 관리한다.

예를 들어 AI 에이전트가 업무를 수행하다 DB 삭제를 요청하면, 애쉬는 해당 행동이 업무 목적과 보안 정책에 부합하는지 확인한다. 정책에 따라 실행을 차단하거나 담당자의 승인을 거치도록 한다. 판단과 실행 기록도 남겨 사후에 원인을 추적할 수 있도록 한다.

승인하지 않았거나 관리자가 파악하지 못한 AI 서비스와 에이전트, 이른바 ‘섀도우 AI’도 관리 대상이다. 방 대표는 “기업이 직원들의 AI 사용 현황을 파악하고, 각 에이전트가 어떤 업무를 수행하는지 확인할 수 있어야 한다”고 강조했다.

애쉬는 외부 AI 모델을 API로 연결하거나 기업 내부에 직접 구축한 모델을 사용하는 환경 모두에 적용하도록 설계했다. 다만 AI 모델 내부의 복잡한 판단 과정을 모두 해석하는 것은 아니다. 모델의 입력과 출력, 실제 도구 호출과 실행 과정에서 위험을 확인하고 통제하는 방식이다.

서울대와 공동 개발한 ‘넥사’로 데이터 보호…AI 보안 정책 자동화도 추진

쿤텍은 AI가 사용하는 데이터의 보호도 전주기 보안 전략에 포함했다. 데이터 활용 단계에는 지난 8월 출시한 넥사를 적용한다. 넥사는 서울대학교 백윤흥 교수 연구실이 개발한 보안 기술 ‘프리비브리지(PrivyBridge)’를 기반으로 한다. 프리비웍스(PrivyWorks)가 해당 기술을 서울대에서 이전받아 사업화했으며, 쿤텍은 이를 기업에서 활용할 수 있는 데이터·AI 협업 플랫폼으로 구현했다.

넥사는 ‘신뢰실행환경(TEE)’ 기술을 기반으로 원본 데이터를 외부에 직접 제공하지 않고 필요한 연산만 수행한다. 데이터 보유자와 AI 기업이 사전에 합의한 작업만 격리된 환경에서 실행하고, 승인된 결과만 전달한다.

예를 들어, 한 기관이 보유한 영상 데이터에서 특정 인물의 존재 여부를 확인하려는 경우, 영상 원본을 외부에 넘기지 않고 사전에 승인한 검색 작업만 수행하도록 제한할 수 있다. 데이터 제공자는 원본을 보호하고, 분석을 요청한 기관은 필요한 결과만 전달한다.

이를 위해 넥사는 승인된 코드와 실행 환경을 검증하는 원격증명 기술을 활용한다. 작업은 외부 접근을 제한한 가상머신과 웹어셈블리(WASM) 기반의 격리된 환경에서 수행한다. 연산이 끝나면 실행 환경을 폐기하고, 승인과 실행 및 결과 반출 과정을 기록으로 남긴다.

쿤텍은 기업 간 데이터 협업뿐 아니라 기업 내부에서 민감한 정보를 활용하는 환경에도 이 기술을 적용할 계획이다. AI가 데이터를 활용하더라도 원본에 직접 접근하거나 허용되지 않은 정보를 반출할 가능성을 줄이는 것이 목적이다.

방 대표는 “장기적으로는 AI가 스스로 보안 정책을 개선하는 ‘자가 진화 보안’의 형태를 달성하는 게 목표”라고 말했다. 새로운 공격이 발견될 때마다 사람이 탐지 규칙을 추가하는 방식에서 벗어나, AI가 공격 사례를 학습하고 방어 정책을 개선하도록 한다는 것이다. 그는 이를 위해 250만건 이상의 레드티밍 관련 자료를 확보하고, 다양한 AI 모델을 분석하는 작업도 진행해 왔다고 설명했다.

쿤텍이 개발하는 기술은 공격 시뮬레이션을 통해 취약한 행동을 발견하고, 이를 차단할 방어 정책을 도출하는 구조다. 새로 만든 정책은 실제 운영에 적용하기 전에 별도의 시험 환경에서 검증한다. 문제가 없다고 판단한 정책만 운영 환경에 반영하는 방식이다.

현재는 담당자가 정책을 승인한 뒤 적용한다. 쿤텍은 정책 검증과 개선 과정을 자동화하는 기술을 개발하고 있으며, 내년 상반기 관련 제품을 추가로 출시할 계획이다.

실제 고객 적용은 아직 초기 단계다. 방 대표는 “일부 금융권에서 AI-BOM을 도입했으며, AI 에이전트 행동 통제 분야에서도 개념검증(PoC)을 진행하고 있다”며 “에이전트의 실시간 행동 감시와 실행 통제 시장은 내년부터 본격적으로 형성될 것”이라고 전망했다.

쿤텍은 2016년 설립된 융합 보안기업이다. 소프트웨어 공급망 보안과 산업제어시스템(OT) 보안 등을 중심으로 사업을 전개해 왔으며, AI 보안으로 영역을 확대하고 있다. 앞으로 이지즈·애쉬·넥사를 연계한 보안체계를 바탕으로 공공·국방·금융·제조 분야를 공략할 계획이다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network