KISA ″‘한국형 보안 특파모’ 중요, 국가 전략자산으로 만들어야″

한국인터넷진흥원(KISA)이 한국형 ‘보안 특화 인공지능(AI) 파운데이션 모델(보안 특파모)’을 국가 전략자산으로 만들어가야 한다고 강조했다. 해외 프론티어 모델만으로는 한국을 겨냥한 공격과 국내 소프트웨어 환경을 충분히 반영하기 어렵고, 국가 핵심 인프라의 시스템 구성과 취약점 정보를 외부 모델에 맡기는 데도 한계가 있다는 판단 때문이다.

KISA가 말하는 보안 특파모의 핵심은 국내 위협정보를 학습하고 폐쇄망에도 구축할 수 있는 ‘소버린 보안 AI’다. 파운데이션 모델은 다양한 작업과 서비스의 바탕이 되는 기초 AI 모델이다. 보안 특파모는 취약점 분석과 위협 탐지, 침해사고 대응 등 보안 업무에 필요한 역량을 집중적으로 학습한다.

김은성 KISA 위협대응정책팀장은 ▲국내 위협과 소프트웨어 환경의 특수성 ▲핵심 보안 데이터의 통제 ▲보안 분야에 집중한 기술 격차 보완을 한국형 모델이 필요한 세 가지 이유로 제시했다.

국내 겨냥 공격·국내 SW 환경에 대응

첫 번째 이유는 ‘한국을 겨냥한 공격의 특수성’ 이다. 방위산업과 원자력·에너지, 반도체 공급망, 행정망 등은 주요 공격 대상이다. 공격자는 한글로 작성한 공문과 국내 기관·기업의 업무 절차를 악용해 표적형 공격을 시도한다. 국내에서 축적한 공격 수법과 분석 결과를 학습해야 실제 환경에 맞는 대응이 가능하다는 것이 KISA의 판단이다.

국내에서 사용하는 소프트웨어와 보안체계도 반영해야 한다. 한글 문서 형식인 HWP·HWPX, 국내 전자금융 보안모듈, 망분리 제품과 문서보안 제품 등은 국내 조직의 업무에 폭넓게 쓰인다. 미국 중심의 데이터로 학습한 범용 모델만으로는 이런 프로그램의 구조와 취약점, 한글을 이용한 사회공학 공격을 충분히 분석하기 어렵다는 설명이다.

김 팀장은 해외 범용 모델을 미국의 교육과정을 거친 학생에 비유했다. 기본적인 역량은 높더라도 한국의 제도와 업무환경을 별도로 배우지 않으면 국내 상황에 맞는 답을 내놓는 데 한계가 있다는 취지다.

핵심 보안 데이터를 외부에 맡길 수 있나

두 번째 이유는 ‘데이터 통제’다. AI로 조직의 보안 상태를 분석하려면 어떤 시스템과 소프트웨어를 사용하는지, 어디에 취약점이 있는지 등의 정보를 제공해야 한다. 내부 활동을 기록한 로그와 침해사고 분석자료도 필요하다. 이 정보에는 조직의 보안 구조와 약점이 그대로 담길 수 있다.

특히 국가 핵심시설과 군·방산망, 폐쇄망에서 생성한 데이터는 해외 클라우드 서비스로 보내기 어렵다. 해외 모델에 의존하면 데이터가 어디에서 처리되고 어떻게 보관되는지 통제하는 문제도 뒤따른다. 국내에서 독립적으로 구축하고 운영할 수 있는 모델이 필요한 이유다.

외부 AI를 이용할 때는 데이터 처리 조건을 먼저 정해야 한다. 김 팀장은 KISA가 지난 5월 오픈AI의 정부·기관용 신뢰기반 접근 프로그램인 GTAC(Government Trusted Access for Cyber)에 참여해 취약점 점검을 시작할 당시, 국내 정보가 모델 학습에 쓰일 가능성을 가장 크게 우려했다고 밝혔다. KISA는 협약 단계에서 제공 정보를 학습에 사용하지 않도록 요구했고, 이를 사용하지 않겠다는 답변을 받은 뒤 사업을 시작했다는 설명이다.

한국형 모델은 이런 개별 협약에만 기대지 않고 조직이 데이터와 모델의 운영을 직접 통제할 수 있는 기반이 된다. 김 팀장이 보안 특화 모델을 소버린 AI 관점에서 바라보는 이유다.

보안에 집중해 범용 AI와의 격차 보완

세 번째 이유는 보안 분야에 집중해 글로벌 AI와의 기술 격차를 보완하기 위해서다. 자본과 연산 자원에서 앞선 글로벌 기업과 범용 AI의 모든 역량을 놓고 경쟁하기는 어렵다. 국내에 축적한 보안 데이터로 취약점 분석과 코드 검증 등 특정 업무를 집중적으로 학습하면 해당 분야에서는 경쟁력을 확보할 수 있다는 판단이다.

김 팀장은 여러 분야를 전공한 사람과 한 분야를 집중적으로 공부한 사람을 예로 들었다. 국내 모델이 모든 영역에서 범용 모델을 따라잡는 대신, 보안이라는 한 영역을 집중적으로 학습해 실무 역량을 높이자는 설명이다. 다만 국내 모델이 실제로 범용 모델보다 높은 성능을 낼 수 있는지는 개발 이후 별도로 검증해야 한다.

모델 자체의 성능만으로 모든 격차를 메우는 것도 어렵다. KISA는 전문 분석 도구를 모델에 연결하고, 전문가가 축적한 업무 절차와 지식을 제공해 역량을 보완하는 방안을 제시했다. AI가 분석 도구를 적절히 선택해 사용하도록 가르치는 방식이다.

해외 고성능 AI를 이용한 공격을 모두 막기 어렵다는 현실도 고려해야 한다. 김 팀장은 국내 보안 특화 모델의 역할을 공격을 완벽하게 차단하는 데만 두지 않았다. 공격 과정을 최대한 늦추고 위험을 탐지해 담당자에게 알리는 것도 중요한 방어 전략이라고 설명했다.

국가가 기반 만들고 민간이 서비스로 확산해야

KISA는 보안 특파모의 개발과 확산 과정에서는 국가와 민간의 역할을 나눠야 한다고도 강조했다. 국가는 모델 개발과 제도적 기반을 지원하고, 민간기업은 보유한 기술을 결합해 산업 현장에서 사용할 서비스로 만들어야 한다는 설명이다. 김 팀장은 “특화 파운데이션 모델의 서비스화가 얼마나 되느냐에 따라 성공 여부가 갈릴 것”이라고 말했다.

민간이 모델을 활용할 수 있도록 학습된 가중치를 공개하는 방향도 제시했다. 가중치는 학습을 통해 조정한 모델 내부의 수치다. 이를 공개하면 기업은 모델을 내려받아 자체 환경에서 실행하거나 용도에 맞게 추가 학습할 수 있다. 보안기업은 이를 바탕으로 취약점 분석과 코드 분석, 침해사고 대응 등으로 서비스를 확장할 수 있다.

모델을 확보한 뒤에는 방어 성능과 통제 가능성을 검증해야 한다. 김 팀장은 ‘보안을 위한 AI(AI for Security)’와 ‘AI를 위한 보안(Security for AI)’ 기술을 함께 발전시켜야 한다고 강조했다. 전자는 AI로 위협을 분석하고 취약점을 찾는 일이다. 후자는 AI 모델과 데이터, 실행 과정 자체를 공격과 오작동으로부터 보호하는 일이다.

KISA는 자체 침해사고 분석에도 AI 적용을 추진하고 있다. 지난해 AI 기반 침해 대응체계의 개념검증을 마쳤으며 올해 본사업을 진행하고 있다. 사고 원인을 빠르게 분석해 필요한 조치를 찾고 피해 확산을 막는 것이 목적이다.

보안 특파모를 개발하는 일과 기업이 이를 곧바로 서비스로 이용하는 일은 구분해야 한다. 김 팀장은 기업이 직접 접속해 사용하는 단계까지는 시간이 더 필요하다고 했다. 모델을 여러 산업 현장에 적용해 성능을 확인하고, 의도한 범위 안에서 통제할 수 있는지 시험하는 과정이 먼저 필요하다는 설명이다.

한편 정부 주도의 보안 특파모 개발 사업은 최근 과학기술정보통신와 정보통신산업진흥원(NIPA)의 공모 사업을 통해 구체화됐다. 네이버클라우드 컨소시엄은 이달 초 정부의 ‘특화 인공지능 파운데이션 모델 개발(사이버 보안 분야)’ 사업자로 최종 선정됐다. 정부는 2027년 7월까지 엔비디아 B200 그래픽처리장치(GPU) 256장을 지원하며, 컨소시엄은 전력·금융·과학기술·통신·반도체·방위산업·항공우주 등 7대 분야에서 현장 실증을 추진한다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network