보안업계는 AI를 제품에 어떻게 녹여내고 있나

탐지 보조에서 ‘운영 자동화’로…국내 주요 보안 기업들, AI로 주력 제품 고도화

인공지능(AI)이 사이버 공격 기술의 자동화를 앞당기면서, 국내 보안업계도 주요 제품과 서비스에 AI 적용을 확대하고 있다. 악성코드 탐지나 반복 업무 자동화에 머물던 활용 범위가 위협 분석, 대응, 보고까지 넓어지면서 보안 운영 효율과 대응 속도를 높이는 방향으로 제품 고도화가 진행되는 모습이다.

국내 주요 보안 기업들은 각자의 주력 제품군에 맞춰 AI를 적용하고 있다. 통합 보안 플랫폼을 보유한 기업은 상관관계 분석과 챗봇을 활용한 운영을 강화하고, 보안관제센터(SOC) 중심 기업은 관제 업무의 자동화 비율을 높이는 데 집중하는 방식이다. 데이터 보안에서는 AI 활용 과정에서 정보 유출을 막기 위한 통제 기능을 전면에 두고, 위협 인텔리전스 기업은 비정형 정보 분석과 리포트 자동화를 강조한다.

안랩, ‘안랩 AI 플러스’로 AI 에이전트 기반 보안 운영 고도화 추진

통합 보안 제품군을 보유한 안랩은 AI 활용이 악성 파일 탐지와 반복 업무 자동화에서 출발해, 생성형 AI와 대형언어모델(LLM) 확산 이후 질의응답, 번역, 설명 등으로 빠르게 확장됐다고 설명한다. 최근에는 계획 수립, 자료 분석, 결과 보고서 작성까지 가능한 수준으로 발전하면서 자율 보안 운영 체계로 이어지고 있다는 것이다.

안랩은 AI 에이전트 보안 플랫폼 ‘안랩 AI 플러스(AhnLab AI PLUS)’를 중심으로 주요 보안 제품 전반의 지능화를 추진하고 있다. 안랩 AI 플러스를 통해 생성형 인공지능(AI) 기반 위협 탐지·분석 기능을 강화하고, 여러 제품·서비스 적용을 통해 에이전트 기반 운영 효율화를 꾀하고 있다.

최근에는 서비스형소프트웨어(SaaS) 보안 위협 분석 플랫폼 ‘안랩 XDR’에 대화형 AI 보안 어시스턴트 ‘애니(Annie)’를 연동했으며, 향후 다양한 제품과 서비스에 적용할 계획이다. 관리형 서비스(원격 보안 관제, 공격 표면 관리, 모의 침투 테스트 등)에도 안랩 AI 플러스를 적용해 서비스 효율을 높이겠다는 방침을 밝혔다.

또한 안랩은 AI 기술을 제품 기능에도 적용해 악성코드, 피싱 메일·문자·URL, 이상행위, 위협 패킷 등을 탐지한다고 설명했다. 각종 솔루션에서 수집한 대규모 데이터와 의심 행위를 분석해 탐지 모델을 생성하고, 이를 PC용 백신 ‘V3’ 제품군, 지능형 위협 대응 솔루션 ‘안랩 MDS’, 위협 탐지·대응 솔루션 ‘안랩 EDR’ 등에 적용했다. 안랩은 AI 활용만으로 하루 평균 13만건 이상의 신규 악성코드를 탐지하며 탐지율이 개선되고 있다고 전했다.

AI가 보안 제품 운영을 크게 개선한 실제 사례로는 국내 스크린 골프 기업 G사를 제시했다. 안랩에 따르면, 이 기업은 2023년 11월 랜섬웨어 공격 이후 ‘엔드포인트 탐지 대응(EDR)’과 ‘엔드포인트 보호 플랫폼(EPP)’을 구축하고 ‘관리형 탐지 대응(MDR)’ 서비스와 연계해 침해 원인 분석과 대응 자문을 받았다. 이후 서비스형 소프트웨어(SaaS) 기반 XDR을 도입해 약 1500대 PC와 700여대 서버에서 발생하는 보안 로그를 연계·분석하는 체계를 구성했고, 전체 보안 리스크가 약 56% 감소했으며 중간 이상 수준 위협 이벤트와 엔드포인트 탐지 위협도 각각 80% 이상 줄었다.

안랩은 이 사례를 통해 AI 기반 분석과 상관관계 분석이 결합된 통합 보안 운영이 실제 고객 환경에서 실질적인 운영 효율과 보안 수준 향상으로 이어질 수 있음을 확인했으며, 향후에도 AI를 중심으로 한 제품과 서비스 고도화를 지속해 나갈 계획이라고 전했다.

안랩 관계자는 “2026년 경영방침으로 ‘엑셀러레이트 안랩(AXELERATE AhnLab)’을 제시하고, 중점 과제로 ‘AI 중심 전환’을 설정했다”며 “방어 관점에서는 AI 에이전트 기반 SOC 고도화를 통해 반복 업무를 AI가 자동 처리하고, 보안 전문가는 고난도 판단과 의사결정에 집중하는 ‘휴먼 인 더 루프(Human-in-the-Loop)’ 관제 체계를 만들어 갈 예정”이라고 설명했다. 이어 “공격 관점에서는 공격 표면 관리(ASM)와 모의침투 업무 자동화를 병행하겠다”고 덧붙였다.

SK쉴더스, SOC 업무 전반에 AI·자동화 확산…경보 80~90% 자동 처리

SK쉴더스는 사이버 보안 분야에서 SOC 서비스 비중이 커, AI를 관제 업무에 가장 직접적으로 적용하고 있다. SK쉴더스는 탐지, 분석, 대응, 보고 등 SOC 업무 전반에 AI 및 자동화가 빠르게 확산되고 있으며, 반복 업무는 대부분 자동화되고 일부 판단 영역도 AI가 지원하고 있다고 설명했다.

다만 SK쉴더스는 SOC 분야에서 ‘AI·자동화 기준 설정’과 ‘고객 커뮤니케이션’ 업무는 여전히 사람이 수행해야 할 부분으로 보고 있다. 무엇을 시스템화할지, 각 업무의 기준을 정하는 역할과 고객과 소통하며 맞춤형 서비스를 제공하는 영역은 고도화된 작업과 의사결정이 필요해 전문가의 역할이 매우 중요하기 때문이다.

신입·초급 관제 인력의 역할 변화에 대해서는 “위협 경보의 80~90%가 자동화 처리되면서 예외적인 위협 분석과 대응, 고객 맞춤형 서비스에 집중할 수 있는 환경으로 바뀌어 가고 있다”고 설명했다.

이어 “위협 경보의 80~90%가 자동화 처리되면서 예외적인 위협 분석, 대응, 고객 맞춤형 서비스에 집중할 수 있는 환경으로 변화하고 있다”며 “자율형 SOC는 수년 전부터 자동화·AI 기반으로 진행 중이라, 앞으로는 속도와 범위가 핵심 과제가 될 것”이라고 말했다.

이글루코퍼레이션, ‘흐름 자동화’로 AI 에이전트 기반 보안 관제 확대

이글루코퍼레이션은 AI가 SOC의 방향을 ‘탐지 기능 고도화’에서 ‘운영 흐름 자동화’로 옮겨가고 있다고 설명한다.

이글루코퍼레이션 관계자는 “2015년 무렵부터 빅데이터 연구를 시작했고 실제 수익화로 이어진 것은 2018년부터”라며 “처음에는 보안 요원이 이벤트를 분류하고 레이블링하던 것을 AI가 자동으로 레이블링하고 우선순위를 지정해주는 형태로 들어왔다”고 설명했다.

이어 최근 변화에 대해서는 “탐지 이후 분석, 차단, 보고서 작성으로 이어지는 관제 흐름에서 탐지가 되는 순간부터 대응까지 AI가 한 번에 가는 구조로 설계한다”며 “요즘에는 리포트 작성까지 AI가 전담해서 한 번에 작성한다”고 설명했다.

이글루코퍼레이션은 추후 AI 기반 하이브리드 확장형 탐지·대응(AI-driven Hybrid XDR) 제품 ‘스파이더 이엑스디(SPiDER ExD)’를 고도화할 예정이다. 스파이더 이엑스디로 이기종 솔루션·서비스와의 통합·확장을 통해 데이터 수집을 다각화하고, 위협 데이터 간 연관 관계를 분석해 자동 대응을 수행한다는 설명이다.

이글루코퍼레이션 관계자는 “AI 모델을 기반으로 보안 데이터 분석 시간을 줄이고, 고위험 이벤트 우선순위를 신속히 분류하고 있다”고 말했다.

보안 특화 AI 에이전트 ‘에어(AiR, AI Road)’ 적용도 확대하고 있다. 에어는 대규모언어모델(LLM)과 보안 워크플로우를 결합해 탐지, 분석, 검색 작업을 수행하는 AI 에이전트로, 챗봇 에이전트와 분석 에이전트를 제공한다. 챗봇 에이전트는 소형언어모델(sLLM)에 검색 증강 생성(RAG)을 적용했고, 분석 에이전트는 대용량 방화벽 및 웹 로그를 분석해 의심 대상을 심층 분석하는 역할을 맡는다.

이글루코퍼레이션 관계자는 “앞으로 여러 AI 에이전트가 협업하는 ‘AI 에이전트 기반 SOC 구현에 더욱 속도를 낼 예정”이라고 말했다.

지니언스, EDR에 AI 에이전트 적용해 분석 부담 줄여

네트워크 접근제어(NAC)와 엔드포인트 탐지 대응(EDR) 분야에 강점을 가진 지니언스는 AI를 단일 기능으로 추가하기보다, 보안 운영 과정에서 반복적으로 발생하는 분석 부담을 줄이는 방향으로 단계적으로 적용하고 있다. 지니언스는 현재 EDR 솔루션 ‘인사이츠E’를 중심으로 위협 분석 고도화와 운영 자동화를 목표로 AI 활용 연구를 진행 중이다.

지니언스에 따르면, EDR 환경에서는 방대한 위협 데이터가 지속적으로 생성되면서, 보안 전문가가 데이터를 일일이 확인하고 해석해야 하는 구조적 한계가 존재한다. 이러한 문제를 해결하기 위해 지니언스는 워크플로우 엔진과 LLM 기반 AI 에이전트를 결합해 위협 분석 프로세스를 자동화하는 방안을 연구하고 있다. 지니언스의 EDR은 위협 정보를 조회할 수 있는 애플리케이션 프로그래밍 인터페이스(API)를 제공하며, AI 에이전트는 이를 활용해 위협의 의미와 맥락, 행위 패턴을 분석하고 요약된 결과를 도출하는 역할을 수행한다.

지니언스는 이 같은 ‘위협 해석 에이전트’가 적용될 경우, 기존에 숙련 분석가가 담당하던 반복적인 분석 업무 부담을 크게 줄일 수 있을 것으로 보고 있다. 전문 인력이 부족한 기업에서도 EDR 도입과 운영 장벽을 낮추는 효과를 기대할 수 있다는 설명이다. 다만 해당 기술은 현재 연구·테스트 단계로, 실제 내부 환경에서 효과를 검증하고 있으며, 향후 제품 기능 고도화 또는 서비스 형태로 제공하는 방안을 검토 중이다.

지니언스는 2026년을 AI를 포함한 기술 투자를 실제 사업과 제품 경쟁력으로 연결하는 전환점으로 보고 있다. 회사는 AI를 실험적 기능에 그치지 않고 플랫폼과 서비스 전반에 단계적으로 적용해, 보안 운영의 효율성과 확장성을 함께 높이는 전략을 추진하고 있다.

지니언스 관계자는 “AI 기반 위협 분석과 운영 자동화가 보안 전문 인력 부족이라는 산업 전반의 구조적 과제를 완화하는 핵심 요소가 될 것으로 보고 있다“며 “관련 기술 고도화를 이어갈 계획“이라고 말했다. 

파수, AI 확산 대응해 ‘데이터 인프라·거버넌스·보안 인프라’에 집중

데이터·문서 보안 기업 파수는 AI를 ‘탐지 기능’보다 ‘AI 사용 과정에서의 데이터 통제’를 하는 역할로 배치하고 있다. 파수는 AI 기반 개인정보보호 솔루션 ‘AI-R 프라이버시(AI-R Privacy)’와 구축형 AI 플랫폼 ‘엘름(Ellm)’을 함께 사용하는 사례를 제시했다. 파수 관계자는 “AI 학습에 사용될 데이터에서 개인정보를 미리 검출하고 마스킹해, 개인정보가 학습 데이터로 들어가지 않도록 할 수 있다”고 설명했다.

엘름은 사내 데이터 보안 정책을 AI 활용 과정에서도 유지하는 데도 도움을 준다. 파수 관계자는 “데이터 보안·관리 솔루션과 연동해 문서에 설정된 접근 권한과 정책이 엘름에서도 그대로 유지되도록 한다”며 “데이터 접근 권한이 없는 사용자가 AI에 질의하면, 권한을 파악해 답변이 노출되지 않도록 통제하는 방식”이라고 말했다.

파수는 향후 AI 확산에 맞춘 보안 인프라 영역에 힘을 싣는다. 파수 관계자는 “이미 AI가 주요 제품에 내재화되어 고도화는 상당히 진행된 상태”라며 “앞으로는 AI 확산에 따라 관련 데이터 인프라 스트럭처, 거버넌스, 보안 인프라에 집중해 제품 개발과 고도화를 이어갈 예정”이라고 말했다. 이어 “엘름은 AX(AI 전환) 플랫폼으로서의 개발을 계속 이어갈 것”이라고 덧붙였다.

지란지교데이터, ‘AI필터’에 딥러닝 내재화…이미지 1장당 0.06초 처리

개인정보 보호에 강점을 둔 지란지교데이터는 개인정보 보호 솔루션 ‘AI필터(AIFILTER)’에 AI 딥러닝 기반 광학문자인식(OCR)과 개체명 인식(NER) 기술을 내재화해 탐지 능력을 높이고 있다.

지란지교데이터 관계자는 “패턴 기반 탐지의 한계를 보완하기 위해 자체 개발한 딥러닝 OCR과 NER을 결합한 하이브리드 방식을 적용하고 있다”고 설명했다.

특히 AI 기반 개인정보 탐지의 속도에 대해 “이미지 1장당 텍스트 추출 속도를 0.06초 수준으로 단축했다”며 “레거시 OCR 엔진 대비 수십 배 이상 빠른 속도를 내고 있으며, 대규모 파일 서버나 망연계 구간에서도 병목 없이 실시간 개인정보 검출이 가능하다”고 설명했다.

정밀도 측면에서는 고정된 형식의 정보는 정규식으로 처리하고, 이름, 주소, 상호처럼 패턴으로 정의하기 어려운 비정형 텍스트는 NER로 식별해 상호 보완한다. 정상 텍스트를 개인정보로 오판해 차단하는 비율을 낮추는 데 초점을 맞췄다.

비정형 데이터 환경 대응도 내세웠다. 지란지교데이터는 저해상도, 팩스, 모바일 촬영 이미지처럼 실제 현장에서 마주하는 조건을 기준으로 학습을 설계했고, 물리적으로 훼손됐거나 노이즈가 심한 데이터를 모사한 9가지 합성데이터 생성 기술을 적용해 개인정보 인식률을 높였다고 밝혔다.

지란지교데이터는 향후 단순히 기존 AI 모델을 압축하는 방식 대신, 모델 아키텍처 자체를 재설계해 리소스 점유율을 근본적으로 낮추는 데 초점을 맞출 예정이다. 이에 맞춰, 특징 추출·융합·예측으로 이어지는 전체 파이프라인에서 고효율 경량 백본을 적용해 메모리 사용량을 줄이고, 특징을 판단하는 단계에서는 커널 최적화를 통해 불필요한 연산을 제거함으로써 그래픽처리장치(GPU) 메모리 점유율과 추론 속도를 개선하고 있다. 이를 통해 AI 탐지의 정확도를 유지하면서도 시스템 부하를 최소화해, 고객사 환경에서도 고성능 탐지가 가능하도록 설계했다는 설명이다.

지란지교데이터 관계자는 “AI 기술을 단순 탐지율을 높이는데 그치지 않고, 고객이 업무에 적극적으로 활용하면서도 보안을 유지할 수 있는 플랫폼으로 도약하고자 한다”며 “텍스트·이미지 중심 보호 영역을 영상·음성으로 확장하고, 기업 내부 데이터가 업무용 LLM이나 자동화 도구와 연동될 때 보안 게이트웨이 역할을 수행해 민감정보는 필터링하고 업무에 필요한 데이터만 AI에 전달하는 방향으로, 보안 우려 없이 AI를 사용할 수 있게 고도화할 예정”이라고 말했다.

엔키화이트햇, ‘공격표면 관리’에 AI 적용…모의해킹은 반복 작업부터 자동화

오펜시브 보안 기업 엔키화이트햇은 주요 제품 ‘오펜(OFFen)’과 ‘캠프(CAMP)’ 운영 전반에 AI를 적용 중이다.

오펜은 핵심 기능인 공격표면 관리(ASM)에서 자산 유형, 기술 스택, 노출 상태, 위험 요소를 AI가 자동으로 분류하게 하고, 자산 간 연관성과 노출 특성을 분석해 실제 공격으로 이어질 가능성이 높은 우선 관리 대상을 선별해 위험도를 자동으로 점수화한다.

엔키화이트햇 관계자는 “모의해킹, 레드팀 테스트 등 오펜시브 보안 진단에서는 AI를 반복적이고 구조화된 작업의 효율을 높이는 용도로 제한적으로 활용하고 있다”고 설명했다.

이어 “개념검증(PoC) 코드 제작, 침투 지원 도구 제작, 정보수집·선별·보고서 작성 같은 반복 작업 자동화에 AI를 적용하고 범용 구조와 아키텍처 설계에는 AI 도움을 받는 반면, 고도화된 공격은 사람이 직접 제작하는 방식”이라고 덧붙였다. 이를 토대로 엔키화이트햇은 작년 12월 ‘적응형 스캔을 활용한 공격표면 탐지’와 ‘LLM 기반 침투테스트’ 관련 신기술 인증을 획득하기도 했다.

보안 교육·훈련 플랫폼인 캠프는 교육 과정에서 보고서 품질을 AI로 자동 평가하고, 실제 공격 사례와 전술·기술·절차(TTPs)를 반영한 훈련 콘텐츠와 시나리오를 자동으로 생성하는 방식으로 고도화하고 있다. 최근에는 보안 훈련 환경 자동 생성 기능도 포함하며, 콘텐츠 확장성과 일관성 향상에 집중하고 있다.

향후 엔키화이트햇은 오펜을 공개 정보가 제한적인 내부망 환경에서 정보수집과 침투 자동화를 지원하는 도구로 확장하고, 진단 결과를 기반으로 탐지 룰을 자동 생성하거나 기존 탐지 룰의 우회 가능성을 AI로 분석해 보정하는 등 기능을 고도화할 계획이다. 캠프에서는 평가 자동화를 넘어 교육훈련 과정에서 레드팀 역할을 대체할 수 있는 공격 자동화 모듈 개발을 검토 중이다.

다만 오펜시브 보안 측면에서 AI의 한계점도 언급됐다. 엔키화이트햇 관계자는 “기업별로 다른 인증 구조, 내부 시스템 연계, 운영 맥락을 고려해야 해 자동화에 제약이 있고, 업종별 환경 의존성이 높거나 공개 데이터가 충분하지 않은 영역에서는 상용 AI 기반 자동화의 한계가 명확하다”며 “이와 연계해 AI 활용이 가능한 데이터 수집과 가공 기술을 보완해 나가겠다”고 말했다.

S2W, 다크웹 특화 언어모델 기반 분석 챗봇 ‘다크챗’ 탑재

위협 인텔리전스(TI) 플랫폼을 보유하고 있는 S2W는 자사 독자 개발 다크웹 특화 AI 언어모델 ‘다크버트(DarkBERT)’를 활용해 다크웹 기반 챗봇 ‘다크챗(DarkCHAT)’을 자비스(XARVIS)에 탑재했다. 고객은 자연어로 질문을 입력해 데이터 유출 사고 관련 검색 결과를 신속히 확인할 수 있다는 설명이다.

S2W는 추후 다크웹 기반 챗봇을 고도화하고, 커버리지 확장과 사용자 인터페이스 개선을 통해 AI 기반의 TI 환경을 더욱 강화할 계획이다. S2W 관계자는 “현재 플랫폼 내 탑재된 기능 외에도, 내부 분석가의 보고서 작성 효율을 높이기 위해 AI 에이전트 기반 리포트 자동화 서비스도 계속 고도화하고 있다”고 말했다.

KISA “AI 보안 관심 증가…국내 기업은 아직 주력 영역에 AI 접목 단계”

한국인터넷진흥원(KISA)은 최근 국내 보안기업들의 AI 활용이 점점 증가하고 있다고 평가했다. KISA에 따르면 2025년 진행된 ‘AI 보안 유망기업 육성 지원사업’의 경쟁률은 약 4대1로, 2024년(약 3대1) 대비 상승했다. KISA는 이를 두고 “AI를 활용한 보안, 또는 보안에 AI를 접목하려는 국내 보안기업들의 관심이 반영된 결과”라고 설명했다.

과제 유형을 보면, 국내 보안기업들은 취약점·악성코드 점검, 공격 탐지·대응, 위협 모니터링 등 기존 주력 보안 영역에 AI를 접목하거나, 지능형 CCTV·생체인증 등 물리보안 분야에 AI를 적용하는 형태의 과제를 주로 추진한 것으로 나타났다.

KISA는 2026년에도 관련 지원사업을 이어갈 예정이다. KISA 관계자는 “2026년에도 AI 보안 육성 사업이 진행되며, 현재 과학기술정보통신부와 세부 방향을 논의 중”이라며 “1분기 내 사업 공고가 진행될 예정이고, 지원 규모는 지난해와 유사할 것”이라고 말했다.

AI 보안 내재화 흐름에 대해 KISA는 국내외 기업 간 접근 방식의 차이도 짚었다. KISA는 “글로벌 플랫폼 기업이나 글로벌 보안 기업은 AI 도입으로 발생하는 데이터 유출, 권한 탈취, 이상 행위를 AI로 탐지·분석·대응하는 방향으로 보안 역량을 고도화하고 있다”며 “단일 솔루션이 아니라 하나의 플랫폼에서 다양한 기능을 제공하는 통합형 모델로 자동화를 확대하고 있다”고 설명했다.

이어 “국내 보안기업은 위협 탐지·분석, 보안 관제, 위협 인텔리전스 등 각자의 주력 사업 영역에 AI를 일부 접목하는 수준에 머무르고 있다”며 “향후에는 국내 기업들도 협업을 통해 통합형·플랫폼화된 제품을 만들어 글로벌 시장에서 경쟁할 수 있도록 지원할 계획”이라고 덧붙였다.

글. 바이라인네트워크
<곽중희 기자> god8889@byline.network