생성형 인공지능(AI)이 업무에 빠르게 도입되면서, AI 보안의 초점도 단순히 악성 프롬프트를 차단하는 수준을 넘어 대규모언어모델(LLM)과 AI 서비스 전반의 안전성을 선제적으로 검증하는 쪽으로 옮겨가고 있다. 나현식 숭실대학교 AI안정성연구센터 연구교수는 16일 서울 삼성동 코엑스에서 열린 ‘제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR) 2026’에서 “대규모언어모델(LLM) 보안은 취약점을 찾는 레드티밍을 넘어 공격과 방어를 함께 돌리는 ‘퍼플티밍’ 체계로 나아가야 한다”고 강조했다. 이날 나 교수는 ‘국내외 LLM 보안, 안전성 평가 및 레드티밍’이라는 주제로 발표했다.
“텍스트 중심의 AI 보안 체계는 한계점이 명확합니다. 이제는 멀티모달(multimodal) 환경에서 보안 패러다임을 바꿔야 합니다.” 김기홍 샌즈랩 대표는 16일 서울 삼성동 코엑스에서 열린 ‘제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR) 2026’에서 이렇게 말했다. 김 대표는 이날 ‘멀티모달 AI 공격 표현 확장에 따른 보안 패러다임 변화’를 주제로 발표했다. 그는 “거대언어모델(LLM)이 이미지, 음성, 영상, 파일 등 다양한 형식의 데이터를 함께 처리하는 멀티모달 방식으로 진화하고 있다”며 “텍스트 중심 방어만으로는 이런 입력을 조합한 새로운 공격을 막기 어려워졌다”고 설명했다.
앤트로픽이 지난 7일 새로운 AI 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’의 일반 공개를 보류하고 제한된 파트너에게만 제공한 뒤, 단순한 AI 신기술 발표를 넘어 금융권과 정부의 대응 사안으로 번지고 있다.
생성형 AI가 소프트웨어 개발 현장에 빠르게 퍼지면서 코드 생산 속도는 빨라졌지만, 그만큼 보안 검증과 라이선스 관리, AI 모델 추적의 중요성도 함께 커지고 있다는 분석이 나왔다. 제병주 블랙덕 부장(세일즈 엔지니어)은 14일 서울 코엑스에서 열린 ‘KTC & 소프트플로우 공동 세미나: 2026년 보안적합성 검증 및 SW 공급망 보안 전략’ 세미나에서 AI가 만든 코드와 AI 모델을 함께 관리하는 애플리케이션 보안 방안을 소개했다.
체크포인트는 기업의 AI 사용과 애플리케이션, 에이전트 시스템 운영 전반을 통합 관리·보호하는 보안 플랫폼 ‘체크포인트 AI 디펜스 플레인(Check Point AI Defense Plane)’을 출시했다고 9일 밝혔다. 회사는 프라이빗 AI 인프라 보호를 위한 ‘AI 팩토리 보안 아키텍처 블루프린트’도 공개했다.
인성정보는 8일 열린 ‘시스코 커넥트 2026 코리아’에 참가해 인공지능(AI) 기반 차세대 보안 전략과 시스코 보안 솔루션 구축 역량을 공개했다고 밝혔다.
![[그게 뭔가요] 소버린시큐리티, AI 강국의 필수조건이라는데](https://cdn.byline.network/wp-content/uploads/2026/04/FASOO-AI-1-325x216.jpg)
인공지능(AI)이 기업 생산성을 높이는 도구를 넘어 국가 경쟁력과 안보를 가르는 핵심 기술로 떠오르면서, 각국은 자국의 데이터와 모델, 컴퓨팅 인프라를 스스로 확보하고 통제하려는 이른 바 ‘소버린 AI’에 힘을 쏟고 있다. 하지만 AI를 직접 개발하거나 들여오는 것만으로는 소버린 AI를 완성할 수 없다는 문제의식도 커지고 있다. AI를 누가 지키고, 누가 통제하며, 사고가 났을 때 누가 들여다보고 복구할 수 있는지까지 국가가 스스로 결정하고 관리할 수 있어야 한다는 것이다. 여기서 나온 개념이 ‘소버린시큐리티’다.
파수AI는 ‘글로벌 인포섹 어워드 2026’에서 생성형 AI 보안과 데이터 보안 플랫폼 2개 부문 수상사로 선정됐다고 7일 밝혔다.
과학기술정보통신부(이하 과기정통부)와 한국인터넷진흥원(KISA)은 6일부터 24일까지 ‘2026년 상반기 사이버 위기 대응 모의훈련’ 참여기업을 모집한다고 밝혔다.
“인공지능(AI) 에이전트에게 일을 맡기려면 성능만 봐서는 안 됩니다. 무엇을 하도록 설계됐는지, 어떤 과정으로 작동하는 지까지 검증돼야 합니다. 신뢰가 핵심입니다. 신뢰할 수 있는 AI 생태계를 만들어 가는 게 중요합니다.”
한국인터넷진흥원(KISA)이 지난 2월 신설한 AI보안산업본부를 중심으로 보안기업의 인공지능(AI) 전환과 상용화 전주기 지원을 강화하고 있다. 27일 바이라인네트워크와 만난 오진영 KISA AI보안산업본부장은 “AI 시대에 보안 산업을 키우기 위해서는 단순 시제품 지원에서 멈추지 않고, 사업화, 마케팅, 투자 유치, 해외 진출까지 전주기 차원에서의 지원이 이뤄져야 한다”며 “KISA가 가진 사업 라인업을 묶어 선순환 체계를 만들어 가겠다”고 강조했다.
오픈클로(OpenClaw) 같은 인공지능(AI) 에이전트의 보안 우려가 현실화하고 있다. 오픈클로는 답변형 AI를 넘어 사용자를 대신해 실제 작업을 수행하는 구조라, 오류가 단순 오답에 그치지 않고 정보 유출이나 의도하지 않은 작업 실행으로 번질 수 있다. 최근 실제 사고와 사용 제한 조치가 잇따르면서, 기업들은 AI 에이전트의 권한과 통제 방식부터 다시 따지기 시작했다.
과학기술정보통신부(이하 과기정통부)는 국내 사이버보안 산업 경쟁력 강화를 위해 2026년 자펀드를 운용할 투자 운용사를 5월6일까지 공개 모집한다고 23일 밝혔다. 이번 펀드는 모태펀드 기반으로 조성한다. 정부가 80억원을 출자하고 민간 자금을 더해 160억원 규모 자펀드 1개를 새로 만든다.
라온시큐어는 인공지능(AI) 중심 사업체제로 전환하고, AI 에이전트 기반 보안 자동화 플랫폼을 연내…
인공지능(AI)을 활용한 공격이 늘고, 자격증명 탈취로 인증 체계가 무너지는 사고가 반복되면서, 단일…
End of content
End of content