“에이전틱 AI가 이끄는 대전환 시대, 사이버보안도 전례 없는 도전 직면”
‘NetSec-KR 2026’ 개막, “근본적인 보안체계 확립 필요” 한 목소리
“앤트로픽의 미토스가 시사하듯, 인공지능(AI)은 단순한 도구가 아니라 자율적인 행위 주체가 됐다. AI에 대한 신뢰성과 보안성이 어느 때보다 중요하다.”
앤트로픽의 새 AI 모델 ‘클로드 미토스(Claude Mythos)’ 프리뷰 공개로 인한 충격 파장이 계속되고 있는 가운데, 16일 개막한 ‘정보통신망 정보보호 컨퍼런스(NetSec-KR) 2026’에서는 이같은 메시지가 주를 이뤘다.
이번 행사 공동 대회장을 맡은 김호원 한국정보보호학회장은 “지금 우리는 AI 대전환의 한 가운데에 서있다. 에이전틱 AI 그리고 피지컬 AI가 확산이 되고 적용되면서 산업과 사회 전체를 바꾸고 있다”라면서 “이번 컨퍼런스의 모토인 흔들림 없는 보안 기초, AI에 대한 신뢰성과 보안성이 그 어느 때보다도 중요하다”고 강조했다.
공동 대회장인 이상중 한국인터넷진흥원(KISA) 원장은 이어진 환영사에서 먼저 AI 대전환 시대에서 새로운 보안 위협이 커지고 있다는 점을 경고했다.
이 원장은 “지금 우리는 현재 스스로 사고하는 에이전틱 AI와 물리적 환경을 인식하고 제어하는 피지컬 AI가 모든 패러다임을 재편하는 대전환의 시대에 서있다”며 “이러한 변화는 우리에게 새로운 기회를 제공하는 동시에 과거와는 차원이 다른 보안의 위협을 함께 가져오고 있다”고 현실을 진단했다.
이어 “지난 4월 7일 미국의 엔트로피의 미토스 모델이 공개되며 AI가 보안 취약점을 스스로 탐지하고 자율적으로 공개까지 수행할 수 있는 가능성에 대해 전세계적인 우려가 제기되고 있다”라면서 “시시각각 급변한 기술 환경 속에서 보안 분야는 지금보다 훨씬 더 큰 변화와 도전을 맞이할 것“이라고 전망했다.
정부 “견고한 보안체계 구축 위해 전력 다해 대응”
과학기술정보통신부는 앤트로픽과 오픈AI 등 글로벌 기업들의 최근 AI 기반 보안 기술 출시 행보 여파로 국내 정보보호 기업과 주요 기업 최고정보보호책임자(CISO)들과의 자리를 잇달아 마련해, 국내 산업에 미칠 영향과 대응 방향을 논의했다.
정부는 또 관계부처 합동으로 분야별 사이버 위협 대응체계를 점검하는 등 대응 강화에도 나섰다.
이 원장은 “KISA 또한 이러한 흐름을 면밀히 분석하고 AI 고도화에 따른 새로운 위협에 대비해 사이버보안 대응체계를 지속적으로 점검하고 있다”라면서 “이제는 단편적인 대응을 넘어 디지털 안전망의 기반부터 견고히 다지는 근본적인 보안체계 확립이 필요한 시점”이라고 말했다.
아울러 “이 자리는 AI 대전환이라는 시대적 흐름 속에서 보안의 본질을 재조명하고 핵심 기술과 정책의 방향을 함께 모색하는 장으로, 논의를 통해 AI를 안전하게 활용할 수 있는 신뢰 기반을 조성해 나가야 한다. 신뢰가 축적될 때 비로소 AI 대전환이 실현될 것이며, 국민이 안심할 수 있는 피지컬 환경 또한 공고히 구축될 것이다”고 덧붙였다.
이 자리에 함께 한 류제명 과기정통부 2차관도 “AI가 일상의 기반이 된 시대를 지나서 스스로 판단하고 행동하는 에이전틱 AI가 주도하는 거대한 전환점에 서 있다. AI 혁신의 속도는 그 어느 때보다 빨라지고 있으나 보안의 영역에서 전례 없는 도전과제를 던져주고 있다”며 “AI는 보안의 문턱을 낮춰서 누구나 손쉽게 치명적인 해킹 코드를 생성할 수 있게 하는 위협의 대중화를 초래하는 동시에, 공격자의 개입 없이도 스스로 시스템의 취약점을 찾아내고 해킹 시나리오를 설계하는 자율형 사이버공격으로의 지능적 진화를 가속화하고 있다”고 지적했다.
류 차관은 “양적으로 팽창하고 질적으로 고도화된 사이버 위협은 국가 디지털 인프라의 근간을 위협하는 상시적인 리스크가 됐다”며 “과기정통부는 AI 시대를 지탱하는 견고한 보안체계를 구축하기 위해 전력을 다해 대응하고 있다”고 강조해 말했다.
그는 “작년에 전방위적인 해킹 사고로 인한 국민 불안을 해소하고 국가 전반의 정보보호 역량을 강화하기 위해 수립한 범정부 정보보호 종합 대책을 기반으로 핵심 과제들을 이행하고 있다”며 “제도적 기반뿐만 아니라 차세대 보안 기술 개발, 인재 양성 등에도 박차를 가할 것”이라고 밝혔다.
국내 대표 정보보호 학술행사로 자리잡은 정보통신망 정보보호 컨퍼런스(NetSec-KR)는 32회째를 맞이한 올해, ‘흔들림 없는 보안 기초 위에 구현하는 AI 대전환’을 주제로 개최됐다.
이번 행사는 AI가 단순한 도구나 보조 수단을 넘어 스스로 판단하고 행동하는 ‘에이전틱 AI’ 시대로 접어들면서, 사이버보안의 기본 원칙과 기술 토대를 재정립하고 AI 신뢰성과 보안성을 확립하기 위한 방안을 논의하는 장으로 마련됐다.
이틀 동안 AI 안전, 생성형 AI와 딥페이크, 제로트러스트, 공급망 보안, 이동통신 보안, 사이버물리시스템(CPS) 보안, 위험관리 거버넌스, 차세대 암호기술, 국가안보 협력 등 사이버보안 전반을 아우르는 기술 발표와 더불어, 정책·제도·인재 양성까지 다룬다.
글. 바이라인네트워크
<이유지 기자>yjlee@byline.network
