“미토스 시대, 경직된 보안 거버넌스는 치명적”

바이라인네트워크, ‘사이버보안 기술 전략 컨퍼런스 2026’ 개최

“앤트로픽 미토스와 프로젝트 글래스윙으로 촉발된 AI 보안이 아주 심각한 위기로 다가오고 있다. 해킹하는 AI의 대중화는 갈수록 기업과 조직에게 매우 큰 부담이다. 가장 치명적인 건 시간의 비대칭성이다. AI로 해킹 하면 너무 빠르기에 AI로 대응을 할 수밖에 없는데, 방어자는 절대적으로 불리하다. 우리나라 보안 거버넌스의 구조적 특이성 때문이다. 민간뿐 아니라 정부나 금융은 훨씬 더 취약하다. 이제 데이터 중요도를 중심으로 거버넌스 체계를 바꿀 때다.”

김승주 고려대학교 정보보호대학원 교수는 <바이라인네트워크>가 18일 서울 잠실 롯데호텔 3층 크리스탈볼룸에서 개최한 ‘사이버보안 기술 전략 컨퍼런스’ 기조강연에서 이같이 밝혔다. 김승주 교수는 ‘AI 시대, 보안 거버넌스는 왜, 어떻게 바뀌어야 하는가’를 주제로 발표했다.

김 교수는 “우리나라의 국가 보안 거버넌스는 직관적이지 않고, 사회가 복잡해지면서 더 불명확해지고 있다”며 “이 문제는 AI 시대에 들어오며 더 강화되고 있다”고 말했다.

그는 “AI로 취약점을 찾고 공격 도구를 만드는 ‘해킹하는 AI’ 연구는 2005년 첫 논문을 시작으로 계속 이어져왔다”며 “미토스는 그동안의 AI보다 훨씬 더 뛰어난 성능을 가졌기에 이슈가 된 것이지 완전히 새로운 건 아닌데, 우리는 그동안 망분리를 너무 맹신하면서 클라우드, AI 등을 준비하지 못했다”고 지적했다.

거버넌스는 조직이나 사회를 안정적이고 효율적으로 운영하기 위한 관리·의사결정 시스템이다. 거버넌스 체계가 불명확하고 복잡하면, 조직의 운영이 비효율적으로 이뤄진다. 사이버보안 거버넌스라면, 조직이 사이버보안을 어떻게 관리하고 의사결정할지 정하는 체계다. 누가 보안을 책임지고, 어떤 위협을 어떤 우선순위로 막을지, 얼마의 예산을 사용하고, 어떻게 보고하고 결정할지 등을 정하게 된다.

민간 기업의 보안 거버넌스 상의 보고체계 속에서 보안 담당자는 발견된 취약점을 방어하기 위해 보고서를 작성하는 것부터 부담을 갖는다. 만약 새로운 솔루션이 필요하면 임원에게 계획을 올려 승인을 얻어야 한다. 만약 액수가 커지면 이사회 승인도 받아야 한다.

김 교수는 “작년 통신사의 개인정보 유출 사고 후 기업 CISO의 위상을 높이기 위해 대표 직속으로 만들고 정보보호 관련 사항을 이사회에 보고하도록 했다”며 “오늘날 기업의 사외이사는 주주 충실의무 때문에 까다롭게 검증하는데, CISO 입장에서 보면 시간을 지연시키는 요소가 되기도 한다”고 말했다.

우리나라의 국가 차원 보안 거버넌스는 더 체계적이지 않다. 일례로, 보안 책임자부터 문제다. 우리나라 정부의 보안 책임자는 국가정보원이다. 그러나 국정원의 책임이 이중적이다. 국가정보원법 상 직무조항에서 국정원은 방첩, 대테러, 반란, 안보 등 국가기밀 속하는 부분의 보안을 책임지는데, 사이버보안의 경우 중앙정부, 행정기관, 지방자치단체 및 소속 기관, 공공기관 등에 대한 사이버공격과 위협방어 대책을 총괄하게 돼 있다.

김 교수는 “국정원은 물리적 공간에 대해서 데이터의 중요도에 따라 임무를 규정하고 있는데, 사이버 공간으로 가면 데이터의 중요도에 상관없이 과도한 영향력을 갖고 있다”며 “사이버 공간에서 일어나는 모든 건 국정원의 승인을 받아야 하고, 이는 여러 정책 결정에 자율권을 훼손하며, 보안성 검토가 매뉴얼화되고 불투명해 신속한 대응이 힘들다”고 설명했다.

정부의 보안 거버넌스 체계는 지난 수년 간 물리적 망분리 정책을 핵심으로 유지됐다. 클라우드나 AI 서비스를 민간의 인프라나 애플리케이션으로 구성하려면 외부망과 단절된 환경에 구축해야 했다. 보안 부분은 데이터의 특성에 상관없었다. 보안 기능 인증, 클라우드 서비스 인증 등 다양한 보안 검증 제도는 데이터 민감도나 특징을 고려하지 않고 정적으로 운영돼왔다. 올해 들어 망분리 제도가 개선되고, CSAP 인증에 개인정보나 국가 기밀 정보를 다루지 않는 업무에 한해 민간 인프라를 사용할 수 있도록 했다. 그럼에도 여전히 생성형 AI를 활용해 보안을 강화하기에 부족하다. 부처가 AI 도구를 사용하고 싶어도 예산을 받아 사업을 발주하고, 선정한 솔루션을 국정원으로부터 검증받고, 복잡한 인증의 미로를 거쳐 도입해야 한다.

김 교수는 “AI 에이전트를 사용자 PC에 설치하고, 그 에이전트가 사용자의 정보를 가져가는데 대형언어모델(LLM)의 특성상 그 정보를 설명할 수가 없다”며 “기업이나 국가나 AI 에이전트 사용에서 사찰논란에 휩싸일 수 있고, 예외 지역이 많아지면서 보안 구멍을 만들기 시작할 것”이라고 지적했다.

그는 미국의 제도를 제시하며 데이터 중요도에 따른 보안 거버넌스 체계 수립을 강조했다. 미국의 경우 정부 관련 기밀 데이터는 NSA, 국방 데이터는 국방부 책임이다. 기밀을 포함하지 않는 나머지 데이터는 CISA가 책임진다.

김 교수는 “미국의 보안 거버넌스 체계는 데이터의 중요도에 따라 나뉜다”며 “컨트롤타워가 어디냐만 아니라 보안평가의 경우도 데이터 민감도에 따라 명확히 구분하고 있다”고 설명했다.

그는 “클라우드의 정보보호 거버넌스인 FedRAMP의 경우도 최고 수준의 기밀성 등급부터 일반 등급까지 데이터의 중요도로 나뉜다”며 “한국의 CSAP도 등급제로 구분되는데, 지금 누가 통제할 지의 논의만 이뤄지고 있다”고 말했다.

그는 “AI 시대에 거버넌스 체계가 변하지 않으면 이런 열악한 구조에서 큰 위협을 초래할 수 있다”며 “힘들지만 꼭 가야할 길”이라고 덧붙였다.

지난 5월1일로 국가 사이버보안 기본지침이 개정됐다. 기존의 망분리 조항을 삭제하고, 데이터 중요도에 따라 꼭 필요한 경우에 망분리를 하도록 구분했다. 정부의 국정자원관리원에 대해서 백업 및 재해복구 시스템을 구축하고 있는데, 정부 시스템의 데이터 중요도에 따라 민간으로 이전할 계획이다.

김 교수는 “세계적으로 보안 거버넌스 체계가 데이터 중요도 중심으로 바뀌는데, 영역 중심으로 국정원이 다 통제하는 경직된 사고는 이상하다”며 “데이터의 중요도에 따라 모든 체계를 재정비하고 환영할 기술을 환영해야 한다”고 강조했다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network