이원태 국가AI전략위원회 보안특별위원회 위원장(국민대학교 특임교수)이 바이라인네트워크와 인터뷰하고 있다. (출처=바이라인네트워크)
| | |

이원태 AI전략위 보안특위원장 “흩어진 보안체계, ‘국가 CISO’ 역할 컨트롤타워로 연결해야”

“AI는 공격을 기계의 속도로 끌어올렸는데, 우리 방어와 조직은 아직 사람의 속도와 과거에 머물러 있다.”

이원태 국가인공지능(AI)전략위원회 보안특별위원장(국민대학교 특임교수)은 바이라인네트워크와의 인터뷰에서 국내 보안체계가 AI 공격의 속도를 따라가지 못하고 있다고 진단했다. 그는 신속한 대응을 위해 부처별로 나뉜 정보와 권한을 연결하고 실제 조치를 이끌 범부처 사이버보안 컨트롤타워가 필요하다고 강조했다. 공격은 공공과 민간의 경계를 넘나드는데, 위협정보와 대응 기준, 조치 절차는 기관별로 나뉘어 대응을 늦추고 있다는 설명이다.

이 위원장은 기업의 최고정보보호책임자(CISO)처럼 국가 차원의 위험 판단과 대응을 총괄할 주체가 필요하다는 뜻에서 ‘국가 CISO’라는 개념을 제시했다. 부처별 정보와 예산·인력을 조정하고 현장의 대응을 이끌 범부처 실무 컨트롤타워가 필요하다는 뜻이다.

그는 “공격의 예방과 탐지·대응부터 핵심 서비스의 유지·복구까지 연결해야 한다”며 “부처별 대응과 보안 활동이 끊기지 않도록 권한과 책임, 공통 기준을 정비하는 것이 국가 보안 거버넌스 전환의 핵심”이라고 강조했다.

부처별 실무 대응 이끌 범부처 컨트롤타워 필요

현재 국내는 국가안보실 제3차장과 사이버안보비서관이 사이버안보의 총괄·조정 기능을 맡고 있다. 이 위원장은 “국가안보실의 전략·위기 조정 역할을 유지하면서, 이를 실제 정책 집행으로 뒷받침할 범부처 사이버보안 전담체계가 필요하다”고 설명했다. 그가 제안한 컨트롤타워는 각 부처의 정보와 예산·인력을 조정해 어떤 위험부터 줄일지 정하고, 필요한 자원을 투입하며, 조치 결과까지 확인하는 역할을 맡을 조직이다. ‘국가 CISO’는 조직의 기능을 설명하기 위해 쓴 개념이다. 그는 “컨트롤타워의 구체적인 조직 형태와 명칭, 기존 기구와의 역할 배분은 더 논의해야 한다”고 덧붙였다.

공공은 국정원, 민간은 과학기술정보통신부와 한국인터넷진흥원(KISA), 금융은 금융당국 등으로 대응체계가 나뉜다. 같은 소프트웨어의 취약점은 분야를 가리지 않지만, 정보와 조치 절차가 기관 사이에서 끊기면 같은 문제로 피해가 반복될 수 있다. 이 위원장은 “각 기관의 전문성을 살리면서도 위협정보를 함께 분석하고, 누가 언제까지 조치할지 정하며, 그 결과를 확인하는 체계를 연결해야 한다”고 설명했다.

이어 그는 “통합은 조직 합병이 아니라 공통의 언어와 공통의 성과를 만드는 일”이라고 강조했다. 부처마다 다른 기준으로 위험을 판단하고 서로 다른 지표로 성과를 보고하면 국가 전체의 대응 수준을 파악하기 어렵기 때문이다.

이런 공통 기준은 AI 보안 정책에도 필요하다는 게 그의 설명이다. 부처마다 AI 보안 지침을 만들고 있지만 공공·민간·금융 분야를 아우르는 기준은 부족하다고 봤다. 이를 마련하기 위한 틀로 제안한 것이 ‘한국형 AI 사이버보안 프레임워크(AI-CSF)’다. 개별 지침의 보안 요구사항을 연결하고 AI의 특성을 반영하며, 현장에서 얻은 대응 경험으로 기준을 계속 보완하자는 구상이다.

예방·대응·복구 잇는 ‘상시 운영체계’로 바꿔야

국가 차원의 조정이 현장의 신속한 대응으로 이어지려면 보안 운영 방식도 달라져야 한다. 정기 점검을 통과했어도 서비스와 코드, 시스템 설정이 바뀌면 새로운 취약점이 생길 수 있다. 취약점을 발견해도 수정 승인을 기다리거나 서비스 중단을 우려해 조치를 미루면 공격자는 빈틈을 파고든다. 이 위원장은 “보안의 기준을 ‘점검했는가’에서 ‘발견한 위험을 실제로 줄였는가’로 바꿔야 한다”고 강조했다.

그가 말하는 상시 운영은 예방과 탐지·대응, 핵심 서비스의 유지·복구를 하나의 체계로 연결해 지속적으로 관리하는 일이다. 취약점 관리에서는 외부에 노출된 자산을 파악하고, 공격에 쓰일 가능성과 피해 범위에 따라 조치 순서를 정하며, 패치 후 문제가 해결됐는지 확인하는 과정으로 이어진다. 사고에 대비한 대체 운영과 복구훈련도 평소 반복해야 한다. 한 기관에서 확인한 공격 정보와 대응 경험은 다른 기관의 방어와 복구 준비에도 활용돼야 한다.

이를 위한 정책 수단 중 하나가 현재 시범 운영 중인 ‘보안취약점 상시 신고조치제’다. 국가AI전략위가 정책 과제로 제시하고 보안특위가 자문해 온 제도로, 지난 5월부터 과기정통부와 국정원 등이 민간과 공공 분야에서 시범사업을 추진하고 있다. 기업·기관이 허용한 범위에서 보안 연구자가 취약점을 찾아 신고하면, 해당 기업·기관이 이를 검증·수정하고 결과를 공개한다. 이 위원장은 “시범사업과 함께 선의의 보안 연구자(해커)를 보호할 법적 기준도 정비해야 한다”고 강조했다.

사이버복원력 높이고, 소버린 AI 확보해야

상시 운영체계는 공격을 받았을 때도 핵심 서비스를 지키는 데까지 이어져야 한다. 병원과 통신·교통·물류 시스템의 중단은 국민의 일상을 멈출 수 있기 때문이다. 이 위원장은 서비스를 유지하고 신속히 복구하는 ‘사이버복원력’을 확보하려면 평소부터 우선 유지할 기능과 대체 운영 방안을 정하고, 복구 절차가 실제로 작동하는지 훈련해야 한다고 강조했다. 그는 지난 12일 출범한 국가AI전략위 산하 ‘국가 사이버복원력 강화 태스크포스(TF)’의 리더를 맡아 관련 전략 수립을 이끌고 있다. 보안 성과도 장비 도입이나 점검 건수에 더해, 사고 중 서비스를 얼마나 유지하고 얼마나 빨리 복구했는지로 확인해야 한다고 봤다.

핵심 서비스를 안정적으로 운영하려면 여기에 활용되는 AI도 통제할 수 있어야 한다. 이 위원장은 AI의 안전성을 검증하고 권한을 제한하며, 필요하면 작동을 멈추거나 다른 모델로 교체할 수 있는 ‘운영통제권’을 확보해야 한다고 제안했다. 그는 “AI 에이전트가 중요한 정보를 외부로 보내거나 데이터를 대량 삭제하려 할 때, 모델의 판단에만 맡기지 않고 별도의 승인·차단 장치가 작동해야 한다”며 “그는 핵심 서비스를 지키는 복원력과 기술을 스스로 통제하는 능력이 AI 시대 보안 주권(소버린 AI)의 핵심”이라고 말했다.

다양한 국내 보안 기술, 현장에서 쓰이도록 지원해야

이 같은 복원력과 AI 운영통제권을 현장에서 확보하려면 이를 구현할 보안 기술이 필요하다. 이 위원장은 보안 특화 AI 모델을 개발하는 일과 함께, 민간 보안기업의 탐지·통제 도구를 검증해 기업·기관에 공급하는 체계를 갖춰야 한다고 봤다. 특히 자체 개발과 운영이 어려운 중소기업도 검증된 기술을 적절한 비용으로 쓸 수 있어야 한다고 강조했다.

그는 보안 특화 AI 파운데이션 모델 사업(보안 특파모)을 독자 AI 역량을 확보하기까지 방어 공백을 메우는 ‘징검다리’로 평가했다. 독자 모델 개발에는 시간이 걸리는 만큼, 외부 모델을 활용하더라도 데이터 접근과 도구 사용을 제한하는 ‘보안 하네스’와 에이전트를 함께 육성해야 한다는 설명이다. 또한 그는 국내 산업 환경에 맞춘 취약점 검증과 패치 자동화, AI 에이전트의 신원·권한 관리에서 국내 보안 기업의 기회를 찾았다. 모델이 취약점을 찾는 능력을 갖춰도 실제 시스템에 적용하고 안전하게 고치는 기술과 운영 경험이 함께 필요하기 때문이다.

정부는 시험환경과 데이터 활용을 지원하고, 현장에서 효과를 확인한 기술은 구매로 이어지도록 도와야 한다. 도입 기업이 겪은 문제와 대응 경험은 다시 기술 개선에 쓰여야 한다. 이 위원장은 “기술을 공급하는 기업과 도입하는 기업, 공공기관과 현장 실무자가 정보를 주고받으며 방어 역량을 높이는 구조가 만들어져야 ‘AI 보안 거버넌스’가 작동한다고 볼 수 있다”고 강조했다.

이원태 국가AI전략위원회 보안특별위원회 위원장(국민대 특임교수)이 국가 CISO의 개념에 대해 설명하고 있다. (출처=바이라인네트워크)

다음은 이 위원장과의 일문일답이다.

Q. AI 공격의 확산에 대응하려면 기존 보안체계에서 무엇부터 바꿔야 하나.

“공격과 방어 사이에 벌어진 속도와 규모의 격차부터 줄여야 한다. AI는 표적 조사와 취약점 분석, 공격 코드 수정처럼 사람이 나눠 하던 작업을 연결하고 반복할 수 있다. 반면 방어자는 취약점을 알고도 오래된 시스템이나 복잡한 승인 절차 때문에 바로 고치지 못한다. 외부에 노출된 자산과 과도한 권한을 가진 계정조차 제때 파악하지 못하는 곳도 있다.

정기 점검으로 이런 변화를 모두 따라가기는 어렵다. 점검 이후에도 서비스와 코드는 계속 바뀌기 때문이다. 그래서 상시로 위험을 확인하고, 실제 악용 가능성과 서비스 영향을 따져 조치 순서를 정해야 한다. 취약점을 찾았다면 수정·시험·배포·재검증까지 이어져야 성과다. 영향이 작고 되돌릴 수 있는 조치는 자동화하되, 핵심 서비스 중단처럼 파급력이 큰 조치에는 승인과 검증을 거쳐야 한다. 다만 이런 변화가 필요하다는 것과 최근 사고가 모두 AI 때문이라는 주장은 구분해야 한다. 모든 공격이 완전히 자율화 됐다고 단정해서는 안 된다.”

Q. 기업 내부의 대응 절차와 함께 국가 차원의 조정체계도 바꿔야 한다는 뜻인가.

“그렇다. 정보와 예산, 인력과 조정 권한을 연결하고 국가 차원의 책임을 분명히 해야 한다. 기업에 최고정보보호책임자(CISO)가 있듯 국가에도 사이버 위험의 우선순위를 정하고 대응 성과를 설명할 주체가 필요하다. 이런 실무 컨트롤타워의 역할을 기업의 CISO에 빗대 ‘국가 CISO’라는 개념으로 설명한 것이다. 어떤 명칭을 쓰느냐 보다 실제로 그 역할을 수행할 권한과 책임을 갖추는 것이 중요하다.

물론 현재도 국가안보실이 사이버안보의 총괄·조정을 맡고 있다. 이 역할을 유지하면서 실제 정책을 집행할 범부처 전담체계가 뒷받침돼야 한다는 뜻이다. 국정원의 위협정보와 기밀보안, 국방부의 군 사이버방어, 금융당국과 개인정보위의 감독 전문성을 살리면서 신고·정보공유·대응 절차와 성과지표를 연결해야 한다. 컨트롤타워를 구체적으로 어떤 조직 형태로 둘지는 더 논의해야 한다. 어떤 형태를 택하든 전문인력의 처우와 업무 연속성을 보장해야 하고, 권한 집중에 따른 민간 사찰 우려도 통제해야 한다. 정보 이용의 목적과 법적 한계, 개인정보 보호와 독립적인 감독을 함께 설계해야 하는 이유다.”

Q. 제안한 컨트롤타워가 부처별 대응을 조정하려면 공통 기준도 필요할 것 같다.

“그런 조정 기능이 실제로 작동하려면 기술적 거버넌스도 필요하다. 당장의 공격에 신속히 대응하는 기능과 공통 기준을 만드는 기능이 함께 움직여야 한다. 현장에서 확인한 문제를 기준에 반영하고, 개선한 기준을 다시 방어에 적용하는 구조다.

현재 부처마다 여러 지침을 만들고 있지만 공공과 민간, 금융 분야를 연결할 공통 언어가 부족하다. 흩어진 통제 항목을 연결하고 AI의 특성을 반영하되, 현장에서 어떻게 적용할지도 제시해야 한다. 기관이 보유한 데이터를 어떻게 분류하고 어떤 통제를 적용할지 업무·산업별 사례가 있어야 실제로 쓸 수 있다.”

Q. 이런 기준을 실제 대응으로 연결하기 위해 보안특위는 어떤 과제를 추진하고 있나.

“AI를 이용해 기존 사이버방어를 강화하는 일과 AI 모델·데이터·에이전트 자체를 보호하는 일을 함께 보고 있다. 상시 취약점 신고·조치 체계, 보안 특화 모델, AI 기반 위협정보 공유체계(AI-ISAC)가 각각의 사업에 머물지 않고 실제 방어에 함께 쓰이도록 연결하려 한다.

AI를 도입하는 공공기관에도 공통 보안 기준이 필요하다. 에이전트의 권한과 행동을 어떻게 통제할지 부처별 지침을 조율하고, AI 위험관리와 사고 분류체계, 보안 예산의 기준도 함께 논의해야 한다. 개별 사업을 늘리는 것보다 이들이 하나의 운영체계로 작동하도록 하는 데 중점을 두고 있다. 다만 어떤 데이터를 누구와 공유할지, 자동방어에 어디까지 권한을 주고 누가 책임질지, 예산과 집행을 누가 맡을지는 더 검토해야 한다.”

Q. 그중 취약점 신고·조치 제도는 어떻게 정착시킬 계획인가.

“현재 공공과 민간에서 시범사업을 진행하고 있다. 기업·기관이 허용하는 연구 범위와 신고 절차를 미리 알리고, 연구자가 취약점을 신고하면 이를 검증·수정한 뒤 공개 시점을 조정하는 방식이다. 신고는 쉽게, 조치는 빠르게, 공개는 질서 있게 이뤄지도록 하는 것이 목표다. AI로 신고가 늘면 접수만으로는 감당하기 어렵다. 재현 근거와 품질 기준을 갖추고 중복 신고와 오탐을 걸러내야 한다. 실제 공격에 쓰이는지, 피해 범위가 얼마나 큰지 따져 조치 순서도 정해야 한다. 기업에는 접수·회신부터 위험도 평가, 합리적인 기한 내 조치나 임시 완화, 결과 통보까지 책임을 분명히 해야 한다.

이를 위해 시범사업과 법제 정비를 함께 추진하고 있다. 허용된 범위와 방법을 지키고 개인정보 수집을 최소화하며 신속히 신고한 연구자를 보호해야 참여가 늘 수 있다. 기업이 약속하는 민사상 보호와 법률상 형사책임 문제도 구분해 정비해야 한다. 제도 확대는 시범사업 결과를 살피되, 공공은 단계적 의무화를, 민간은 비용 부담을 고려한 자율 참여와 권고를 중심으로 검토할 필요가 있다.”

Q. AI 자체의 보안, 통제도 중요해 보인다. 강화하려면 어떤 정책이 필요한가.

“AI 모델과 에이전트를 안전하게 활용할 수 있도록 공통의 통제 기준을 마련해야 한다. 핵심은 ‘이 AI가 누구를 대신해 무엇을 할 수 있느냐’를 분명히 하는 것이다. 에이전트마다 신원과 책임지는 담당자, 권한의 범위와 유효기간을 정해야 한다. 송금·대량 삭제·외부 전송처럼 영향이 큰 행동은 별도 승인을 거치게 하고, 다른 에이전트에 일을 맡기더라도 처음 허용된 권한을 넘어서는 안 된다.

현재 부처마다 AI 보안 관련 지침을 만들고 있다. 보안특위에서는 이러한 지침의 통제 항목을 조율해 한국형 AI 사이버보안 프레임워크(AI-CSF)에 반영하자고 제안하고 있다. 공공기관의 AI 도입과 주요 금융 업무에 공통 기준을 시험 적용하고, 그 결과를 살펴 확대하는 방향이다. 이때 모델 밖에서 권한과 행동을 통제하는 ‘보안 하네스’의 적용 원칙도 함께 마련해야 한다.

도구 사용을 제한하고 행동을 기록하며, 이상 행동이 나타나면 권한을 회수하거나 작동을 멈출 수 있어야 한다. 잘못된 변경을 되돌리는 기능도 필요하다. 이런 기준과 장치가 현장에서 작동해야 운영통제권을 확보할 수 있다. 어떤 모델을 쓰든 우리가 검증하고 통제하며, 필요하면 멈추거나 교체할 수 있어야 한다는 뜻이다. 제가 말하는 보안주권은 모든 기술을 국산화하는 것보다 이러한 운영통제권을 갖추는 데 있다.”

Q. 이런 통제·운영 기술이 국내 보안기업의 기회가 될 수 있나.

“보안 특화 AI 모델을 개발하는 것과 함께 그 모델을 현장에 적용할 기술도 키워야 한다. 국내 공공·금융·제조 환경에 맞춘 취약점 검증과 패치 자동화, 에이전트의 신원·권한 관리, 여러 모델을 연결하는 운영 기술에 기회가 있다. 다양한 기업이 만든 보안 하네스와 에이전트를 검증하고, 중소기업도 적절한 비용으로 도입하도록 지원해야 한다.

기업 혼자 확보하기 어려운 학습데이터와 공동 시험환경도 뒷받침돼야 한다. 공개 가능한 탐지지표와 민감한 상세 기록을 구분해 안전하게 활용하도록 하고, 위협정보를 제공한 기업에는 분석 결과와 대응 권고를 신속히 돌려줘야 한다. 그래야 기업도 정보를 공유할 이유가 생긴다.
연구개발과 조달도 실제 도입으로 이어져야 한다. 탐지 건수뿐 아니라 오탐과 조치시간, 비용과 서비스 영향을 평가하고, 기술 검증과 현장 실증에서 효과를 확인한 기술은 구매로 이어지게 할 필료가 있다.”

Q. 기술이 현장에 도입되도록 보안 투자는 어떻게 유도해야 하나.

“성실하게 투자하고 사고 대응에 협력한 기업이 보상받는 구조가 필요하다. 검증된 투자에 대한 세제·재정 지원, 중소기업의 보안서비스 이용 지원, 공공조달 평가와의 연계를 생각할 수 있다. 정보보호 공시에서도 지출액과 함께 취약점 조치시간과 복구시간, 훈련 결과를 보여주면 투자 효과를 더 구체적으로 판단할 수 있다.

물론 위험을 보고받고도 투자를 미루거나 조치를 반복해서 이행하지 않은 경영진에 책임도 물어야 한다. 다만 자발적 신고와 증거 보존, 피해구제·개선 노력도 제재 판단에 고려해야 한다. 은폐나 중대한 과실까지 면책하자는 말은 아니다. 또한 사람에 대한 투자도 중요하다. CISO에게 책임만 지우면 적극적인 대응이 어려워진다. 보안 인력의 처우와 실질적인 권한을 보장했는지도 함께 평가해야 한다.”

Q. ‘국가 사이버복원력 강화 태스크포스(TF)’가 출범했다. 리더로서 앞으로의 계획은?

“공격을 막는 능력과 함께, 공격을 받아도 핵심 기능을 유지하고 빠르게 회복하는 능력을 봐야 한다. 병원이 환자를 돌보고 통신과 교통, 물류가 작동하는 일은 국민의 일상과 직결된다. 그래서 핵심 서비스의 우선순위를 정하고, 위험 파악과 AI 모델·에이전트 검증, 사고보고·정보공유, 대체 운영과 복구를 함께 다뤄야 한다. 실제 중단 상황을 가정한 민관 공동훈련도 필요하다.

국가 AI 사이버복원력 강화 전략에서 이런 과제를 구체화하려 한다. 한국형 AI-CSF, 취약점 신고·조치 제도, AI 보안 예산 기준도 연결해야 한다. 담당기관과 필요한 자원, 이행 일정과 성과지표를 정하되, 개별 실증사업의 범위와 일정은 참여기관·예산·시험환경을 확보하면서 구체화할 사항이다. 결국 확인할 것은 취약점 발견부터 조치까지 걸린 시간, 잘못 부여한 권한을 회수하는 시간, 공격을 탐지·격리·복구하는 시간, 사고 중 핵심 서비스가 유지된 수준이다. 이 네 가지를 국가 차원에서 함께 측정하고 대응에 활용할 수 있어야 진전이 있었다고 말할 수 있다.”

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network

일간 바이라인 구독하기

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다


The reCAPTCHA verification period has expired. Please reload the page.