‘반도체·피지컬AI·AIDC’ 국가 3대 메가프로젝트의 보안 과제

정부가 추진하는 인공지능(AI) 데이터센터와 피지컬 AI, 반도체 등 3대 메가프로젝트에서 보안이 주요 과제로 떠오르고 있다. AI 활용이 산업 현장으로 확대되면서, 기술정보를 지키고 시스템을 안전하게 운영할 보안 체계도 함께 갖춰야 한다는 제언이다.

3대 메가프로젝트는 정부가 지난 6월 발표한 반도체·AI 데이터센터·피지컬 AI 육성 전략이다. 민간 투자와 정부 지원을 연계해 서남권에 800조원 규모의 반도체 생산공장 4기를 조성하고, AI 데이터센터는 1단계에 550조원을 투자한 뒤 2035년까지 확장한다. 피지컬 AI는 발표 시점부터 3년 안에 독자 기반모델을 개발해 산업 현장에 적용하는 것이 목표다.

18일 서울 강남구 코엑스에서 열린 ‘사이버 서밋 코리아(CSK) 2026’의 ‘3대 메가 프로젝트와 사이버보안’ 세션에서는 사업 추진 과정에서 고려해야 할 분야별 보안 과제와 대응 방안이 제시됐다.

AI 데이터센터, 정책과 실제 행동까지 확인해야

AI 데이터센터에서는 서버와 네트워크뿐 아니라 AI가 내리는 판단과 실행하는 작업까지 보안 대상으로 삼아야 한다는 의견이 나왔다. 이창열 한전KDN 보안사업단장은 한전KDN의 에너지 특화 AI DC 전략을 소개하며 “방대한 정보를 처리하는 데이터센터에서는 AI가 어떤 근거로 판단하고 무엇을 실행했는지 추적할 수 있어야 한다”고 강조했다.

한전KDN이 추진하는 에너지 특화 AI 데이터센터도 이런 보안 과제를 안고 있다. 전력 수요와 공급, 기상·설비 데이터를 모아 발전량을 예측하고 설비 정비 등을 지원하려는 구상이다. 이 단장은 이런 환경에서 침해 사고가 발생하면 잘못된 수급 예측이나 설비 오동작으로 이어질 수 있다고 설명했다. 과도한 권한을 가진 AI 에이전트가 부적절한 작업을 실행할 위험도 있다.

보호 대상은 AI가 학습한 내용을 수치로 담은 모델 가중치, AI에 입력하는 지시인 프롬프트, 에이전트의 작업 내용을 저장하는 메모리까지 넓어진다. 데이터를 보관하는 자원뿐 아니라 판단과 실행에 영향을 미치는 요소도 관리해야 한다는 취지다.

한전KDN은 에너지 특화 AI 데이터센터에 국가망보안체계(N2SF)를 적용할 계획이다. 데이터의 중요도에 따라 이동·활용 범위를 정하고, 사용자·기기·서비스의 접근을 확인해 필요한 최소한의 권한만 부여하는 방식이다.

이 단장이 제시한 보안 체계는 위험 분석과 접근통제, 데이터·모델 보호, 보안관제를 연결한다. 위험을 분석해 통제 기준을 정한 뒤, 관제 단계에서 해당 정책의 집행 기록과 시스템 상태, 실제 행동을 함께 살핀다. 정책을 벗어난 행동이나 통제 실패가 확인되면 위험을 다시 평가하고 보호 정책을 보강한다.

그는 “공공 AI 데이터센터의 성패는 고성능 그래픽처리장치(GPU)를 설치하는 데만 달려 있지는 않다”고 강조했다. 신뢰할 수 있는 데이터 체계와 설계 단계의 보안 고려가 선행돼야 한다는 설명이다.

피지컬 AI 보안, 전 주기 보안 체계 필요

피지컬 AI 분야에서는 출시 전 일회성 인증을 넘어 운영 중에도 이어지는 보안 검증이 강조됐다. 윤정현 국가안보전략연구원 AI안보연구센터장은 “피지컬AI의 개발·실증·배치·운영·업데이트 전 과정에서 보안성을 검증하는 체계가 필요하다”고 제언했다.

피지컬 AI(Physical AI)는 센서로 현실을 인식하고 판단한 뒤 로봇이나 차량 등을 움직이는 AI다. 윤 연구위원은 이런 시스템이 공격받으면 정보 유출이나 데이터 훼손을 넘어 인명·재산 피해로 이어질 수 있다고 설명했다. 센서에 잘못된 정보를 입력하거나 모델의 판단을 조작하면 의료로봇이나 자율주행차가 위험한 동작을 할 수 있기 때문이다.

출시 이후에도 위험은 달라질 수 있다. 새로운 데이터를 학습하거나 업데이트하면서 처음 평가할 때는 없던 문제와 결함이 나타날 수 있다는 설명이다. 이에 따라 센서와 데이터, 모델의 판단, 물리적 행동을 각각 점검하는 데 그치지 않고 이들이 연결되는 과정까지 살펴야 한다고 봤다.

검증 수단으로는 실제 환경을 가상공간에 재현하는 디지털 트윈(Digital Twin)과 공격자 관점에서 취약점을 찾는 레드팀(Red Team)을 제시했다. 모의 공격을 통해 사이버 침해가 물리적 환경에 미칠 영향까지 확인하자는 취지다.

그는 민간기업과 연구기관이 참여하는 상시 위험 평가 체계도 필요하다고 강조했다. 피지컬 AI는 산업·과학기술·사이버안보·국민 안전이 맞닿는 분야인 만큼 정부 부처와 공공·민간을 아우르는 대응 체계를 마련해야 한다는 것이다.

반도체, AI 활용 막기보다 정보 선별해야

반도체 산업에서는 AI 사용을 일괄 차단하기보다 보호할 정보와 활용 가능한 범위를 먼저 구분해야 한다는 주장이 나왔다. 장항배 중앙대학교 교수는 “정보의 가치와 중요도를 평가해 보호 기준을 정하는 것이 출발점”이라고 강조했다.

반도체 기업은 생산성과 기술 경쟁력을 높이기 위해 AI를 쓰지만, 그 과정에서 기술정보를 외부에 노출할 수 있다. 소스코드를 분석하거나 회의 내용을 정리하고 발표 자료를 만드는 일상 업무에서도 민감한 정보가 AI 서비스로 넘어갈 수 있다는 설명이다.

장 교수는 기업들이 접근 제한과 반출 통제에는 힘을 쏟으면서도 정작 무엇을 보호해야 하는지는 충분히 정리하지 못한다고 지적했다. 자물쇠를 만드는 일에 집중한 나머지 어디에 채워야 하는지는 구분하지 못하는 상황에 비유했다.

그가 제시한 첫 번째 과제는 ‘정보의 가치를 평가해 등급을 나누는 일’이다. 정보를 만드는 데 든 비용과 활용 빈도, 사업에 기여하는 가치, 경쟁사에 넘어갔을 때의 피해 등을 살펴야 한다. 정보의 중요도를 잘 아는 업무 담당자가 판단 기준을 세우고, 문서 내용을 분석하는 자동 분류 기술로 이를 보완하는 방식이다.

또한 장 교수는 사람이 등급을 정하는 것만으로는 부족하다고도 설명했다. 중요한 문서의 등급을 낮춰 저장한 뒤 외부로 빼내는 사례가 있기 때문이다. 반대로 모든 정보를 높은 등급으로 묶으면 활용을 제약할 수 있다. 산업별 전문지식에 따른 판단과 문서 내용에 기반한 검증을 결합해야 한다는 주장이다

두 번째 과제는 ‘외부 AI가 기업의 기술정보를 학습에 사용하지 않는다는 점을 확인하는 일’이다. 입력한 정보로 답을 생성하는 추론과 그 정보를 모델 학습에 활용하는 것은 구분해야 한다.

장 교수는 국가 차원에서 보호하는 국가핵심기술을 보유한 기업도 AI를 안전하게 활용할 수 있도록, 학습 여부를 확인할 통제 항목과 검증 지표를 검토하고 있다고 밝혔다. 그는 산업통상부 검토를 거쳐 관련 지침을 마련할 계획이라고 덧붙였다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network