AI 악용 사이버위협 ‘비상’…정부, 민관 합동 대응 본격 추진

AI 기반 사이버위협에 대응 위한 민간 정보보호 추진계획 마련

정부가 앤트로픽 미토스 같은 고성능 인공지능(AI)을 악용한 사이버위협에 대응하기 위한 본격 행보에 나섰다. 과학기술정보통신부는 29일 열린 제9회 과학기술관계장관회의에서 ‘AI 기반 사이버위협에 대응하기 위한 민간 정보보호 추진계획(안)’을 발표했다.

이 계획은 과기정통부가 민간 분야에서 AI 보안 위협에 대비하기 위한 긴급조치와 함께 사회 전반의 정보보호 체계를 AI 기반으로 전환하기 위한 중장기 방향성을 제시하는 데 초점을 맞췄다.

최근 미국 빅테크들이 보안전문가 수준의 사이버보안 역량을 가진 AI 모델을 제한된 기업에만 제공하는 프로젝트를 가동하고 있다. 대표 사례가 앤트로픽 글래스윙 프로젝트다.

앤트로픽이 최근 공개한 글래스윙 프로젝트 관련 1차 보고서에 따르면, 글래스윙에 참여한 파트너사들은 소프트웨어(SW) 및 오픈소스에서 1만6000건이 넘은 보안 취약점을 발견했다.

곧 이같은 고성능 AI를 활용해 취약점이 대량 발굴이 일상화될 것이란 예상이 나오는 상황이다. 현실화될 경우, 실제 보안조직에는 상당한 부담도 우려된다. 발굴되는 취약점이 사이버공격에 활용될 수 있다는 점에서 ‘개인‧기업‧기관’ 모두가 AI 위협 영향권에 있다는 것이 전문가들의 지적이다.

AI 취약점 공개 대응 위한 민관합동 대응체계 마련, 취약점 관리센터 설치

이 계획에 따르면, 정부는 청와대 국가안보실을 중심으로 AI 취약점 공개 및 패치, 위협상황 등을 신속 공유‧전파하고, 침해사고(정황) 발생시 합동대응 가능한 긴급체계를 구축하는 한편, 과기정통부 내에는 총괄상황반을, 민간 분야는 소관부처별 상황반을 가동하기로 했다.

또 한국인터넷진흥원(KISA) 안에 취약점 관리센터를 설치해 취약점‧패치 관리를 일원화하고, 관계부처 및 기업 기술지원을 추진한다. 특히 KISA 취약점 정보포털(KNVD)을 중심으로 대내외 공개 및 신고, 유관기관 공유 등을 통해 취약점과 패치를 광범위하게 수집 및 분석하는 한편, 이를 보안공지로 기업 정보보호최고책임자(CISO, 약 2.8만개사), 민간 협력채널(C-TAS, ISAC), 부처별 상황반‧관군 전체에 신속 공유 및 조치 권고하는 긴급 대응체계를 구성한다. 과기정통부가 국제협력으로 확보한 최신‧고성능 AI 모델을 활용해 이같은 취약점 분석과 패치 업무 및 기업지원 전반에 시범 적용을 추진키로 했다.

주요기업 보안대비태세 강화, 중소기업은 보안기본기 확립 중점

AI 보안위협 관련 피해 파급력이 큰 주요기업에 대해서는 보안대비태세 강화를 위해 각 소관부처의 주관 하에 자산관리 및 취약점 점검, 패치 대응등을 자체 추진토록 하고, 정부는 분야별 이행점검도 추진한다. 정보통신기반시설과 정보보호관리체계(ISMS) 인증 의무 대상기업을 비롯해 금융, 의료, 에너지 등 분야별 대형기업과 상급종합병원‧주요 사립대 등 1200곳이 주요 대상이 될 전망이다.

중소기업은 보안 관리의 출발점인 자산 관리체계 확립을 위해 스스로 IT자산을 식별하고 현재의 보안수준을 진단해, 이에 기반한 보안투자 가이드와 조치실행을 추천해주는 웹 도구를 배포할 계획이다. 또 AI가 악용하기 쉬운 오픈소스 취약점을 선제 식별‧조치할 수 있도록 SW구성명세서 생성·분석 기술지원도 추진한다.

정부는 공격 표면점검 및 전문가 상담을 제공해 혹시 모를 사이버공격 범위 축소에 만전을 기하고, 과기정통부가 접근권을 확보한 고성능 AI 모델을 활용해 중소기업 제품(SW)의 취약점 점검 등 인프라를 제공해 AI 위협에도 쉽게 흔들리지 않는 디지털 산업환경 조성을 유도할 방침이다.

AI 기반 사이버위협 선제대응 체계 확립, 글로벌 수준 AI 보안생태계 구축

정부는 AI 보안위협에 빠르게 대응하기 위해 전 세계 도메인(하루 3.5억건)을 상시 모니터링하는 한편, AI 기반 악성행위(공격준비)와 도메인을 생성 즉시 탐지하고 대응한다. 또한 AI 서비스 관련 침해사고(정황·의심) 발생시, 침해사고조사심의위원회를 즉각 가동해 신속한 침해사고 조사 및 피해확산 차단을 도모하기로 했다.

이와 함께 오픈 AI의 정부·기관용 신뢰기반 접근프로그램(GTAC) 확보를 시작으로 글로벌 빅테크와 AI 보안 프로젝트 참여 및 정보획득을 위한 협력을 지속 추진한다. 우방국 사이버보안 기관과 AI 기반 위협대응 및 정보공유 등 협력 강화도 추진할 계획이다.

뿐만 아니라 취약점 발견부터 패치까지 전 단계에 걸친 주체별(제조사, 기업‧기관‧일반인) 대응요령을 마련해 전파하고, 보안투자 확대를 위한 홍보도 지속 추진할 예정이다.

마지막으로 향후 고성능 AI의 보안 활용 일상화, 공격무기화에 대비해 오는 2027년부터는 국내 정보보호 체계를 독자 AI 기술 기반으로 대전환 하고, AI 보안주권을 확립하기 위한 다양한 프로젝트를 기획하여 과감히 실행할 예정이라고 정부는 밝혔다.

배경훈 부총리 겸 과학기술정보통신부 장관은 “최고 수준의 해커와 견줄 정도로 사이버보안 분야의 AI 발전 속도가 빠른 상황으로, 우리나라도 AI 시대에 걸맞은 보안 체계와 글로벌 협력을 갖추지 못한다면 AI 3대 강국 도약도 흔들릴 수밖에 없다”라며, “이번 대책을 통해 AI 발 대규모 취약점 공개에 대응하기 위한 긴급체계를 마련하고, 우리의 기술과 모델을 기반으로 한 AI 보안주권 확립도 속도감 있게 추진해 나가겠다” 라고 밝혔다.

글. 바이라인네트워크
<이유지 기자>yjlee@byline.network