[미토스 이후, 취약점 대응④] AI가 찾은 취약점, 누가 검증·조정하나

앤트로픽의 인공지능(AI) 모델 미토스는 AI의 소프트웨어 취약점 탐색 능력이 빠르게 높아지고 있음을 보여줬다. AI가 취약점을 찾고 공격 코드를 만드는 속도가 빨라지면서 기업이 대응할 수 있는 시간도 줄고 있다. 바이라인네트워크는 ‘미토스 이후, 취약점 대응’ 기획 시리즈로 AI 이후 취약점 관리와 대응 체계가 어떻게 달라져야 하는지를 살펴본다. 마지막 회에서는 AI가 찾은 취약점을 신고하고 검증한 뒤 패치와 공개까지 연결하는 제도적 과제를 짚어 봤다. <편집자 주>

[미토스 이후, 취약점 대응①] 취약점 쏟아지는데, 패치는 느린 이유
[미토스 이후, 취약점 대응②] 서비스 멈추지 않고 빠르게 패치하려면
[미토스 이후, 취약점 대응③] 패치 못 하는 시스템은 어떻게 지키나
[미토스 이후, 취약점 대응④] AI가 찾은 취약점, 누가 검증·조정하나(이번호)

프론티어 인공지능(AI) 모델이 소프트웨어 취약점을 찾고 공격 가능성까지 확인하는 단계에 들어서면서, 발견한 결과를 안전하게 해결할 제도적 기반이 중요해지고 있다.

AI가 찾아낸 버그가 많아지면 실제 취약점인지 검증하고 이를 기업의 패치와 정보 공개로 연결하는 절차가 필요하다. 또한 취약점이 여러 제품에 영향을 미치거나 기업이 신고에 응답하지 않을 경우에는 연구자(해커)와 제조사 사이를 조정할 기관의 역할도 요구된다.

정부, 실제 운영망 대상 첫 ‘취약점 상시 신고제’ 시행

정부는 올해 실제 운영 중인 서비스와 제품을 대상으로 취약점을 상시 점검하는 제도를 처음으로 시험하고 있다. 국가인공지능전략위원회와 과학기술정보통신부, 국가정보원, 한국인터넷진흥원(KISA)은 지난 5월 ‘보안취약점 상시 신고조치제’ 시범사업을 시작했다.

취약점 상시 신고제는 ‘취약점처리방침(VDP)’과 ‘취약점협력대응제도(CVD)’로 구성된다. VDP는 기업·기관이 취약점 점검을 허용하는 제품과 서비스, 점검 범위, 금지행위, 신고 방법을 미리 정해 공개하는 기준이다. CVD는 이 기준에 따라 신고된 취약점을 검증하고 심각도를 평가한 뒤 패치와 이해관계자 통지, 공개 시점과 내용을 조정하는 전체 절차다.

기존의 모의해킹과 신고포상제(버그바운티)가 제품이나 별도의 시험환경을 주로 점검했다면, 이번 사업은 실제 운영망과 제품을 대상으로 한다. 통신·게임·금융·보안 분야 민간기업 7곳과 공공기관 8곳 등 15개 기관이 참여했다. 화이트해커는 참여 기관이 허용한 범위 안에서 취약점을 찾는다. AI를 이용한 점검도 가능하다. 취약점 탐색과 신고·조치는 오는 11월까지 진행되며 정부는 발견한 취약점과 조치 결과를 연말에 공개한 뒤 내년부터 제도화를 추진한다.

CVD·VDP의 제도 개선 방안을 연구하고 있는 유진호 상명대학교 교수는 “AI의 발전으로 취약점을 조치하는 제도가 더욱 중요해졌다“고 말했다. 그는 “CVD를 운영하려면 VDP가 먼저 마련돼야 한다”며 “VDP가 연구자에게 점검과 신고 기준을 알려주고 CVD는 신고 이후 연구자와 기업, 조정기관이 취약점을 함께 처리하는 선순환 구조가 필요하다”고 설명했다.

KISA는 지난 6월 취약점관리센터를 신설했다. 센터는 국내외에서 확인된 주요 취약점과 보안 패치 정보를 수집·분석하고 이를 관계기관과 기업에 전달하는 역할을 맡는다. 신고된 소프트웨어 취약점을 분석·검증한 뒤 개발사에 전달해 수정 프로그램 제작과 배포를 요청하고, 취약점 점검과 조치를 위한 기술지원도 제공한다. 정부는 센터를 중심으로 분산된 취약점과 패치 관리 업무를 일원화하고 긴급 대응체계를 마련할 계획이다.

AI 탐색 속도 맞추려면 연구자 보호·기업 참여 필요

현행 정보통신망법은 정당한 접근권한 없이 정보통신망에 침입하거나 허용된 접근권한을 넘어서는 행위를 금지하고 있다. AI를 통한 취약점 점검도 마찬가지다.

유 교수는 ”기업의 사전 허가 없이 AI나 자동화 도구로 현재 기업에서 운영 중인 웹사이트와 서비스를 점검하는 것은 정보통신망 침입에 해당할 가능성이 있어, ‘정보통신망 이용 촉진 및 정보보호 등에 관한 법률(정보통신망법)’ 제48조 제1항 위반에 해당된다”고 설명했다.

그는 ”AI로 취약점 탐색의 허들이 낮아지고 속도가 빨라질수록 기업이 취약점처리방침(VDP)에 점검 대상과 범위, 허용 방법, 금지행위, 신고 절차를 구체적으로 담아야 한다”고 강조했다. 신고서에는 영향을 받는 제품과 서비스, 연구 환경, 취약점 발견 시각, 재현 절차와 예상 피해를 적도록 해야 한다고 봤다.

또한 유 교수는 ”연구자가 VDP를 준수했다면 선의의 정보보호 연구로 인정하고 민사·형사상 책임을 면제할 법적 근거도 필요하다”고 제안했다. 현행법에는 허용된 범위에서 취약점을 점검한 연구자를 명시적으로 보호하는 규정이 없기 때문이다.

단, 법적 보호가 모든 점검 행위를 허용한다는 의미는 아니다. 연구자는 취약점 확인에 필요한 범위에서만 접근해야 한다. 점검 과정에서 확인한 개인정보는 신고 후 파기해야 한다. 발견한 정보를 다른 목적으로 사용하거나 제3자에게 전달해서도 안 된다. 서비스 장애를 일으키면 보호받기 어렵다.

기업의 적극적인 참여도 필요하다. 기업이 내부 운영 시스템을 외부 연구자에게 열면 개인정보 유출이나 서비스 장애 위험이 생기거나, 접수된 신고를 검증하고 패치를 개발할 인력과 비용도 추가로 필요해진다.

유 교수는 “VDP를 도입하고 신고된 취약점을 성실히 조치한 기업에 과징금 감면 등 제도적 인센티브를 검토할 필요가 있다”고 강조했다. 이어 “연구자에게는 허용 범위와 보호 기준을 제시하고 기업에는 참여할 유인을 제공해야 AI가 발견한 취약점을 실제 조치로 연결할 수 있다”고 덧붙였다.

기업은 검증, 조정기관은 패치·공개 조율

취약점 신고의 합법적 장치와 연구자 보호 기준을 마련한 뒤에는 기업과 조정기관의 역할을 구분해야 한다.

AI가 찾은 결과를 실제 취약점으로 검증하고 패치하는 일차적인 책임은 해당 제품과 서비스를 운영하는 기업에 있다. 기업은 신고된 문제가 같은 환경에서 또 발생하는지 확인해야 한다. 기존에 접수된 취약점과 중복되는지, 실제 공격으로 이어질 수 있는 결함인지도 판단해야 한다.

윤인수 KAIST 전기및전자공학부 교수는 “AI가 취약점을 발견했다고 해도 실제 취약점인지는 사람이 최종으로 검증해야 한다”고 했다. AI가 목표를 수행하는 과정에서 사실과 다른 결과를 취약점처럼 제시할 수 있기 때문에 이를 검증하는 시스템이 필요하다는 설명이다.

마이크로소프트 보안대응센터(MSRC)는 AI로 발견한 취약점을 기존 신고와 같은 절차로 처리한다. 신고 내용을 검증하고 위험도와 조치 우선순위를 정한 뒤 관련 제품 조직이 대응책을 마련한다. 또한 AI로 신고량이 늘어날 가능성에 대비해 신고 분류와 심각도 평가, 조치 지원 과정의 자동화를 확대하고 있다. 다만 결과의 정확성과 품질을 확인하는 과정에서는 개발자를 계속해서 참여시키고 있다.

조정기관은 하나의 취약점이 여러 기업의 제품이나 오픈소스 구성요소에 영향을 주거나 연구자와 기업이 공개 시점을 합의하지 못할 때 개입하는 역할을 해야한다. 기업마다 패치 일정이 다르면 한 제조사의 정보 공개로 아직 조치를 마치지 못한 다른 제품이 공격에 노출될 수 있다.

기업이 신고에 응답하지 않거나 취약점의 위험도를 두고 연구자와 이견을 보이는 경우도 있다. 이때 조정기관은 영향을 받는 기업에 취약점 정보를 전달하고 패치 진행 상황을 확인한다. 관련 기업이 대응을 마칠 수 있도록 공개 시점과 공개할 기술 정보의 범위도 협의한다.

유 교수는 “취약점협력대응제도(CVD)에 취약점 검증과 심각도 평가, 패치, 이해관계자 통지, 공개 시점과 내용의 조정 절차가 포함돼야 한다”고 강조했다.