[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”

앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 포함해 전례없는 수준의 AI 역량에 대한 공포 수준의 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대 앞으로의 사이버보안 대응 방향을  논의해본다. 그 첫 번째로 시스템 보안과 소프트웨어 보안을 연구해온 윤인수 카이스트(KAIST) 교수를 인터뷰했다. [편집자주]

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것” (이 번호)
[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”
[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”

앤트로픽은 지난 7일 최신 인공지능(AI) 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’를 공개했다. 아직은 일반 이용자가 쓸 수 있는 공개 모델은 아니다. 앤트로픽은 미토스를 대중에게 공개하지 않고 ‘프로젝트 글래스윙(Project Glasswing)’을 통해 일부 파트너 기업에 보안 목적에 한해 제한적으로 제공하고 있다. 제한 공개 이유는 모델의 성격 때문이다. 앤트로픽은 미토스가 주요 운영체제와 웹브라우저에서 제로데이 취약점을 찾고 이를 악용할 수 있는 수준의 능력을 보였다고 설명했다.

앤트로픽에 따르면, 미토스는 수십년간 사람의 검토와 자동화 보안 테스트를 거친 소프트웨어에서도 취약점을 찾아냈다. 문제는 이 능력이 방어에만 쓰인다는 보장이 없다는 점이다. AI가 취약점을 빠르게 찾으면 보안 패치를 앞당길 수 있지만, 같은 능력이 공격에 악용되면 공격 준비에 드는 비용과 시간이 줄어 위협도 커질 수 있다.

해외에서는 금융권과 규제 당국을 중심으로 파장이 커지고 있다. 영국 금융 규제 당국은 미토스의 위험성을 평가하고 있으며, 독일 은행권과 당국도 미토스가 사이버공격을 부추길 수 있다는 우려 속에 위험성을 검토하고 있다. 독일 중앙은행 총재는 미토스 같은 모델이 금융권의 경쟁 격차와 오남용 위험을 키울 수 있다며 제도권 접근과 규제 논의를 요구하기도 했다.

국내에서도 정부와 보안업계가 대응 논의에 들어갔다. 과학기술정보통신부는 14일 통신3사와 네이버, 카카오, 우아한형제들, 쿠팡 등 주요 플랫폼 기업 최고정보보호책임자(CISO), 국내 AI 보안 전문가들과 현안 점검 회의를 열고 기업별 긴급 보안점검과 한국인터넷진흥원(KISA)과의 상황 공유를 당부했다. 15일에는 정보보호기업 간담회와 주요 기업 CISO 회의를 열고 AI 사이버보안 대비 태세를 점검했다. 업계에서는 AI 보안 위협을 상수로 보고 제로 트러스트 확산, 소프트웨어 공급망 보안 강화, 중소기업 보안 격차 해소가 필요하다는 의견이 나왔다.

국가AI전략위원회도 16일 보안특별위원회 제1차 정례회의에서 클로드 미토스 동향을 긴급 점검했다. 회의에서는 미토스의 성능과 위협 수준, 국내 대응 역량, 기업과 전문가 의견 등이 논의됐다. 위원들은 국가기반시설 점검과 공급망 보안 강화 같은 단기 대응을 넘어 AI 기반 실시간 방어 체계와 글로벌 보안 협력체계가 필요하다는 데 공감했다.

윤인수 카이스트 전기및전자공학부 교수는 이번 미토스 논란을 단순히 AI 모델의 성능 문제로 보지 않았다. 그는 미토스가 공격자의 시간과 비용 구조를 바꾸는 사건이라고 봤다. 예전에는 취약점을 찾는 데 긴 시간과 높은 전문성이 필요했고, 수익성이 낮은 중소기업 솔루션이나 덜 알려진 시스템은 공격자의 관심 밖에 머무는 경우가 많았다. 그러나 AI가 취약점 탐색과 공격 준비를 자동화하면, 그동안 안전해서가 아니라 ‘안 들여다봐서’ 버텼던 시스템들까지 위험에 노출될 수 있다는 설명이다.

윤 교수는 미토스 논란의 핵심을 ‘공격 비용의 하락’으로 짚었다. AI가 취약점 탐색과 공격 자동화에 필요한 비용을 낮추면서 기존 보안의 전제를 흔들고 있다는 것이다. 윤 교수는 “취약점은 찾기 어렵고 많지 않다는 가정이 기존 방어의 전제였는데, 이제는 그 전제가 무너질 수 있다”고 우려했다.

아래는 윤 교수와의 일문일답이다.

Q. 미토스 사례가 보여준 가장 큰 변화는 무엇인가.

가장 큰 문제는 기존 보안의 전제가 흔들릴 수 있다는 점이다. 지금까지 대부분의 시스템 방어는 취약점이 많지 않고, 또 찾기 어렵다는 가정 위에 서 있었다. 특히 오래된 오픈소스나 상대적으로 덜 알려진 시스템은 실제로 안전해서라기보다 찾기 어렵고 공격자가 들여다볼 유인이 적어서 버틴 경우가 많았다.

그런데 AI가 취약점 탐색을 자동화하면 이 전제가 달라진다. 예전에는 해커가 많이 쓰이는 소프트웨어나 수익성이 높은 대상을 먼저 노렸다. 영세한 기업의 솔루션은 공격해도 가성비가 나오지 않는 경우가 많았다. 하지만 AI가 탐색 비용을 낮추면, 그동안 관심의 대상이 아니어서 안전해 보였던 곳까지 문제가 드러날 수 있다. 취약점은 “적고 찾기 어렵다”는 방어의 상식이 더 이상 유지되지 않을 수 있다.

Q. ‘공격 비용이 낮아진다’는 건 구체적으로 어떤 의미인가.

공격자가 더 많은 대상을 더 짧은 시간 안에 훑어볼 수 있다는 뜻이다. 예전에는 큰 시스템이나 대기업을 공격해 큰 이익을 얻는 방식이 효율적이었다. 앞으로는 AI를 활용해 상대적으로 작은 대상도 대량으로 탐색하고 공격 준비를 할 수 있게 될 수 있다. 취약점 탐색과 공격 준비에 드는 시간과 비용이 줄어들기 때문이다.

이 문제는 ‘은폐에 의한 보안(Security through Obscurity)’과도 연결된다. 은폐에 의한 보안은 시스템 구조나 약점이 외부에 잘 알려지지 않았다는 이유로 공격 대상에서 비껴가는 상태를 말한다. 실제 보안 수준이 높아서가 아니라 공격자가 몰랐기 때문에 안전해 보였던 것이다. AI가 이런 대상을 대량으로 탐색하기 시작하면, 숨어 있어서 안전해 보였던 시스템들이 더 이상 안전하지 않을 수 있다.

Q. 금융이나 공공 시스템에도 직접적인 위협이 될 수 있다고 보나.

가능 혹은 불가능으로 단정하기는 어렵다. 그런 위협은 미토스 이전에도 존재했다. AI가 없던 시기에도 금융이나 공공 시스템을 겨냥한 공격은 가능했다. 다만 지금은 그 가능성이 이전보다 높아지고, 공격이 더 쉬워지고 있다는 점이 중요하다.

미토스 같은 모델이 실제로 어느 수준까지 할 수 있는지는 제한 공개 상태라 외부에서 검증하기 어렵다. 하지만 보안에서는 보수적으로 접근해야 한다. 미토스가 알려진 만큼의 성능이 아닐 수도 있다. 그 경우에는 해프닝일 수 있다. 그러나 실제로 그 정도 성능이라면, 지금 준비해도 늦은 상황이 될 수 있다.

Q. 방어 측면에서는 뭐가 가장 시급한가.

AI로 공격한다면 방어도 AI로 해야 한다. 취약점 탐지, 대응, 패치 과정을 AI로 보조하거나 자동화해야 한다. 문제는 이런 방어 체계가 아직 충분히 체계화되지 않았다는 점이다.

공격자는 AI로 취약점 탐색 비용을 낮추고 공격 속도를 높일 수 있다. 반면 방어자는 조직 내부 시스템, 망 분리, 인프라, 운영 절차 같은 현실적 제약을 안고 있다. AI를 제대로 쓰려면 중앙화된 연산 자원과 연결 구조가 필요하다. 하지만 연결이 늘어나면 또 다른 보안 문제가 생긴다. 국내 보안 체계와 환경은 이 균형을 아직 충분히 갖추지 못하고 있어 우려가 된다.

Q. 미토스 사례가 기존 생성형 AI 보안 논의와 다른 지점은 무엇인가.

단순히 답변을 잘못하는 모델의 문제가 아니라 실제 취약점을 찾고, 공격 준비를 도울 수 있는 방향으로 논의가 옮겨갔다는 점이다. AI가 시스템을 직접 건드리거나 외부 도구와 연결될수록 보안 문제는 더 심각해진다. 결국 핵심은 AI를 얼마나 신뢰할 수 있느냐가 아니라, 신뢰할 수 없는 존재를 전제로 어떻게 통제할 것인가다.

AI는 본질적으로 완전히 이해하거나 제어할 수 없는 블랙박스 성격이 있다. 그런데 여기에 시스템 접근 권한과 실행 능력까지 붙으면, 잘못 동작했을 때 피해 규모도 커진다. 미토스 논란은 이런 우려를 더 구체적인 형태로 보여준 사례라고 본다.

Q. 미토스 논란이 에이전트 보안 문제와도 연결되는 것 같다.

에이전트 보안에서 핵심은 AI를 믿지 않는 것이다. 시스템을 설계할 때 AI를 근본적으로 신뢰할 수 없는 존재로 놓고 시작해야 한다. 그런데 실제 서비스는 AI를 과도하게 믿거나, 위험한 판단을 사용자에게 넘기는 경우가 많다. 예를 들어 어떤 코딩 에이전트는 위험한 명령을 실행하기 전에 사용자에게 묻는데, 실제 사용자는 귀찮아서 그냥 승인해버리는 경우가 많다. 그런 식으로 사람에게 의존하는 보안은 한계가 있다. 결국 시스템 차원에서 막아야 한다.

Q. 그렇다면 AI 에이전트의 권한은 어디까지 허용해야 하나.

정답은 없다고 본다. 다만 원칙은 있다. 에이전트가 어디까지 할 수 있는지를 먼저 분석해야 한다. 어떤 파일을 읽을 수 있는지, 어디까지 네트워크에 접근할 수 있는지, 어떤 명령을 실행할 수 있는지 같은 걸 촘촘하게 나눠야 한다. 중요한 건 이 AI가 어떤 권한을 가졌을 때, 잘못된 입력이 들어오면 어디까지 행동할 수 있는지를 보는 것이다. 그걸 시스템별로 분석해야 한다.

Q. 현실적으로는 어떤 방식의 통제가 가능한가.

결국은 AI를 일정한 공간 안에 가둬놓고 써야 한다. 샌드박스 같은 방식이다. 그런데 그렇게 하면 우리가 원하는 기능과 능력이 충분히 발휘되지 못한다. 자유를 많이 주면 더 많은 걸 할 수 있지만, 그만큼 잘못된 행동을 할 가능성도 커진다. 예를 들어 악성 데이터가 들어올 수 있는 곳에는 접근하더라도, 실제로 메일을 보내거나 수신자를 바꾸는 식의 민감한 실행은 못 하게 하는 식으로 나눌 수 있다.

기술적으로 불가능한 문제는 아니다. 다만 어디까지 허용하고 어디서 막을지는 서비스마다 다르고, 그걸 설계 단계에서 얼마나 진지하게 고민하느냐가 더 중요하다. 미토스도 그렇지만, 결국 AI 에이전트를 안전하게 사용하기 위해서는, 이 AI를 얼마나 어떻게 통제할 것인가가 핵심이 된다.

Q. 미토스 사례를 두고 국가안보 차원의 우려도 나오는데 어떻게 보나.

보안 특화 AI 모델이 국가안보와 연결돼 비공개로 운용되거나 일부 국가와 기업에만 제한 제공될 수 있기 때문이다. 그렇게 되면 모델을 가진 국가와 그렇지 않은 국가 사이의 사이버 보안 능력 격차가 커질 수 있다. 앤트로픽이 사이버보안 역량 실험을 위해 일부 파트너 기업에게만 미토스 사용을 제한적을 허용한 ‘프로젝트 글래스윙’이 그 사례다.

사이버보안은 공격과 방어의 속도 싸움이다. 특정 국가가 취약점 탐색과 방어 자동화에 강한 AI 모델을 갖고 있고, 다른 국가는 그렇지 못하다면 격차는 더 벌어진다. 이런 모델이 안보 자산이 되는 상황을 대비해야 한다. 우리나라도 국가안보 차원에서 이런 역량을 갖춰가야 한다.

Q. 국내 보안 체계는 무엇을 점검해야 하나?

취약점이 없어서 안전한 것인지, 아니면 단지 공격자가 아직 보지 않았기 때문에 안전해 보였던 것인지 구분해야 한다. 지금까지는 관심 밖에 있던 시스템도 AI 시대에는 공격 대상이 될 수 있다. 중소기업 솔루션, 오래된 오픈소스, 내부 업무 시스템도 예외가 아니다.

또 AI를 방어에 쓰기 위한 인프라와 운영 체계를 점검해야 한다. 자동화된 탐지와 대응을 도입하려면 AI를 안전하게 연결하고 활용할 수 있어야 한다. 보안 때문에 AI를 못 쓰는 것도 문제지만, 보안을 무시하고 AI를 쓰는 것도 문제다. 양쪽의 적정선을 찾아야 한다.

Q. 기존의 앱 보안 솔루션이 미토스 같은 AI로 대체될 수 있다고 보나.

곧바로 대체되기는 어렵다. AI가 정적 애플리케이션 보안 테스트(SAST)나 동적 애플리케이션 보안 테스트(DAST)가 못 찾는 취약점을 찾을 수는 있다. 하지만 이들을 온전히 대체할 수 있을지는 별도 문제다. 이유는 비용과 시간이다. 모든 코드를 AI에 넣고 전체를 분석하는 방식은 현실적으로 부담이 크다. 기존 보안 도구 위에 AI를 보조적으로 붙이는 방식은 가능하다. 당장은 AI와 기존 애플리케이션 보안 도구를 함께 쓰는 방향이 현실적이다.

*SAST(정적 애플리케이션 보안 테스트): 소프트웨어를 실행하지 않은 상태에서 소스코드나 바이너리 파일을 분석해 보안 취약점을 찾는 방식.
*DAST(동적 애플리케이션 보안 테스트): 소프트웨어를 실제 실행한 상태에서 외부에서 동작을 점검하며 보안 취약점을 찾는 방식.

Q. 미토스 사례는 장기적으로 보안에 어떤 영향을 줄까.

장기적으로는 보안 수준을 끌어올리는 계기가 될 수 있다. AI가 숨어 있던 취약점을 드러내고, 그동안 미뤄온 보안 과제를 다시 보게 만들기 때문이다. 문제는 변화 속도다. 준비가 된 상태에서 변화가 오면 긍정적일 수 있다. 그러나 준비가 부족한 상태에서 공격 비용이 급격히 낮아지면 피해가 먼저 발생할 수 있다.

AI는 이미 보안 지형을 바꾸고 있다. 장기적으로는 보안에 도움이 될 수 있지만, 지금은 준비가 부족하다. 미토스를 특정 모델의 논란으로만 볼 것이 아니라, AI 시대에 방어 체계를 다시 설계해야 한다는 신호로 봐야 한다.

윤인수 교수는 카이스트 전기및전자공학부에서 해킹 연구실을 이끌며 시스템 보안, 바이너리 분석, 취약점 자동 탐지, 공격 코드 자동 생성 등을 연구해왔다. 데프콘(DEFCON) 캡처더플래그(CTF)에서 2015년과 2018년 우승했고, 2020년 폰투온(Pwn2Own)에서 애플 사파리 브라우저 공격에 성공한 해커이기도 하다. 윤 교수 연구팀이 참여한 팀 애틀랜타는 2025년 미국 국방고등연구계획국(DARPA)의 인공지능 사이버 챌린지(AIxCC) 결승에서 우승했다. 현재는 국가AI전략위원회 보안특별위원회 분과위원으로도 활동하고 있다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network