[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”

Q. 미토스 논란을 어떻게 보나. 

미토스는 단순히 어느 한 능력만 뛰어난 모델이 아니다. 코딩, 추론, 장문맥, 사이버보안 능력이 결합된 범용 모델이다. 여기서 장문맥은 긴 코드나 긴 문서를 한 번에 읽고 이해하는 능력이다. 실제 소프트웨어는 수만줄, 수백만줄 코드로 이뤄져 있다. 장문맥을 이해하는 능력은 취약점 탐지 능력과 직결된다.

더 중요한 것은 코딩을 잘하는 AI가 보안을 잘할 가능성이 높다는 점이다. 미토스는 사이버보안을 직접 가르친 것이 아니라 코딩을 잘하게 했더니 보안도 잘하게 된 사례로 볼 수 있다. 이 대목이 중요하다. IT 자산 중에 코드가 들어가지 않는 시스템은 거의 없다. 스마트폰, 자동차, 신호등, 관제 시스템, 방화벽, 라우터, 군 시설 장비 등이 모두 코드로 설계되어 있다. 미토스를 얘기할 때 이 점을 많이 간과한다. 코딩을 잘하는 AI를 선점하는 것이 곧 사이버 역량을 선점하는 일이 될 수 있다는 게 핵심이다. 이런 측면에서, 미토스는 이 사실을 우리에게 알려준 모델로 볼 수 있다.

Q. 미토스는 다른 AI 모델과 뭐가 다른가.

기존 AI 모델도 취약점을 찾고 알려주는 수준은 가능했다. 하지만 미토스는 취약점을 찾고, 이를 실제로 열어내는 도구를 만드는 단계까지 갔다. 이 차이는 크다. 취약점이 있다는 진단과 실제 공격 가능한 익스플로잇 구성은 다르다. 보안 현장에서 후자가 훨씬 위험하다. 취약점 심각도를 분류하는 능력도 중요하다. 미토스는 사람이 검증하는 수준과 취약점 심각도 평가 능력이 유사한 것으로 알려졌다. 앞으로 취약점 분류 작업도 AI가 대신할 수 있다는 뜻이다.

미토스를 제한적으로 공개한 이유 중 하나가 여기에 있다고 본다. 이 능력을 대중에게 풀면 악용될 가능성이 크다. 샌드박스 탈출이나 우회 행동 같은 위험 신호도 있었다. 샌드박스는 외부와 격리한 시험 환경이다. AI 모델이 샌드박스 같은 안전한 환경을 벗어나 외부와 통신하려는 행동이 관찰됐다면 단순한 가능성이 아니라 실제 위험 신호로 봐야 한다.

Q. AI의 코딩 능력이 중요하다고 했는데, 이유가 있다면?

AI의 코딩 능력을 너무 가볍게 본 측면이 있다. 한국은 독자 파운데이션 모델 논의에서 자연어, 즉 한글 중심으로 많이 논의가 됐다. 그런데 산업적으로 중요한 것은 코딩, 수학, 자연과학 영역일 수 있다. 미토스는 코딩 AI를 놓쳤을 때 어떤 일이 생길 수 있는지 보여줬다.

오픈AI도 초기에 코딩 전문 모델인 코덱스(Codex)를 먼저 만들었다. 코드 저장소를 학습해 코딩 모델을 발전시켰고, 이후 챗GPT 계열에도 코드 모델이 결합됐다. 인간 언어보다 코드는 더 정형화돼 있다. AI의 학습에 유리한 면이 있다. 또 모든 산업 시스템에 코드가 들어간다.

미국은 코드 데이터도 많이 갖고 있다. 깃허브 같은 거대한 코드 저장 플랫폼도 미국 기업이 운영한다. 전 세계 개발자가 코드를 올린다. 그런 데이터 기반에서 코딩 AI가 강해지는 것은 구조적으로 미국에 유리한 게임이다. 한국이 지금부터 코딩 AI와 보안 AI 역량을 어떻게 키울지 고민해야 한다.

Q. 프로젝트 글래스윙은 어떻게 봐야 하나.

프로젝트 글래스윙은 단순한 제한 공개 프로젝트가 아니다. 미토스 정도의 AI 모델을 먼저 쓰는 집단과 그렇지 못한 집단 사이에 정보 비대칭을 만들 수 있다. 글래스윙에 참여한 기업은 자사 제품과 인프라의 취약점을 먼저 찾고 고칠 수 있다. 그렇지 못한 기업과 국가는 같은 속도로 대응하기 어렵다.

산업적 질문도 생긴다. 어떤 금융기관을 더 신뢰할 것인가. 어떤 보안 장비를 더 믿게 될 것인가. 글로벌 보안 기업이나 클라우드 기업이 미토스로 자사 제품 취약점을 먼저 찾아 고치면, 그렇지 못한 기업은 보안 신뢰도에서 밀릴 수 있다.

한국 입장에서는 더 민감한 문제가 있다. 미토스를 쓰려면 중요한 코드와 자산 정보를 어디까지 맡길 수 있는지 결정해야 한다. 삼성전자, SK하이닉스 같은 국가의 중요한 산업을 이끄는 대기업, 공공기관, 국방 시스템, 무기 제어 시스템의 코드를 해외 기업의 AI 모델에 줄 수 있는가. 취약점을 찾으려면 속을 보여줘야 한다. 이것은 기술 문제가 아니라 안보 문제로도 연결될 수 있다.

Q. 미토스가 복제될 위험도 있나.

있다. 모델 복제나 증류는 중요한 문제다. 증류는 강한 모델의 입력과 출력을 관찰해 비슷한 기능을 하는 모델을 학습시키는 방식이다. AI는 학습을 잘하기 때문에 복제도 잘할 수 있다. 미토스를 공개하지 않는 이유 중 하나도 증류와 관련이 있다고 본다. 입력과 출력을 충분히 관측할 수 있으면, 다른 국가나 기업이 비슷한 모델을 빠르게 만들 수 있다. 중국 같은 경쟁 진영이 몇 달 안에 비슷한 역량을 따라올 가능성을 배제할 수 없다.

이는 단순한 기술 탈취 문제를 넘어선다. 미토스급 사이버 모델이 특정 국가나 공격 집단에 넘어가면 공격 속도와 규모가 달라진다. 북한 같은 위협 행위자가 직접 만들지 못하더라도, 다른 국가에서 제공받을 가능성까지 생각해야 한다.

Q. 취약점 관리 체계도 바꿔야 한다는 얘기도 나오고 있다.

바뀌어야 한다. 지금까지 한국은 미국의 국가취약점데이터베이스(NVD)에 많이 의존해왔다. 공통 취약점 및 공개(CVE)는 취약점 사건 번호에 가깝다. 어떤 취약점이 있었다는 식별자다. 그런데 실제 패치를 만들고 우선순위를 정하려면 분석 보고서가 필요하다. 그 역할을 NVD가 해왔다.

문제는 AI가 취약점을 찾기 시작하면서 사람이 직접 분석하는 체계로는 더 이상 감당하기 어려워졌다는 점이다. 미국도 모든 취약점을 예전처럼 분석하기 어려워질 수 있다. 실제 악용이 확인된 취약점이나 연방정부가 쓰는 소프트웨어처럼 우선순위가 높은 것에 집중할 가능성이 크다.

그렇게 되면 한국에서 많이 쓰는 소프트웨어나 공공기관 특화 시스템은 사각지대가 될 수 있다. 은행 사이트에서 쓰는 인증 프로그램, 국내 공공 시스템, 한글 문서 환경 같은 것은 미국 중심 분석 체계에서 우선순위가 낮을 수 있다. 한국형 취약점 데이터베이스와 실제 악용 취약점 목록을 더 적극적으로 운영할 필요가 있다.

Q. 한국이 독자 취약점 체계를 만든다면 뭐가 필요한가.

인력과 조직을 만드는 것 만으로는 어렵다. 취약점 사건 번호가 기하급수적으로 늘면, 분석도 AI가 해야 한다. 미토스의 중요한 능력 중 하나가 취약점 심각도 평가다. 사람이 평가한 것과 비슷한 수준으로 취약점 심각도를 분류할 수 있다면, 수많은 취약점 중 무엇부터 봐야 하는지 AI가 도울 수 있다.

취약점 자체가 전략 자산이 되고 있다. 예전에는 미국이 취약점 분석 정보를 사실상 공공재처럼 제공했고, 다른 나라들이 이를 활용했다. 앞으로는 “우리는 AI로 분석할 수 있지만 너희는 알아서 하라”는 식의 구도가 될 수 있다. 그러면 사이버보안 자체가 국가안보를 좌우하는 무기가 된다.

단기적으로는 글로벌 체계와 협력할 수밖에 없다. 하지만 장기적으로는 한국도 자체 역량을 만들어야 한다. K1 전차가 미국 업체와의 기술 협력을 바탕으로 개발된 뒤 K2 전차로 이어진 것처럼, 처음에는 외부 체계를 참고하더라도 빠르게 내부 역량으로 전환해야 한다.

Q. 취약점 악용 속도는 얼마나 빨라지고 있나.

그렇다. 과거에는 취약점 발견부터 실제 악용까지 시간이 꽤 있었다. 2018년에는 평균 2년 이상 걸렸다는 분석도 있다. 2022년에도 몇 달 단위의 여유가 있었다. 그런데 지금은 10시간 수준까지 줄어들고 있다. 앞으로는 1시간, 몇 분 단위까지 내려갈 수 있다는 전망도 있다. 이 속도에서는 연 1~2회 모의해킹이나 분기별 패치로는 부족하다. 취약점이 발견되고 공격에 쓰이기까지 시간이 너무 짧다. 보안 운영도 월간·분기 단위가 아니라 실시간에 가까운 방식으로 바뀌어야 한다.

Q. 한국 보안 체계에서 가장 먼저 바뀌어야 할 부분은 무엇인가.

가장 먼저는 ‘자산 식별’을 해야 한다. 늘 나오는 말이지만, 그만큼 중요하다. 우리 조직에 어떤 서버, 어떤 소프트웨어, 어떤 버전이 있는지 알아야 한다. 취약점이 발견돼도 해당 소프트웨어를 어디서 쓰는지 모르면 패치할 수 없다.

그다음은 패치 자동화다. 취약점을 AI가 찾아도 사람이 패치를 적용해야 한다면 병목이 생긴다. 공공기관과 기업 시스템은 외주 개발이나 레거시 시스템이 많다. 담당자가 바뀌었거나, 누가 만들었는지 모르는 시스템도 있다. 패치를 하려고 해도 서비스가 중단될까 봐 미루는 경우도 많다.

영향성 평가도 필요하다. 패치를 적용하면 어떤 시스템이 멈출 수 있는지 미리 알아야 한다. 윈도우 업데이트가 어떤 소프트웨어와 충돌할 수 있는지 알려주는 것처럼, 조직도 패치 영향성을 평가할 수 있어야 한다. 그래야 운영 담당자가 두려움 없이 패치할 수 있다.

침입 탐지와 방지 체계도 함께 바뀌어야 한다. 취약점을 모두 실시간으로 막을 수 없다면, 네트워크를 타고 들어오는 공격도 잡아야 한다. 기존 침입방지시스템(IPS)은 주로 패턴 기반이다. 하지만 AI가 만드는 공격은 기존에 보지 못한 형태로 들어올 수 있다. 행위 기반 탐지와 AI 기반 보안관제 시스템으로의 빠른 전환이 필요하다.

Q. AI 방어 체계에 대해 “두뇌만 AI이고 손발은 잘려 있으면 의미가 없다”고 했는데 어떤 뜻인가.

AI가 취약점을 찾고 패치를 만드는 두뇌 역할을 할 수 있다. 하지만 그 패치를 적용하는 손발이 없으면 방어가 되지 않는다. 자산 식별이 안 돼 있고, 패치 적용 절차가 수동이고, 영향성 평가가 안 되고, 침입 탐지가 패턴 기반에 머물러 있으면 AI 모델, 즉 머리만 똑똑해져도 실질적 효과가 작다. 한국형 AI 보안 시스템을 만든다고 해도 운영 체계가 낙후돼 있으면 소용이 없다. AI의 가장 큰 장점은 자동화다. 탐지부터 패치 생성, 영향성 평가, 적용, 침입 탐지까지 이어지는 체계가 필요하다. 두뇌만 키우는 방식으로는 부족하다.

Q. 보안 인력이 부족하다는 지적이 많은데 어떻게 보나.

심각하다. 미토스 같은 모델이 없더라도 현재 공개된 모델로 취약점을 찾는 것은 어느 정도 가능하다. 문제는 분석과 패치다. 취약점을 찾는 것은 AI가 도울 수 있지만, 그 결과를 해석하고 실제 대응으로 연결하려면 여전히 많은 보안 인력이 필요하다.

보안 인력은 많이 부족하다. 10배를 늘려도 부족할 수 있다. 공공기관에는 보안 전문가가 거의 없는 경우도 있다. 보안팀이 별도로 있는 곳은 큰 기업 정도다. 중소기업이나 의료기관, 동네 병원, 한의원 같은 곳은 민감한 정보를 다루지만 보안 체계는 매우 약할 수 있다.

AI 시대에는 이런 작은 시스템도 공격 대상이 될 수 있다. 공격자는 큰 기업만 노리지 않는다. 작은 병원, 지역 기관, 납품사, 협력사를 통해 민감정보를 수집하고 다른 데이터와 결합할 수 있다. AI는 데이터 결합을 잘한다. 유출된 통신, 구매, 의료, 위치 정보를 결합하면 개인의 직업, 동선, 건강 상태, 관심 대상을 추정할 수 있다. 인력 부족 문제가 안보 문제로도 이어질 수 있다.

Q. 미토스 논란과 에이전틱 AI의 보안 문제를 별도로 봐야 하나.

두 문제는 연결돼 있다. 하나는 AI가 기존 IT 시스템을 공격하는 데 쓰이는 문제다. 미토스는 여기에 해당한다. 기존에는 보안 전문가나 해커가 하던 취약점 탐색과 공격 준비를 AI가 할 수 있다는 점이 드러났다.

다른 하나는 “AI를 어떻게 신뢰할 것인가의 문제”다. 미토스 같은 모델의 등장으로 공격이 고도화되면 앞으로는 방어 도구도 AI로 바뀐다. 그런데 AI 에이전트를 보안 도구로 쓰려면 에이전트가 믿을 수 있는지부터 점검해야 한다. 인간 전문가에 대해서는 어느 정도 신뢰 기반이 있다. 자격, 경력, 책임 소재, 조직 내 권한 같은 것들이 있다. AI는 그런 기반이 아직 충분하지 않다.

앞으로는 AI 자체를 겨냥한 공격과 기존 사이버 공격이 결합한 하이브리드 공격이 늘어날 가능성이 크다. 예를 들어 에이전트의 권한을 악용하면서 동시에 시스템 취약점을 공격하는 식이다. 이 두 문제를 따로 보기는 어렵다.

Q. 에이전틱 AI는 기존 생성형 AI와 무엇이 다른가.

에이전틱 AI를 새로운 세대의 AI 모델로 보면 안 된다. 특정 모델이 성능이 올라갔다고 자동으로 에이전트가 되는 것은 아니다. 낮은 성능의 모델도 도구 사용 구조를 붙이면 에이전트로 활용할 수 있다.

핵심은 ‘도구 사용’과 ‘권한 위임’이다. 기존에는 사람이 AI에게 질문하고 답을 받았다. 에이전트 AI는 사람이 하던 일을 AI가 대신 하도록 만든다. 파일을 읽고, 코드를 실행하고, 웹에 접속하고, 다른 도구를 호출한다. 사람의 일을 대행하는 AI라고 볼 수 있다. 그래서 보안 문제도 권한에서 시작된다. AI에게 어디까지 맡길 것인가. 어떤 파일을 읽게 할 것인가. 어떤 명령을 실행하게 할 것인가. 메일을 보낼 수 있게 할 것인가. 이 질문이 중요해진다.

Q. 기업들의 AI 에이전트 도입은 어느 정도 진행됐다고 보나.

생각보다 많이 진행됐다. 겉으로 보기에는 초기 단계처럼 보이지만, 빅테크의 에이전트 AI 시스템은 2024년부터 기업 고객을 중심으로 제공됐다. 국내에서도 지난해 말부터 활용이 크게 늘었다.

흥미로운 점은 사원급보다 임원급에서 많이 쓴다는 점이다. 예전에는 제품 기획이나 상품 기획을 위해 아래 직원에게 조사와 보고서 작성을 시켰다. 지금은 에이전트에 맡겨 하루 단위로 기획안을 만든다. 경쟁사가 그런 시스템을 쓰고 있는데 우리만 쓰지 않으면 뒤처질 수 있다는 압박이 있다. 그래서 보안팀은 걱정이 많다. 하지만 경영진 입장에서는 생산성과 생존 문제가 먼저다. 보안에 문제가 있어도 일단 달려야 한다는 분위기가 있다. 효율성과 보안의 충돌이 시작됐다고 본다.

Q. AI 에이전트 환경에서 생길 수 있는 위험은 무엇인가.

에이전트 보안에서 가장 먼저 문제가 되는 지점은 권한이다. 사용자는 AI에게 특정 권한만 줬다고 생각할 수 있다. 하지만 AI가 다른 도구를 호출하거나 다른 에이전트와 연결되면 원래 허용하지 않은 행동까지 이어질 수 있다. 파일 삭제 권한을 주지 않았는데 우회적으로 파일을 지우는 식의 상황이 생기면 피해가 커진다.

권한 문제가 복잡해질수록 신원 확인도 어려워진다. 에이전트는 사람에게 권한을 위임받아 행동한다. 다른 시스템이나 다른 에이전트는 이 AI가 사람 계정인지, 기계 계정인지, 특정 사용자에게 위임받은 에이전트인지 구분해야 한다. 비인간 신원(Non-Human Identity)이 중요한 화두가 되는 이유다.

이후에는 행동 관측 문제가 따라온다. 에이전트끼리는 자연어 텍스트로 대화한다. 대화량은 사람의 메신저 기록보다 훨씬 빠르게 늘 수 있다. 여러 사람이 쓰는 AI 입력과 출력을 모두 저장해 보안 관제에 활용한다고 생각해보면 데이터 양부터 감당하기 어렵다. 에이전트가 어떤 말을 주고받고, 어떤 논리로 행동했는지 추적하는 일 자체가 새 과제가 된다.

결국 에이전트의 행동을 감시하는 역할도 AI가 맡을 가능성이 크다. 하지만 여기서 다시 신뢰 문제가 생긴다. 감시 AI는 어떻게 믿을 것인가. 더 뛰어난 AI의 행동을 비용이 낮은 AI가 검사해야 하는 상황도 생길 수 있다. 에이전트 보안은 단순한 접근 제어 문제가 아니라, 권한·신원·관측·신뢰를 모두 연결해서 봐야 한다.

Q. 에이전트 보안을 두고 제로 트러스트가 자주 언급된다. 충분한 해법인가.

제로 트러스트는 특정 보안 솔루션이나 기술의 이름이 아니다. 보안 원칙이다. “아무것도 믿지 말자”는 것이다. 그 안에는 비인간 신원 관리, 권한 통제, 접근 제어, 모니터링 같은 여러 보안 솔루션과 기술들이 들어갈 수 있다.

AI 에이전트를 위한 보안의 방향을 제로 트러스트로 가야 한다고 말하는 것 자체는 틀리지 않다. 하지만 너무 추상적이다. “에이전트 AI 보안을 강화해야 한다”는 말과 크게 다르지 않다. 제로 트러스트가 되면 모든 문제가 해결될 것처럼 말하는 것은 사고를 단순화할 위험이 있다.

현실적으로 모든 신뢰를 0으로 만들 수는 없다. 에이전트는 자동화를 위해 쓰는 것이다. 에이전트끼리 매번 모든 것을 확인하고 사람이 계속 승인해야 한다면 효용이 떨어진다. 그래서 중요한 것은 제로 트러스트라는 큰 구호가 아니라, 구체적으로 어떤 권한 위임 문제가 있고, 어떤 신원 확인이 필요하며, 어떤 행동을 관측해야 하는지다.

Q. 정책과 거버넌스 측면에서는 무엇이 부족한가.

한국의 보안 체계는 제도적 인증에 치우친 경향이 있다. 체크리스트는 필요하다. 하지만 그것만으로는 부족하다. 자동차 안전을 예로 들면, 에어백이 있는지 확인하는 것과 충돌 시험을 해서 실제로 탑승자가 얼마나 보호되는지 보는 것은 다르다. AI도 마찬가지다.

AI 에이전트 보안 체계를 위해서는 시험 기반 평가가 필요하다. 예를 들어 탈옥 공격에 대해 얼마나 방어하는지, 모델 복제 시도를 얼마나 막는지, 민감정보 유출을 얼마나 억제하는지 실제 테스트해야 한다. 레드팀 평가에서 몇 점 이상을 받아야 한다는 식의 실증 기반 기준이 필요하다.

AI 모델은 2주 단위로 새 모델이 등장할 정도로 빠르게 진화한다. 하지만 법을 2주마다 바꿀 수는 없다. 법과 제도는 큰 원칙을 잡고, 실질적인 시험 평가 기준은 빠르게 갱신할 수 있어야 한다. 평가에도 AI를 활용해야 한다. 사람이 모여 몇 달씩 평가하면 이미 늦다. 사전 평가는 AI가 빠르게 하고, 정식 인증은 뒤따르는 방식도 고민해야 한다.

Q. 정부가 모든 평가 기준을 만들 수 있을까.

어렵다. AI가 쓰이는 분야마다 위험 정의가 다르다. 학교에서 쓰는 AI와 의료 AI, 금융 AI, 보안 AI는 평가 기준이 다를 수밖에 없다. 각 분야 전문가와 기업, 연구자들이 함께 만들어야 한다.

독일의 체계를 참고할 수 있다. 독일은 연구, 표준화, 인증이 연결돼 있다. 프라운호퍼 같은 연구기관에서 나온 연구가 표준과 인증으로 이어지고, 티유브(TÜV) 같은 인증 체계가 산업적으로 힘을 갖는다. 자동차 분야에서 독일 인증이 국제적으로 통용되는 것처럼, AI 안전성과 보안성 평가도 국가 경쟁력이 될 수 있다.

한국도 AI 안전성·보안성 평가 체계를 잘 만들게 되면, 이 평가와 인증 체계 자체가 수출 자산이 될 수 있다. 동남아 국가들이 한국의 AI 모델이나 AI 보안 인증을 신뢰하게 만들 수도 있다. 다만 특정 기관이 독점하거나 전문성이 부족한 기관에 쏠리면 안 된다. 분야별 전문성을 가진 이들이 평가하는 균형이 필요하다.

Q. 미토스 이후 가장 중요한 정책 방향은 무엇인가.

산업 육성만으로는 부족하다. AI 보안을 국가 리스크 관리와 안보 차원에서 봐야 한다. 단기적으로는 글로벌 협력과 긴급 점검이 필요하다. 중기적으로는 한국형 취약점 분석 체계와 AI 기반 보안관제 체계가 필요하다. 장기적으로는 코딩 AI와 보안 AI 역량을 키워야 한다.

앞서 말했듯 동시에 보안 제도는 체크리스트에서 시험 기반으로 옮겨가야 한다. AI 모델이 실제 공격을 얼마나 견디는지, 에이전트가 권한을 넘어서지 않는지, 모델 복제나 탈옥 공격에 얼마나 강한지 검증해야 한다. 연구, 표준, 인증이 함께 가야 한다.

미토스는 특정 모델 하나의 문제가 아니다. 코드를 이해하는 AI가 사이버 공간의 힘의 구조를 바꾸는 사건이다. 한국은 미토스 접근권을 얻는 것만 고민할 것이 아니라, 왜 그런 모델이 나왔고 우리는 무엇을 놓쳤는지부터 보고 체계를 정비해야 한다.

Q. 기업 보안 담당자는 무엇부터 해야 하나.

우리 조직의 자산을 먼저 파악해야 한다. 어떤 서버가 있고, 어떤 소프트웨어가 돌아가고, 어떤 버전인지 알아야 한다. 그다음 패치 체계를 봐야 한다. 패치가 나왔을 때 실제로 적용할 수 있는지, 적용하면 어떤 서비스에 영향이 있는지 확인해야 한다. AI 보안이라고 하면 거창한 모델부터 떠올리기 쉽다. 하지만 현실에서는 자산 식별, 패치 자동화, 영향성 평가, 침입 탐지 같은 기본 운영 체계가 더 시급하다. 여기에 AI를 적용해야 한다. 그래야 AI가 만든 속도를 방어자가 따라갈 수 있다.

이상근 교수는 고려대학교 정보보호대학원 스마트보안학부 교수이자 고려대 AI보안연구소 초대 연구소장이다. 주요 연구 분야는 AI 보안, 보안을 위한 AI, 신뢰할 수 있는 AI, 온디바이스 AI다. 고려대 AI보안연구소에서는 대규모언어모델(LLM) 보안과 에이전틱 AI 보안 연구를 맡고 있다. 최근에는 AI 모델 복제 공격 방어, 소프트웨어 취약점 탐지, LLM이 생성한 구조화 질의 언어(SQL)문의 SQL 인젝션 공격 위험성 평가 등 AI와 사이버보안이 맞물리는 영역을 연구하고 있다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network