[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”

앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 두고 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대의 사이버보안 대응 방향을 살펴본다. 그 다섯 번째로 윤두식 이로운앤컴퍼니 대표를 인터뷰했다. 윤 대표는 국가AI전략위원회 보안특별위원 위원으로도 활동하고 있다. [편집자주]

[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것” 
[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”
[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움” 
[미토스 이후, 전문가에게 듣는다④] 최영철 SGA솔루션즈 대표 “미토스는 핵폭탄, 제로 트러스트 전환 앞당겨야” 
[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스” (이번호)

윤두식 이로운앤컴퍼니 대표는 미토스 이후 기업 AI 보안의 핵심을 ‘거버넌스’에서 찾았다. 그가 말한 거버넌스는 추상적인 관리 체계를 뜻하지 않는다. 기업 안에서 누가 어떤 AI 모델을 쓰고, 어떤 데이터를 입력했으며, 어떤 답변을 받았는지 볼 수 있게 하는 가시성 체계에 가깝다. 여기에 민감정보 필터링, 유해 프롬프트 분류, 사용자·부서별 권한 관리, 사용량과 비용 관리, 감사 로그를 결합해야 실제 통제가 가능하다는 설명이다.

기업이 생성형 AI와 AI 에이전트를 쓰지 않을 수 없는 상황이라면, 보안 담당자는 AI 사용 흐름을 먼저 볼 수 있어야 한다. 이 흐름을 보지 못하면 민감정보 유출, 프롬프트 공격, 에이전트 권한 남용도 통제하기 어렵다.

윤 대표는 “AI 보안은 순수하게 AI 보안만으로 시장이 만들어졌다기보다, AI를 안전하게 활용하기 위한 보안 장치가 무엇인지 고민하는 과정에서 시장이 만들어지고 있다”고 말했다. 대기업은 외부 상용 AI 사용 과정에서 정보 유출을 어떻게 통제할지 고민하고 있다. 공공기관은 국가 정보를 다루는 만큼 외부 AI를 안전하게 활용할 수 있는 방식이 쟁점이다.

미토스 이후, 공격과 방어의 시간차 커진다

윤 대표는 미토스 같은 고성능 AI 모델이 앞으로 계속 나올 것으로 봤다. 문제는 정보의 비대칭, 시간의 비대칭, 공격과 방어의 비대칭이다. 공격자는 미토스급 모델을 이용해 취약점 탐지와 공격 준비를 빠르게 자동화할 수 있다. 반면 방어자는 취약점 확인, 자산 식별, 패치 적용, 영향도 검토에 시간이 걸린다.

윤 대표는 “취약점이 나온 이후 이를 이용한 공격까지의 시간이 10시간 이내로 줄어들었다는 분석도 있다”며 “방어자 입장에서는 취약점 공개 후 패치까지 90일 정도가 걸린다고 보면 시간의 비대칭성이 발생한다”고 말했다. 그는 미토스가 발견한 취약점이 공개된 뒤에야 패치를 시작하면 늦을 수 있다고 봤다.

국내 환경의 구조적 한계도 짚었다. 국내 공공과 기업 시스템은 구축 사업 형태로 맞춤 개발되는 경우가 많다. 같은 솔루션이라도 기관별로 코드가 달라지면 한 곳에서 취약점이 발견돼도 전체 고객에게 동시에 패치를 적용하기 어렵다. 유지보수 비용도 충분하지 않아 빠른 업데이트와 패치 체계를 운영하기 어렵다는 설명이다.

윤 대표는 “근본적으로는 표준화된 솔루션이나 서비스를 도입하고, 코드를 바꾸는 방식이 아니라 설정 변경으로 최적화할 수 있는 구조로 가야 한다”고 말했다. 클라우드와 서비스형 소프트웨어(SaaS), 구독형 라이선스 방식이 보안 패치와 업데이트 측면에서 유리하다는 설명이다.

AI 보안, 차단보다 가시성이 우선

윤 대표는 기업의 생성형 AI 보안을 ‘차단’만으로는 해결할 수 없다고 했다. 기업이 AI 활용을 막기만 하면 업무 효율이 떨어지고, 직원은 승인받지 않은 외부 AI를 우회적으로 쓸 수 있다. 따라서 AI를 잘 쓰게 하되 뒷단에서 안전하게 통제하는 구조가 필요하다는 설명이다.

그가 강조한 첫 과제는 ‘가시성’이다. 누가 어떤 프롬프트를 입력했고, 어떤 모델을 썼으며, 어떤 답변을 받았는지 봐야 보안 통제도 가능하다. 기존 방화벽이나 네트워크 장비는 IP나 트래픽 패턴을 보고 통제할 수 있지만, 생성형 AI 사용 과정에서 오가는 자연어의 의미와 의도까지 파악하기는 어렵다.

예를 들어 “우리 회사 사장님의 집 주소가 어디야”라는 질문에는 주민등록번호나 전화번호 같은 명확한 패턴이 없다. 그러나 답변으로 실제 주소가 나오면 민감정보 유출이 된다. 윤 대표는 “패턴 매칭으로는 잡히지 않지만 전체 맥락을 보면 민감정보를 요청하는 공격인 경우가 있다”며 “AI 보안에서는 자연어의 의도와 문맥을 분석하는 통제가 필요하다”고 말했다.

이로운앤컴퍼니의 세이프엑스(SAIFE X)도 이 방향으로 개발되고 있다. 윤 대표는 세이프엑스를 “안전한 거버넌스 위에서 사용할 수 있는 AI 활용 플랫폼”으로 설명했다. 사용자 입장에서는 챗GPT나 클로드와 비슷한 화면에서 여러 대규모언어모델(LLM)을 선택해 쓰는 멀티 LLM 서비스로 보인다. 관리자는 뒤에서 사용자별 사용량, 모델 사용 현황, 비용, 프롬프트와 응답, 가드레일 탐지 내역을 확인할 수 있다.

에이전트 시대, 질문·답변·행동을 모두 봐야

AI 에이전트는 기존 생성형 AI보다 더 큰 통제 문제를 만든다. 기존 생성형 AI는 사용자가 질문을 넣고 답변을 받는 구조였다. 실행은 사람이 결정했다. 그러나 에이전트는 답변을 다음 행동으로 이어간다. 여러 에이전트가 파이프라인처럼 연결되면 한 에이전트의 출력이 다음 에이전트의 입력이 된다. 이 과정에서 잘못된 명령이나 오인된 결과가 실제 행동으로 이어질 수 있다.

윤 대표는 “에이전트가 상용화되면 답변이 답변으로 끝나는 게 아니라 다음 에이전트의 행동으로 나타난다”며 “파이프라인의 어느 한 지점에서 문제가 생기면 전체 회사 시스템이 망가질 수 있는 이슈가 된다”고 말했다.

그래서 기업은 AI 질문과 답변의 흐름을 모두 모니터링해야 한다. 에이전트가 행동하는 주체가 되는 만큼 권한 관리도 필요하다. 어떤 사용자가 에이전트에 명령했는지, 그 에이전트가 사용자 권한을 넘어선 행동을 했는지, 어떤 결과물을 만들고 어떤 시스템을 호출했는지 기록해야 한다.

윤 대표는 에이전트를 통제하는 문제가 제로 트러스트 원칙과도 맞닿아 있다고 봤다. 그는 “AI 에이전트 자체도 사람처럼 식별해야 한다”며 “사용자의 입력을 받아 행위를 할 때 권한이 있는지, 사용자가 가진 권한을 넘어서 행동하는지, 어떤 행위를 하는지 전체 로그로 가지고 통제할 수 있어야 한다”고 말했다.

아래는 윤 대표와의 일문일답이다.

Q. 미토스 같은 고성능 AI 모델은 사이버보안에 어떤 변화를 만들까.

미토스 같은 모델은 앞으로 계속 많이 나올 것이다. 문제는 정보의 비대칭성과 시간의 비대칭성, 공격과 방어의 비대칭성이다. 공격자는 미토스 같은 모델을 이용해 훨씬 더 빠르고 많이 자동화된 공격을 할 수 있다.

취약점이 나온 뒤 이를 이용한 공격까지의 시간이 10시간 이내로 줄어들었다는 분석도 있다. 그러면 공격은 더 다발적으로 발생할 수 있다. 반면 방어자는 취약점이 나온 뒤 패치까지 시간이 걸린다. 글로벌 표준으로 보면 취약점 공개부터 패치까지 90일 정도를 얘기한다. 이 사이에서 시간의 비대칭성이 발생한다.

미토스가 발견한 취약점이 공개된 뒤 그때부터 패치를 시작하면 늦을 수 있다. 방어자도 이런 모델을 이용해 자동화하거나 분석할 수 있는 능력을 키워야 한다. 미토스 이후에는 공격자만 AI를 쓰는 것이 아니라 방어자도 AI를 써야 한다.

Q. 미토스 이후 국내 기업과 공공기관의 방어 체계에서 가장 큰 한계는 무엇인가.

국내에는 구조적 한계가 있다. 일반 기업이나 공공기관은 보통 구축 사업 방식으로 시스템을 만든다. “우리 기관에 최적화해서 만들어달라”는 방식이다. 그러면 솔루션 공급사가 여러 기관에 맞춤형으로 개발을 해주게 된다.

문제는 취약점이 나왔을 때다. 100곳에 납품했는데 각 기관에 맞게 코드가 달라져 있으면 동시에 패치하기 어렵다. 한 곳씩 가서 패치해야 한다. 유지보수 비용도 전체 구축비의 8~10% 수준인 경우가 많아, 빠르게 패치하고 계속 업데이트하기 어렵다.

이 문화가 바뀌어야 한다. 표준화된 솔루션이나 서비스를 도입하고, 기관별 요구사항은 코드를 바꾸는 방식이 아니라 설정값을 바꾸는 방식으로 적용해야 한다. 클라우드와 서비스형 소프트웨어, 구독형 라이선스 방식도 이런 이유에서 중요하다. 공급자가 계속 업데이트하고 사용자는 최신 상태를 유지할 수 있어야 한다.

Q. 미토스 이후 가장 먼저 점검해야 할 것은 무엇인가.

초단기적으로는 자산 관리가 필요하다. 각 기관과 기업은 자신들이 쓰는 정보기술(IT) 자산이 무엇인지 알아야 한다. 어떤 운영체제(OS)가 깔려 있고, 버전이 무엇인지, 그 위에 어떤 데이터베이스(DB)와 웹 서비스, 소프트웨어가 있는지 봐야 한다.

구축해둔 시스템이 무엇인지, 어떤 버전인지, 어떤 오픈소스를 사용했는지도 파악해야 한다. 그래야 취약점이 공개됐을 때 우리 조직에서 무엇을 먼저 패치해야 하는지 우선순위를 정할 수 있다. 자산을 모르면 대응은 불가능하다. 취약점이 나와도 해당 소프트웨어를 어디서 쓰는지 모르면 패치 우선순위도 정할 수 없다. AI가 취약점을 빠르게 찾아내는 시대에는 자산 관리가 보안 대응의 출발점이 된다.

Q. 미토스 이후 소버린 AI와 국내 보안 AI 역량을 함께 키워야 한다는 목소리도 나온다. 어떻게 봐야 하나.

소버린 AI만 강조하는 것은 한계가 있다. 글로벌 모델과의 성능 차이가 크기 때문이다. 다만 기술 노하우를 축적한다는 차원에서는 국내 독자 모델도 필요하다. 우리도 자체적으로 만들어가야 한다.

다만 단기적으로 사이버보안에 특화된 독자 파운데이션 모델만 만들면 된다고 보기는 어렵다. 기본적으로 파운데이션 모델 자체의 능력이 좋아져야 한다. 클로드 같은 모델도 사이버보안만을 위해 만들어진 모델은 아니다. 전체 성능이 좋아지고, 코드 이해와 추론 능력이 좋아지면서 취약점 탐지 능력도 강해진 것이다.

기다릴 수만도 없다. 국내 독자 모델 성능이 올라오기 전까지는 상용 모델과 글로벌 오픈 웨이트 모델을 활용해 방어 체계를 구축해야 한다. 동시에 국내 모델을 계속 고도화해야 한다. 상용 모델과 오픈 웨이트 모델로 공백을 메우고, 국내 독자 모델이 올라오면 함께 결합하는 전략이 필요하다.

Q. 해외 AI 모델을 국내 중요 시스템에 활용할 때는 어떤 방식이 필요한가.

민감한 코드나 공공기관 정보를 해외 모델에 바로 넣을 수 있느냐는 별도 문제다. 프로젝트 글래스윙 같은 프로그램에 들어간다고 해도 공공기관이나 주요 기업이 민감 정보를 그대로 올릴 수는 없을 가능성이 크다.

가장 좋은 방법은 국내 클라우드 리전에서 미토스급 모델을 폐쇄된 환경으로 구동할 수 있게 하는 것이다. 국내 리전 안에서 샌드박스처럼 쓸 수 있다면 안전성이 높아진다. 두 번째는 글로벌 오픈 웨이트 모델을 국내 클라우드 환경에 올리고, 그래픽처리장치(GPU) 기반 샌드박스 환경을 만들어 활용하는 방식이다.

세 번째는 국내 화이트해커나 보안기업이 상용 모델을 활용해 국내 서비스의 취약점을 연구할 수 있는 환경을 만드는 것이다. 다만 공공이나 기업 서비스를 대상으로 공격 테스트를 하려면 법적 문제도 풀어야 한다. ‘정보통신망 이용 촉진 및 정보보호 등에 관한 법률(정보통신망법)’ 위반 문제가 생기지 않도록 정부나 공인된 기관이 틀을 마련해야 한다. 비용 문제도 있다. 고성능 모델을 대규모로 쓰려면 토큰 비용이 매우 클 수 있다.

Q. 생성형 AI 보안 시장의 동향을 어떻게 보고 있나.

AI 보안은 AI 동향을 먼저 봐야 한다. 지금 기업들은 AI를 많이 도입하려고 한다. 일반 기업도 그렇고 공공도 점점 그렇게 가고 있다. 그러다 보니 “AI를 어떻게 써야 하느냐”에 대한 고민이 많아졌다.

기업은 크게 두 가지로 나뉜다. 큰 기업은 외부 상용 AI를 쓰려 한다. 챗GPT나 클로드 같은 상용 AI가 워낙 빠르게 발전하기 때문에 내부에 AI를 두고 쓰는 것은 비용과 품질 측면에서 어렵다고 판단하는 경우가 많다. 다만 직원들이 외부 AI를 쓰면서 회사 정보가 밖으로 나가는 문제에 민감하다. 그래서 어떻게 모니터링하고 통제할지가 관심사다.

작은 기업은 상대적으로 자유롭게 써보자는 분위기가 있다. 공공은 국가 정보를 다루기 때문에 외부 AI를 어떻게 안전하게 쓸 수 있느냐는 고민이 크다. 국정원의 보안 가이드라인 등을 참고해 쓸 수 있는 방법을 찾는 상황이다.

AI 보안은 순수하게 AI 보안만으로 시장이 만들어졌다기보다, AI를 안전하게 활용하기 위한 보안 장치가 무엇인지 고민하는 과정에서 시장이 만들어지고 있다고 본다.

Q. 기존 보안 제품으로는 AI 사용을 통제하기 어렵나.

네트워크 방화벽처럼 트래픽이 들고 나는 것을 통제하거나 모니터링하는 제품은 이미 많이 들어가 있다. IP를 막거나 트래픽 패턴을 보고 차단하는 방식이다. 하지만 AI 오남용을 막는 시장은 이제 시작 단계다. 담당자들도 필요성은 어렴풋이 알지만, 실제로 어떻게 해야 하는지는 고민이 많은 상황이다.

AI는 자연어로 정보가 오간다. 기존 패턴 매칭만으로는 한계가 있다. 예를 들어 개인정보처럼 명확한 패턴은 탐지할 수 있다. 하지만 민감정보를 끌어내기 위해 여러 프롬프트를 조합하는 공격은 다르다. 문장 자체에는 민감한 단어가 없을 수 있지만 전체 맥락을 보면 민감정보를 요구하는 공격일 수 있다.

예를 들어 “우리 회사 사장님의 집 주소가 어디야”라는 질문 자체에는 주민등록번호 같은 명확한 패턴이 없다. 하지만 답변으로 실제 집 주소가 나오면 민감정보 유출이 된다. 회사 내부 문서나 데이터를 연결한 AI에서도 비슷한 일이 생길 수 있다. 이런 공격은 패턴 기반 탐지만으로는 막기 어렵다.

Q. 기업이 AI 보안에서 가장 먼저 세워야 할 체계는 무엇인가.

가장 먼저는 ‘거버넌스‘다. 누가 어떤 프롬프트를 넣었고 어떤 답변을 받았는지 전체적으로 볼 수 있어야 한다. 가시성이 확보돼야 공격이 있는지 없는지도 판단할 수 있다.

그다음은 입력과 출력에 대한 1차 필터링이다. 확실히 공격성을 띠거나 민감한 정보가 들어간 경우는 패턴 매칭으로 걸러야 한다. 세 번째는 의도 분석과 문맥 분석이다. 패턴만으로 잡히지 않는 요청을 분류해야 한다.

거버넌스와 모니터링은 계속 병렬로 돌아가야 한다. 트래픽이 지나가면 내부에 기록을 남기고, 필터링과 분류는 별도 엔진이 처리하는 구조다. AI 보안은 차단만으로는 충분하지 않다. 사용 현황, 정책, 비용, 보안 이벤트를 같이 봐야 한다.

Q. AI 에이전트 확산으로 보안 문제는 어떻게 달라지나.

지금 국내에서는 단독형 에이전트가 많이 쓰인다. 특정 작업을 자동화하는 형태다. 글로벌 기업은 에이전트들이 서로 파이프라인 안에서 움직이는 구조를 많이 쓴다. 한 에이전트가 LLM에 요청하고 결과를 받아 다음 에이전트에 넘기면, 그 에이전트가 다시 다음 작업을 수행하는 방식이다.

이렇게 되면 문제가 달라진다. 기존 생성형 AI는 질문을 하면 답변을 하나 받는다. 실행은 사람이 결정한다. 하지만 에이전트화가 되면 답변이 다음 에이전트의 행동으로 이어진다. 받은 답변에 보안 이슈가 있는지, 다음 에이전트로 넘어갈 때 문제가 생기는지 봐야 한다.

LLM은 같은 질문에도 같은 답을 항상 주지 않는다. 파이프라인 중 한 지점에서 문제가 생기면 다음 단계에서 완전히 다른 결과가 나올 수 있다. 에이전트는 행동하는 주체이기 때문에 기업 시스템 전체가 영향을 받을 수 있다. 그래서 모든 AI 질문과 답변 파이프라인을 모니터링해야 하고, 권한 관리도 함께 해야 한다.

Q. AI 에이전트의 권한은 어떻게 관리해야 하나.

AI 에이전트는 사람이 명령한 일을 대신 수행한다. 그러면 이 에이전트가 누구의 명령을 받았는지, 어떤 권한으로 행동하는지, 사용자의 권한을 넘어서는지 확인해야 한다. 이는 비인간 신원 관리 문제와 연결된다. 사람 계정뿐 아니라 AI 에이전트 자체도 식별해야 한다.

에이전트가 사용자의 입력을 받아 어떤 행위를 할 때 권한이 있는지 확인해야 한다. 사용자가 가진 권한을 넘어서 행동하는지도 봐야 한다. 어떤 행위를 했는지 전체 로그로 남겨 통제할 수 있어야 한다.

이 문제는 제로 트러스트 원칙과도 맞닿아 있다. 제로 트러스트는 사용자, 기기, 권한, 접근을 계속 확인하는 보안 원칙이다. AI 에이전트가 업무 시스템에 들어오는 환경에서는 에이전트의 권한과 행위도 같은 방식으로 관해야 한다.

Q. 공공기관의 생성형 AI와 AI 에이전트 활용은 어떤 방향으로 가야 하나.

공공은 외부 생성형 AI를 직접 쓰기보다 중간에 보안 레이어가 있는 서비스를 이용하는 것이 더 안전하다. 공공기관은 국가 정보를 다루기 때문에 입력과 출력, 파일 업로드, 사용 이력을 관리할 수 있어야 한다.

세이프엑스도 공공 조달 시장을 우선 보고 있다. 조달청 나라장터에 등록해 공공기관이 안전하게 AI를 활용할 수 있는 환경을 제공하는 것이 단기 목표다. 대학을 포함한 공공 영역에서 안전성이 확인되면 일반 기업으로도 확산될 수 있다고 본다.

국가망보안체계(N2SF)와도 접점이 있다. 공공기관 내부에서 외부로 나오는 데이터가 보안 등급에 따라 분류되고, 그 데이터가 생성형 AI 활용 플랫폼에 도달했을 때 다시 민감정보를 걸러야 한다. 패턴 기반 분류만으로 놓칠 수 있는 민감정보를 AI 가드레일로 보완할 수 있다.

Q. 정책적으로 가장 시급한 과제는 무엇인가.

첫째는 ‘자산 인벤토리 관리’다. 각 기관과 기업이 어떤 시스템, 소프트웨어, 오픈소스를 쓰는지 알아야 취약점 공개 이후 우선순위를 정할 수 있다. 둘째는 ‘구축 중심 문화의 전환’이다. 기관마다 코드를 바꾸는 방식으로 시스템을 만들면 취약점이 나와도 빠르게 패치하기 어렵다.

셋째는 ‘AI 에이전트의 신원과 권한 관리 기준 마련’이다. AI 에이전트가 사람의 명령을 받아 행위하는 구조에서는 비인간 신원 관리, 권한 위임, 행위 로그가 필요하다. 이 부분은 제로 트러스트와도 연결된다.

넷째는 ‘공공기관이 생성형 AI를 안전하게 쓸 수 있는 통제 기준’이다. 외부 AI 사용을 무조건 막기보다 입력과 출력, 민감정보, 사용 이력, 모델 선택, 비용을 관리할 수 있는 체계를 마련해야 한다. AI를 잘 쓰게 하면서도 위험을 통제하는 방향으로 정책이 가야 한다.

Q. 이로운앤컴퍼니의 세이프엑스는 어떤 문제를 풀기 위한 플랫폼인가.

세이프엑스는 순수하게 보안만 하는 제품은 아니다. 프롬프트와 응답, 조직 권한 관리, 보안 기능이 서비스 안에 들어가 있지만, 실제로는 기업이 AI를 잘 쓸 수 있게 하는 플랫폼을 함께 제공한다.

사용자에게는 멀티 LLM 서비스처럼 보인다. 로그인하면 챗GPT나 클로드와 비슷한 화면에서 여러 모델을 선택해 쓸 수 있다. 문서 생성, 슬라이드 생성, 웹페이지 구성 같은 슈퍼 에이전트 기능도 제공한다. 사용자는 편하게 AI를 쓰고, 관리자는 관리자 화에서 사용 현황을 모니터링하고 통제한다. 비용 관리와 보안 정책 적용도 함께 한다.

정체성은 “안전한 거버넌스 위에서 사용할 수 있는 AI 활용 플랫폼”에 가깝다. AI를 잘 활용하게 하면서 뒤에서는 안전성을 보장하는 방향이다. 보안팀은 보안을 먼저 보고, IT팀은 비용 관리와 사용자 활용성을 본다. 세이프엑스는 이 두 요구를 함께 보려는 플랫폼이다.

Q. 세이프엑스의 가장 차별화된 기능은 무엇인가.

가장 중요한 것은 ‘가시성’이다. 기업은 직원들이 AI를 어떻게 쓰는지 모르는 경우가 많다. 플랫폼을 통해 누가 어떤 모델을 얼마나 썼는지, 어떤 프롬프트를 입력했는지, 어떤 응답을 받았는지 볼 수 있어야 한다.

관리자는 회사에서 쓸 모델을 선택할 수 있다. 사용량과 비용도 볼 수 있다. 어떤 부서나 사용자가 어떤 모델을 많이 쓰는지 확인할 수 있다. 가드레일에 걸린 내역도 볼 수 있다. 민감정보나 개인정보가 포함된 경우 중간에서 필터링하고, 차단할지 관리자만 볼 수 있게 검출할지 정책을 정할 수 있다.

국내 공공 환경에서 요구하는 세부 정책도 반영할 수 있다. 주민등록번호, 사업자번호, 외국인번호, IP 주소, 전화번호 같은 정보를 탐지하는 것은 물론이고, 중간 문자를 변형해 우회하려는 시도도 잡아야 한다. 예를 들어 하이픈을 점이나 공백으로 바꾸거나, 숫자를 비슷한 문자로 바꾸는 방식도 탐지 대상이 될 수 있다.

Q. 이로운앤컴퍼니의 향후 사업 방향은 무엇인가

단기적으로는 공공 조달 시장에 집중하고 있다. 공공이 안전하게 AI를 활용할 수 있는 환경을 마련하는 것이 목표다. 이후 대학과 일반 기업으로 확산하고, 일본 시장 진출도 준비하고 있다. 일본은 국내보다 시장이 크고, 현지 파트너와 일본어 프롬프트 대응 역량을 바탕으로 접근할 수 있다고 본다.

국내에도 멀티 LLM 서비스는 많다. 그러나 대부분은 API를 그대로 연결해 사용자가 입력하면 답변을 전달하는 형태에 가깝다. 세이프엑스는 멀티 LLM 활용뿐 아니라 슈퍼 에이전트와 보안 레이어를 함께 제공하는 점을 차별점으로 본다.

외부 에이전트와의 연동도 준비하고 있다. 다만 공공기관은 아직 외부 지메일, 구글 드라이브, 마이크로소프트 클라우드 같은 서비스를 모델 컨텍스트 프로토콜(MCP)로 연결해 쓰는 수요가 크지 않다. 공공은 먼저 내부 자료를 안전하게 올려 분석하고, 결과를 받는 활용 수요가 더 현실적이다.

윤두식 대표는 지란지교시큐리티를 이끌며 이메일 보안, 문서 보안, 개인정보 보호 시장을 경험했다. 현재는 이로운앤컴퍼니를 창업해 생성형 AI와 AI 에이전트 활용 과정의 보안 거버넌스 플랫폼 세이프엑스를 개발하고 있다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network