“믿을 수 있는 AI 팀원 만들려면”…라온시큐어가 제시한 5가지 조건

AI 에이전트가 실제 팀원처럼 일하려면 단순히 똑똑하기만 해서는 부족하다. 누구의 지시를 받는지, 어떤 데이터까지 볼 수 있는지, 어디까지 행동할 수 있는지 점검하고, 문제가 생기면 즉시 멈추거나 추적할 수 있어야 한다. 이런 ‘믿을 수 있는 AI 팀원’을 구현하기 위해 내놓은 플랫폼이 바로 라온시큐어의 ‘원AI(ONE AI)’다.

라온시큐어(대표 이순형, 이정아)는 지난 달 30일 서울 여의도 페어몬트 앰배서더 서울에서 열린 ‘2026 시큐업 & 해커톤’에서 에이전틱 AI 보안 플랫폼 ‘원AI’를 공식 출시했다. 원AI는 AI의 신원과 권한을 관리하고 행동과 데이터 접근을 통제하는 데서 출발해, AI를 활용한 자율방어와 모의침투까지 5개 축으로 구성했다.

라온시큐어가 말하는 ‘믿을 수 있는 AI’는 시키는 일을 무조건 하는 AI가 아니다. 정해진 신원과 권한, 데이터 접근 범위, 보안 정책 안에서 자율적으로 움직이는 AI다. AI가 스스로 판단하고 행동하는 범위가 넓어질수록 이를 통제하고 추적하는 장치가 더 중요하다는 것이 회사측 설명이다.

김태진 라온시큐어 전무(CTO)는 “AI 전환(AX)은 기능을 도입하는 일이 아니라 신뢰를 기반으로 자율성을 설계하는 일”이라며 “질문도 ‘AI를 어디에 쓸 것인가’가 아니라 ‘AI에게 어떻게 믿고 어디까지 맡길 것인가’로 바뀌어야 한다”고 말했다.

라온시큐어는 AI 활용 수준을 보조→위임→자율→에이전트 생태계 등 4단계로 구분했다. 초안을 만들어 주는 AI라면 사람이 마지막에 확인하면 된다. 하지만 AI가 직접 메일을 보내거나 기업 시스템에 접속하고, 다른 AI에 업무를 다시 맡기는 단계로 가면 얘기가 달라진다. 자율성이 넓어질수록 신원과 권한, 행동을 관리하는 장치도 더 촘촘해져야 한다는 게 라온시큐어의 판단이다.

AI 팀원에게 물어야 할 5가지

라온시큐어는 AI에 업무를 맡기기 전에 기업이 답해야 할 질문을 크게 5가지로 봤다.

먼저 ‘이 AI가 누구의 것인가’를 확인해야 한다. 이어 어떤 데이터까지 볼 수 있는지, 무엇을 어디까지 할 수 있는지 정해야 한다. 실제 행동이 허용된 범위를 벗어나지 않는지도 통제해야 한다. 마지막으로 사고가 발생하면 어떤 근거로 판단하고 무엇을 실행했는지 추적할 수 있어야 한다.

김 전무는 “AI 에이전트에 신원을 부여한 뒤 데이터의 분류·등급화, 정책과 거버넌스, 실행 통제, 감사·추적 체계를 연결해야 한다”고 설명했다. 이런 장치 없이 AI 에이전트부터 업무에 투입하면 통제하기 어려운 위험이 생길 수 있기 때문이다.

라온시큐어는 이를 ▲AI 신원 관리 ▲AI 행동 통제 ▲AI 데이터 관리 ▲AI 자율방어 ▲AI 모의침투라는 5개 축으로 나눠 원AI 플랫폼에 구현했다. 각각 ‘원액세스(OneAccess)’, ‘원쉴드(OneShield)’, ‘원태그(OneTag)’, ‘원소어(OneSOAR)’, ‘원해커(OneHacker)’라는 이름을 붙였다.

AI 팀원도 ‘신분 확인’부터, 원액세스

첫 번째는 신원이다. 회사 직원도 사원증과 계정 없이 내부 시스템을 마음대로 이용할 수 없다. AI도 마찬가지라는 게 라온시큐어의 접근법이다.

원액세스는 AI 에이전트와 로봇에 고유한 디지털 신원을 부여하고 역할과 권한을 관리한다. 라온시큐어가 사람의 디지털 신원을 확인하는 데 활용해온 분산신원증명(DID) 기술을 AI로 확장했다.

먼저 AI 에이전트를 고유한 개체로 식별한 뒤 역할과 권한 범위, 유효기간 등이 담긴 증명서를 발급한다. 사람이 AI에 업무를 맡길 때는 위임 범위도 함께 전달한다. AI는 이 범위 안에서만 움직이고 권한 밖의 요청은 실행 전에 막는다.

가령 회계팀장이 회계 AI에 분기 보고서 초안 작성을 맡겼다면 회계 관련 업무와 자료에만 접근하도록 한다. 더 민감한 시스템에 접근하려면 사람에게 추가 인증을 요구할 수 있다. 위임한 권한을 회수하면 AI의 접근도 즉시 막힌다.

중요한 것은 기록이다. 어떤 사람이 어떤 AI에 무엇을 어디까지 맡겼는지 전 과정을 확인할 수 있다. 문제가 발생하면 AI의 소유자와 역할, 위임받은 권한, 실행 이력을 따라갈 수 있다.

AI가 속지 않도록 하는, 원쉴드

신분증을 가진 AI라고 항상 올바르게 행동하는 것은 아니다. 공격자가 AI 자체를 속일 수 있기 때문이다.

대표적인 공격이 ‘프롬프트 인젝션’이다. 이메일이나 문서 안에 악성 명령을 숨겨 AI가 이를 정상적인 지시로 받아들이도록 유도한다. 반대로 직원이 고객 개인정보나 기업 내부 자료를 외부 AI에 그대로 입력하면서 정보가 빠져나갈 수도 있다.

원쉴드는 사용자와 대규모언어모델(LLM), AI 에이전트 사이에서 오가는 내용을 검사하는 보안 가드레일이다. 개인정보와 공격 프롬프트, 탈옥 공격, 유해 콘텐츠 등을 확인하고 정책에 따라 가리거나 차단한다.

모든 요청에 무거운 AI 모델을 사용하는 방식도 피했다. 먼저 가벼운 분류 모델이 요청을 검사하고, 의심되는 내용만 소형언어모델(SLM) 등으로 다시 판단한다.

기업이 허용한 AI 밖에서 일어나는 사용도 고려했다. 직원이 외부 생성형 AI를 사용할 경우 보안 브라우저를 통해 입력·출력뿐 아니라 화면 캡처와 복사, 파일 전송 등을 정책에 맞춰 관리하는 구조다.

공격 기법이 계속 바뀐다는 점도 반영했다. AI가 공격 프롬프트를 만들어 원쉴드를 시험하고, 방어를 빠져나간 사례를 다시 학습에 활용하는 방식으로 공격과 방어를 반복한다. 원쉴드의 목적은 AI 사용을 막는 게 아니라 사용 범위를 넓히면서 위험한 행동만 걸러내는 데 있다.

AI에게 아무 문서나 보여주면 안 돼, 원태그

다음은 데이터다. 회사 시스템에 접근할 수 있는 직원이라도 모든 기밀문서를 열람할 수 있는 것은 아니다. AI에도 같은 원칙을 적용해야 한다.

원태그는 기업 문서를 분석해 보안 등급을 결정하고 라벨을 붙이는 데이터 관리 제품이다. 단순히 특정 단어가 들어갔는지만 보는 것이 아니라 문서의 맥락과 기업 내부 규정, 관련 기준을 함께 살펴본다.

문서가 들어오면 의미와 민감정보를 분석하고 사내 규정과 대조한다. 이후 비밀·민감·공개 등 기업이 정한 체계에 맞춰 등급을 정하고, 왜 그 등급으로 판단했는지 근거도 제시한다.

최인규 라온시큐어 프로는 “원태그는 단순한 문서 분류·라벨링 도구가 아니다”며 “AI가 안전하게 일할 수 있는 조건을 만드는 데이터 거버넌스 레이어 제품”이라고 설명했다.

문서의 등급과 관련 정책은 메타정보로도 남길 수 있다. 기존 데이터유출방지(DLP)나 디지털저작권관리(DRM) 같은 보안 제품과 연동해 AI가 해당 문서를 읽거나 외부로 보낼 수 있는지 판단하는 기준으로 활용한다. 외부 반출 시 민감정보를 가린 사본을 만드는 기능도 제공한다.

지시 없이도 알아서 대응하는 보안 AI, 원소어

AI 팀원이 정해진 업무를 스스로 처리하는 것처럼 보안 AI도 단순히 경고만 보내는 단계에서 실제 대응으로 넘어간다.

원소어는 보안 오케스트레이션·자동화·대응(SOAR)에 에이전틱 AI를 결합한 제품이다. 기존 SOAR가 사람이 미리 정한 시나리오를 따라 움직였다면 원소어는 AI가 자연어 명령이나 보안 이벤트를 분석하고 정책에 맞는 대응을 판단한 뒤 실제 조치까지 수행하는 구조다. AI 에이전트가 전체 업무 흐름을 조율하고 LLM이 사용자의 의도와 위험도를 분석한다. 내부 보안정책과 대응 지식을 참고해 결정을 내린 뒤 계정과 인증, 권한관리 시스템 등에 결과를 반영한다.

예를 들어 관리자가 새로운 직원의 입사 처리를 자연어로 요청하면 AI가 직무 정책을 확인해 필요한 권한을 정한다. 이후 계정을 만들고 다중요소인증(MFA)을 등록하는 등 정해진 절차를 실행한다. 모든 처리 과정은 감사 기록으로 남는다.

보안 사고에도 같은 방식이 적용된다. 퇴사자의 접근키를 이용해 해외 인터넷주소(IP)에서 대량의 데이터를 조회하는 행위가 발견되면 AI가 정책을 확인해 비인가 접근 여부를 판단한다. 이후 세션 종료와 접근키 폐기, 계정 잠금 같은 조치를 수행하는 식이다.

‘AI 해커가 직접 뚫어서 점검한다’…원해커

신원과 권한을 관리하고 행동을 통제했다고 끝나는 것은 아니다. AI가 접근하는 기업 시스템 자체가 뚫릴 수 있다면 공격자는 다른 길로 들어올 수 있다.

원해커는 AI가 공격자의 관점에서 실제 침해 가능성을 확인하는 모의침투 플랫폼이다. 기존 취약점 진단이 알려진 문제를 찾아 목록으로 정리하는 방식에 가깝다면 원해커는 AI가 정찰부터 공격 표면 분석, 공격 가설 생성, 검증, 보고까지 수행한다. 규칙 엔진이 알려진 취약점을 찾고 LLM은 시스템 맥락을 바탕으로 새로운 공격 가능성을 추론한다. 이후 실제 요청을 보내 가설이 맞는지도 확인한다.

목표는 많은 취약점을 찾아내는 것이 아니라 실제로 침투 가능한 취약점과 공격 경로를 찾아 대응 순서를 정하는 것이다. 한 번의 진단으로 끝내지 않고 환경이 바뀔 때마다 공격 경로를 다시 확인하는 하는 것이 원해커의 검증 방식이다.

그렇다고 AI 해커에게 모든 공격을 맡기지는 않는다. 실제 서비스에 영향을 줄 수 있는 공격처럼 중요한 판단에는 화이트해커가 개입하도록 했다. AI 공격 도구 역시 통제 대상이라는 의미다. 공격 단계에는 공통 안전장치를 두고 모델이 사용할 도구와 범위도 조정한다.

AI를 보호하고, 다시 AI로 보호한다

원AI의 핵심은 5개 제품을 하나의 플랫폼 안에서 유기적으로 연결했다는 점이다. 각 기업에서 일하는 방식에 맞춰 각 AI 시스템을 하나의 흐름 안에서 통제한다.

라온시큐어는 이를 ‘AI 위드 시큐리티(AI with Security)’와 ‘시큐리티 위드 AI(Security with AI)’라는 두 방향으로 설명했다. 전자는 AI 자체에 보안을 넣는 개념이다. AI의 신원과 권한, 입출력, 데이터 접근을 통제한다. 후자는 AI를 보안 업무에 활용해 위협을 분석하고 대응하거나 실제 공격 가능성을 검증하는 개념이다.

실제 업무에서는 원액세스가 AI의 신원과 권한을 확인하고, 원쉴드가 LLM과 주고받는 내용을 검사한다. 원태그는 AI가 접근하려는 데이터의 보안 등급을 판단한다. 원소어는 기업 보안 시스템을 연결해 위협 대응을 수행하고 원해커는 인프라의 취약점과 공격 경로를 지속적으로 검증한다.

김 전무는 원액세스를 신원 계층, 원쉴드를 AI 에이전트 계층, 원태그를 데이터 거버넌스 계층으로 구분했다. 원소어와 원해커는 기업 인프라를 방어하고 검증하는 영역을 맡는다. 제품은 나뉘어 있지만 기업에 적용할 때는 하나의 생애주기로 연결한다는 설명이다.

‘얼마나 많이 시키나’보다 ‘얼마나 믿고 맡길 수 있느냐’가 중요

라온시큐어가 원AI를 통해 강조한 것은 AI에 최대한 많은 일을 넘기는 것이 아니다. 기업이 책임질 수 있는 범위 안에서 얼마만큼의 자율성을 허용할 것인지 먼저 정해야 한다는 점이다.

AI가 초안을 만드는 단계라면 사람의 확인으로 상당 부분을 통제할 수 있다. 하지만 AI가 업무를 넘겨받아 직접 실행하고, 스스로 판단하거나 여러 에이전트끼리 협업하기 시작하면 신원과 데이터, 정책, 실행, 감사 체계가 함께 필요해진다.

김 전무는 AI가 반복 업무를 자율적으로 처리하더라도 사람은 목표를 정하고 예외 상황을 판단하며 고액·고위험 업무를 승인하고 결과에 대한 책임을 맡아야 한다고 설명했다.

그는 “AI 퍼스트 기업의 출발점은 큰 모델이 아니라 더 안전하게 허용할 수 있는 자율성”이라고 강조했다. AI를 더 똑똑하게 만드는 것만큼 어디까지 믿고 일을 맡길 수 있는 AI로 만들 것인가가 기업의 다음 과제라는 얘기다.

라온시큐어의 ‘시큐업’은 올해로 14회째를 맞았다. 올해 행사는 ‘Make Agentic AI Fun and Secure’를 주제로 기업과 공공기관, 금융권, 학계 관계자들이 참여해 에이전틱 AI의 보안과 신뢰, 인증 기술을 다뤘다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network