사명 바꾼 프라이빗AI, AI 거버넌스·위험통제 기업으로 탈바꿈

“인공지능(AI) 시대에 기업이 원하는 것은 단순한 보안 제품이 아닙니다. AI 위험과 보안 요구, 품질, 비용, 책임을 같이 관리하는 위험통제 기반의 거버넌스가 필요합니다.”

김영랑 프라이빗AI 대표는 4일 서울 반얀트리 클럽 앤 스파 서울에서 열린 ‘프라이빗 AI 테크 서밋(PRIBIT AI Tech Summit)’에서 이렇게 강조했다. 지난 7월 프라이빗테크놀로지에서 사명을 바꾼 프라이빗AI는 기존의 제로 트러스트 기술을 AI의 데이터 접근과 에이전트 실행까지 통제하는 영역으로 넓히고 있다. ‘AI 거버넌스·위험통제 기업’으로 사업 정체성을 넓힌다는 구상이다.

프라이빗AI가 이 같은 전환을 추진하는 배경에는 AI의 역할 변화가 있다. 생성형 AI가 답변을 만드는 도구를 넘어 기업 내부 데이터와 업무 시스템을 직접 호출하고 실행하는 주체로 발전하면서다. AI가 사용하는 데이터와 모델, 업무 도구가 늘수록 잘못된 실행이 업무 장애나 비용 증가, 책임 문제로 이어질 수 있다.

이런 변화에 대응하기 위해 프라이빗AI가 제시한 전략은 ‘AI의 접근과 실행 전반에 제로트러스트 원칙을 적용하는 것’이다. 사람과 단말에 적용해온 최소 권한과 접근 통제를 AI 에이전트와 데이터, 모델, 업무 도구까지 확대하는 방식이다.

프라이빗 AI 플랫폼, ‘판단-통제-업무 수행’ 3축

프라이빗AI는 AI 거버넌스·위험통제 사업의 중심에 ‘프라이빗 AI 플랫폼’을 배치한다. 이 플랫폼은 ▲위험을 분석하고 정책을 결정하는 ‘리스크 인텔리전스(Risk Intelligence)’ ▲실제 연결과 실행 경로를 통제하는 ‘패킷고 OS(PacketGo OS)’ ▲사용자가 AI 업무를 수행하는 ‘프라이빗 워크스페이스(PRIBIT Workspace)’ 3축으로 구성된다.

김 대표는 “리스크 인텔리전스가 위험을 판단하고 패킷고 OS가 접근을 통제하며 프라이빗 워크스페이스가 사용자의 업무를 수행한다”고 설명했다. 각각의 보안 기능을 따로 두는 대신 AI가 하나의 업무를 수행하는 전 과정을 연결해 그 접점을 관리하는 구조다.

‘리스크 인텔리전스’는 플랫폼의 판단 역할을 맡는다. 사용자와 단말, AI, 데이터, 업무 시스템을 자산으로 식별하고 데이터가 어디에서 출발해 어떤 모델과 도구를 거쳐 업무 시스템으로 이동하는지 분석한다. 취약점과 과도한 권한, 설정 오류를 확인한 뒤 위험 수준과 업무 영향을 바탕으로 허용 범위를 결정한다.

분석 대상은 보안 위험에 그치지 않는다. AI의 환각이나 잘못된 근거와 같은 품질 문제, 토큰·그래픽처리장치(GPU)·API 사용에 따른 비용, AI 활용이 실제 업무 성과로 이어지는지도 함께 관리한다. 프라이빗AI는 하나의 업무 단위를 기준으로 위험과 품질, 비용, 성과를 연결해 보겠다는 구상이다.

리스크 인텔리전스가 내린 판단은 패킷고 OS가 실제 정책으로 집행한다. 패킷고 OS는 사용자와 단말 상태, 업무 목적, 데이터 중요도 등을 토대로 AI가 어떤 데이터와 모델, 업무 시스템에 연결될 수 있는지 결정한다. 프라이빗AI가 기존 제로 트러스트 사업에서 확보한 애플리케이션 단위 연결·접근 제어 기술을 AI 실행 경로까지 확장하는 방식이다. 프라이빗AI는 현재 패킷고(PacketGo)를 애플리케이션과 목적지를 접속 단위로 구분해 정책을 설정하는 제로 트러스트 플랫폼으로 제공하고 있다.

통제는 AI가 업무를 실행하는 동안에도 이어진다. 위험이 커지면 권한을 축소하고 데이터 경로를 차단하거나 세션을 종료한다. 필요한 경우 ‘킬 스위치’를 이용해 AI 에이전트나 업무 도구의 실행도 중단한다. 실행 결과와 기록은 다시 리스크 인텔리전스로 보내 이후 정책을 결정하는 데 활용한다.

프라이빗 ‘워크스페이스’는 실제 AI 업무가 이뤄지는 공간이다. 조직의 내부 문서와 데이터, AI 모델, 에이전트, 업무 도구를 연결해 AI에 업무를 맡길 수 있도록 한다. 자체 AI 업무 환경이 없거나 인공지능 전환(AX)을 시작하는 조직을 겨냥한다.

김 대표는 “이미 별도의 AI 업무 환경을 구축한 기업은 인프라를 교체할 필요가 없다”며 “기존 환경에서 사용하는 모델과 RAG, AI 에이전트, 업무 기능을 유지하면서 프라이빗AI 플랫폼이 연결과 보안, 실행 통제, 감사 기능을 보완하는 방식으로 적용할 수 있다”고 설명했다.

프라이빗AI는 이 플랫폼을 통해 기업이 AI에 대한 5가지 통제권을 확보해야 한다고 봤다. ▲어떤 데이터를 어디로 보낼지 결정하는 ‘데이터 통제권’ ▲사용할 AI와 모델을 정하는 ‘모델 통제권’ ▲에이전트와 도구의 실행 범위를 정하는 ‘실행 통제권’ ▲내부·외부 GPU와 클라우드 사용 위치를 결정하는 ‘인프라 통제권’ ▲누가 무엇을 실행했는지 확인하는 ‘책임 통제권’이다.

프라이빗 AI 플랫폼은 올해까지 개발을 마친 뒤 이르면 내년 상반기 정식 출시될 예정이다.

N2SF 공공·금융시장 공략

프라이빗AI는 국가망보안체계(N2SF)를 적용하는 공공기관과 금융사를 프라이빗 AI 플랫폼의 주요 공략 시장으로 보고 있다. 두 시장 모두 AI 활용을 확대하면서 중요 데이터의 이동 경로와 AI 에이전트의 접근 권한, 실행 결과에 대한 책임을 관리해야 한다는 공통점이 있다.

특히 공공시장에서는 N2SF와 프라이빗 AI 플랫폼의 통제 방식이 맞닿아 있다. N2SF는 국가·공공기관의 업무 정보를 중요도에 따라 기밀(C), 민감(S), 공개(O) 3등급으로 나누고 등급에 따라 보안 수준을 다르게 적용하는 체계다. 기존 망분리 환경을 보완해 업무 정보의 중요도에 맞춰 인터넷 서비스를 활용할 수 있도록 하는 것이 목적이다.

프라이빗 AI 플랫폼도 데이터 중요도와 업무 목적에 따라 AI 실행 경로를 달리 적용한다. 중요도가 높은 데이터는 내부 검색증강생성(RAG)과 프라이빗 대규모언어모델(LLM)을 이용하도록 하고, 외부 AI를 활용할 수 있는 데이터는 마스킹이나 승인 절차를 거쳐 제한적으로 보낸다. 공개 정보를 사용하는 업무에서는 비용과 성능을 고려해 외부 AI 모델을 선택할 수 있다. 이 과정에서 모델만 선택하는 것이 아니라 접근 권한과 네트워크, 세션, 데이터 전송 범위, GPU, API, MCP까지 함께 통제한다.

프라이빗AI는 금융시장에서도 같은 통제 구조를 적용할 수 있다고 봤다. 금융사들이 생성형 AI와 서비스형 소프트웨어(SaaS)를 더 많이 도입할수록 데이터뿐 아니라 AI 에이전트의 권한 수준, 실행 범위와 책임까지 추적할 수 있는 기록이 필요기 때문이다.

김 대표는 프라이빗 AI 플랫폼이 최근 강조되는 ‘소버린 AI’와도 연결된다고 설명했다. 모든 AI 모델과 GPU를 기업 내부에 구축하지 않더라도 외부 AI와 클라우드를 활용하면서 데이터와 모델, 실행에 대한 최종 통제권을 기업이 유지할 수 있도록 하는 구조라는 설명이다.

김 대표는 “AI를 도입하는 것 자체보다 중요한 것은 기업이 어디까지 허용하고, 어떤 조건에서 실행할지 직접 정할 수 있는 체계를 갖추는 것”이라며 “소버린 AI 역시 외부 AI를 쓰지 않는다는 의미가 아니라 외부 기술을 활용하더라도 데이터와 모델, 실행에 대한 최종 통제권은 기업이 가져야 한다는 개념”이라고 말했다.

이어 “프라이빗AI는 AI를 막는 것이 아니라 위험은 통제하면서 활용은 더 넓힐 수 있는 실행 환경을 만드는 데 집중하겠다”며 “이를 통해 보안 기술 기업을 넘어 기업의 AI 거버넌스와 위험 관리를 지원하는 회사로 역할을 확대해 나갈 것”이라고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network