파수 “기업에 맞는 지식 학습시킨 로컬 AI 필요…정보 필터링도 필수”

“로컬 모델로 구현한 생성 인공지능(AI)이 필요합니다. 회사에 맞는, 회사만의 특수한 인텔리전스를 장착해야 합니다. 개별 기업마다의 지식을 더 잘 아는 언어 모델을 만들어야죠. 보안을 강화하는 것도 중요합니다.”

보안 기업 파수의 조규곤 대표는 19일 여의도 페어몬트 앰배서더 서울에서 개최한 연례 고객행사 ‘파수 디지털 인텔리전스 2023(FDI 2023)’에 앞서 가진 기자간담회에서 이같이 밝혔다.

조규곤 대표는 ‘챗GPT로 떠오른 생성 AI가 가져올 IT 환경의 변화와 파생될 보안 리스크’ 키노트를 통해 자사 솔루션을 기반으로 한 리스크 해결 방안을 공유했다.

현재 챗GPT를 필두로 한 생성AI는 해킹을 위한 정보 수집, 피싱 메일 본문 작성 등 사이버 위협에 활용될 거란 우려가 크다. 챗GPT 자체는 이에 대한 직접적인 답변을 내놓지 않지만, 알고리즘을 우회하는 프롬프트 엔지니어링 시도도 빈번하다.

또 빼어난 정보 수집 능력만큼이나 원 저작자의 콘텐츠를 가져와 재생산하는 일이 편해지면서 이를 둘러싼 저작권 침해 문제도 발생한다. 내가 만든 정보를 생성AI로 다시 가공해 모르는 누군가의 재산이 되는 일이 생긴다.

이에 조 대표는 ‘로컬 랭귀지 모델(Local LLM)’을 해결책으로 제시했다. 그는 “챗GPT는 누구나 쓸 수 있는 퍼블릭 모델”이라며 “이것 말고도 회사에 더 잘 맞는 랭귀지 모델을 만들어 활용해야 한다”이라고 말했다.

챗GPT같이 누구나 쓸 수 있는 생성AI를 함께 사용하되, 기업 내부의 데이터를 더 잘 학습시킨 로컬 모델로 기업 업무에 최적화한 생성AI를 구축하자는 뜻이다. 이 경우 출처가 불분명한 정보를 무단으로 가져와 생길 수 있는 저작권 이슈도 피할 수 있다.

이에 기업마다 다른 전문용어나 지켜야 할 정보를 따로 학습시켜야 한다는 게 그의 생각이다. 그는 “(생성AI) 활용을 잘하려면 회사의 지식이 더 녹아들어야 한다”면서 “결국에는 어떤 데이터를 학습시킬 것인지가 관건”이라고 강조했다.

이에 파수는 현재 내년 봄 출시를 목표로 ‘파수 AI 어시스턴트 서비스(F-PASS·Fasoo-Private AI Assistant Service)’를 개발하고 있다. 수많은 문서에서 중복된 정보를 추리거나, 최신 정보만 가려내 각 기업에 맞는 맞춤형 AI를 구축할 수 있도록 돕는 솔루션이다.

회사의 운영 정책과 콘텐츠, 언어 등을 제대로 학습시킨 로컬 생성AI를 만들어 비즈니스 효율을 높이는 게 목표다. 조 대표는 “챗GPT를 그대로 가져다 쓰는 것은 아니다. 여러 초거대 언어모델(LLM) 기반 기술을 적용할 것”이라고 부연했다.

생성AI로 발생하는 보안 위협을 막기 위해서는 문서 가상화(VCI) 기술도 도움이 된다. 문서의 사용이나 편집 이력 등을 관리하고, 암호화를 통해 중요한 정보 유출을 막는다. 또 초기 버전 문서와 최종본 등도 쉽게 체크할 수 있어 생성AI가 진짜 필요한 데이터를 학습하는 데도 도움이 될 거라는 게 조 대표의 말이다.

올해 안으로는 ‘파수 AI 프록시(Proxy)’를 선보인다. 챗GPT 같은 범용AI가 내부 정보를 무차별적으로 가져갈 수 없도록 필터링 작업을 돕는 솔루션이다. 정보 재생산에 따른 저작권 이슈나 민감한 정보가 빠져 나가는 사례를 막는 필터링이 필수라는 게 파수의 판단이다. 디지털저작권관리(DRM) 솔루션을 보유한 만큼 이를 고도화해 적용하는 방안도 고려한다. 조 대표는 “바깥으로 나가는 정보 가운데 문제가 될 수 있는 부분을 걸러내고자 한다”고 설명했다.

파수는 이미 개인정보 비식별화 솔루션 ‘애널리틱디아이디(ADID)’를 수년 간 선보이고 있다. 최근에는 AI 기반 자연어 처리 기술을 적용한 ‘파수 AIR’로 비정형 데이터 속의 개인정보를 탐지해 마스킹 하는 기능도 제공한다.이 같은 솔루션 기술을 바탕으로 민감 정보를 더 효과적으로 추려 생성AI로 인한 정보유출 문제를 줄이겠다는 게 파수의 계획이다.

한편, 파수는 앞으로 솔루션 다각화를 통해 사업성 강화도 도모한다. 조 대표는 “기존 DRM 관련 제품군을 보다 강화하고, DRM뿐 아니라 제로트러스트와 관련한 사업도 준비하고 있다”고 덧붙였다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network