지란지교데이터, 안전한 챗GPT 활용 돕는다…‘AI필터’ 출시

챗GPT 질의 응답 내용 모니터링과 필터링 수행

데이터 보호 전문기업 지란지교데이터(대표 조원희)는 챗GPT(ChatGPT) 오남용으로 인한 기밀정보 및 개인정보 유출을 방지하기 위해 챗GPT 모니터링 기능을 포함한 인공지능 기반 데이터 보호 솔루션 ‘AI필터(FILTER)’를 출시했다고 20일 밝혔다.

챗GPT와 같은 대규모언어모델(LLM) 기반 생성형 인공지능(AI) 서비스는 학습된 데이터를 기반으로 사용자 질문에 답변한다. 특히 사용자의 질문과 답변에 대한 평가를 학습함으로써 답변 수준을 지속적으로 높이는 것이 특징이다. 하지만 사용자의 질문을 학습한다는 점에서 기업의 기밀정보가 학습돼 불특정 다수에게 공개될 수 있다는 우려 역시 제기되고 있다.

이에 챗GPT 애플리케이션프로그래밍인터페이스(API)를 이용함으로서 업무 효율을 높이면서도 기밀정보 유출 등의 위험을 해소하려면 최소한 챗GPT로 보내는 질의와 응답 내용을 모니터링해야 한다는 게 지란지교데이터의 설명이다.

그 방안으로 지란지교데이터는 데이터 보호를 위해 15년 이상 쌓은 요소기술을 집약해 발빠르게 이번 AI 기반 데이터 보호 솔루션 ‘AI필터’를 선보였다.

회사측에 따르면, ‘AI필터’는 챗GPT에 입력하는 내용(프롬프트)을 모니터링함으로써 사내 기밀정보가 유출되지 않도록 방지하는 것이 가능하다. 챗GPT에 작성되는 질의와 응답 내용을 모니터링하며, 지정된 키워드나 문장 패턴 등이 탐지될 때 차단하는 기능을 제공한다.

‘AI필터’의 챗GPT 모니터링 주요기능은 ▲사내 챗GPT 인터넷 네트워크 차단 ▲회사 기밀정보 및 개인정보 보호를 위한 질의와 응답 내용 필터링 등이다. 더불어 지란지교데이터는 사내에서 챗GPT 등 생성형 인공지능 서비스는 물론, 번역 서비스에서도 기밀 및 개인정보 유출을 방지할 수 있는 업무 전용 웹포털을 개발해 제공할 예정이다.

이 제품은 API 방식으로 제공된다. 지란지교데이터의 데이터 및 개인정보 보호 제품군 ‘필터 시리즈’는 물론 협업툴, 그룹웨어 등 다양한 솔루션과 연동해 개인정보 및 기업 주요정보 유출을 방지할 수 있다.

조원희 지란지교데이터 대표는 “챗GPT로 인한 정보 유출을 방지하기 위한 가장 쉬운 방안은 챗GPT 접속을 차단하는 것이다. 하지만 이는 인공지능 기술을 활용함으로써 얻을 수 있는 업무효율성 향상 등의 이점을 포기하는 것과 같다. 단순히 차단할 것이 아니라 정보를 보호하면서 챗GPT를 활용할 수 있는 방안을 모색해야 한다”고 강조했다.

이어 “지란지교데이터의 인공지능 기반 데이터 보호 솔루션 ‘AI필터’는 API 연동으로 다양한 솔루션에도 적용할 수 있다. 이를 챗GPT에 적용함으로써 기밀정보 및 개인정보 유출은 막고, 인공지능 서비스 활용으로 인한 이점은 모두 누릴 수 있을 것”이라고 덧붙였다.

글. 바이라인네트워크
<이유지 기자>yjlee@byline.network