소프트프릭, AI 취약점 진단·행위 통제 특허 2건 등록

소프트프릭(대표 김동철)은 인공지능(AI) 모델의 프라이버시 취약점을 진단하는 기술과 AI 게이트웨이의 보안 제어 기술에 관한 특허 2건을 등록했다고 12일 밝혔다.

등록한 특허는 ‘인공지능 모델의 프라이버시 취약점 진단을 위한 멀티 모달 공격 방법’과 ‘AI 게이트웨이가 실행하는 프롬프트 및 시스템 행위에 대한 보안 제어 방법’이다. 각각 AI 모델의 민감정보 노출 가능성을 점검하고 AI 에이전트의 시스템 이용을 통제하는 기술이다.

프라이버시 취약점 진단 기술은 텍스트와 이미지 등을 함께 처리하는 멀티모달 AI 모델을 대상으로 한다. 여러 입력 형태를 조합한 공격 시나리오로 모델이 민감정보를 노출하는지 확인한다. 지난해 출원한 AI 프라이버시 취약점 진단 특허 5건 가운데 하나다.

AI 게이트웨이 보안 제어 기술은 AI와 기업 시스템 사이에서 프롬프트와 시스템 이용 행위를 보안정책에 따라 통제한다. 프롬프트는 AI에 전달하는 질문이나 지시를 뜻한다. 기업은 이 기술로 AI 에이전트의 접근 권한과 데이터·시스템 이용 행위를 관리하고 추적할 수 있다.

소프트프릭은 애플리케이션 프로그래밍 인터페이스(API) 관리·보안 분야의 인증과 권한 확인, 접근제어 기술을 바탕으로 대규모언어모델(LLM) 게이트웨이와 AI 게이트웨이를 개발하고 있다. API는 서로 다른 프로그램이 데이터나 기능을 주고받는 연결 통로다.

이번 특허 기술은 취약점 진단 솔루션 ‘파바타(F-Avata)’와 개발 중인 LLM·AI 게이트웨이에 단계적으로 적용할 계획이다. 현재 제품화를 위한 기술 검증을 진행하고 있다. 별도로 LLM이 보안 가이드라인을 분석해 점검 규칙과 진단 스크립트를 자동 생성하는 기술도 특허 출원하고 파바타와의 연계를 추진하고 있다.

김동철 소프트프릭 대표는 “방어에도 AI를 적극 활용하는 동시에, 기업이 사용하는 AI의 안전성을 검증하고 접근과 행위를 통제해야 한다”고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network