소프트프릭, AI 프라이버시 취약점 진단 핵심 기술 5건 특허 출원

소프트프릭(대표 김동철)은 인공지능(AI) 모델에서 발생하는 프라이버시 취약점을 체계적으로 진단하고 방어 조치까지 자동화하는 핵심 기술 5건을 특허 출원했다고 21일 밝혔다.

이번 기술은 ▲생성형 AI 모델이 학습 과정에서 프라이버시 정보를 활용했는지 ▲응답 생성 중 민감 정보가 노출될 가능성이 있는지 ▲악의적인 프롬프트 기반 공격이 발생할 가능성은 없는지 등을 사전에 점검해 개인정보 유출을 막도록 설계됐다. 이를 통해 AI 활용 전 과정에서 발생할 수 있는 개인정보·민감 정보 노출을 선제적으로 차단하는 것이 가능하다는 것이 회사측 설명이다.

생성형 AI 확산 이후 학습 데이터와 응답 생성 단계에서의 프라이버시 위험이 커지며, AI 보안 시장에서는 예방 중심 대응이 중요 과제로 떠올랐다. 소프트프릭은 이번 출원이 AI 전반의 개인정보 보호 체계 강화에 기여할 것으로 기대하고 있다.

소프트프릭이 출원한 기술은 AI 모델 내부의 개인정보 노출 가능성을 다각도로 진단하는 데 초점을 맞춘다. 먼저 모델이 학습 과정이나 응답 생성 과정에서 프라이버시 정보를 사용했는지 자동으로 점검하고 방어 조치를 수행하는 진단 시스템이 포함된다. 여기에 모델 출력에 개인식별정보가 섞여 있는지를 살펴보기 위한 테스트 프롬프트를 자동으로 생성하는 기술, 특정 개인의 정보가 실제 학습 데이터로 사용됐는지를 분석하는 멤버십 추론 기술(모델이 특정 데이터를 기억하고 있는지 판별하는 방식), 텍스트·이미지 입력을 함께 활용해 멀티모달 모델의 개인정보 노출 여부를 점검하는 기술 등이 함께 출원됐다.

또 다양한 공격 시나리오를 자동 구성·실행해 모델 취약점을 효율적으로 진단하는 공격 자동화 기술을 포함해 실제 운영 환경에서 발생 가능한 프라이버시 위험을 폭넓게 평가할 수 있는 기반을 갖췄다.

김동철 소프트프릭 대표는 “AI 모델이 개인식별정보와 민감 정보를 포함할 위험이 기하급수적으로 커지고 있어 프라이버시 보호는 이제 AI 시대의 가장 중요한 안전 기준이 되었다”며 “이번 특허 출원으로 API 보안을 넘어 AI 보안 영역에서도 기술 경쟁력을 확보했으며, 공공·기업 고객에게 더 안전한 AI 활용 환경을 제공하겠다”고 설명했다.

소프트프릭은 이번 특허를 기반으로 AI 프라이버시 진단 솔루션 고도화와 자동화 기술 개발을 이어가며, 생성형 AI 도입이 확대되는 산업 전반에서 보안 리스크를 최소화하는 데 속도를 낼 계획이다.

글. 바이라인네트워크
<곽중희 기자> god8889@byline.network