이로운앤컴퍼니, 생성AI 탈옥 공격 대응력 강화…숭실대와 공동연구 성과

생성형 인공지능(AI) 보안 기업인 이로운앤컴퍼니(대표 윤두식)는 자사 AI 보안연구소가 숭실대학교 AI 안전성 연구센터와 공동개발한 생성형 AI ‘탈옥 공격(Jailbreak Attack)’ 대응 기술을 자사의 AI 보안 솔루션인 ‘세이프엑스(SAIFE X)’에 탑재했다고 18일 밝혔다.

이로운앤컴퍼니와 숭실대가 개발한 기술은 ‘TAPD(Two-Axis Pre-Detector)’로, 이로운앤컴퍼니로 기술이전이 완료돼 기존 세이프엑스(SAIFE X) 솔루션에 통합됐다.

회사측에 따르면, 이번에 세이프엑스에 탑재된 TAPD 기술은 기존 AI 보안 솔루션의 한계를 극복한 혁신적인 접근법이다. 이 기술은 단순히 ‘위험’과 안전’을 이분법적으로 판단하는 대신 ‘유해성’과 ‘탈옥성’을 별도로 평가해 더 정밀한 보안 판단이 가능하다. 특히 ‘나빠 보이지만 안전한 템플릿(LUBS, Look like Unsafe But Safe Template)’ 기술을 적용해 정상 사용자 요청의 과잉 차단 문제를 획기적으로 해결했다.

이로운앤컴퍼니는 “전체 평균 정확도 86%로 글로벌 수준의 보안 기술을 구현했으며, 실시간 서비스 환경에서도 응답 지연율이 0.2% 미만으로 사용자 경험을 저해하지 않는다”라면서 “이번 기술 적용으로 세이프엑스는 특히 한국어 환경에서 97.88%의 탁월한 탐지 성능을 확보했다. 이는 국내 AI 서비스 시장에서 세이프엑스의 경쟁력을 한층 강화할 것으로 기대된다”고 설명했다.

이로운앤컴퍼니는 강화된 세이프엑스를 통해 금융, 의료, 공공 등 보안이 중요한 산업 분야의 고객 확보에 주력할 계획이다. 또한 숭실대학교 등 국내 유수의 대학 들과의 공동연구를 지속해 AI 보안 기술의 진화에 발맞춘 솔루션 고도화를 추진할 예정이다.

윤두식 이로운앤컴퍼니 대표는 “이번 기술 통합은 세이프엑스의 보안 성능을 한 단계 높이는 중요한 진전이다. 사용자 경험을 해치지 않으면서도 더욱 강력한 보안을 제공할 수 있게 됐다”라면서 “숭실대학교와의 지속적으로 협력해 앞으로도 AI 보안 기술의 혁신을 선도해 나갈 것”이라고 강조했다.

숭실대학교 AI 안전성 연구센터의 최대선 교수(센터장)는 “산학 협력의 성과가 실제 시장에서 활용되는 제품에 성공적으로 통합된 것은 큰 의미가 있다”며 “앞으로도 급속히 발전하는 AI 위협에 대응할 수 있는 선제적 보안 기술 개발에 주력할 것”이라고 밝혔다.

글. 바이라인네트워크
<이유지 기자>yjlee@byline.network