디사일로, 피지컬 AI 보안 국책과제서 암호화 연합학습 기술 개발

디사일로(대표 이승명)는 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 지원하는 피지컬 인공지능(AI) 보안 연구개발 과제에 참여해 완전동형암호(FHE) 기반 데이터·모델 보호 기술을 개발한다고 16일 밝혔다.

이번 사업의 과제명은 ‘협업지능 시스템을 위한 피지컬AI 기반 다중 계층 보안 기술 개발’이다. 2026년부터 2030년까지 진행하며 라온시큐어가 주관한다. 센스톤, 틸론, 디사일로, 아이티스테이션, 서강대학교 산학협력단, 전북대학교 산학협력단 등 6개 기관이 참여한다.

피지컬 AI는 인공지능이 로봇이나 제조설비와 결합해 주변 환경을 인식하고 판단·행동하는 기술이다. 여러 로봇과 AI가 협업하는 제조 환경에서는 사이버 공격이나 데이터 변조가 설비 오작동으로 이어질 수 있다. 제조 공정 데이터와 AI 모델 등 기업의 핵심 정보를 보호하는 기술도 필요하다.

컨소시엄은 AI 모델 안전성 검증과 로봇·AI 에이전트의 신원·권한 관리, 데이터 보호, 운영기술(OT) 네트워크 보안 등을 연계한 다중 계층 보안체계를 개발할 계획이다.

디사일로는 이 가운데 완전동형암호를 활용한 데이터·모델 보호 기술을 담당한다. 완전동형암호는 데이터를 암호화한 상태에서 복호화하지 않고도 연산할 수 있는 기술이다. 원본 데이터를 공개하지 않고 분석 작업을 수행하는 데 활용할 수 있다.

핵심 개발 분야는 연합학습에 적용할 ‘보안 집계(Secure Aggregation)’ 기술이다. 연합학습은 여러 기관이 각자 보유한 데이터로 AI 모델을 학습한 뒤 학습 결과를 모아 공동 모델을 개선하는 방식이다. 원본 데이터를 한곳에 모으지 않아도 된다는 특징이 있다.

다만 학습 결과인 모델 업데이트에도 개별 기관의 정보가 포함될 수 있다. 디사일로는 각 기관의 모델 업데이트를 암호화해 전달하고 개별 업데이트를 복호화하지 않은 상태에서 집계하는 기술을 개발할 계획이다.

이를 통해 제조사와 공장이 공정 데이터와 제조 노하우를 직접 공유하지 않고도 AI 모델을 공동으로 개선할 수 있도록 지원한다. 기업별 모델 학습 정보와 모델 가중치 등 핵심 지식재산의 노출 위험을 줄이는 것이 목표다.

디사일로는 학습 과정에서 보호해야 할 정보와 예상 공격 방식을 정의하고 암호화·복호화 모듈과 암호문 집계 모듈을 개발한다. 정보 자체를 공개하지 않고도 특정 연산 결과의 타당성을 검증하는 영지식 머신러닝(ZKML), 보안형 가상 개발환경(eVDI)과의 연동도 추진한다.

이승명 디사일로 대표는 “제조 현장의 AI 협업이 확대되려면 기업이 축적한 공정 데이터와 노하우를 보호하면서도 함께 모델을 학습할 수 있어야 한다”며 “완전동형암호 기반 데이터 보호와 안전한 연합학습 기술을 개발해 기업이 핵심 데이터의 기밀성을 지키며 AI를 활용할 수 있는 기반을 마련하겠다”고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network