국내 LLM 안전성, 해외 대비 82% 수준…“AI 레드티밍 인프라 시급”

국내 대규모언어모델(LLM)이 해외 대비 약 82% 수준의 안전성을 보인다는 분석이 나왔다.

숭실대학교 인공지능(AI) 안전성연구센터는 국내외 주요 LLM 20종을 대상으로 보안성과 안전성을 비교한 결과를 공개하며 “국내 모델이 전반적으로 해외보다 낮은 수준을 기록했다”고 17일 밝혔다. 이번 분석은 과학기술정보통신부와 정보통신기획평가원이 추진하는 ‘정보보호핵심원천기술개발사업’의 연구 성과로, 지난 13일 서울에서 열린 세미나에서 발표됐다는 게 숭실대의 설명이다.

연구팀은 LLM 파라미더 12억부터 6600억 규모의 모델에 프롬프트 인젝션, 탈옥(Jailbreak), 유해 콘텐츠 생성 유도 등 총 57종의 공격 기법을 적용해 평가했다. SKT ‘에이닷 엑스(A.X)’, LG ‘엑사원(EXAONE)’, 카카오 ‘카나나(Kanana)’, 업스테이지 ‘솔라(Solar)’, 엔씨소프트 ‘VARCO’ 등 국내 모델과 챗GPT·클로드(Claude)·람마(Llama)·딥시크(DeepSeek)·오웬(Qwen) 등 해외 모델이 대상이었다. 모델을 단독형(모델만 실행)과 기업의 방어 기능이 포함된 서비스 통합형으로 나눠 평가한 점이 특징이다.

서비스 통합형에서는 클로드 소네트4가 628점으로 가장 높은 보안·안전성을 보였고, GPT-5가 626점으로 뒤를 이었다. 국내 모델 중에서는 J모델이 495점을 기록했다. 서비스 통합형 평균 점수는 해외 447점, 국내 385점으로 국내 모델은 해외 대비 약 86% 수준이었다. 단독형에서는 GPT-oss 200이 487점, 딥시크 70억이 477점으로 상위권을 차지했으며 국내 C모델은 416점을 기록했다. 단독형 평균은 해외 432점, 국내 350점으로 국내 모델은 약 81% 수준이었다. 두 형태를 종합하면 국내 모델의 상대적 수준은 약 82%로 집계됐다.

또 해외 모델은 한국어·영어 간 안전성 격차가 거의 없는 반면 국내 모델은 한국어가 더 안전하게 나타나는 언어별 편차도 확인됐다. 최대선 숭실대 AI안전성연구센터장은 “국내에서는 그동안 단순 벤치마크 중심의 평가에 머물렀고, 실제 공격 기반 보안성 검증은 충분하지 않았다”고 말했다. 이어 “경쟁력 확보를 위해 체계적 평가와 지속적인 검증, 이를 뒷받침할 기술 개발이 필요하다”고 강조했다.

박소희 교수는 글로벌 주요 기관들의 AI 안전성 평가 체계를 소개하며 “해외에서는 공격 기반 평가가 이미 제도화돼 있다”고 설명했다. 나현식 교수는 20종 모델의 상세 평가 과정과 비교 결과를 발표했다. 패널 토론에서는 산업·법제·안보·기술 분야 전문가들이 현실적 대응책을 제시했다.

이호진 씨투랩 부대표는 “오픈소스 모델 연구는 활발하지만, 실제 기업 환경에서 방어 기능까지 포함된 모델 평가가 더 의미 있다”고 말했다. 법무법인 세종 최광희 고문은 “AI 해킹 에이전트가 상시 취약점을 찾는 시대가 됐다”며 위험도가 높은 오픈소스 모델의 공개·관리 정책을 언급했다. 남기혁 AI안전연구소 실장은 “위험 범위가 너무 넓어 개별 기관이 대응하기 어렵다”며 위협정보 공유와 제3자 검증 체계 필요성을 강조했다. 이화영 사이버안보연구소 소장은 “국가 단위 복합 위협 속에서 프롬프트 인젝션 같은 구조적 취약점 공격이 더욱 위협적”이라며 외부 데이터와 시스템 권한까지 고려한 평가가 필요하다고 말했다.

최대선 센터장은 ‘AI 레드티밍 플레이그라운드’ 구축의 필요성을 강조했다. 그는 “AI는 매우 빠르게 진화하고 위협도 동시에 고도화되고 있다”며 “연 1회 인증이나 비정기 가이드라인으로는 대응할 수 없다”고 했다. 이어 “최신 공격을 지속적으로 반영하는 상시 레드티밍과 그 결과의 공유, 이를 기반으로 한 방어 기술 개발이 선순환 구조를 만들어야 한다”고 말했다. 또한 UC버클리의 레드티밍 부트캠프처럼 실전형 인재 양성 기반이 필요하다는 점도 언급했다.

좌장을 맡은 이원태 국민대 교수는 “국내에서 LLM의 보안성과 안전성을 객관적으로 비교한 첫 연구”라고 평가했다. 그는 “AI 보안 내재화를 위한 정책·기술 기반의 출발점이 될 것”이라며 “AI 기술 발전 속도를 고려하면 체계적 평가와 거버넌스 구축이 시급하다”고 강조했다.

숭실대 AI안전성연구센터는 앞으로 최신 공격 기반 동적 평가체계 구축, AI 에이전트 기반 자동화 레드티밍 기술 개발, 공격·안전성 데이터 공유 플랫폼 구축을 추진할 계획이라고 밝혔다. 또한 평가 대상을 에이전틱 AI, 멀티모달, 피지컬 AI 등으로 확대해 국내 AI 모델의 신뢰성과 안정성을 높이는 연구를 이어가겠다고 설명했다.

글. 바이라인네트워크
<곽중희 기자> god8889@byline.network