기업 생성형 AI 도입시 ‘중요 데이터 유출’ 우려, “LLM 보안 전문 솔루션 필요”

최근 챗GPT, 바드(Bard) 등 생성형 인공지능(AI) 거대언어모델(LLM)이 기업 업무 프로세스 전반을 빠르게 바꾸고 있는 가운데, 이스트시큐리티(대표 정진일)가 국내 기업 보안 담당자 및 실무자 200여명을 대상으로 생성형 AI활용 현황과 주요 우려사항에 대한 설문조사를 진행하고 그 결과를 발표했다.

설문 결과, 응답자의 절반이 이미 생성형 AI를 업무에 적용하고 있는 것으로 나타났다. 데이터 분석 및 의사결정 지원(42%), 고객 서비스(30%), 콘텐츠 생성 및 자동화(28%) 분야에서 주로 활용되고 있다. 이는 기업이 내부 데이터를 AI에 접목해 효율적으로 인사이트를 도출하거나, 고객과의 커뮤니케이션을 자동화하는데 생성형 AI를 적극 활용하고 있음을 보여준다.

LLM 도입 시 가장 큰 우려 사항으로는 민감 데이터 유출이 꼽혔다. 전체 응답자의 64.5%가 이를 가장 큰 우려로 지적했으며, 79%는 중간 이상 수준의 우려를 나타냈다. 이는 기밀 문서, 고객 정보, 소스 코드 등이 AI에 입력·학습되는 과정에서 발생할 수 있는 데이터 침해 위험이 현실적으로 크다는 것을 반영한다.

또 87%의 응답자가 LLM 보안을 위한 전문 솔루션이 필요하다고 답했다. 민감 데이터 유출 차단 기능이 가장 중요한 고려 요소로 꼽혔다. 이는 LLM 사용 과정에서 기밀 정보가 외부로 유출되지 않도록 하는 보안 수준이 무엇보다 중요하다고 여기고 있다는 것을 알 수 있는 결과다.

전체 응답자 중 58%는 생성형 AI 사용 혹은 도입을 고려하고 있으며, 필요 시 전문 보안 솔루션까지 검토하겠다고 밝혔다. 반면 24%는 내부 정책상 생성형 AI 사용을 제한 중이며, 관련 솔루션 도입 계획도 없다고 응답해, 기업별로 도입 수준에 따른 보안 대응 온도 차이가 존재함을 알 수 있었다.

아울러 AI보안 솔루션 도입 시 가장 중요한 고려 요소로, 51.8%가 ‘민감 데이터 유출 차단 기능’을 꼽았다.

이번 설문조사는 생성형 AI가 이미 많은 기업에서 업무 효율과 혁신을 이끌고 있지만, 동시에 데이터 유출과 악의적 공격 등의 새로운 위협을 만들어내고 있다는 사실을 드러낸다. 87%가 “LLM 전문 보안 솔루션이 필요하다”고 응답했으며, 가장 중요한 고려 요소로 “민감 데이터 유출 차단 기능”을 꼽았다. 이는 단순히 AI를 ‘잘 활용’하는 것을 넘어, 기업 자산을 어떻게 안전하게 지킬 것인가에 대한 해답이 필요하다는 의미이다.

그만큼 생성형 AI 시대에 기업 보안을 고민하고 있다면, 지금이 LLM 보안 전략을 구체화할 시기라고 이스트시큐리티는 강조했다. 또한 많은 기업 고객들은 LLM 보안 솔루션을 통해 보안의 사각지대를 없애고, 데이터·인력·솔루션 삼박자를 모두 점검해야 할 필요가 있다고 설명했다. 이로 인해 회사측은 기업 내 LLM 사용 시 발생할 수 있는 데이터 유출과 악성 콘텐츠 수신 위협을 탐지하고 차단하고자 차세대 보안 솔루션 ‘알약xLLM’을 개발하고, 올해 정식 출시를 앞두고 있다.

이스트시큐리티 김병훈 최고기술책임자(CTO)는 “생성형 AI의 도입은 기업의 혁신과 효율성을 크게 향상시키지만, 이에 따른 보안 위협도 가중시키며, 특히 민감 데이터의 유출 위험은 기업의 핵심 자산을 위협할 수 있는 중요한 문제”라면서, “기업들은 이러한 위험을 사전에 차단하기 위해 보안 전략을 강화하고, 최신 보안 기술을 도입하는 것이 필수적”이라고 말했다. 이어 “이스트시큐리티는 기업들이 안전하게 AI를 활용할 수 있도록 지속적으로 보안 기술을 개발 및 고도화하고, 보다 안전한 LLM사용 환경을 만들기 위해 노력할 것”이라고 밝혔다.

글. 바이라인네트워크
<이유지 기자>yjlee@byline.network

[컨퍼런스 안내]

2025 이커머스 비즈니스 인사이트 : 생존을 넘어 성장으로

일시 : 2025년 2월 18일 오후 12:30~17:30
장소 : 서울 강남구 테헤란로7길 22 ST Center (과학기술컨벤션센터) 지하 1층 대회의실 1

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다


The reCAPTCHA verification period has expired. Please reload the page.