파수AI “회사가 사용 금지해도 직원 77.3%가 개인 계정 AI 사용”

파수AI(대표 조규곤)는 국내 기업·기관의 인공지능(AI)·IT·보안 담당자 151명을 대상으로 생성형 AI 사용 실태를 조사한 결과를 담은 ‘통제 밖의 지능-국내 조직의 섀도우 AI 사용 실태와 대응 현황’ 보고서를 발간했다고 28일 밝혔다. 섀도우 AI(Shadow AI)는 조직의 승인이나 관리 없이 임직원이 생성형 AI 서비스를 업무에 사용하는 것을 뜻한다.

조사 결과 조직의 생성형 AI 사용 방식은 ‘별도 방침 없이 자율적으로 사용’이 29.1%로 가장 많았다. ‘지정된 일부 생성형 AI 서비스만 허용’은 22.5%, ‘사내에 자체 AI를 구축해 운영’은 17.9%였다. ‘원칙적으로 사용을 차단한다’는 응답은 14.6%였다.

전체 응답자의 88.7%는 업무 중 개인 계정으로 생성형 AI를 사용한다고 답했다. 생성형 AI 사용을 원칙적으로 차단한다고 답한 조직의 응답자만 따로 집계해도 개인 계정 AI 사용 비율은 77.3%였다.

개인 계정을 통한 AI 사용 현황을 파악하고 통제한다고 답한 조직은 19.2%였다. 섀도우 AI 사용에 따른 가장 큰 우려로는 ‘제3자 모델 학습에 내부 핵심 데이터 활용’이 28.3%로 가장 많이 꼽혔다. 개인정보보호법이나 유럽 일반개인정보보호법(GDPR) 등 규제 위반 우려는 24.0%, 사용 이력을 추적하기 어려워 사고 대응이 곤란하다는 응답은 23.7%였다.

섀도우 AI를 사용하는 이유로는 ‘명확한 사용 정책·가이드라인 부재’가 28.5%로 가장 많았다. ‘회사 계정·시스템에 사용 이력이 남는 것을 피하기 위해’라는 응답은 25.3%, 사내 AI의 성능이 부족하다는 응답은 19.9%였다.

리스크를 줄이기 위해 필요한 조치로는 ‘임직원이 안전하게 사용할 수 있는 사내 AI 도구 제공’이 25.7%로 가장 많이 꼽혔다. AI 사용 현황에 대한 가시성 확보가 20.6%, 명확한 사용 정책·가이드라인 수립이 18.9%로 뒤를 이었다.

손종곤 파수 AI 상무는 “이번 조사는 섀도우 AI가 금지만으로 막기 어렵다는 점을 보여준다”며 “명확한 정책과 안전한 대안을 제공하고 AI 사용 현황에 대한 가시성을 확보하는 것이 핵심”이라고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network