생성형 AI·스마트글래스도 수사 대상…마에스트로포렌식이 내놓은 해법

지난 5월 토익 정기시험에서는 인공지능(AI)이 탑재된 스마트글래스를 이용한 부정행위가 실제로 적발됐다. 안경에 카메라와 인공지능(AI)을 결합한 스마트글래스가 나오면서 시험 부정행위나 불법 촬영에도 새로운 수법이 등장하고 있다. 이렇게 범죄에 활용되는 기술이 달라지면서 디지털 포렌식의 분석 대상도 넓어지고 있다. 생성형 AI의 대화 기록과 스마트글래스의 촬영 흔적까지 수사 단서가 되는 이유다.

마에스트로포렌식은 13일 서울 금천구 인섹시큐리티 사무실에서 기자간담회를 열고 생성형 AI와 AI 스마트 안경에 남은 디지털 흔적을 분석하는 포렌식 솔루션을 공개했다. 이번에 선보인 제품은 ‘생성형 AI(MAESTRO WiSDOM GenAI) 포렌식’과 ‘AI 스마트 안경(MAESTRO WiSDOM AI Glasses) 포렌식’이다. 기존 통합 디지털 포렌식 플랫폼인 마에스트로 위즈덤(MAESTRO WiSDOM)의 분석 대상을 생성형 AI와 AI 스마트 안경까지 확장했다.

김종광 마에스트로포렌식 대표는 “생성형 AI 서비스는 편리하지만 범죄자들에게도 강력한 도구가 되고 있다”며 “AI 글래스 역시 장점이 많지만 범죄에 악용될 수 있어 이에 대응할 수 있는 기술이 필요하다”고 강조했다.

생성형 AI 악용 범죄, 결과물 넘어 ‘대화 기록’을 본다

최근 생성형 AI는 다양한 범죄는 물론 중범죄에도 악용되고 있다. 미국에서는 2025년 플로리다주립대 총기 난사 용의자가 범행 전 챗GPT에 총기와 탄약, 공격 시점과 장소 등을 물은 사실이 드러났다. 이외에도 딥페이크 성착취물부터 유명인을 사칭한 투자사기, 피싱에 사용할 이미지와 홍보물 제작까지 범위도 넓어졌다.

생성형 AI 서비스에는 유해한 요청을 거부하는 안전장치가 있지만 이를 우회하는 이른바 ‘AI 탈옥’도 문제가 되고 있다. 범죄자들은 표현이나 맥락을 바꾸면서 AI에게 금지된 답변을 이끌어낸다.

수법이 다양해지면서 사건을 조사해야 하는 수사기관에는 새로운 고민이 생긴다. 조작된 이미지나 가짜 홍보물 같은 결과물만으로는 누가 어떤 목적으로 이를 만들었고, 어떤 AI 서비스를 거쳐 완성했는지 확인하기 어렵기 때문이다. 마에스트로포렌식이 생성형 AI의 ‘대화 기록’에 주목하는 이유가 여기에 있다.

김 대표는 “생성형 AI 범죄에서 중요한 것은 범죄자의 의도”라며 “질의를 보면 무엇을 하려고 했는지 알 수 있다”고 말했다. 생성형 AI에 입력한 질문과 받은 답변이 범죄 의도를 파악하는 단서가 될 수 있다는 설명이다.

마에스트로포렌식의 생성형 AI 포렌식 솔루션은 용의자의 PC에 남은 웹브라우저의 사용 데이터를 모두 수집한 뒤 AI 서비스 사용 내역을 분석한다. 현재는 챗GPT(ChatGPT), 제미나이(Gemini), 클로드(Claude)를 지원한다. AI와 주고받은 대화 기록과 계정 정보, 어떤 이미지와 파일을 AI에 올렸는지, 생성하거나 내려받은 파일은 무엇인지 등을 모두 확인할 수 있다.

여러 생성형 AI를 번갈아 사용한 경우도 분석할 수 있다. 예를 들어 한 AI에서 이미지를 만든 뒤 다른 AI에 이를 넣어 홍보물이나 문서를 만드는 식이다.

마에스트로포렌식은 여러 생성형 AI에서 확보한 대화를 한 화면에서 확인하고 사건 관련 키워드를 함께 검색할 수 있도록 했다. 같은 이미지가 여러 AI 서비스에서 사용됐다면 해당 대화만 추려볼 수도 있다. 하나의 결과물이 어떤 과정을 거쳐 만들어졌는지를 확인하기 위해서다.

범죄 현장에서 데이터를 확보할 때는 ‘위즈덤 콜렉터(WiSDOM Collector)’ 기능을 활용한다. 데이터 수집에는 약 10~15분이 소요된다. 이후 포렌식 센터로 데이터를 옮겨 대화와 접속 기록, 생성·업로드·다운로드한 파일 등을 분석한다. 수사관의 수고를 덜기 위해 대화방을 자동으로 캡처하는 자동수집 기능도 넣었다. 사건과 관련된 대화는 화면 캡처나 녹화 형태로 보존할 수 있다. 다만 확보할 수 있는 데이터는 PC의 로그인 상태와 브라우저에 남아 있는 정보, AI 서비스 구조 등에 따라 달라질 수 있다.

스마트글래스, ‘언제 연결해 무엇을 찍었나’ 추적

스마트글래스는 안경에 카메라와 마이크, 스피커 등을 넣고 생성형 AI를 연결한 기기다. 사용자가 보고 있는 사물을 AI가 설명하거나 길을 안내할 수 있다. 사진과 영상을 촬영하거나 음성으로 AI에 질문하는 것도 가능하다. 시각장애인의 보행을 돕거나 물류·의료·설비 현장에서 두 손을 자유롭게 사용하면서 정보를 확인할 수 있다는 순기능도 있다.

문제는 같은 기능이 범죄에도 쓰일 수 있다는 점이다. 일단 스마트글래스는 착용하면 일반 안경과 구분하기 어렵다. 그래서 카메라와 마이크를 이용한 불법 촬영이나 녹음, 시험 부정행위뿐 아니라 기업 내부 문서나 설계도를 촬영하는 정보 유출에도 악용될 수 있다.

김 대표는 “스마트글래스 범죄 수사에서는 언제 기기를 연결했고 무엇을 촬영했는지가 중요한 단서“라고 설명했다. 현재 AI 스마트글래스는 스마트폰과 연결해 사용하는 제품이 많다. 기기와 스마트폰을 블루투스나 와이파이로 연결하고, 스마트글래스로 촬영한 사진·영상과 사용 정보 등을 스마트폰으로 옮기는 구조다. 스마트글래스가 범죄에 쓰였다면 연결한 스마트폰에도 관련 흔적이 남을 수 있다.

마에스트로포렌식의 AI 스마트 안경 포렌식 솔루션은 스마트폰에서 추출한 데이터와 연결된 스마트글래스의 모델과 일련번호, 최초 연결 시각 등을 확인한다. 어떤 스마트글래스가 해당 스마트폰과 연결됐는지를 확인해 범죄의 흔적을 찾는다.

사진과 동영상을 언제 촬영했는지도 확인할 수 있다. 스마트글래스에서 AI에 어떤 질문을 했고 어떤 답을 받았는지도 분석한다. 촬영한 사진을 소셜미디어(SNS)와 연동했다면 관련 기록도 살펴볼 수 있다.

위치정보도 활용한다. 스마트글래스로 촬영한 사진에 위치정보가 포함돼 있으면 어느 장소에서 촬영했는지 확인할 수 있다. 여러 사진의 촬영 시각과 위치를 연결하면, 범죄자의 동선도 재구성할 수 있다.

산업기밀이나 개인정보 유출을 조사하기 위한 광학문자인식(OCR) 기능도 넣었다. OCR은 사진에 포함된 글자를 문자 데이터로 바꾸는 기술이다. 예를 들어 스마트글래스로 여러 장의 문서나 설계도를 촬영했다면 수사관이 사진을 하나씩 열어보지 않아도 문자를 추출해 특정 정보가 포함됐는지 검색할 수 있다. 신분증이나 여권, 신용카드처럼 개인정보가 포함된 문서가 촬영됐는지 조사할 때도 활용할 수 있다.

김 대표는 “AI 스마트 안경에 특화한 디지털 흔적은 약 30종이다. 안드로이드와 iOS 등 모바일에서 분석하는 항목까지 합하면 500종 이상의 디지털 아티팩트를 지원한다”고 강조했다.

국내 법집행기관 공략…해외 시장 확대하고 분석 대상도 확장

마에스트로포렌식은 두 신규 제품의 주요 공략 대상으로 경찰·검찰·군 수사기관 등 법집행기관을 보고 있다. 기능의 특성상 일반 기업에 폭넓게 판매하기보다 범죄 수사와 증거 분석에 사용하는 기관을 중심으로 공급할 계획이다.

김 대표는 “경찰청 등 수사기관과도 생성형 AI의 포렌식에 필요한 기능을 논의하며 제품을 개발하고 있다”며 “실제 유사 이미지 검색 등 일부 기능에는 수사기관의 요구사항을 반영했다”고 설명했다.

해외 시장도 공략한다. 마에스트로포렌식은 미국을 비롯해 일본, 인도네시아, 캐나다, 프랑스, 베트남 등에서 현지 파트너와 판매를 추진할 계획이다. 국내보다 큰 해외 디지털 포렌식 시장을 겨냥해 자체 솔루션 사업을 확대한다는 구상이다. 김 대표는 “생성형 AI와 AI 스마트글래스에 특화한 포렌식 제품이 해외에서도 아직 찾기 어렵다”고 덧붙였다.

분석 대상도 더 넓힌다. 회사는 현재 휴머노이드 로봇과 전기차(EV)에 남은 데이터를 분석하는 포렌식 기술을 준비하고 있다.  김 대표는 “향후 스마트글래스나 자동차, 휴머노이드 등 AI와 연결되는 기기에 쌓이는 로그와 행동 정보를 분석하는 ‘풀스택 포렌식’ 체계를 갖추는 것이 목표”라고 강조했다.

마에스트로포렌식은 디지털 포렌식과 침해사고 분석 솔루션을 개발하는 국내 보안기업이다. 마에스트로 위즈덤 제품군은 윈도우·맥OS·리눅스·클라우드·모바일 등을 분석하며, 회사는 최근 생성형 AI와 AI 스마트 안경까지 제품군을 확대했다. 회사 공식 홈페이지에도 마에스트로 위즈덤 생성형 AI와 AI 글래스 제품군이 등록돼 있다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network