티오리 “AI 침투 도구 아르텍스, 안전장치 켜도 실험 데이터 삭제”

티오리(대표 박세준)는 인공지능(AI) 보안 도구 ‘아르텍스(ARTEX)’를 검증하는 실험에서 안전장치를 활성화한 상태에서도 실험용 데이터가 삭제되는 현상을 확인했다고 15일 밝혔다. 티오리는 아르텍스 등 AI 보안 도구의 동작 방식과 자체 실험 결과, 대응 방안을 담은 백서를 발간했다.

이번 분석은 지난 9월 말부터 발생한 국내 금융기관 침해사고에서 아르텍스 사용 흔적이 확인된 데 따라 진행했다. 티오리는 통제된 환경에서 아르텍스와 ‘사이버스트라이크AI(CyberStrikeAI)’를 직접 구동하고 네트워크와 서버 로그에 남는 행위 흔적을 측정했다.

티오리에 따르면 AI 보안 도구는 사람의 개입 없이 공격 계획을 세우고 도구를 실행하는 과정에서 고유한 식별 정보와 요청 순서, 빈도, 반복 양상을 남겼다. 추론을 거쳐 행동을 결정한 뒤 요청을 집중하는 특성도 나타났다.

사이버스트라이크AI가 호출한 스캐너는 20분 동안 3만2000여건의 요청을 발생시켰다. 티오리는 이러한 요청량이 대상 서비스의 가용성에 영향을 줄 수 있다고 설명했다. 가용성은 사용자가 필요할 때 서비스를 정상적으로 이용할 수 있는 상태를 뜻한다.

별도로 진행한 아르텍스 안전장치 검증 실험에서는 단순한 취약점 점검 과정에서 실험용 데이터가 삭제됐다. 대규모 언어모델(LLM) 기반 안전장치를 활성화한 상태에서도 데이터 삭제를 막지 못했다.

티오리는 분석 결과를 바탕으로 AI 도구의 공격 흔적을 식별하는 탐지 규칙 모음을 무료 공개했다. 보안 조직은 이를 관제와 사고 조사에 활용하고 사전에 정한 대응 절차와 연계할 수 있다.

백서에는 AI 보안 도구 도입 전 검토 항목도 담았다. 티오리는 검증되지 않은 오픈소스 AI 도구를 내부 운영 환경에 도입하면 데이터 유출과 시스템 장애, 데이터 삭제 등이 발생할 수 있다고 지적했다. 통제된 도구로 자사 시스템을 짧은 주기로 점검하되 서비스와 데이터를 보호할 안전장치를 갖춰야 한다는 설명이다.

박세준 티오리 대표는 “공격이 AI의 속도로 진화하는 상황에서 사람이 수작업으로 대응하는 전통적인 방어 체계는 한계에 봉착할 수밖에 없다”고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network