“에임인텔리전스는 AI를 통제할 수 있게 만드는 회사”
[인터뷰] 유상윤 에임인텔리전스 대표
과거의 보안이 성벽을 쌓아 외부 침입자를 막는 개념이었다면, 생성형 인공지능(AI) 시대의 보안은 똑똑한 조력자가 변심하지 않도록 철저히 관리하는 ‘통제’의 영역으로 변화하고 있다. AI가 단순히 질문에 답하는 수준을 넘어 스스로 브라우저를 제어하고 결제까지 수행하는 ‘에이전틱 AI(Agentic AI)’로 진화하면서, 보안의 패러다임도 근본적인 변화를 맞이해야 할 때다.
국내에서는 이 변화를 ‘AI를 위한 보안(Security For AI)’ 사업을 하는 스타트업들이 이끌고 있다. 그중 최근에 주목받고 있는 기업이 바로 2024년 초 설립된 ‘에임인텔리전스(AIM Intelligence)’다. 에임인텔리전스라는 사명은 “AI를 조준(에임, AIM)해 통제한다”는 의미다.
에임인텔리전스의 창업자인 유상윤 대표는 아직 30세가 되지 않은 젊은 청년 리더다. 서울대학교에서 전기·정보공학을 전공했다. 대학원에서 ‘책임 있는 인공지능(Responsible AI)’을 연구하던 그는, 학문적 담론에 머물던 AI의 공정성과 프라이버시 이슈가 생성형 AI의 등장과 함께 거대한 위협으로 다가오는 것을 목격했다.
“보안이 뒷받침되지 않은 AI 자동화는 시한폭탄과 같다”는 생각은 곧 박사 과정을 중단하고 창업 전선에 뛰어드는 결단으로 이어졌다. 당시 성능 고도화에만 매몰돼 보안을 간과하던 AI 시장에서, 그는 ‘통제 가능한 AI’를 떠올렸다.
AI가 인류의 위협이 되지 않도록 날카로운 창(레드티밍)으로 취약점을 찾아내고 견고한 방패(가드레일)로 이를 차단하는 솔루션을 만드는 에임인텔리전스. 그 전략을 유 대표에게 직접 들어 봤다.
AI는 스스로 판단하는 ‘행위자’…공격은 빠르게 진화할 것
Q. 에임인텔리전스를 단순히 ‘AI 보안 기업’으로 정의하기엔 지향점이 독특해 보인다. 회사의 정체성을 어떻게 정의하고 있나?
“에임인텔리전스는 ‘AI를 활용해 보안을 하는 회사’가 아니라, ‘AI라는 존재 자체를 통제 가능하게 만드는 회사’라고 정의하고 있다. 지금 시장은 AI를 얼마나 더 잘 쓸 것인가에만 매몰되어 있지만, 실제로 AI가 무엇을 보고 어떤 출력을 내며 어디까지 행동할 수 있는지에 대한 관리 체계는 아직까지 많이 뒤쳐진 상태다.
앞으로 AI는 챗봇을 넘어 업무를 스스로 수행하는 에이전틱 AI, 나아가 로봇과 결합한 ‘피지컬 AI(Physical AI)’로 발전할 것이다. 이 가파른 발전 속도와 보안 기술 사이의 위험한 간극을 메우는 역할을 하고자 한다. 처음부터 국내가 아닌 글로벌 표준을 타깃으로 삼은 이유이기도 하다.”
Q. 최근 사이버 공격자들이 AI를 활용하는 방식이 매우 정교해졌다. 현장에서 느끼는 위협의 양상은 어떤가?
“공격자들은 규제나 내부 정책의 제약 없이 AI를 실험하고 악용한다. 반면 방어자들은 여러 제약 조건 때문에 AI 활용에 보수적일 수밖에 없다. 현재 구조는 공격자가 압도적으로 유리한 상황이다.
특히 최근 등장한 ‘멀티턴 탈옥(Multi-turn Jailbreak)’ 공격은 매우 치명적이다. 공격자가 한 번에 뚫으려 하지 않고, 여러 차례 대화를 주고받으며 AI의 안전 로직을 무력화하는 방식이다. ‘탈옥’은 단순히 AI 시스템의 잠금을 해제하는 차원을 넘어 AI가 가지고 있는 도덕적·윤리적 억제력을 무력화해 악성 행위를 하게 만드는 공격 방식을 뜻한다.
저희(에임인텔리전스)의 자체 레드티밍 결과에 따르면, 현존하는 AI 모델 중 가장 안전하다고 알려진 엔트로픽의 소넷 4.5 같은 모델조차 단 10분 만에 탈옥할 수 있었다. 이제는 모델 자체의 안전성을 넘어 서비스 단계에서 실시간으로 이를 점검하고 통제할 수 있는 전용 기술이 반드시 병행돼야 한다.”
생성형 AI 시대의 3대 위협: 간접 인젝션, 브라우저 AI, 그리고 탈옥
Q. 생성형 AI 서비스에서 특히 주의해야 할 공격 유형이 있다면 무엇인가?
“가장 위험한 것 중 하나가 ‘간접 프롬프트 인젝션(Indirect Prompt Injection)’이다. 사용자가 직접 악성 명령을 내리는 게 아니라 AI가 신뢰하고 읽어오는 외부 데이터(웹페이지, 오디오, 이미지 등) 속에 공격 명령을 숨겨두는 방식이다.
예를 들어, 요즘은 AI가 텍스트 외에도 이미지나 음성 같은 수많은 데이터를 다룬다. 만약 이미지 URL 뒤에 민감정보를 유출하라는 명령어를 심어두면, AI가 해당 이미지를 불러오는 동시에 사용자의 주민번호나 대화 내역을 공격자의 서버로 전송하게 된다. 사용자는 꽃 그림을 보고 있을 뿐이지만 뒤에서는 정보가 줄줄 새게 되는 것이다.
또한 최근 ‘브라우저 AI’ 자체를 악용하는 사례도 늘고 있다. 구글이나 마이크로소프트가 도입한 브라우저 AI 에이전트는 결제 정보나 계정 권한까지 가질 수 있다. 공격자는 악성 웹사이트를 통해 AI가 사용자의 카드 번호나 결제 정보를 유출하도록 유도한다. AI가 사용자 브라우저의 메모리에 직접 접근할 수 있기 때문에 생기는 보안 허점이다.”
에임 레드와 에임 가드, 창과 방패의 유기적 선순환
Q. 에임인텔리전스는 이러한 위협에 구체적으로 어떤 기술을 바탕으로 대응하고 있나?
“‘에임 레드(AIM Red)’와 ‘에임 가드(AIM Guard)’라는 투 트랙 솔루션을 통해 ‘엔드 투 엔드(End-to-End)’ 방식의 AI 보호 체계를 갖추고 있다.
첫 번째인 ‘에임 레드’는 사람이 아닌 공격용 AI 에이전트가 실제 해커처럼 기업의 서비스를 정밀 타격한다. 직접 개발한 ‘에임 스팅어(AIM Stinger)’ 엔진은 GPT-4o 같은 최상위 모델에서도 100% 이상의 공격 성공률을 기록할 정도로 날카롭다. 텍스트뿐만 아니라 비디오 취약점을 찾는 ‘SceneSplitting’, 오디오 보안을 점검하는 ‘WHISPERINJECT’ 등 멀티모달 기술력도 보유하고 있다.
두 번째, ‘에임 가드’는 실시간 AI 방화벽이라고 볼 수 있다. 입력과 출력의 모든 단계에서 유해 행위를 차단한다. 특히 출력 단계에서 AI의 환각(할루시네이션) 현상을 검증해 금융 수치 같은 민감 데이터의 무결성도 보장한다.
마이크로소프트의 애저나 아마존웹서비스(AWS)의 가드레일 솔루션과 비교했을 때도 한국어 정탐율에서 압도적 우위를 점하고 있음을 여러 고객사와의 공동 연구를 통해 입증해냈다. 레드티밍으로 발견한 취약점을 즉각 가드레일 방어 로직에 반영하는 이 강력한 선순환 루프가 저희만의 핵심 경쟁력이라고 생각한다.”
규제를 기회로, 내년 매출 4배 성장 목표
Q. 국내외 AI 보안 시장의 흐름과 향후 사업 성과는 어떻게 전망하고 있나?
“국내는 내년부터 AI 기본법 시행과 함께 금융, 헬스케어 등 규제 산업을 중심으로 시장이 빠르게 형성될 것으로 보인다. 최근 한국인터넷진흥원(KISA) 등이 발간한 민간 AI 보안 가이드에도 자문으로 참여했다. AI 서비스에 대한 보안의 중요성이 더욱 커지고 있다.
특히, 미국 등 글로벌 시장은 국가 안보와 미성년자 보호라는 관점에서 보안에 대한 요구가 더 엄격해지고 있다. 지난 10월에는 두바이에서 열린 GITEX Supernova Challenge에 참가해 전 세계 2000개 스타트업 중 1위를 차지하기도 했다. 이런 환경 속에서 AI를 위한 보안 분야에서 독보적인 위치로 나아가기 위해 계속 노력할 것이다.
사업적으로는 올해 약 15억원의 매출을 기록할 전망이며, 내년에는 이를 4배 이상 성장시켜 60~70억원대 매출을 달성을 목표로 삼고 있다. 또한, 올해 6월에 받은 두 번째 투자에 이어 내년 상반기에는 100억원 규모의 시리즈A 투자 유치를 계획하고 있다. BMW, 엔트로픽, 메타 등 글로벌 기업들과 긴밀히 협력하며 레퍼런스도 쌓아가고 있다.”
Q. 마지막으로 AI 보안 솔루션 도입을 고민 중인 기업 보안 담당자들에게 하고 싶은 말이 있다면?
“이제 AI는 파일럿(시험) 단계를 지나 실질적인 상용화 단계에 접어들었다. 올해로 과도기는 거의 끝이 났다고 본다. 이 시점에서 가장 위험한 것은 보안 장치 없는 AI의 질주다. 무엇을 막을지 고민하기 전에, 회사의 AI 시스템에 어떤 위험이 숨겨져 있는지 먼저 들여다보는 것이 중요하다. AI 도입을 피할 수 없다면, 보안은 이제 선택이 아닌 비즈니스의 영속성을 위한 필수 요소라고 생각한다.”
글. 바이라인네트워크
<곽중희 기자> god8889@byline.network
