엘라스틱 CISO “AI 공격은 초 단위, 사람 속도로는 못 막는다”

“정보보호 분야에서 전통적인 방어 방식은 더 이상 효과적이지 않습니다.”

엘라스틱의 최고정보보호책임자(CISO) 맨디 앤드레스(Mandy Andress)는 단호했다. 여러 보안 솔루션을 겹겹이 쌓아 해커가 침입에 드는 시간과 비용을 늘림으로써 공격의 실익 자체를 없애는 전통적인 방식은 AI 시대에 유용하지 않다는 지적이다. AI를 이용하면 초단위의 공격이 가능하기 때문에 공격자의 비효율성이 사라진다는 것이다.

그는 보안 기술을 공급하는 회사에 소속돼 있지만, 본질적으로 외부 위협으로부터 회사의 정보를 지켜야 하는 임무를 맡은 인물이다. 그런 점에서 일반 기업의 CISO와 크게 다르지 않다.

그는 “지금 정보보호 분야에서는 확실히 위협 행위자들이 주도권을 쥐고 있다”고 진단했다. 최신 프론티어 AI 모델은 순식간에 취약점을 찾아내고, 익스플로잇까지 손쉽게 만들어낸다. 심지어 허깅페이스 해킹 사건을 통해 AI가 스스로 취약점을 찾아 공격을 실행하고, 감시를 피하기 위해 규칙을 벗어난 행동까지 한다는 사실이 확인됐다.

그는 그러나 “방어자들도 AI와 에이전트 기반 프로세스를 도입하기 시작하면, 결국 이들을 따라잡고 더 나은 대응을 할 수 있게 될 것”이라고 긍정적으로 전망했다. 그러기 위해서는 AI 에이전트를 보다 효과적으로 사용할 수 있는 방법론이 필요하다. 그는 엘라스틱 보안 조직이 취하고 있는 전략을 소개했다.

앤드레스가 이끌고 있는 조직이 취하는 대응은 세 가지 층위로 요약된다. 첫째, AI·에이전트에게 환경에 대한 충분한 맥락 정보를 줘서, 엉뚱한 판단(환각)으로 잘못된 대응을 하는 일을 줄인다. 둘째, 에이전트가 무엇을 하려고 하는지, 왜 그런 판단을 내렸는지 들여다볼 수 있게 해서, 정해진 목표에서 벗어나는 순간을 바로 알아챈다. 셋째, 에이전트에게 꼭 필요한 권한만 준다. 침입 자체를 막는 데 집중했던 과거 방식과 달리, 에이전트가 접근할 수 있는 범위 자체를 좁혀서 설령 이상 행동을 하더라도 피해가 퍼지지 않게 막는 것이다.

앤드레스는 “에이전트는 목표를 달성하는 방식에서 매우 창의적일 수 있고, 인간이 예상하지 못한 방식으로 행동할 수 있다”며 “보안 업계가 오랫동안 이야기해온 심층 방어, 최소 권한, 제로 트러스트 원칙을 전통적으로는 충분히 구현하지 못했지만, 에이전트 시대에는 이것들이 매우 엄격하게 따라야 할 핵심 원칙이 됐다”고 강조했다.

왜 전통적 방어는 무너졌나

그렇다면 왜 지금까지의 방식은 통하지 않게 됐을까. 앤드레스는 보안팀이 너무 뒷북 대응에 익숙해져 있었다고 지적했다. 조직은 대체로 속도와 효율을 우선시한다. 보안으로 인해 프로세스가 늘어나고 복잡해지면 조직원들이 싫어하고, 고객도 빠른 응답을 원한다. 그러다 보니 보안팀은 일단 사고가 터진 뒤에 모니터링하고 대응하는 데 집중하게 된다는 것이다.

문제는 그 대응 속도다. AI를 활용한 공격이 초단위로 이뤄지기 때문이다. 앤드레스는 “예전엔 몇 시간, 며칠, 몇 달이 걸리던 대응이 이제는 몇 초, 몇 분 안에 끝나야 한다”면서 “사람이 그 속도를 따라갈 수 없는 만큼, 사고가 나기 전에 먼저 움직이는 방어로 바꿔야 한다”고 말했다.

이런 변화로 인해 조직이 위험을 바라보는 방식도 바뀌어야 한다고 앤드레스 CISO는 전했다. 그는 특히 ‘가용성’, 즉 시스템이 끊김 없이 돌아가는 상태를 지키는 방식부터 다시 생각해야 할 수 있다고 봤다. 보안 통제를 제대로 갖추려면 유지보수 시간을 늘리거나 서비스가 살짝 느려지는 것을 감수해야 할 수도 있다. 이런 작은 불편을 감수하는 편이, AI를 활용한 공격으로 시스템이 크게, 오래 멈추는 것보다 낫다는 계산이다. 다만 그는 “이런 전환에는 수년이 걸릴 것”이라고 말했다. “지금 많은 조직은 우선 자기 시스템에 어떤 기술이 돌아가고 있는지, 그게 평소 어떻게 작동하는지부터 파악하는 데 집중하고 있다”고도 했다.

사람과 AI, 역할은 어떻게 나뉘나

AI 에이전트가 위협을 막아내는 수단으로 유용하지만 모든 것을 AI에 맡길 수는 없다. AI가 자체적으로 처리하는 영역과 사람이 최종 개입하는 영역을 가르는 기준은 무엇일까. 앤드레스는 “판단과 분석이 필요한 프로세스에는 사람이 여전히 긴밀하게 관여해야 한다”고 답했다. AI가 내놓은 추천이나 분석 결과가 정확한지 판단하고, 환각이 발생하는 지점이나 에이전트가 예상 밖의 목표·활동을 시작하는 지점을 식별하는 데는 사람의 관여가 필수라는 것이다.

자동화가 확산되면 보안 분석가의 역할은 어떻게 바뀌어야 할까. 앤드레스는 전통적인 보안 역할의 변화가 이미 시작됐다고 봤다. 경보가 뜨면 체크리스트대로 확인만 하던 초급 분석가 역할은 앞으로 에이전트가 대신하게 된다. 이 일은 이직률도 높고 지치기 쉬운 업무였다. 대신 사람은 에이전트가 제대로 일하고 있는지 관리하고 그 행동을 이해하는 역할로 옮겨간다. 그는 “단순히 체크리스트를 따르는 기계적 업무 대신, 더 많은 판단력과 전체를 보는 눈이 필요한, 더 의미 있는 업무를 맡게 될 것”이라고 말했다.

물론 모든 사람이 쉽게 전환할 수 있는 것은 아니다. 앤드레스는 “전환을 쉽게 해내는 사람도 있겠지만, 대부분은 조직이 제공하는 교육과 역량 개발이 필요할 것이고, 전환을 원하지 않는 사람도 있을 것”이라며 “보안 업계 전반이 지금 이 전환을 어떻게 지원할지에 집중하고 있다”고 밝혔다.

새로운 AI 보안 기술 도입 자체를 기존 보안팀이 막아서지는 않을까. 앤드레스는 보안팀이 조직 내에서 흔히 ‘안 된다고 말하는 팀’으로 여겨져 왔다는 점을 인정하면서도, 챗봇과 AI 비서가 처음 등장했던 몇 년 전부터 이런 흐름은 이미 시작됐다고 말했다. 그는 “그런 경험들이 AI가 보안팀의 업무를 어떻게 보완하고 더 효과적·효율적으로 만들 수 있는지 이해하는 데 도움을 주고 있다”며 “변화의 폭은 매우 클 것으로 보이지만, AI와 기술이 워낙 빠르게 진화하고 있어 정확히 어떤 모습이 될지는 지금으로선 알기 어렵다”고 말했다. 중요한 것은 다가올 변화에 열린 자세를 갖고, 그것이 조직에 어떤 의미인지 최대한 이해하며 팀이 필요한 자원을 갖추도록 돕는 일이라는 것이다.

한국 기업에 건네는 조언

한국의 많은 기업은 아직 레거시 보안정보관리(SIEM) 환경에 머물러 있다. 이런 환경을 전환하려는 국내 CISO들에게 앤드레스는 세 가지를 우선순위로 꼽았다.

첫째는 분석·처리 속도다. 조직이 다뤄야 할 데이터양이 계속 늘어나는 만큼, 수 초 이내의 초고속 처리·분석이 필요하다. 그는 “모든 것이 기계 속도로 작동하는 시대이기 때문에, 과거처럼 분석 결과를 몇 시간이나 며칠씩 기다릴 여유가 없다”고 말했다.

둘째는 행동 기반 분석으로의 전환이다. AI 시대의 SIEM은 ‘이런 일이 발생하면 알려달라’는 식의 사전 정의된 탐지 규칙 중심에서 벗어나, 머신러닝을 통해 행동 자체를 식별할 수 있어야 한다. 오픈AI-허깅페이스 사례처럼 에이전트의 행동은 항상 예측 가능한 것이 아니기 때문에, 절대 보고 싶지 않은 상황을 미리 정의하는 대신 환경에서 새로운 행동이 나타나는 시점 자체를 포착하는 쪽으로 관점을 바꿔야 한다는 것이다. 그 새로운 행동이 위협 행위자의 이동인지, 정당한 새 프로세스인지는 처음엔 알 수 없지만, 어디에 조사 자원을 우선 투입할지 정하는 데 도움이 된다.

셋째는 기만 기법의 병행이다. 외부에 노출되면 안 되는 접근 토큰을 미끼로 심어두면, 그 토큰이 사용되는 순간 자체가 매우 신뢰도 높은 결정론적 경보가 된다. 앤드레스는 “이것이 바로 보안 탐지·SOC 관점에서 우리가 전환해야 할 사고방식이며, 오늘날의 SIEM은 새로운 AI 기반 환경에서 SOC 팀이 성공할 수 있도록 이런 접근을 뒷받침할 수 있어야 한다”고 말했다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network