마이크로소프트 “신뢰할 수 있는 AI 에이전트, 보안 설계가 핵심”
“AI 에이전트 시대의 보안은 나중에 덧붙이는 기능이 아니라 처음부터 갖춰져 있어야 합니다.”
믹 던(Mick Dunne) 마이크로소프트 아시아태평양 지역 최고 보안 자문 매니저(Chief Security Advisor Manager)는 25일 서울 그랜드 인터컨티넨탈 서울 파르나스에서 열린 ‘마이크로소프트 보안 서밋, AI와 디지털 신뢰’의 키노트 세션에서 이렇게 말했다.
던 최고 보안 자문 매니저는 “AI 에이전트 도입을 막을 수 없는 시대의 흐름”이라고 짚었다. 그러면서 “기업들은 고객 서비스와 업무 효율을 높이기 위해 AI를 쓰기 시작했고, 이제는 일상 업무를 바꾸는 단계로 넘어가고 있다”며 “보안팀도 반복 업무를 AI로 넘기고 사람은 더 중요한 판단에 집중해야 한다”고 강조했다. 특히 보안운영센터(SOC)의 분석가가 수많은 경보를 들여다보다가 허탕을 치는 일이 반복되는 현실을 예로 들며, “AI는 이러한 어려움을 줄이는 방향으로 쓰여야 한다”고 설명했다.
마이크로소프트가 진단한 AI 에이전트의 도입 속도는 과거의 클라우드 전환보다도 훨씬 빠르다. 던 최고 보안 자문 매니저는 “현재 리더의 80%가 이미 조직 안에서 에이전트를 쓰고 있거나 향후 1년 안에 도입할 계획이라고 답했다”라며 “IDC는 2028년에는 기업 환경에서 13억개 에이전트가 운영될 것이라고 전망했다”고 했다. 이어 “문제는 도입 자체가 아니라 이 규모를 어떻게 통제하고 보호할 것인지, 즉 보안”이라고 강조했다.
“AI 신뢰의 뿌리는 보안”… 도입 전 기초 통제부터 점검해야
마이크로소프트는 AI 에이전트를 사용하기 위해 가장 중요한 요소를 ‘신뢰를 위한 보안’으로 본다. 던 최고 보안 자문 매니저는 “조직이 AI를 신뢰하지 못하면 쓰지 않을 것이고, 고객이 기업의 AI 플랫폼을 신뢰하지 못해도 마찬가지”라며 “신뢰의 뿌리는 늘 보안이었다”고 말했다.
그는 AI가 업무의 혁신을 가져오기도 하지만, 동시에 새로운 공격 표면도 만든다고 짚었다. 기존의 계정 탈취, 잘못된 접근통제, 취약한 보안 위생 같은 문제 위에 프롬프트 인젝션(악성 지시문 삽입), 모델 변조, 데이터 오염 같은 위험이 더해진다는 것이다. 공격자도 이미 AI를 활용하고 있다는 점도 강조했다. 그는 “AI 기반 피싱이 기존 방식보다 더 높은 효과를 내고 있다며, 방어자도 같은 수준으로 AI를 써야 한다”고 설명했다.
이런 환경 속에서 마이크로소프트가 꺼낸 해법은 새 기능이 아니라 ′핵심 기본요소로서 보안’ 통제가 정착돼야 한다는 것이다. 데이터 분류, 데이터 거버넌스, 신원 관리 같은 기초 보안 체계를 먼저 정비해야 AI 에이전트 워크플로우를 사용할 수 있다는 설명이다. 그는 “기초가 안 잡힌 상태에서 AI를 빠르게 도입하면 결국 나중에 다시 돌아가 그 문제를 풀어야 하는 상황에 직면하게 된다”고 말했다.
마이크로소프트는 ‘안전한 미래 이니셔티브(Secure Future Initiative)’를 운영하고 있다. 안전한 미래 이니셔티브는 보안을 사후 대응이 아니라 기본값으로 두기 위해, 제품 설계부터 운영까지 전 과정을 다시 정비하는 전사 보안 강화 프로그램이다. 2023년과 2024년 침해사고를 겪은 뒤 설계 단계부터 안전하게 만들고, 기본 설정도 안전하게 두고, 운영 과정까지 안전하게 유지하는 방향으로 보안을 다시 설계했다.
던 최고 보안 자문 매니저는 “보안은 기본값이어야 한다”며 “고객이 잘못된 선택을 하지 않도록 최소 기준을 강제하는 것도 필요하다”고 말했다.
“사람보다 많은 에이전트”…에이전트 365로 가시성 확보
마이크로소프트는 ′에이전트 365’로 AI 에이전트에 대한 보안 통제력을 높이고 있다. 에이전트 365는 사람 계정에 하던 신원 확인과 접근통제, 정책 관리를 AI 에이전트에도 그대로 확장해 누가 어떤 에이전트를 쓰고, 무엇에 접근하는지 한 화면에서 보게 하는 도구다.
던 최고 보안 자문 매니저는 “이 도구를 마이크로소프트가 자사 안에서 어떤 AI가 어떻게 쓰이는지 파악하기 위해 먼저 만든 통제면”이라며 “이 기능을 고객 환경으로까지 확장하고 있다”고 말했다.
그는 특히 ‘내부 운영 경험’을 강조했다. 마이크로소프트가 자사의 환경을 분석했더니 이미 약 15만개의 에이전트가 사내에서 사용하고 있었다는 것이다. 직원 수와 비교해도 매우 큰 규모다. 던 최고 보안 자문 매니저는 “보이지 않으면 관리할 수 없다”며 “AI 에이전트가 무엇을 하고, 어떤 데이터에 접근하고, 규제 대응 수준에 맞게 통제되고 있는지 보려면 가시성이 먼저 필요하다”고 말했다.
이 가시성은 보안팀만의 문제는 아니다. 에이전트는 한 부서 안에만 머물지 않기 때문에 정보기술(IT) 부서, 개발자, 보안팀이 모두 같은 화면을 볼 수 있어야 한다. 던 최고 보안 자문 매니저는 “각 역할이 서로 다른 방식으로 에이전트와 상호작용하지만, 어떤 에이전트가 존재하고 어떻게 행동하며 어떤 위험을 만드는지는 함께 볼 수 있어야 한다”고 말했다.
에이전트 365는 사람에게 적용하던 신원 확인과 접근통제, 정책 원칙을 에이전트에도 그대로 적용한다. 어떤 AI 에이전트가 등록돼 있는지 보여주고, 접근권한을 관리하고, 정책 집행과 위험 가시성을 연결한다. 마이크로소프트 퍼뷰(Purview), 엔트라(Entra), 디펜더(Defender) 같은 기존 보안 도구와도 연동된다.
던 최고 보안 자문 매니저는 “자사 생태계 밖의 에이전트도 같은 원칙으로 다뤄야 한다”며 “모든 조직이 마이크로소프트가 만든 에이전트만 쓰지는 않을 것”이라고 말했다. 이어 “사내에서 직접 만든 에이전트나 파트너, 다른 플랫폼 기반 에이전트도 일관된 기준으로 관리해야 한다”고 덧붙였다.
통합 보안 플랫폼 강조…“도구 많을수록 조직이 직접 통합해야”
던 최고 보안 자문 매니저는 마이크로소프트의 큰 그림을 ‘AI 퍼스트(AI First) 엔드 투 엔드 보안 플랫폼’으로 제시했다. AI 에이전트와 앱, 플랫폼·클라우드, 인프라 전반을 디펜더(Defender), 퓨리뷰(Purview), 엔트라(Entra), 인튠(Intune), 센티넬(Sentinel)로 연결해 보호하는 구조다. 그는 “여러 보안 도구를 따로 운영하는 조직은 결국 그 도구들을 스스로 통합하는 부담을 떠안게 된다”고 말했다.
또한 그는 “마이크로소프트가 하루 약 100조개 보안 신호를 바탕으로 위협 인텔리전스(정보)를 제품 안에 실시간 반영한다”고 설명했다. 새 공격 기법이나 위협이 확인되면 별도 공지에 그치지 않고 디펜더, 엔트라, 퍼뷰, 센티넬 같은 제품군에 바로 반영해 탐지와 차단으로 이어지게 한다. 이런 구조가 여러 화면을 오가며 사건을 짜 맞추는 부담을 줄이고, 더 빠른 대응을 가능하게 한다는 설명이다.
역할별 가시성도 강조됐다. 그는 “AI 에이전트가 한 영역 안에서만 움직이지 않기 때문에 정보기술(IT)팀, 개발팀, 보안팀이 같은 에이전트를 함께 보고 관리할 수 있어야 한다”고 말했다. 이어 “에이전트 365는 이런 요구에 맞춰 나온 통제면으로, 어떤 에이전트가 존재하는지, 어떻게 움직이는지, 어떤 위험을 만드는지 한 화면에서 파악하게 해준다”고 설명했다. 사람에게 적용하던 신원, 접근, 정책 원칙을 에이전트에도 그대로 확장했다고도 덧붙였다.
또 개발 단계부터 보안을 적용하는 접근법도 제시했다. 개발자가 에이전트를 만든 뒤 마지막에 보안을 덧붙이는 방식이 아니라, 처음부터 단일 환경 안에서 관리하는 방식이 중요하다는 설명이다.
보안도 ‘에이전트형’으로…센티널 중심 대응 고도화
또한 던 최고 보안 자문 매니저는 방어 체계 자체도 에이전트형으로 바뀌고 있다고 말했다. 그는 센티넬이 기존 클라우드 ‘보안정보이벤트관리(SIEM)’ 도구의 역할을 넘어 에이전트형 통합 보안 플랫폼으로 진화하고 있다고 말했다. 마이크로소프트 시큐리티 코파일럿(Security Copilot) 에이전트와 디펜더의 예측형 보호, 그래프 기반 접근을 결합해 보안팀이 환경을 더 정밀하고 빠르게 파악해, 사후가 아닌 선제 조치할 수 있도록 돕는다는 설명이다.
특히 그는 ‘프리딕티브 쉴딩(Predictive Shielding)’을 강조했다. 이는 디펜더의 예측형 보호와 센티넬 중심 대응 흐름 속에서 제시한 선제 방어 개념이다. AI로 공격자가 노릴 가능성이 큰 경로와 전술을 미리 예측하고, 빈틈과 취약점을 찾아 선제적으로 보완하는 방식이다. 그는 “이런 접근은 공격자가 실제로 악용하기 전에 공격 경로를 먼저 단단히 만들어 위험 노출을 줄이는 데 목적이 있다”고 설명했다.
끝으로 던 최고 보안 자문 매니저는 전직 최고정보보호책임자(CISO)로 있었던 경험을 언급하며, “제한된 인력으로 더 효율적으로 조직을 지키려면 결국 통합 플랫폼 방식의 접근이 필요하다”고 강조했다. 개별 도구를 덧붙이는 것보다 하나의 생태계 안에서 AI와 보안을 함께 관리하는 쪽이 실제 조직 운영에 더 확실한 도움을 준다는 것이다.
글. 바이라인네트워크
<곽중희 기자> god8889@byline.network
