![[에이전트와 보안①] AI 에이전트 시대, 보안의 초점이 바뀐다](https://cdn.byline.network/wp-content/uploads/2026/04/AI-AGENT-1-325x216.jpg)
인공지능(AI) 보안의 초점이 바뀌고 있다. 기존 생성형 AI 보안은 주로 모델에 어떤 프롬프트가 들어가고, 모델이 어떤 답변을 내놓는지에 맞춰져 있었다. 공격자가 악성 지시를 넣어 안전장치를 우회하는지, 모델이 유해한 답변이나 잘못된 정보를 생성하는지, 민감한 데이터를 답변으로 흘리는지가 핵심 쟁점이었다. 하지만 AI 에이전트가 등장하면서 문제의 성격이 달라졌다. 이제 AI는 단순히 답변을 내놓는 데 그치지 않는다. 웹을 탐색하고, 문서를 읽고, 외부 도구를 호출하고, 사용자를 대신해 작업을 수행한다. 답변이 잘못되는 수준을 넘어, 잘못된 판단이 실제 행동으로 이어질 수 있는 구조가 된 것이다.
클라우드 소프트웨어(SaaS)의 황제로 불리는 마크 베니오프 세일즈포스의 회장이 월스트리트저널과의 인터뷰에서 ‘SaaS 비관론’을 정면으로 부정하고 나섰다. 그는 AI가 화이트컬러를 대체해 소프트웨어 기업들이 몰락할 것이라는 SaaS 종말론은 “완전한 착각”이라고 일갈했다. 베니오프 회장은 AI로 인해 SaaS 수익 모델이 끝장날 것이라던 월가의 우려에 대해 “오히려 AI가 세일즈포스의 몸값을 높일 새로운 엔진이 될 것”이라고 자신했다.
한때 취약점 스캐너의 등장은 보안의 판도를 바꾼 사건이었다. 공격자만이 활용하던 도구가 방어자에게 넘어오면서, 보안은 경험과 직관의 영역에서 데이터와 프로세스 기반의 관리 체계로 전환됐다. 그러나 최근 인공지능(AI)이 취약점 발굴을 넘어 익스플로잇 생성까지 수행하기 시작하면서, 보안은 또 한 번의 구조적 전환점에 직면하고 있다. 이번 변화는 단순한 기술 발전이 아니다. 보안의 전제 자체를 바꾸고 있다.
국가정보원(이하 국정원)과 과학기술정보통신부(이하 과기정통부)가 공공 클라우드 보안검증 절차를 국정원 단일 체계로 개편하겠다고 발표한 가운데, 이번 제도 개편이 기업의 이중 인증 부담을 근본적으로 해소하려면 검증 절차의 투명성과 보안 거버넌스 개편 논의가 뒤따라야 한다는 지적이 나왔다.
국가정보원(이하 국정원)과 과학기술정보통신부(이하 과기정통부)는 기업이 공공 클라우드 시장에 진입할 때 거쳐야 하는 보안 검증 절차를 국정원 단일 검증체계로 일원화한다고 20일 밝혔다.
지난해 국내 침해사고 이후 기업들이 자산 가시성과 즉각 대응 체계를 다시 점검하는 가운데, 태니엄이 한국 고객 지원 현지화에 속도를 내고 있다. 크리스 블루 태니엄 글로벌 지원 센터 수석 부사장은 16일 바이라인네트워크와 인터뷰에서 “태니엄은 한국 시장을 아시아 핵심 거점으로 보고 지난해 서울에 글로벌 지원 조직을 구축했다”며 “실시간 데이터 기반 대응과 파트너 교육, AI 에이전트 통제 지원을 주요 과제로 보고 있다”고 밝혔다.
“현재 AI의 발전 속도에 발맞춰 가려면 복잡성 자체를 제거해야 한다. 기업 내부의 데이터를 활용할 수 있어야 하고, 데이터 이동 과정에서 나타나는 속도와 보안 문제를 해결해야 한다. 오라클 AI 데이터베이스는 에이전틱 AI 프레임워크를 DB에 내장했으며, 단일화된 데이터 엔진으로 오라클 DB나 관계형 데이터뿐 아니라 벡터, 문서 등의 모든 유형을 처리할 수 있다.”
라즈베리파이가 운영체제(OS) 최신 버전에서 보안 업데이트에 sudo 명령어 입력 시 비밀번호를 요구하도록 바꿨다. 보안 강화 목적이다. 그동안 라즈베리파이OS의 경우 터미널에서 sudo 명령어를 비밀번호 없이 사용할 수 있었는데, 앞으로 5분마다 비밀번호를 입력해야 한다.
생성형 인공지능(AI)이 업무에 빠르게 도입되면서, AI 보안의 초점도 단순히 악성 프롬프트를 차단하는 수준을 넘어 대규모언어모델(LLM)과 AI 서비스 전반의 안전성을 선제적으로 검증하는 쪽으로 옮겨가고 있다. 나현식 숭실대학교 AI안정성연구센터 연구교수는 16일 서울 삼성동 코엑스에서 열린 ‘제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR) 2026’에서 “대규모언어모델(LLM) 보안은 취약점을 찾는 레드티밍을 넘어 공격과 방어를 함께 돌리는 ‘퍼플티밍’ 체계로 나아가야 한다”고 강조했다. 이날 나 교수는 ‘국내외 LLM 보안, 안전성 평가 및 레드티밍’이라는 주제로 발표했다.
“텍스트 중심의 AI 보안 체계는 한계점이 명확합니다. 이제는 멀티모달(multimodal) 환경에서 보안 패러다임을 바꿔야 합니다.” 김기홍 샌즈랩 대표는 16일 서울 삼성동 코엑스에서 열린 ‘제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR) 2026’에서 이렇게 말했다. 김 대표는 이날 ‘멀티모달 AI 공격 표현 확장에 따른 보안 패러다임 변화’를 주제로 발표했다. 그는 “거대언어모델(LLM)이 이미지, 음성, 영상, 파일 등 다양한 형식의 데이터를 함께 처리하는 멀티모달 방식으로 진화하고 있다”며 “텍스트 중심 방어만으로는 이런 입력을 조합한 새로운 공격을 막기 어려워졌다”고 설명했다.
“앤트로픽의 미토스가 시사하듯, 인공지능(AI)은 단순한 도구가 아니라 자율적인 행위 주체가 됐다. AI에 대한 신뢰성과 보안성이 어느 때보다 중요하다.”
마이크로소프트가 윈도우365 클라우드PC 가격을 다음달 1일부터 20% 인하한다. DRAM 등 PC 부품 가격 급등으로 PC 제품 판매가 주춤한 가운데, 나온 가격 변경이다. 고사양 컴퓨터 없이도 최신 윈도우 환경 PC를 이용할 수 있는 클라우드PC 보급이 빨라질 지 주목된다.
“인공지능(AI)을 어시스턴트(보조 도구) 수준으로 써서는 투자 대비 효과(ROI)를 얻기 어렵습니다. AX의 비즈즈니스 효과를 가져올 데이터와 보안, 거버넌스 기반을 갖춰야 합니다.” 조규곤 파수AI 대표는 15일 서울 여의도에서 열린 기자간담회에서 이렇게 강조했다. 그는 “기업이 AI 전환(AX)을 실제 성과로 연결하려면 AI를 어시스턴트 수준 활용에 머물지 말고, 이를 뒷받침할 데이터·보안·거버넌스 기반을 갖춰야 한다”고 말했다.
리눅스커널 7.0 버전이 출시됐다. 새 버전 자체에 특이사항은 없다. 단, AI를 활용한 보안 취약점 보고 증가에 따라 향후 릴리스 체계에 변화가 예상된다.
정원석 한국기계전기전자시험연구원(KTC) AI사업본부 본부장은 14일 서울 코엑스에서 열린 ‘KTC & 소프트플로우 공동 세미나 : 2026년 보안적합성 검증 및 SW 공급망 보안 전략’에서 ”AI가 화면 밖으로 나오는 시대에는, 하드웨어 공급망 보안과 하드웨어 자재명세서(HBOM, Hardware Bill of Materials) 관리 체계를 서둘러 마련해야 한다“고 강조했다.
End of content
End of content