델 테크놀로지스가 AI 에이전트가 조언자를 넘어 스스로 업무를 수행하는 오퍼레이터로 진화하고 있다고 진단했다. 기업의 AI 전환을 위해 데이터·보안·인프라를 통합하고, 급증하는 토큰 사용량과 조직 간 협업까지 함께 관리해야 한다고 강조했다. 유상모 델 테크놀로지스 코리아 사장은 25일 서울 강남구 코엑스에서 열린 ‘델 테크놀로지스 포럼 2026’ 기조연설에서 AI가 스크린 속 도구를 넘어 비즈니스와 일상을 움직이는 새로운 기반이 됐다고 선언했다.
기업의 승인 없이 임직원이 생성형 인공지능(AI)과 코딩 도구, AI 에이전트를 사용하는 ‘섀도우 AI(Shadow AI)’가 새로운 기업 보안 사각지대로 떠오르고 있다. 가트너는 2028년 기업의 60%가 별도의 AI 사용 통제·거버넌스 도구를 도입할 것으로 전망했다.
인공지능(AI) 에이전트가 사람의 통제를 벗어나 서로 정보를 공유하고 외부 시스템을 공격하는 사례가 잇따르면서 AI의 행동이나 시스템 가동을 강제로 중단할 수 있는 ‘킬스위치(kill switch)’의 필요성이 커지고 있다.
최근 오픈AI는 자사 AI 에이전트들이 내부 시스템에 별도 통신 공간을 만들고 협업한 끝에 실제 외부 시스템까지 침입한 사실을 공개했다. 영국 인공지능안보연구소(AISI)의 평가에서도 AI 에이전트가 실제 사람과 조직을 상대로 허가받지 않은 행동을 한 사례가 확인됐다.
오픈AI는 외부 기관의 사이버보안 평가 과정에서 자사 인공지능(AI) 모델이 실제 웹사이트의 취약점을 악용한 사고가 발생해 평가환경의 인터넷 접근과 감시 기준을 강화한다고 4일(현지시간) 밝혔다. 오픈AI가 공개한 내용에는 영국 인공지능안보연구소(AISI)의 평가 사고와 사이버보안 평가업체 이레귤러(Irregular)에서 발생한 별도 사고가 포함됐다. 앞서 알려진 허깅페이스 침해 사건과도 다른 사례다.
한국정보보호산업협회(KISIA)는 지난 29일 서울 송파구 협회 사무국에서 ‘인공지능(AI) 보안 인텔리전스 협의체’ 회의를 열고 AI 보안 위협에 대응하기 위한 산업계 협력 방안을 논의했다고 30일 밝혔다. 협의체 의장은 박찬암 스틸리언 대표가 맡고 있다.
“많은 사고 조사 현장에서 봐온 결과, AI 보안의 핵심은 ‘실행 권한 통제’와 ‘API 관리’에 있었습니다.” 박찬암 스틸리언 대표는 26일 서울 서초구 aT센터에서 열린 ‘미토스 AI 시대, 개인정보보호 규제 컴플라이언스’ 세미나에서 ‘미토스 AI 시대의 정보보안 위기와 대응’을 주제로 발표하며, 인공지능(AI) 에이전트가 가진 실행 권한과 애플리케이션 프로그래밍 인터페이스(API)를 함께 통제해야 한다고 강조했다.
“AI 좋습니다. AI 좋은데, AI 얘기 나오면 바로 뒤따라오는 얘기가 뭐죠? 데이터입니다. 그런데 상태 정보만 가지고 보안관제센터(SOC)를 자율화시켜서 사람이 해야하는 또다른 작업을 만들 것이냐, 맥락 데이터를 가지고 AI 시스템이 직접 판단하게 만들 것이냐, 이걸 생각해야 합니다.”
금융보안원은 고성능 인공지능(AI) 발전에 따른 사이버위협 증가와 금융권 AI 전환에 대응하기 위해 원장 직속 본부급 조직인 금융AI보안연구소를 신설했다고 15일 밝혔다.
![[미토스 이후, 전문가에게 듣는다⑧] 김창훈 대구대 교수 “AI 위협, 사이버 팬데믹처럼 대응해야”](https://cdn.byline.network/wp-content/uploads/2026/06/KIM-CHANG-HOON2-325x216.jpg)
김창훈 대구대학교 컴퓨터정보공학부 교수는 미토스 이후 국내 AI 보안 대책이 보안 특화 모델 개발, 취약점 탐지, 빠른 패치 등 일부분에 매몰돼 있다고 지적했다. 모두 필요한 과제지만, 당장 공격자가 어디를 노릴지와 실제로 어떻게 막을지를 먼저 봐야 한다는 지적이다. 김 교수는 “본질은 막는 것”이라며 “취약점을 찾고 패치를 빨리 하자는 논의와 대책이 나오고 있지만, 정작 어디가 공격받을 가능성이 큰지, 그 기관을 실제로 어떻게 보호할지에 대한 현실적인 논의는 부족한 실정”이라고 짚었다.
구글 클라우드가 지난 28일 인공지능(AI) 기반 사이버 위협에 대응하기 위한 보안 플랫폼 ‘구글 AI 위협 방어(Google AI Threat Defense)’를 공개했다.
금융권에서 인공지능(AI) 활용 범위가 고객 응대와 대출 심사, 결제 업무까지 넓어지는 가운데 금융보안원이 ‘금융 AI 안전성·신뢰성 평가 기준’을 마련하고 7월부터 희망 금융회사를 대상으로 시범 평가를 진행한다고 13일 밝혔다.
과학기술정보통신부(이하 과기정통부)는 외교부·국가정보원·금융위원회·인공지능안전연구소(AISI)·한국인터넷진흥원(KISA)·금융보안원과 함께 미국 인공지능(AI) 기업 앤트로픽과 AI·사이버보안 분야 협력 방안을 논의하는 간담회를 11일 열었다고 밝혔다.
SGA그룹은 창립 23주년을 맞아 인공지능(AI) 시대를 겨냥한 신규 성장 비전 ‘AI를 위한 보안(Security for AI)’을 발표했다고 4일 밝혔다.
앤트로픽이 새로운 AI 모델 ‘클로드 미토스 프리뷰’를 공개한 이후, AI 기반 사이버 위협에 대한 우려가 점점 커지고 있다. 이상근 고려대학교 정보보호대학원 스마트보안학부 교수(AI보안연구소장)는 23일 서울 여의도 FKI타워 컨퍼런스센터에서 열린 ‘프론티어 AI 미토스 공개 보류 사태와 국가 및 기업 사이버 위기 대응 전략 긴급좌담회’에서 “미토스는 사이버보안 자체의 무기화 순간”이라고 진단했다.
![[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”](https://cdn.byline.network/wp-content/uploads/2026/04/KAIST1-325x216.jpg)
앤트로픽의 인공지능(AI) 모델 ‘미토스’를 계기로 AI가 사이버보안에 미칠 영향에 대한 논의가 커지고 있다. 핵심은 AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지다. 바이라인네트워크는 ‘전문가가 본 미토스’ 시리즈를 통해 AI 보안 위협의 실체와 국내 대응 방향을 전문가별로 짚어본다. 첫 번째로 시스템 보안과 소프트웨어 보안을 연구해온 윤인수 카이스트 교수의 견해를 들어봤다.
End of content
End of content
