구글 GTIG “AI로 6시간 만에 수천개 인증정보 탈취 사례 발견”
해커가 인공지능(AI) 에이전트를 이용해 취약점 탐색부터 인증정보 수집까지 자동화하는 공격에 나서고 있다. 실제 공격에서는 클라우드 환경을 침해한 뒤 6시간 안에 다중 AI 에이전트 공격 체계를 만들고 수천개의 제3자 인증정보를 탈취한 사례도 확인됐다.
우정사업본부, N2SF로 내부 문서 외부 활용 넓힌다
우정사업본부(본부장 박인환)가 국가망보안체계(N2SF) 구축을 통해 내부 업무문서를 외부 회의와 원격 환경에서도 이용할 수 있는 체계를 만들고 있다. 민감(S)등급 문서 원본은 내부에 두고 외부에서는 승인된 단말로 필요한 문서를 열람하도록 하는 것이 핵심이다.
성평등가족부, N2SF로 2PC 업무 환경 개선
성평등가족부(장관 원민경)가 국가망보안체계(N2SF) 구축 사업을 통해 업무용 PC와 인터넷용 PC 두 대를 사용하는 기존 망분리 환경을 개편하고 있다. 하나의 업무환경에서 생성형 인공지능(AI)과 인터넷을 이용하되 문서 등급과 사용자 권한에 따라 외부 전송을 통제하기 위함이다.
태니엄, AI 엔드포인트 관리 전략 푼다…15일 웨비나 개최
태니엄(한국 대표 박영선)이 ‘포스트 미토스(Post Mythos)’ 시대를 맞아 기업의 인공지능(AI) 적용 전략과 엔드포인트 보안 자동화 방안을 공개한다. 태니엄은 오는 15일 바이라인플러스에서 웨비나를 개최해 에이전틱 AI 시스템 ‘태니엄 아틀라스(Tanium Atlas)’ 활용법과 대규모언어모델(LLM) 기반 보안 인텔리전스 연계 사례를 소개한다.
김창훈 대구대 교수 “AIDC 보안, 흩어진 통제 하나로 묶어야”
“인공지능 데이터센터(AIDC)는 인프라와 클라우드, AI 계층이 모두 연결돼 있습니다. 보안 제품을 애플리케이션 프로그래밍 인터페이스(API)로 묶는 것만으로는 부족합니다. 하나의 일관된 정책 아래 통제해야 합니다.” 김창훈 대구대학교 사이버보안전공 교수는 7일 경기 성남시 밀리토피아 호텔 바이마린에서 열린 ‘AIDC 보안 기술 워크숍’에서 AIDC 보안의 핵심 과제로 보안 통제의 오케스트레이션을 꼽으며 이같이 강조했다. 김 교수는 AIDC에서는 인프라와 클라우드, AI 계층의 보안 시스템이 각각 움직이는 방식에서 벗어나 탐지 정보와 접근통제, 격리 조치를 제로 트러스트 원칙 안에서 하나의 정책으로 연결해야 한다고 강조했다.
오픈AI, EU ‘이중 규제’ 본격화
오픈AI가 유럽연합(EU)의 두 갈래 규제망에 동시에 들어왔다. 프런티어 인공지능(AI) 모델 자체의 위험은 AI법(AI Act)으로, 챗GPT가 검색·정보유통 서비스로 만들어내는 위험은 디지털서비스법(DSA)으로 관리받는 구조다.
EU, 오픈AI 에이전트 사고 검토…“통제 상실 심각한 수준”
유럽연합(EU)이 오픈AI의 인공지능(AI) 에이전트가 일으킨 일련의 사고들과 관련해 “통제 상실이 심각한 수준에 이르렀다”고 평가했다. AI의 정렬 실패 문제에 대한 국제 사회의 관심이 더 확산되는 추세다.
S2W, 다크웹 수사 돕는 AI 에이전트 ‘DRI’ 출시
에스투더블유(S2W)는 다크웹과 가상자산 거래 등을 분석해 범죄 수사를 지원하는 인공지능(AI) 에이전트 ‘딥 리서치 인베스티게이터(DRI)’를 출시했다고 8일 밝혔다.
텍스트 한 줄에 뚫리는 AI, “듀얼 LLM 격리가 해법”
인공지능(AI)이 사용자 대신 검색하고 판단하며 각종 작업을 수행하는 에이전트(Agent) 시대가 본격화하면서, 외부 데이터를 악용해 AI의 판단과 행동을 조작하는 ‘프롬프트 삽입(Prompt Injection)’ 공격이 새로운 보안 위협으로 떠오르고 있다.
한전KDN, N2SF 적용한 에너지 특화 AIDC 구축한다
한전KDN이 국가망보안체계(N2SF)를 적용한 에너지 특화 인공지능 데이터센터(AIDC)를 구축한다. 2페타바이트(PB) 이상의 데이터와 1000개 이상의 고성능 그래픽처리장치(GPU)를 기반으로 발전·설비·계통·전력시장 데이터를 통합하고, 이를 AI 서비스로 연결하는 것이 핵심이다.
카스퍼스키 “AI·LLM 취약점, 작년보다 10배 증가”
인공지능(AI)과 대규모언어모델(LLM) 서비스에서 발견된 취약점이 지난해 말과 비교해 크게 증가한 것으로 나타났다. 카스퍼스키(한국 지사장 이효은)는 ‘분기별 익스플로잇·취약점 보고서(Quarterly Exploits and Vulnerabilities Report)’를 분석한 결과 올해 2분기 AI·LLM 서비스에서 기록된 취약점이 935건으로 집계됐다고 7일 밝혔다. 2025년 4분기와 비교하면 10배 증가한 수치다.
쿤텍, 온디바이스 AI 모델 정보 숨기는 난독화 기술 개발
쿤텍(대표 방혁준)은 한국전자통신연구원(ETRI)이 주관하는 연구과제에서 온디바이스 인공지능(AI) 모델의 구조와 핵심 정보를 외부 분석으로부터 보호하는 난독화 기술과 데이터 흐름 분석 기술을 개발하고 있다고 7일 밝혔다.
이스트시큐리티, 네이버클라우드 보안 특파모에 위협 데이터 공급
이스트시큐리티는 네이버클라우드 컨소시엄이 개발하는 사이버 보안 특화 인공지능(AI) 파운데이션 모델에 악성코드 데이터와 사이버 위협 인텔리전스(CTI)를 제공한다고 7일 밝혔다.
엔키화이트햇, KB국민은행에 AI 침투테스트 자동화 솔루션 공급
엔키화이트햇(대표 이성권)은 KB국민은행에 인공지능(AI) 기반 웹 애플리케이션 침투테스트 자동화 솔루션 ‘오펜 AI DAST(OFFen AI DAST)’를 공급했다고 7일 밝혔다.
손기욱 한국사이버안보학회장이 조언하는 ‘AI 에이전트 보안 제품화’
“인공지능(AI)의 이런 기능이 좋고 이런 것을 잘할 수 있다는 이야기만 해서는 안 됩니다. AI 에이전트가 어떤 근거와 과정을 거쳐 행동했는지 증거 흐름을 남기고, 역할별 권한을 통제하며, 위험할 때는 바로 중지시킬 수 있는지에 답할 수 있어야 합니다.” 손기욱 한국사이버안보학회장 겸 서울과학기술대학교 교수는 ‘AI 에이전트 보안’을 실제 제품으로 만들기 위해 필요한 조건을 설명하며 이렇게 강조했다.
End of content
End of content