앤트로픽, 보안 평가 중 사고 1건 추가…“AI가 감시체계도 교란”
앤트로픽이 인공지능(AI) 모델 ‘클로드’가 사이버보안 평가 도중 실제 외부 시스템에 무단 접근한 사고를 추가로 확인했다. 사고는 기존에 알려진 3건에서 4건으로 늘었다. 후속 조사에서는 공격을 수행한 AI의 잘못된 사고과정이 이를 감시하는 다른 AI의 판단까지 흐릴 수 있다는 문제도 확인됐다.
네이버클라우드가 그리는 소버린 AI, 다음 무대는 ‘사이버보안’
네이버클라우드는 소버린 AI의 다음 무대로 사이버보안을 택하고, 정부의 ‘사이버 보안 특화 AI 파운데이션 모델’ 사업을 통해 국내에서 통제 가능한 보안 AI 구축에 나선다. 하이퍼클로바X와 LG AI연구원의 엑사원을 각각 보안에 특화하고, 공격·방어 툴체인과 현장 데이터를 결합해 실제 보안 업무에 쓸 수 있는 모델을 만드는 것이 목표다. 네이버클라우드는 33개 기관 컨소시엄과 함께 공공·금융·국가 핵심시설에서 실증하고, 이후 클라우드 유통망과 해외 소버린 AI 사업으로 확장할 계획이다.
앤트로픽 연구원, 퇴사하며 AI 위험 경고
인공지능(AI) 안전을 최우선 가치로 내세웠던 미국 기업 앤트로픽 내부에서 회사가 표방한 안전 지침과 실제 행보가 다르다는 비판이 나왔다. 범용인공지능(AGI) 개발 경쟁이 치열해지는 가운데, 인류에 미칠 위험을 인지하고도 속도전을 멈추지 않고 있다는 내부자의 지적이다.
오픈AI 코리아 출범 1주년…엔터프라이즈 사업 확대
오픈AI코리아가 인공지능(AI) 기술 발전 상황과 한국 기업의 도입 현황, 향후 인프라 확충 계획을 공개했다. 김경훈 오픈AI코리아 총괄대표는 9일 서울 강남구 조선팰리스호텔에서 열린 ‘한국 오피스 공식 출범 1주년’ 기자간담회에서 단순한 정보 검색을 넘어 AI가 스스로 판단하고 복잡한 업무를 수행하는 에이전트(Agent) AI로 기술이 발전하고 있다고 설명했다. 이번 기자간담회는 한국 시장 진출 1년을 맞아 기업간거래(B2B) 사업 성과와 향후 인프라 확충 계획을 공유하기 위해 마련됐다.
로봇청소기 시장서 커지는 ‘보안’ 존재감
로봇청소기 시장에서 ‘보안’의 중요성이 점점 커지고 있다. 로봇청소기는 카메라와 센서를 달고 집안을 돌아다니며 주변을 인식하고 일부 제품은 원격 영상 기능까지 제공한다. 만약 기기나 계정이 침해될 경우 사생활 노출로 이어질 수 있는 것이다. 이에 제조사들도 최근 데이터 암호화와 카메라 접근통제, 기기 내 데이터 처리 등 보안 기능을 강화하고 있는 추세다.
“AI가 수학사 새로 썼다”…오픈AI, 200년 수학 난제 풀어
AI가 세계 6대 미해결 수학 난제 중 하나를 풀어냈다는 주장이 나오면서 수학계가 술렁이고 있다. 오픈AI는 지난 8일(현지시각) 내부 AI 모델을 이용해 나비에-스토크스 방정식이 예외적인 경우를 허용한다는 것을 증명했다고 발표했다.
모니터랩 “제로트러스트 기반 통합 SSE 플랫폼, AI 보안까지 확장 지원”
이광후 모니터랩 대표는 9일 개최한 연례 통합 애플리케이션 보안 페어(IASF) 2026 행사 기자간담회에서 “약 3년 전부터 우리나라에 제로트러스트 개념이 도입된 이후 결과적으로 국가 네트워크 보안 프레임워크까지 바뀌었다. 지난해 국가정보원이 국가망보안체계(N2SF)를 발표한 게 그 결과”라고 강조하며, “이제는 물리적인 경계선 기반의 네트워크 보안이 아니라, 제로트러스트, 즉 소프트웨어로 정의되는 경계선 기반의 보안으로 재정립되고 있다. 공무원들도 생성형 AI를 적극 활용할 수 있도록 지원하기 위한 다양한 아키텍처가 국가 차원에서 시행되고 있다”고 국가 차원의 사이버보안 정책과 기조 변화 흐름을 짚었다. 서비스형소프트웨어(SaaS) 등 클라우드 시대를 넘어 AI 시대에 접어들면서 이같은 제로트러스트 기반 보안 체계로의 변화가 가속화되면서 모니터랩이 주력해온 클라우드 서비스 기반 통합보안 플랫폼 수요가 커질 것으로 이 대표는 전망하고 있다.
AI가 컨닝하자, AI가 고발한 에이전트 수학 시험
구글 딥마인드가 AI 에이전트 100개에 동료 수학 연구자인 것처럼 캐릭터를 부여한 뒤 수학 문제를 푸는 실험을 진행한 결과, 부정행위가 확산되고 이를 저지하려는 내부고발자까지 등장하는 현상이 관찰됐다.
딥마인드 연구진 6명은 지난 3일 이 같은 내용을 담은 논문 ‘자율 연구 집단에서의 부정행위와 내부고발 발생에 대한 사례 연구’를 발표했다.
삼성SDS, 폐쇄망 AI 동료 ‘브리티웍스 코워크’ 10월 출시
삼성SDS가 공공, 국방, 금융 등 규제 산업 내 고객의 AI 에이전트 도입을 지원하는 폐쇄망 환경 특화 ‘브리티웍스 코워크’를 10월 출시한다. 8일 서울 코엑스에서 열린 ‘리얼 서밋 2026’에서 창성중 삼성SDS 상무는 “글로벌 솔루션이 가지고 있는 한계성을 극복하고 퍼블릭망 사용에 제한이 있는 규제 산업에서 안전하게 사용할 수 있다”며 “보안과 폐쇄망 환경에 특화한 맞춤형 AI 업무 동료를 오는 10월 상용화한다”고 밝혔다.
태니엄, AI 엔드포인트 관리 전략 푼다…15일 웨비나 개최
태니엄(한국 대표 박영선)이 ‘포스트 미토스(Post Mythos)’ 시대를 맞아 기업의 인공지능(AI) 적용 전략과 엔드포인트 보안 자동화 방안을 공개한다. 태니엄은 오는 15일 바이라인플러스에서 웨비나를 개최해 에이전틱 AI 시스템 ‘태니엄 아틀라스(Tanium Atlas)’ 활용법과 대규모언어모델(LLM) 기반 보안 인텔리전스 연계 사례를 소개한다.
![[그게뭔가요] 오픈AI 에이전트들이 훔친 ‘비밀 게시판’](https://cdn.byline.network/wp-content/uploads/2026/09/AI-AGENT-WIKI-325x216.jpg)
[그게뭔가요] 오픈AI 에이전트들이 훔친 ‘비밀 게시판’
최근 AI 업계에 다시 한번 파장이 일었다. 오픈AI의 내부 AI 에이전트들이 낡은 독일 위키 사이트를 무단으로 점거해, 자기들끼리 정보를 주고받는 게시판으로 써왔다는 사실이 외부 연구자들에 의해 새롭게 드러난 것이다. 더 논란이 된 것은 오픈AI가 이 사실을 이미 알고 있었으면서도 몇 주 동안 공개하지 않았다는 정황이다. 대체 무슨 일이 있었던 걸까.
김창훈 대구대 교수 “AIDC 보안, 흩어진 통제 하나로 묶어야”
“인공지능 데이터센터(AIDC)는 인프라와 클라우드, AI 계층이 모두 연결돼 있습니다. 보안 제품을 애플리케이션 프로그래밍 인터페이스(API)로 묶는 것만으로는 부족합니다. 하나의 일관된 정책 아래 통제해야 합니다.” 김창훈 대구대학교 사이버보안전공 교수는 7일 경기 성남시 밀리토피아 호텔 바이마린에서 열린 ‘AIDC 보안 기술 워크숍’에서 AIDC 보안의 핵심 과제로 보안 통제의 오케스트레이션을 꼽으며 이같이 강조했다. 김 교수는 AIDC에서는 인프라와 클라우드, AI 계층의 보안 시스템이 각각 움직이는 방식에서 벗어나 탐지 정보와 접근통제, 격리 조치를 제로 트러스트 원칙 안에서 하나의 정책으로 연결해야 한다고 강조했다.
김승주 고려대 교수가 본 ‘AI 보안 내재화의 필수 조건’
“요구사항 분석조차 안 되는데 다른 것을 논해서 무엇을 하겠습니까?” 김승주 고려대학교 정보보호대학원 교수는 7일 경기 성남시 밀리토피아 호텔 바이마린에서 열린 ‘AIDC 보안 기술 워크숍’에서 AI 보안 내재화의 출발점은 보안 제품이나 도구 도입이 아니라 요구사항을 제대로 정의하는 것이라고 강조했다. 김 교수는 이날 ‘AI 보안내재화는 왜 특히 더 어려운가?’를 주제로 발표했다.
텍스트 한 줄에 뚫리는 AI, “듀얼 LLM 격리가 해법”
인공지능(AI)이 사용자 대신 검색하고 판단하며 각종 작업을 수행하는 에이전트(Agent) 시대가 본격화하면서, 외부 데이터를 악용해 AI의 판단과 행동을 조작하는 ‘프롬프트 삽입(Prompt Injection)’ 공격이 새로운 보안 위협으로 떠오르고 있다.
오픈AI 에이전트, 사람이 쓰던 위키 점령 사건
오픈AI의 에이전트들이 독일의 한 위키 사이트를 점령한 사건이 벌어졌다. 사람이 사용하기 위해 만들어진 위키 사이트에 AI 에이전트가 수많은 글을 쓴 것이다.
무대는 독일어로 된 프로그래밍 개발자용 위키 DSEwiki다. 지난 5월부터 7월까지 석 달 가까이, 오픈AI 에이전트로 추정되는 계정들이 이 사이트에 약 1만8000건의 글을 남겼다.
End of content
End of content