![[그게 뭔가요] 통제선 넘는 AI, 더 중요해지는 ‘위협 모델링’](https://cdn.byline.network/wp-content/uploads/2026/09/THREAT1-325x216.jpg)
인공지능(AI)이 사람이 정한 통제 범위를 벗어나 행동하는 사례가 잇따르면서 프론티어 AI 개발을 늦추거나 멈춰야 한다는 ‘AI 속도조절론’이 확산되고 있다. 오픈AI는 최근 아스트라(Astra) 등 자사 모델의 강화학습(RL)을 일시 중단했으며, 앤트로픽의 다이로 아모데이 CEO도 AI 개발 속도를 늦춰 안전조치가 따라갈 시간을 벌어야 한다고 목소리를 냈다. 미국에서는 일정 수준 이상의 첨단 AI 개발을 일시 중단하자는 법안도 추진되고 있다.
전임 대표이사 시절 마이크로소프트 애저 클라우드 재판매와 KT그룹의 클라우드 인프라 서비스 제공자로 성격을 바꿨던 KT클라우드가 다시 하드웨어를 내세우고 있다. 데이터센터 운영 중심 인력으로 구성된 탓에 소프트웨어 기술력 부재에 가파른 학습 곡선을 넘어야 했던 지난 4년을 뒤로 하고 본래 전쟁터로 복귀한 것이다. AI 인프라와 기술적 호재에 AI 데이터센터란 부동산 개발사업까지 맡으며 중량감은 어느 때보다 무거워졌다.
글로벌 인공지능(AI) 기업들이 개발 속도 조절을 요구하고 나섰지만, 한국까지 이를 그대로 따라갈 필요는 없다는 국내 학계 진단이 나왔다. 아직 글로벌 선두권과 기술 격차가 있는 만큼 한국은 AI 개발을 이어가야 하며, 속도를 일률적으로 늦추기보다 특정 분야에 쏠린 투자를 조정하고 산업 전반의 균형을 맞춰야 한다는 조언이다.
“한국 기업 10곳 중 8곳이 AI로 생산성 향상을 경험하고 있고, 생산성 향상에 따라 주간 평균적으로 14시간을 절감했다고 한다. 다음의 과제는 어떻게 경제를 위한 진정한 전환으로 확산할 것인가다.” 닉 본스토우 스트랜드 파트너스 파트너는 11일 AWS코리아 사옥에서 진행된 ‘2026년 한국의 AI 잠재력 발현’ 기자간담회에서 이같이 밝혔다.
LG AI연구원이 스스로 판단하고 실행하는 에이전틱 AI를 제조·과학·의료·금융 등 산업 현장에 적용하고 있으며, 엑사원 계열 AI를 통해 불량 예측, 신물질 탐색, 맞춤형 치료, 금융 예측 등을 지원하고 있다. 향후에는 로봇 파운데이션 모델을 고도화해 여러 설비와 로봇이 연계되는 자율형 공장 구축을 추진할 계획이다.
한국정보보호산업협회(KISIA)가 인공지능(AI)을 활용한 사이버위협에 공동 대응하기 위한 ‘K-글래스윙’ 프로젝트를 가동한다. 국내 보안기업끼리 위협정보를 공유하고 국산 보안제품의 취약점을 함께 점검하는 체계를 만드는 것이 목표다. 또한 KISIA는 최근 정부가 추진하고 있는 ‘보안 특화 AI 파운데이션 모델(보안 특파모)’ 사업에도 회원사들의 데이터와 보안 전문성을 활용할 수 있도록 협력 방안을 모색한다.
앤트로픽이 인공지능(AI) 모델 ‘클로드’가 사이버보안 평가 도중 실제 외부 시스템에 무단 접근한 사고를 추가로 확인했다. 사고는 기존에 알려진 3건에서 4건으로 늘었다. 후속 조사에서는 공격을 수행한 AI의 잘못된 사고과정이 이를 감시하는 다른 AI의 판단까지 흐릴 수 있다는 문제도 확인됐다.
네이버클라우드는 소버린 AI의 다음 무대로 사이버보안을 택하고, 정부의 ‘사이버 보안 특화 AI 파운데이션 모델’ 사업을 통해 국내에서 통제 가능한 보안 AI 구축에 나선다. 하이퍼클로바X와 LG AI연구원의 엑사원을 각각 보안에 특화하고, 공격·방어 툴체인과 현장 데이터를 결합해 실제 보안 업무에 쓸 수 있는 모델을 만드는 것이 목표다. 네이버클라우드는 33개 기관 컨소시엄과 함께 공공·금융·국가 핵심시설에서 실증하고, 이후 클라우드 유통망과 해외 소버린 AI 사업으로 확장할 계획이다.
인공지능(AI) 안전을 최우선 가치로 내세웠던 미국 기업 앤트로픽 내부에서 회사가 표방한 안전 지침과 실제 행보가 다르다는 비판이 나왔다. 범용인공지능(AGI) 개발 경쟁이 치열해지는 가운데, 인류에 미칠 위험을 인지하고도 속도전을 멈추지 않고 있다는 내부자의 지적이다.
오픈AI코리아가 인공지능(AI) 기술 발전 상황과 한국 기업의 도입 현황, 향후 인프라 확충 계획을 공개했다. 김경훈 오픈AI코리아 총괄대표는 9일 서울 강남구 조선팰리스호텔에서 열린 ‘한국 오피스 공식 출범 1주년’ 기자간담회에서 단순한 정보 검색을 넘어 AI가 스스로 판단하고 복잡한 업무를 수행하는 에이전트(Agent) AI로 기술이 발전하고 있다고 설명했다. 이번 기자간담회는 한국 시장 진출 1년을 맞아 기업간거래(B2B) 사업 성과와 향후 인프라 확충 계획을 공유하기 위해 마련됐다.
AI가 세계 6대 미해결 수학 난제 중 하나를 풀어냈다는 주장이 나오면서 수학계가 술렁이고 있다. 오픈AI는 지난 8일(현지시각) 내부 AI 모델을 이용해 나비에-스토크스 방정식이 예외적인 경우를 허용한다는 것을 증명했다고 발표했다.
이광후 모니터랩 대표는 9일 개최한 연례 통합 애플리케이션 보안 페어(IASF) 2026 행사 기자간담회에서 “약 3년 전부터 우리나라에 제로트러스트 개념이 도입된 이후 결과적으로 국가 네트워크 보안 프레임워크까지 바뀌었다. 지난해 국가정보원이 국가망보안체계(N2SF)를 발표한 게 그 결과”라고 강조하며, “이제는 물리적인 경계선 기반의 네트워크 보안이 아니라, 제로트러스트, 즉 소프트웨어로 정의되는 경계선 기반의 보안으로 재정립되고 있다. 공무원들도 생성형 AI를 적극 활용할 수 있도록 지원하기 위한 다양한 아키텍처가 국가 차원에서 시행되고 있다”고 국가 차원의 사이버보안 정책과 기조 변화 흐름을 짚었다. 서비스형소프트웨어(SaaS) 등 클라우드 시대를 넘어 AI 시대에 접어들면서 이같은 제로트러스트 기반 보안 체계로의 변화가 가속화되면서 모니터랩이 주력해온 클라우드 서비스 기반 통합보안 플랫폼 수요가 커질 것으로 이 대표는 전망하고 있다.
구글 딥마인드가 AI 에이전트 100개에 동료 수학 연구자인 것처럼 캐릭터를 부여한 뒤 수학 문제를 푸는 실험을 진행한 결과, 부정행위가 확산되고 이를 저지하려는 내부고발자까지 등장하는 현상이 관찰됐다.
딥마인드 연구진 6명은 지난 3일 이 같은 내용을 담은 논문 ‘자율 연구 집단에서의 부정행위와 내부고발 발생에 대한 사례 연구’를 발표했다.
삼성SDS가 공공, 국방, 금융 등 규제 산업 내 고객의 AI 에이전트 도입을 지원하는 폐쇄망 환경 특화 ‘브리티웍스 코워크’를 10월 출시한다. 8일 서울 코엑스에서 열린 ‘리얼 서밋 2026’에서 창성중 삼성SDS 상무는 “글로벌 솔루션이 가지고 있는 한계성을 극복하고 퍼블릭망 사용에 제한이 있는 규제 산업에서 안전하게 사용할 수 있다”며 “보안과 폐쇄망 환경에 특화한 맞춤형 AI 업무 동료를 오는 10월 상용화한다”고 밝혔다.
End of content
End of content
