몇 달 전 온라인 커뮤니티 레딧의 챗GPT 게시판에 이상한 경험담이 다수 올라왔다. “오븐은 더러운 꼬마 고블린이에요”, “병원 대기시간은 고블린 물리학을 따릅니다” 등 챗GPT가 생뚱맞게 고블린이란 단어를 남발했다는 것이다. 적지 않은 사용자가 경험한 이 현상은 해외에서 고블린게이트(Goblingate)로 불리며 꽤 화제가 됐다. 고블린게이트는 얼핏 가벼운 오류처럼 보이지만, 사실 AI 모델 훈련 시스템의 구조적 결함을 보여주는 사례다.
데이터독이 GPU 모니터링 기능을 23일 정식 출시했다. GPU 모니터링은 기업의 인공지능(AI) 인프라 운영 과정에서 발생하는 비용과 성능 문제를 관리하기 위한 기능이다. 회사 측은 이를 통해 워크로드 병목과 리소스 비효율을 파악할 수 있다고 전했다.
“사람과 사람의 소통하는 도구로 문서가 사용됐다면, 이제는 사람과 대규모언어모델(LLM)의 소통도 문서로 이뤄집니다. 인공지능(AI)이 문서를 읽고 처리할 수 있기 때문입니다. 문서보안은 AI가 문서를 읽고 행동하는 환경까지 통제하는 모델로 확장돼야 합니다.” 배환국 소프트캠프 대표는 22일 바이라인네트워크와의 인터뷰에서 이같이 말했다. 문서가 사람 사이의 협업 도구를 넘어 인공지능(AI) 에이전트가 업무를 이해하고 실행하는 통로로 바뀌면서, 문서보안 기업 소프트캠프도 AI·서비스형 소프트웨어(SaaS) 시대에 맞춰 보안 전략을 확장하고 있다는 설명이다.
생성형 인공지능(AI)이 업무에 빠르게 도입되면서, AI 보안의 초점도 단순히 악성 프롬프트를 차단하는 수준을 넘어 대규모언어모델(LLM)과 AI 서비스 전반의 안전성을 선제적으로 검증하는 쪽으로 옮겨가고 있다. 나현식 숭실대학교 AI안정성연구센터 연구교수는 16일 서울 삼성동 코엑스에서 열린 ‘제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR) 2026’에서 “대규모언어모델(LLM) 보안은 취약점을 찾는 레드티밍을 넘어 공격과 방어를 함께 돌리는 ‘퍼플티밍’ 체계로 나아가야 한다”고 강조했다. 이날 나 교수는 ‘국내외 LLM 보안, 안전성 평가 및 레드티밍’이라는 주제로 발표했다.
“텍스트 중심의 AI 보안 체계는 한계점이 명확합니다. 이제는 멀티모달(multimodal) 환경에서 보안 패러다임을 바꿔야 합니다.” 김기홍 샌즈랩 대표는 16일 서울 삼성동 코엑스에서 열린 ‘제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR) 2026’에서 이렇게 말했다. 김 대표는 이날 ‘멀티모달 AI 공격 표현 확장에 따른 보안 패러다임 변화’를 주제로 발표했다. 그는 “거대언어모델(LLM)이 이미지, 음성, 영상, 파일 등 다양한 형식의 데이터를 함께 처리하는 멀티모달 방식으로 진화하고 있다”며 “텍스트 중심 방어만으로는 이런 입력을 조합한 새로운 공격을 막기 어려워졌다”고 설명했다.
앤트로픽이 지난 7일 새로운 AI 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’의 일반 공개를 보류하고 제한된 파트너에게만 제공한 뒤, 단순한 AI 신기술 발표를 넘어 금융권과 정부의 대응 사안으로 번지고 있다.
업스테이지는 1800억원 규모의 시리즈C 1차 투자를 마무리했다. 이번 투자 라운드의 리드 투자자로는 실리콘밸리 기반 벤처캐피털(VC) 사제파트너스가 참여했다.
오픈AI는 14일 보안 방어자 대상 접근 프로그램인 트러스티드 액세스 포 사이버(TAC)를 확대하고, 보안 특화 모델 ‘GPT-5.4-사이버(GPT-5.4-Cyber)’를 최고 등급 이용자에게 제한적으로 제공한다고 밝혔다. 오픈AI는 TAC를 검증된 개인 방어자 수천명과 핵심 소프트웨어를 방어하는 수백개 팀 규모로 확대한다고 설명했다.
천정희 서울대학교 수리과학부 교수(크립토랩 대표)가 9일 국가인공지능(AI)전략위원회 보안특별위원회가 주최한 ‘동형암호 기반의 Encrypter LLM과 AI 데이터 보호’ 세미나에서 동형암호(Homomorphic Encryption)를 AI 시대 데이터 보호의 핵심 기술로 제시했다.
체크포인트는 기업의 AI 사용과 애플리케이션, 에이전트 시스템 운영 전반을 통합 관리·보호하는 보안 플랫폼 ‘체크포인트 AI 디펜스 플레인(Check Point AI Defense Plane)’을 출시했다고 9일 밝혔다. 회사는 프라이빗 AI 인프라 보호를 위한 ‘AI 팩토리 보안 아키텍처 블루프린트’도 공개했다.
“대규모언어모델(LLM)이 소프트웨어 보안 분야에서 실제 취약점 탐지 도구로 빠르게 존재감을 키우고 있지만, 모델 하나만으로 대형 코드베이스의 모든 취약점을 찾아내는 ‘만능 상자’는 아직 아닙니다.” 7일부터 8일까지 서울 코엑스에서 열린 ‘닷핵 컨퍼런스 2026’의 키노트 연사로 나선 타일러 나이스완더(Tyler Nighswander) 티오리(Theori) 연구원은 “지금 중요한 것은 모델 자체보다, LLM이 흔들리지 않도록 둘러싸는 구조와 절차”라고 진단했다.
앤트로픽은 7일(현지시각) 인공지능(AI) 기반 취약점 탐지 프로젝트 ‘프로젝트 글래스윙(Project Glasswing)’을 공개했다.
인공지능(AI) 에이전트를 위한 보안 시장이 단순 위험 진단을 넘어 설계·개발·검증·배포·운영·거버넌스 전반에서 솔루션 경쟁이 벌어지는 단계에 들어섰다는 분석이 나왔다. 웹 애플리케이션 보안 분야의 국제 비영리 단체 OWASP(Open Worldwide Application Security Project)가 최근 공개한 ‘AI 에이전트용 보안 솔루션 지형도’ 보고서에 따르면, AI 에이전트 보안 시장은 단순히 “AI 에이전트가 위험하다”는 문제 제기를 넘어, 생애주기별 보안 통제와 제품군이 구체화하는 단계로 진입하고 있다.
한국인터넷진흥원(KISA)는 2023년부터 2025년까지 주요 기업을 상대로 모의침투 점검을 한 결과, 점검 대상 기업의 약 89%에서 중요정보 탈취, 개인정보 탈취, 내부망 침투, 관리자 권한 탈취, 시스템 제어권 획득 등 5개 목표 가운데 최소 1개 이상의 가능한 취약 요인이 확인됐다고 밝혔다.
윈스테크넷은 생성형 인공지능(AI) 서비스 사용 과정에서 민감정보 유출을 막는 보안 솔루션 ‘스나이퍼 에이아이백스(SNIPER AIVAX)’를 출시했다고 13일 밝혔다.
End of content
End of content
