텍스트 한 줄에 뚫리는 AI, “듀얼 LLM 격리가 해법”
인공지능(AI)이 사용자 대신 검색하고 판단하며 각종 작업을 수행하는 에이전트(Agent) 시대가 본격화하면서, 외부 데이터를 악용해 AI의 판단과 행동을 조작하는 ‘프롬프트 삽입(Prompt Injection)’ 공격이 새로운 보안 위협으로 떠오르고 있다.
인공지능(AI)이 사용자 대신 검색하고 판단하며 각종 작업을 수행하는 에이전트(Agent) 시대가 본격화하면서, 외부 데이터를 악용해 AI의 판단과 행동을 조작하는 ‘프롬프트 삽입(Prompt Injection)’ 공격이 새로운 보안 위협으로 떠오르고 있다.
인공지능(AI)과 대규모언어모델(LLM) 서비스에서 발견된 취약점이 지난해 말과 비교해 크게 증가한 것으로 나타났다. 카스퍼스키(한국 지사장 이효은)는 ‘분기별 익스플로잇·취약점 보고서(Quarterly Exploits and Vulnerabilities Report)’를 분석한 결과 올해 2분기 AI·LLM 서비스에서 기록된 취약점이 935건으로 집계됐다고 7일 밝혔다. 2025년 4분기와 비교하면 10배 증가한 수치다.
쿤텍(대표 방혁준)은 한국전자통신연구원(ETRI)이 주관하는 연구과제에서 온디바이스 인공지능(AI) 모델의 구조와 핵심 정보를 외부 분석으로부터 보호하는 난독화 기술과 데이터 흐름 분석 기술을 개발하고 있다고 7일 밝혔다.
이스트시큐리티는 네이버클라우드 컨소시엄이 개발하는 사이버 보안 특화 인공지능(AI) 파운데이션 모델에 악성코드 데이터와 사이버 위협 인텔리전스(CTI)를 제공한다고 7일 밝혔다.
엔키화이트햇(대표 이성권)은 KB국민은행에 인공지능(AI) 기반 웹 애플리케이션 침투테스트 자동화 솔루션 ‘오펜 AI DAST(OFFen AI DAST)’를 공급했다고 7일 밝혔다.
금융권의 인공지능(AI) 활용이 확대되면서 금융사와 금융소비자가 AI를 보다 쉽고 안전하게 활용할 수 있는 환경을 갖추는 일이 중요해지고 있다. 한국신용정보원은 금융권의 AI 활용을 지원하기 위해 금융사를 대상으로 한 ‘금융권 AI 플랫폼’과 금융소비자를 대상으로 한 ‘모두의 금융 AI 러닝 플랫폼’을 운영하고 있다. 금융권의 AI 도입 과정에서 나타나는 어려움과 이를 해결하기 위한 신용정보원의 역할에 대해 이철흠 본부장과 최성민 금융AI데이터부 AI전략팀 팀장을 만나 이야기를 들어봤다.
원더풀, 5억 5000만달러 규모 시리즈 C 투자 유치
알서포트, 인도네시아서 ‘리모트콜·리모트뷰’ 공식 출시
PTC 코리아, 한국공학대학교와 엔지니어링 인재 양성
나무AX·딜사이트·피노바, AI 기반 투자정보 사업 추진
국내 주요 통신·플랫폼 기업들이 별도 애플리케이션(앱) 설치 없이 카카오톡이나 전화·문자 등으로 쉽게 이용할 수 있는 대국민 인공지능(AI) 비서를 연내 출시한다. 복잡한 사용법을 새로 익혀야 하는 외산 AI와 달리, 전 국민에게 익숙한 기존 채널을 활용해 진입 장벽을 대폭 낮춘 것이 특징이다.
코난테크놀로지, KAI와 미래 핵심기술 협력 확대
다이슨이 지능형 가전 신제품 10종을 공개했다. 회사는 전동 칫솔부터 로봇청소기, 뷰티 디바이스 등 다양한 제품군을 선보였다.
워크데이, AI로 고객 견인해 실적 성장
래블업, 파이토치재단 실버 멤버로 합류
End of content
End of content