텍스트 한 줄에 뚫리는 AI, “듀얼 LLM 격리가 해법”
인공지능(AI)이 사용자 대신 검색하고 판단하며 각종 작업을 수행하는 에이전트(Agent) 시대가 본격화하면서, 외부 데이터를 악용해 AI의 판단과 행동을 조작하는 ‘프롬프트 삽입(Prompt Injection)’ 공격이 새로운 보안 위협으로 떠오르고 있다.
인공지능(AI)이 사용자 대신 검색하고 판단하며 각종 작업을 수행하는 에이전트(Agent) 시대가 본격화하면서, 외부 데이터를 악용해 AI의 판단과 행동을 조작하는 ‘프롬프트 삽입(Prompt Injection)’ 공격이 새로운 보안 위협으로 떠오르고 있다.
앤트로픽이 지난달 클로드가 외부 시스템에 무단 접근 사고의 원인으로 ‘평가 환경의 운영상 문제’와 ‘모델 정렬(alignment)’ 실패를 함께 지목했다. 클로드가 실제 인터넷에 접속했다는 사실을 인지한 뒤에도 공격을 멈추지 않은 점을 핵심으로 본 것이다. 앤트로픽은 31일 공식 블로그를 통해 사고 원인 분석과 후속 안전조치를 공개하고, 사고 이후 중단했던 외부 사이버보안 평가를 재개했다고 밝혔다. 회사는 내부·외부 평가 환경에 실시간 감시와 강화된 샌드박스 격리 등 추가 안전장치를 적용했다.
인공지능(AI)이 사람을 대신해 금융 업무를 자율적으로 수행하는 AI 에이전트 기술에 대해 국내 금융사들이 다소 소극적인 태도를 취하고 있다는 분석이 나온다. 이에 빅테크 기업과의 기술 경쟁에서 뒤처질 수 있다는 가능성이 제기된다.
옵스왓 국내 총판 인섹시큐리티는 옵스왓이 인공지능(AI) 기반 차세대 샌드박스 엔진 ‘메타디펜더 이더’를 출시했다고 18일 밝혔다. 이 제품은 네트워크 경계 구간에서 파일을 분석해 알려지지 않은 위협을 탐지한다.
서울대학교기술지주는 루센트블록이 토큰증권(STO) 유통을 맡을 조각투자 장외거래소 사업자 예비인가에서 사실상 탈락해 시장 퇴출 위기에 놓이자 성명서를 내고 비판에 나섰다. 서울대기술지주는 루센트블록이 ‘부동산 조각투자’라는 새로운 영역에 도전하던 초기 단계부터 기술력과 실행 가능성을 신뢰하며 성장을 함께해 온 투자 파트너다.
실사용량 기반으로 최적의 스마트폰 요금제 추천, 종이 대신 전자처방전 보관, 반려동물의 비대면…
웹3.0 디지털 자산 지갑 플랫폼 ‘빗썸 부리또 월렛’ 운영사 블록체인 기업 로똔다(대표…
메타버스 게이밍 플랫폼 기업 더 샌드박스가 주요 시장으로 한국을 꼽으며, K 콘텐츠를…
대형 승합 택시 아이엠을 운영하는 진모빌리티가 ‘택시 차고지 밖 교대 서비스’ 샌드박스…
매일 나오는 수많은 커머스 소식, 일일이 찾아보기 귀찮으셨죠? 커머스BN이 해결해줍니다. 커머스BN 딥다이브는…
택시 동승 플랫폼 ‘반반택시’를 운영하는 스타트업 코나투스가 모빌리티 부문에서는 처음으로 ICT 규제샌드박스 실증특례사업을…
인섹시큐리티(대표 김종광)는 인공지능(AI) 엔진 기반 악성코드 정밀 분석 솔루션 ‘조샌드박스 머신러닝(Joe Sandbox…
– 2018년 9월 인터넷전문은행특별법 – 2018년 12월 금융혁신지원특별볍 – 2019년 2월 오픈API…
지능형지속위협(APT) 대응 분야 대표 솔루션으로 부각된 가상환경 악성코드 행위분석 솔루션, 이른바 ‘샌드박스’가…
파이어아이코리아(대표 전수홍)가 엔드포인트 보호 플랫폼(EPP) 사업을 본격 전개한다. 지능형지속위협(APT) 등 정교한 사이버공격에…
End of content
End of content