가트너 “AI 취약점 스캔 서비스, ‘프론티어 모델’ 간판만 믿으면 안 돼”

가트너 “AI 취약점 스캔 서비스, ‘프론티어 모델’ 간판만 믿으면 안 돼”

가트너는 미토스(Mythos) 등 프론티어 인공지능(AI) 모델을 내세운 취약점 점검 서비스를 도입하기 전에 실제 사용 모델과 점검 범위, 데이터 처리 방식을 확인해야 한다고 강조했다. 가트너는 22일 발간한 ‘프론티어 AI 취약점 점검을 위한 미토스 공급업체 주장 평가 방법(How to Evaluate “Mythos” Vendor Claims for Frontier AI Vulnerability Scanning)’ 보고서에서 일부 보안기업이 제한적으로 제공되는 프론티어 AI 모델에 대한 시장의 관심을 영업에 활용하고 있다고 분석했다.

[기획/미토스 이후, 취약점 대응②] 서비스 멈추지 않고 빠르게 패치하려면
|

[기획/미토스 이후, 취약점 대응②] 서비스 멈추지 않고 빠르게 패치하려면

AI는 취약점을 발견하고 공격에 활용하는 데 걸리는 시간을 계속해서 줄이고 있다. 실제 공격에 쓰이거나 인터넷에 노출된 취약점은 공식적인 패치 일정만 기다리기에는 한계가 있다. 기업의 보안·인프라 관계자들은 긴급 패치를 안전하게 적용하려면 공격 경로를 먼저 차단하고 운영 환경에 맞는 수정 사항을 확보해야 한다고 설명했다. 이후 시험 환경에서 검증한 패치를 일부 시스템부터 적용하고 서비스 상태에 따라 범위를 넓혀야 한다. 문제가 생기면 배포를 중단하거나 이전 상태로 되돌리는 복구 절차도 필요하다.

스페이스XAI, ‘그록 4.5’ 출시…“오푸스급이고 더 싸다”
|

스페이스XAI, ‘그록 4.5’ 출시…“오푸스급이고 더 싸다”

스페이스XAI(전 xAI)가 최신 프론티어 AI 모델 ‘그록 4.5(Grok 4.5)’를 공개했다. 딥페이크 포르노 영상과 반유대주의 이미지 생성으로 악명을 떨쳤던 그록은 이제 코딩 작업을 수행할 뿐 아니라 법률 문제를 처리하고 엑살이나 파워포인트 문서 작업도 수행하는 어른스러운 모델로 재포장됐다.

앤트로픽, AI 탈옥 위험도 평가 프레임워크 ‘CJS’ 초안 공개
|

앤트로픽, AI 탈옥 위험도 평가 프레임워크 ‘CJS’ 초안 공개

앤트로픽이 인공지능(AI) 모델의 안전장치를 우회하는 ‘탈옥’의 위험도를 5단계로 평가하는 체계를 제안했다. 단순히 모델이 금지된 답변을 내놓았는지를 판단하는 데서 나아가, 탈옥으로 공격자의 능력이 얼마나 높아졌는지와 실제 공격으로 이어질 가능성을 함께 평가한다.

앤트로픽, 에이전트 성능 강화한 ‘클로드 소넷 5’ 출시
|

앤트로픽, 에이전트 성능 강화한 ‘클로드 소넷 5’ 출시

앤트로픽이 향상된 성능과 가성비를 내세운 최신 인공지능(AI) 모델 ′클로드 소넷(Sonnet) 5’를 출시했다. 앤트로픽은 이번 모델을 소넷 시리즈 가운데 ‘가장 에이전틱한 모델’로 소개하며 브라우저나 터미널 등 도구 사용 능력을 강조했다. 클로드 소넷 5는 이날부터 모든 요금제(플랜)에서 사용할 수 있다. 무료와 프로 요금제에서는 기본 모델로 제공된다. 8월 31일까지는 입력 토큰 100만개당 2달러, 출력 토큰 100만개당 10달러의 할인 가격으로 모든 플랜에 제공된다.

[미토스 이후, 전문가에게 듣는다⑩] 보안 전문가들이 본 AI 보안 대응, 무엇이 바뀌어야 하나
| | |

[미토스 이후, 전문가에게 듣는다⑩] 보안 전문가들이 본 AI 보안 대응, 무엇이 바뀌어야 하나

미토스 이슈는 이제 AI 모델의 성능 논쟁을 넘어 국가의 안보 문제로까지 번지고 있다. 앤트로픽은 최근 일반 사용자용 모델 ‘클로드 페이블5(Claude Fable 5)’와 제한 접근 모델 ‘클로드 미토스5(Claude Mythos 5)’를 출시했다. 하지만 출시 직후 미국 정부가 국가안보 권한을 근거로 두 모델에 대한 외국 국적자 접근 중단을 지시하면서 논란이 커지고 있다. 앤트로픽은 정부 요청에 따라 페이블5와 미토스5 접근을 일시 중단했고, 접근 중단 문제를 해결하기 위해 백악관과 협의하는 등 대응에 나선 것으로 알려졌다. 전문가들이 미토스 이후의 대응을 서둘러야 한다고 보는 이유도 여기에 있다. 대응은 보안 특화 모델 개발이나 취약점 탐지, 빠른 패치 중 어떤 하나의 주제로 매몰되면 안 된다. 취약점을 찾는 속도가 빨라졌다면, 방어자는 패치 대응 체계를 바꾸고, AI를 활용한 방어 전략을 만들며, 장기적으로는 국가 안보와 직결되는 AI 기반 보안 역량을 높일 수 있는 방안을 마련해야 한다.

앤트로픽, 안전장치 적용한 ‘클로드 페이블5’·‘미토스5’ 출시

앤트로픽, 안전장치 적용한 ‘클로드 페이블5’·‘미토스5’ 출시

앤트로픽은 일반 사용자용 인공지능(AI) 모델 ‘클로드 페이블5(Claude Fable 5)’와 제한 접근 모델 ‘클로드 미토스5(Claude Mythos 5)’를 출시했다고 9일 밝혔다. 앤트로픽은 고성능 AI의 사이버보안 기능이 공격에 악용될 가능성을 줄이기 위해 일반 모델과 신뢰 접근 모델을 분리해 제공한다.

End of content

End of content