미국

티오리(대표 박세준)는 인공지능(AI) 기반 자율형 모의해킹 플랫폼 ‘진트(Xint)’를 활용해 미국 국방고등연구계획국(DARPA)의 ‘자율 AI 애플리케이션 보안’ 연구를 수행한다고 30일 밝혔다.

미국 캘리포니아주가 통제를 벗어난 프런티어 인공지능(AI)을 긴급 중단할 수 있는 ‘킬스위치(kill switch)’ 도입을 추진한다. AI 개발사의 안전·보안 체계를 외부 기관이 직접 검증하고, AI가 실제 시스템에 무단 접근하는 등의 사고도 중대 안전사고 범위에 포함하는 방안을 검토한다.

최신 인공지능(AI) 모델들이 보안 평가 과정에서 허용된 범위를 벗어나 외부 기업 시스템에 접근한 사례가 잇따르면서 미국에서 AI 안전성 검증 방식을 둘러싼 논쟁이 벌어지고 있다. 최근 미국 정부는 기업이 자율적으로 참여하는 프론티어 AI 검증체계를 마련하고 있지만, 정치권에서는 강제력이 없는 평가만으로 고도화된 AI의 사이버 위험을 통제할 수 있느냐는 지적이 나온다.

미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.

중국 인공지능(AI) 기업 즈푸AI(Zhipu AI·Z.ai)가 이달 공개한 모델 ‘GLM-5.2’가 일부 소프트웨어 보안 취약점 탐지 시험에서 앤트로픽의 미토스와 비슷한 성능을 보였다고 월스트리트저널(WSJ)이 27일(현지시간) 보도했다.