앤트로픽, AI 모델 안전성 외부 검증 시스템 도입

앤트로픽, AI 모델 안전성 외부 검증 시스템 도입

앤트로픽이 자가 인공지능(AI) 모델의 안전성을 외부에서 검증하기 위해 평가자가 회사 내부의 모델 개발 과정을 들여다보는 ‘임베디드 평가(embedded evaluation)’를 도입한다. 완성된 모델을 외부에서 시험하는 데 그치지 않고, 모델이 학습되는 과정과 개발·배포 의사결정, 안전장치까지 외부 평가자가 지속적으로 검증하는 방식이다.

미국 캘리포니아주, 통제 벗어난 AI 차단하는 ‘킬스위치’ 도입 추진

미국 캘리포니아주, 통제 벗어난 AI 차단하는 ‘킬스위치’ 도입 추진

미국 캘리포니아주가 통제를 벗어난 프런티어 인공지능(AI)을 긴급 중단할 수 있는 ‘킬스위치(kill switch)’ 도입을 추진한다. AI 개발사의 안전·보안 체계를 외부 기관이 직접 검증하고, AI가 실제 시스템에 무단 접근하는 등의 사고도 중대 안전사고 범위에 포함하는 방안을 검토한다.

국정원 “국가 핵심 산업, 양자내성암호 전환 앞당겨야”
|

국정원 “국가 핵심 산업, 양자내성암호 전환 앞당겨야”

국가정보원(원장 이종석, 이하 국정원)이 국가 핵심·고기밀 산업 분야의 양자내성암호(Post-Quantum Cryptography·PQC) 전환 시점을 기존에 설정한 2035년 목표보다 앞당기는 방안을 검토한다. 양자컴퓨터 기술의 발전 속도가 빨라진 만큼 장기간 보호해야 하는 국가 기밀과 기반시설부터 새로운 암호체계로 전환한다는 구상이다. 국정원은 17일 서울 강남구 코엑스에서 열린 ‘사이버 서밋 코리아 2026(CSK 2026)’에서 “양자컴퓨터 발전이 빨라지면서 각 국가에서 PQC 전환을 앞당기는 논의와 정책이 나오고 있다”며 “구체적인 조기 전환 대상과 일정은 관계부처와 협의하고 있다”고 밝혔다.

End of content

End of content