KISA ″‘한국형 보안 특파모’ 중요, 국가 전략자산으로 만들어야″
| |

KISA ″‘한국형 보안 특파모’ 중요, 국가 전략자산으로 만들어야″

한국인터넷진흥원(KISA)이 한국형 보안 특화 인공지능(AI) 파운데이션 모델(보안 특파모)을 국가 전략자산으로 확보해야 한다고 강조했다. 해외 프론티어 모델만으로는 한국을 겨냥한 공격과 국내 소프트웨어 환경을 충분히 반영하기 어렵고, 국가 핵심 인프라의 시스템 구성과 취약점 정보를 외부 모델에 맡기는 데도 한계가 있다는 판단 때문이다.

IBM “AI 에이전트 통제의 시작은 신원 부여부터”
| | |

IBM “AI 에이전트 통제의 시작은 신원 부여부터”

“업무적으로 AI를 많이 써야 하는 시기가 곧 도래할 것이므로, 기계와 잘 공존할 수단을 마련해야 한다.  아직 AI가 비즈니스를 수행하기엔 신뢰가 떨어지는 게 사실이므로, AI를 잘 통제해야 원하는 방향대로 활용할 수 있다. AI 에이전트의 신원, 권한, 실행, 도구사용을 런타임에서 통제하지 못하는게 문제의 본질이다. 엔터프라이즈 환경에서 에이전틱 AI를 보호하는 것의 시작은 고유한 신원을 AI 에이전트에게 부여하는 것이다.” 최석재 IBM 상무는 22일 여의도 FKI타워 컨퍼런스센터에서 개최된 ‘금융 테크 컨퍼런스 2026’에서 이같이 밝혔다.

앤트로픽, AI 모델 안전성 외부 검증 시스템 도입

앤트로픽, AI 모델 안전성 외부 검증 시스템 도입

앤트로픽이 자가 인공지능(AI) 모델의 안전성을 외부에서 검증하기 위해 평가자가 회사 내부의 모델 개발 과정을 들여다보는 ‘임베디드 평가(embedded evaluation)’를 도입한다. 완성된 모델을 외부에서 시험하는 데 그치지 않고, 모델이 학습되는 과정과 개발·배포 의사결정, 안전장치까지 외부 평가자가 지속적으로 검증하는 방식이다.

미국 캘리포니아주, 통제 벗어난 AI 차단하는 ‘킬스위치’ 도입 추진

미국 캘리포니아주, 통제 벗어난 AI 차단하는 ‘킬스위치’ 도입 추진

미국 캘리포니아주가 통제를 벗어난 프런티어 인공지능(AI)을 긴급 중단할 수 있는 ‘킬스위치(kill switch)’ 도입을 추진한다. AI 개발사의 안전·보안 체계를 외부 기관이 직접 검증하고, AI가 실제 시스템에 무단 접근하는 등의 사고도 중대 안전사고 범위에 포함하는 방안을 검토한다.

End of content

End of content