앤트로픽

앤트로픽이 자가 인공지능(AI) 모델의 안전성을 외부에서 검증하기 위해 평가자가 회사 내부의 모델 개발 과정을 들여다보는 ‘임베디드 평가(embedded evaluation)’를 도입한다. 완성된 모델을 외부에서 시험하는 데 그치지 않고, 모델이 학습되는 과정과 개발·배포 의사결정, 안전장치까지 외부 평가자가 지속적으로 검증하는 방식이다.

앤트로픽이 지난달 클로드가 외부 시스템에 무단 접근 사고의 원인으로 ‘평가 환경의 운영상 문제’와 ‘모델 정렬(alignment)’ 실패를 함께 지목했다. 클로드가 실제 인터넷에 접속했다는 사실을 인지한 뒤에도 공격을 멈추지 않은 점을 핵심으로 본 것이다. 앤트로픽은 31일 공식 블로그를 통해 사고 원인 분석과 후속 안전조치를 공개하고, 사고 이후 중단했던 외부 사이버보안 평가를 재개했다고 밝혔다. 회사는 내부·외부 평가 환경에 실시간 감시와 강화된 샌드박스 격리 등 추가 안전장치를 적용했다.

오픈AI와 앤트로픽, 마이크로소프트(MS), 구글 등 100곳이 넘는 글로벌 기업과 기관이 인공지능(AI)을 활용한 사이버공격이 앞으로 수개월 안에 훨씬 광범위하고 정교해질 것이라며 공동 대응을 촉구했다. 병원과 수처리 시설을 비롯한 핵심 인프라를 우선 보호하고, 방어자에게 공격자보다 먼저 고성능 AI를 활용할 수 있는 환경을 제공해야 한다는 주장이다.