앤트로픽, 보안 평가 중 사고 1건 추가…“AI가 감시체계도 교란”
앤트로픽이 인공지능(AI) 모델 ‘클로드’가 사이버보안 평가 도중 실제 외부 시스템에 무단 접근한 사고를 추가로 확인했다. 사고는 기존에 알려진 3건에서 4건으로 늘었다. 후속 조사에서는 공격을 수행한 AI의 잘못된 사고과정이 이를 감시하는 다른 AI의 판단까지 흐릴 수 있다는 문제도 확인됐다.
앤트로픽이 인공지능(AI) 모델 ‘클로드’가 사이버보안 평가 도중 실제 외부 시스템에 무단 접근한 사고를 추가로 확인했다. 사고는 기존에 알려진 3건에서 4건으로 늘었다. 후속 조사에서는 공격을 수행한 AI의 잘못된 사고과정이 이를 감시하는 다른 AI의 판단까지 흐릴 수 있다는 문제도 확인됐다.
앤트로픽이 지난달 클로드가 외부 시스템에 무단 접근 사고의 원인으로 ‘평가 환경의 운영상 문제’와 ‘모델 정렬(alignment)’ 실패를 함께 지목했다. 클로드가 실제 인터넷에 접속했다는 사실을 인지한 뒤에도 공격을 멈추지 않은 점을 핵심으로 본 것이다. 앤트로픽은 31일 공식 블로그를 통해 사고 원인 분석과 후속 안전조치를 공개하고, 사고 이후 중단했던 외부 사이버보안 평가를 재개했다고 밝혔다. 회사는 내부·외부 평가 환경에 실시간 감시와 강화된 샌드박스 격리 등 추가 안전장치를 적용했다.
앤트로픽이 프론티어 모델의 최신 버전 오푸스(Opus) 4.8을 출시했다. 오푸스 4.7을 출시한 지 한달 만이다. 가장 강력한 모델인 ‘미토스’의 일반 공개 시점을 수주일 내라고 예고했다.
최근 개발자 커뮤니티에서 화제가 된 ‘포켓OS(PocketOS) 데이터베이스 증발 사건’은 회사 운영 인프라에 에이전트를 성급하게 연결했을 때 어떤 일이 벌어질 수 있는지 보여준다. 창업자 ‘제르 크레인(Jer Crane)’이 X(옛 트위터)에 직접 밝힌 이 사건의 전말과 원인을 짚어봤다.
앤트로픽이 AI 모델 간 자율 상거래 실험인 ‘프로젝트 딜(Project Deal)’ 결과를 공개했다. 69명의 직원에 각각 AI 에이전트(클로드)를 배정하고, 슬랙 기반 사내 마켓플레이스에서 에이전트끼리 물품을 거래하도록 한 실험이다.
앤트로픽이 차세대 클로드 모델을 공개했다. 클로드 오푸스4와 클로드 소넷4다. 최근 AI 시장의…
End of content
End of content