시스코는 앤트로픽의 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’를 자사 보안 플랫폼 ‘시스코 AI 디펜스(Cisco AI Defense)’에 도입해 AI 에이전트의 보안 검증 기능을 강화한다고 10일 밝혔다. 시스코는 호주 멜버른에서 열린 연례 행사 ‘시스코 라이브 APJC’에서 이 같은 계획을 발표했다. 클로드 미토스의 추론 능력을 활용해 실제 공격과 유사한 환경에서 AI 애플리케이션과 에이전트의 취약점을 탐색한다는 구상이다.
프론티어 인공지능(AI)은 실제 해킹 현장에서 얼마나 쓸 만할까. 글로벌 버그바운티 플랫폼 해커원(HackerOne)이 AI 모델의 취약점 탐색 능력을 평가한 결과, 단일 모델은 시험 대상 취약점의 85.5%를 발견했다. 세 모델을 함께 활용하면 탐색률은 98.4%까지 높아졌다. 그러나 취약점을 찾아내는 것과 실제 공격이 가능한 지를 판단하는 것은 다른 문제였다.
인공지능(AI) 기업 앤트로픽(Anthropic)의 내부 시스템에 외부 보안 연구업체가 무단으로 접근한 사실이 확인됐다. 이 과정에서 기업용 클로드(Claude) 이용자의 이름과 이메일 주소, 계정 정보 등이 노출됐을 가능성이 있다. 앤트로픽은 지난 10월 8일 제3자 사이버보안 연구업체가 승인 없이 자체 보안 테스트를 수행하던 중 일부 내부 시스템의 데이터에 접근했다고 7일 이용자에게 보낸 개인정보 관련 안내문을 통해 밝혔다.
지난 4월 앤트로픽이 ‘클로드 미토스 프리뷰’를 공개했을 때, 보안업계는 놀랐다. AI가 소프트웨어 취약점을 찾아 실제 공격 코드까지 만들었기 때문이다. 반년이 지난 지금, 오픈AI·앤트로픽·구글 등 AI 기업들은 취약점 발견과 공격 검증 능력을 높인 프론티어 모델을 앞다퉈 공개하고 있다. 최근에는 AI가 취약점을 수정하는 패치까지 작성하는 단계에 도달했다.
LG CNS(대표 현신균)는 올 3분기 연결기준 영업이익이 1382억원으로 전년 동기 대비 15% 증가했다고 30일 밝혔다. 매출은 1조6643억원으로 9.3% 늘었다. 회사에 따르면 금융권 차세대 시스템 구축 사업의 매출 반영과 인공지능(AI)·클라우드 사업 확대가 실적에 영향을 미쳤다.
앤트로픽이 업무용 인공지능(AI) 에이전트 ‘클로드 듀엣(Claude Duet)’을 공개했다. 회사는 21일(현지시간) 미국 내 프로·맥스 구독자를 대상으로 대기자 명단을 통한 연구용 사전 공개를 시작했다. 클로드 듀엣은 연결된 앱과 계정을 살펴 업무 우선순위를 정하고, 사용자가 자리를 비운 동안에도 요청받은 작업을 수행하는 독립형 앱이다.
인공지능(AI)이 해킹 도구에서 더 발전해 다른 기기로 옮겨가며 스스로 복제하는 ‘AI 웜(AI Worm)’으로 발전할 수 있다는 연구 결과가 나왔다. 앤트로픽은 지난 12일 인터넷에 연결된 저사양 기기에서도 AI 모델을 실행하고 제한된 환경에서 복제 절차를 수행할 수 있다는 연구 결과를 발표했다. 실제 인터넷에서 AI 웜이 확산한 것은 아니지만, AI가 사람의 개입 없이 공격을 이어갈 가능성을 보여줬다는 설명이다.
티오리(대표 박세준)는 앤트로픽의 ‘사이버 검증 프로그램(Cyber Verification Program·CVP)’ 참여 승인을 받았다고 16일 밝혔다. 앞서 오픈AI의 사이버보안 프로그램 ‘데이브레이크(Daybreak)’ 참여도 승인받은 티오리는 두 기업의 고급 인공지능(AI) 기술을 자율형 모의해킹 플랫폼 ‘진트(Xint)’ 고도화에 활용할 계획이다.
아마존웹서비스(AWS)는 오늘 앤트로픽의 클로드 오퍼스 5, 클로드 소넷 5를 포함한 AI 모델을 아마존 베드록에서 AWS 아시아 태평양(서울) 리전을 기반으로 이용할 수 있게 됐다고 30일 발표했다. 이번 출시로 국내의 다양한 조직이 추론을 국내에서 처리하면서 앤트로픽의 클로드 모델을 사용할 수 있게 됐다.
앤트로픽이 자가 인공지능(AI) 모델의 안전성을 외부에서 검증하기 위해 평가자가 회사 내부의 모델 개발 과정을 들여다보는 ‘임베디드 평가(embedded evaluation)’를 도입한다. 완성된 모델을 외부에서 시험하는 데 그치지 않고, 모델이 학습되는 과정과 개발·배포 의사결정, 안전장치까지 외부 평가자가 지속적으로 검증하는 방식이다.
![[그게 뭔가요] 통제선 넘는 AI, 더 중요해지는 ‘위협 모델링’](https://cdn.byline.network/wp-content/uploads/2026/09/THREAT1-325x216.jpg)
인공지능(AI)이 사람이 정한 통제 범위를 벗어나 행동하는 사례가 잇따르면서 프론티어 AI 개발을 늦추거나 멈춰야 한다는 ‘AI 속도조절론’이 확산되고 있다. 오픈AI는 최근 아스트라(Astra) 등 자사 모델의 강화학습(RL)을 일시 중단했으며, 앤트로픽의 다이로 아모데이 CEO도 AI 개발 속도를 늦춰 안전조치가 따라갈 시간을 벌어야 한다고 목소리를 냈다. 미국에서는 일정 수준 이상의 첨단 AI 개발을 일시 중단하자는 법안도 추진되고 있다.
글로벌 인공지능(AI) 기업들이 개발 속도 조절을 요구하고 나섰지만, 한국까지 이를 그대로 따라갈 필요는 없다는 국내 학계 진단이 나왔다. 아직 글로벌 선두권과 기술 격차가 있는 만큼 한국은 AI 개발을 이어가야 하며, 속도를 일률적으로 늦추기보다 특정 분야에 쏠린 투자를 조정하고 산업 전반의 균형을 맞춰야 한다는 조언이다.
삼성SDS, 앤트로픽 ‘셀렉트 티어’ 파트너 자격 획득
앤트로픽이 인공지능(AI) 모델 ‘클로드’가 사이버보안 평가 도중 실제 외부 시스템에 무단 접근한 사고를 추가로 확인했다. 사고는 기존에 알려진 3건에서 4건으로 늘었다. 후속 조사에서는 공격을 수행한 AI의 잘못된 사고과정이 이를 감시하는 다른 AI의 판단까지 흐릴 수 있다는 문제도 확인됐다.
인공지능(AI) 안전을 최우선 가치로 내세웠던 미국 기업 앤트로픽 내부에서 회사가 표방한 안전 지침과 실제 행보가 다르다는 비판이 나왔다. 범용인공지능(AGI) 개발 경쟁이 치열해지는 가운데, 인류에 미칠 위험을 인지하고도 속도전을 멈추지 않고 있다는 내부자의 지적이다.
End of content
End of content
