앤트로픽, 일하는 AI 에이전트 ‘클로드 듀엣’ 공개
앤트로픽이 업무용 인공지능(AI) 에이전트 ‘클로드 듀엣(Claude Duet)’을 공개했다. 회사는 21일(현지시간) 미국 내 프로·맥스 구독자를 대상으로 대기자 명단을 통한 연구용 사전 공개를 시작했다. 클로드 듀엣은 연결된 앱과 계정을 살펴 업무 우선순위를 정하고, 사용자가 자리를 비운 동안에도 요청받은 작업을 수행하는 독립형 앱이다.
앤트로픽이 검증한 ‘AI 웜’ 자가복제 실험
인공지능(AI)이 해킹 도구에서 더 발전해 다른 기기로 옮겨가며 스스로 복제하는 ‘AI 웜(AI Worm)’으로 발전할 수 있다는 연구 결과가 나왔다. 앤트로픽은 지난 12일 인터넷에 연결된 저사양 기기에서도 AI 모델을 실행하고 제한된 환경에서 복제 절차를 수행할 수 있다는 연구 결과를 발표했다. 실제 인터넷에서 AI 웜이 확산한 것은 아니지만, AI가 사람의 개입 없이 공격을 이어갈 가능성을 보여줬다는 설명이다.
티오리, 앤트로픽 보안 AI 프로그램 합류
티오리(대표 박세준)는 앤트로픽의 ‘사이버 검증 프로그램(Cyber Verification Program·CVP)’ 참여 승인을 받았다고 16일 밝혔다. 앞서 오픈AI의 사이버보안 프로그램 ‘데이브레이크(Daybreak)’ 참여도 승인받은 티오리는 두 기업의 고급 인공지능(AI) 기술을 자율형 모의해킹 플랫폼 ‘진트(Xint)’ 고도화에 활용할 계획이다.
AWS, 서울 리전서 앤트로픽 클로드 오퍼스·소넷 5 제공
아마존웹서비스(AWS)는 오늘 앤트로픽의 클로드 오퍼스 5, 클로드 소넷 5를 포함한 AI 모델을 아마존 베드록에서 AWS 아시아 태평양(서울) 리전을 기반으로 이용할 수 있게 됐다고 30일 발표했다. 이번 출시로 국내의 다양한 조직이 추론을 국내에서 처리하면서 앤트로픽의 클로드 모델을 사용할 수 있게 됐다.
앤트로픽, AI 모델 안전성 외부 검증 시스템 도입
앤트로픽이 자가 인공지능(AI) 모델의 안전성을 외부에서 검증하기 위해 평가자가 회사 내부의 모델 개발 과정을 들여다보는 ‘임베디드 평가(embedded evaluation)’를 도입한다. 완성된 모델을 외부에서 시험하는 데 그치지 않고, 모델이 학습되는 과정과 개발·배포 의사결정, 안전장치까지 외부 평가자가 지속적으로 검증하는 방식이다.
![[그게 뭔가요] 통제선 넘는 AI, 더 중요해지는 ‘위협 모델링’](https://cdn.byline.network/wp-content/uploads/2026/09/THREAT1-325x216.jpg)
[그게 뭔가요] 통제선 넘는 AI, 더 중요해지는 ‘위협 모델링’
인공지능(AI)이 사람이 정한 통제 범위를 벗어나 행동하는 사례가 잇따르면서 프론티어 AI 개발을 늦추거나 멈춰야 한다는 ‘AI 속도조절론’이 확산되고 있다. 오픈AI는 최근 아스트라(Astra) 등 자사 모델의 강화학습(RL)을 일시 중단했으며, 앤트로픽의 다이로 아모데이 CEO도 AI 개발 속도를 늦춰 안전조치가 따라갈 시간을 벌어야 한다고 목소리를 냈다. 미국에서는 일정 수준 이상의 첨단 AI 개발을 일시 중단하자는 법안도 추진되고 있다.
“AI 속도 늦추자”는 빅테크…국내 학계 “한국은 멈출 때 아니다”
글로벌 인공지능(AI) 기업들이 개발 속도 조절을 요구하고 나섰지만, 한국까지 이를 그대로 따라갈 필요는 없다는 국내 학계 진단이 나왔다. 아직 글로벌 선두권과 기술 격차가 있는 만큼 한국은 AI 개발을 이어가야 하며, 속도를 일률적으로 늦추기보다 특정 분야에 쏠린 투자를 조정하고 산업 전반의 균형을 맞춰야 한다는 조언이다.
삼성SDS, 앤트로픽 ‘셀렉트 티어’ 파트너 자격 획득
삼성SDS, 앤트로픽 ‘셀렉트 티어’ 파트너 자격 획득
앤트로픽, 보안 평가 중 사고 1건 추가…“AI가 감시체계도 교란”
앤트로픽이 인공지능(AI) 모델 ‘클로드’가 사이버보안 평가 도중 실제 외부 시스템에 무단 접근한 사고를 추가로 확인했다. 사고는 기존에 알려진 3건에서 4건으로 늘었다. 후속 조사에서는 공격을 수행한 AI의 잘못된 사고과정이 이를 감시하는 다른 AI의 판단까지 흐릴 수 있다는 문제도 확인됐다.
앤트로픽 연구원, 퇴사하며 AI 위험 경고
인공지능(AI) 안전을 최우선 가치로 내세웠던 미국 기업 앤트로픽 내부에서 회사가 표방한 안전 지침과 실제 행보가 다르다는 비판이 나왔다. 범용인공지능(AGI) 개발 경쟁이 치열해지는 가운데, 인류에 미칠 위험을 인지하고도 속도전을 멈추지 않고 있다는 내부자의 지적이다.
삼성SDS, ‘다차원 AI 풀스택’ 공개
삼성SDS는 8일 서울 코엑스 컨벤션센터에서 엔터프라이즈 인공지능 전환(AX) 콘퍼런스 ‘리얼 서밋 2026’을 열고 다차원 인공지능(AI) 풀스택 전략을 공개했다. AI 도입에 그치지 않고 인프라·플랫폼·솔루션과 컨설팅·개발·구축·운영 역량, 산업별 전문성을 결합해 기업의 업무와 비즈니스 전반을 바꾸겠다는 구상이다.
허깅페이스 침투 사고가 바꾼 것들
지난 7월 큰 충격을 준 오픈AI의 허깅페이스 침투 사고가 프론티어AI를 만들고 시험하는 방식까지 바꾸고 있다. 오픈AI와 앤트로픽은 최근 발생한 프론티어 모델들의 탈옥 사고 이후, 모델을 가두는 환경부터 강화학습, 실시간 행동 감시까지 여러 안전장치를 다시 정비하고 있다고 발표했다.
앤트로픽, 페이블5.1과 미토스5.1 출시
앤트로픽이 클로드 페이블 5.1과 미토스 5.1 버전을 출시했다. 페이블 5.1은 일반 사용자용 버전이고, 미토스 5.1은 신뢰 접근 프로그램 참여자에게만 제공되는 버전이다. 이전 모델 대비 토큰 효율 높여 비용을 줄이고, 모델 안전 장치의 오탐을 최소화하도록 했다. 특히 기업 이용자의 입출력 데이터를 앤트로픽에 저장하지 않고 고객의 별도 클라우드 인프라에만 보존하도록 했다.
앤트로픽이 주목한 클로드의 탈옥 원인
앤트로픽이 지난달 클로드가 외부 시스템에 무단 접근 사고의 원인으로 ‘평가 환경의 운영상 문제’와 ‘모델 정렬(alignment)’ 실패를 함께 지목했다. 클로드가 실제 인터넷에 접속했다는 사실을 인지한 뒤에도 공격을 멈추지 않은 점을 핵심으로 본 것이다. 앤트로픽은 31일 공식 블로그를 통해 사고 원인 분석과 후속 안전조치를 공개하고, 사고 이후 중단했던 외부 사이버보안 평가를 재개했다고 밝혔다. 회사는 내부·외부 평가 환경에 실시간 감시와 강화된 샌드박스 격리 등 추가 안전장치를 적용했다.
삼성SDS, 8일 ‘리얼 서밋 2026’ 개최
삼성SDS, 오는 8일 ‘리얼서밋 2026’ 개최
End of content
End of content