앤트로픽, 보안 평가 중 사고 1건 추가…“AI가 감시체계도 교란”
앤트로픽이 인공지능(AI) 모델 ‘클로드’가 사이버보안 평가 도중 실제 외부 시스템에 무단 접근한 사고를 추가로 확인했다. 사고는 기존에 알려진 3건에서 4건으로 늘었다. 후속 조사에서는 공격을 수행한 AI의 잘못된 사고과정이 이를 감시하는 다른 AI의 판단까지 흐릴 수 있다는 문제도 확인됐다.
앤트로픽 연구원, 퇴사하며 AI 위험 경고
인공지능(AI) 안전을 최우선 가치로 내세웠던 미국 기업 앤트로픽 내부에서 회사가 표방한 안전 지침과 실제 행보가 다르다는 비판이 나왔다. 범용인공지능(AGI) 개발 경쟁이 치열해지는 가운데, 인류에 미칠 위험을 인지하고도 속도전을 멈추지 않고 있다는 내부자의 지적이다.
삼성SDS, ‘다차원 AI 풀스택’ 공개
삼성SDS는 8일 서울 코엑스 컨벤션센터에서 엔터프라이즈 인공지능 전환(AX) 콘퍼런스 ‘리얼 서밋 2026’을 열고 다차원 인공지능(AI) 풀스택 전략을 공개했다. AI 도입에 그치지 않고 인프라·플랫폼·솔루션과 컨설팅·개발·구축·운영 역량, 산업별 전문성을 결합해 기업의 업무와 비즈니스 전반을 바꾸겠다는 구상이다.
허깅페이스 침투 사고가 바꾼 것들
지난 7월 큰 충격을 준 오픈AI의 허깅페이스 침투 사고가 프론티어AI를 만들고 시험하는 방식까지 바꾸고 있다. 오픈AI와 앤트로픽은 최근 발생한 프론티어 모델들의 탈옥 사고 이후, 모델을 가두는 환경부터 강화학습, 실시간 행동 감시까지 여러 안전장치를 다시 정비하고 있다고 발표했다.
앤트로픽, 페이블5.1과 미토스5.1 출시
앤트로픽이 클로드 페이블 5.1과 미토스 5.1 버전을 출시했다. 페이블 5.1은 일반 사용자용 버전이고, 미토스 5.1은 신뢰 접근 프로그램 참여자에게만 제공되는 버전이다. 이전 모델 대비 토큰 효율 높여 비용을 줄이고, 모델 안전 장치의 오탐을 최소화하도록 했다. 특히 기업 이용자의 입출력 데이터를 앤트로픽에 저장하지 않고 고객의 별도 클라우드 인프라에만 보존하도록 했다.
앤트로픽이 주목한 클로드의 탈옥 원인
앤트로픽이 지난달 클로드가 외부 시스템에 무단 접근 사고의 원인으로 ‘평가 환경의 운영상 문제’와 ‘모델 정렬(alignment)’ 실패를 함께 지목했다. 클로드가 실제 인터넷에 접속했다는 사실을 인지한 뒤에도 공격을 멈추지 않은 점을 핵심으로 본 것이다. 앤트로픽은 31일 공식 블로그를 통해 사고 원인 분석과 후속 안전조치를 공개하고, 사고 이후 중단했던 외부 사이버보안 평가를 재개했다고 밝혔다. 회사는 내부·외부 평가 환경에 실시간 감시와 강화된 샌드박스 격리 등 추가 안전장치를 적용했다.
삼성SDS, 8일 ‘리얼 서밋 2026’ 개최
삼성SDS, 오는 8일 ‘리얼서밋 2026’ 개최
오픈AI 등 100여개 기업 “수개월 내 AI 사이버공격 확산” 경고
오픈AI와 앤트로픽, 마이크로소프트(MS), 구글 등 100곳이 넘는 글로벌 기업과 기관이 인공지능(AI)을 활용한 사이버공격이 앞으로 수개월 안에 훨씬 광범위하고 정교해질 것이라며 공동 대응을 촉구했다. 병원과 수처리 시설을 비롯한 핵심 인프라를 우선 보호하고, 방어자에게 공격자보다 먼저 고성능 AI를 활용할 수 있는 환경을 제공해야 한다는 주장이다.
앤트로픽, 최신 AI 모델 국내 리전 출시 예고…금융권 ‘AI 네이티브’ 전환 본격화
앤트로픽이 최신 AI 모델의 국내 서울 리전 출시를 예고하며 금융권의 망분리·개인정보 국외 반출 규제 대응에 나선다. 금융권은 AI 에이전트 활용을 넘어 데이터 정비와 내부통제를 기반으로 ‘AI 네이티브’ 전환을 본격화하는 모습이다.
“AI 가치는 실제 사용에서”…금융권 AX, 경영진이 이끈다
금융권 인공지능(AI) 활용이 개념증명(PoC)을 넘어 실제 업무 적용 단계로 접어들고 있다. 기업 경영진이 AI 도입을 직접 주도하면서 핵심 업무에 AI를 내재화하고 전사 확산을 추진하는 사례도 늘고 있다. AWS 파이낸셜 서비스 포럼에서는 현대캐피탈과 글로벌 보험사의 AI 도입 사례가 소개됐으며, 망분리 규제 완화로 금융권 AI 활용에 속도가 붙을 것이라는 전망도 나왔다.
오픈AI, 고객 데이터 저장 없이 AI 악용 탐지…‘비공개 안전 처리’ 도입
오픈AI가 기업 고객의 프롬프트와 인공지능(AI) 모델 응답을 보관하지 않으면서도 여러 상호작용에 걸친 악용 패턴을 탐지하는 기술을 도입한다.
앤트로픽, 미토스5 보안 제품에 통합…직접 접근은 제한
앤트로픽이 자사의 프론티어 모델 ‘클로드 미토스5(Claude Mythos 5)’를 기존 보안 제품과 서비스에 통합한다. 이용자가 미토스5에 직접 접근하는 대신 취약점 패치나 보안 경고 등 방어에 필요한 결과물을 받을 수 있도록 하는 방식이다.
앤트로픽, 매출·수익성에서 오픈AI 훌쩍 넘었다
앤트로픽이 지난 2분기동안 잠정매출 115억달러를 기록한 것으로 알려졌다. 전년 동기 대비 14배 성장한 것이고, 1분기 매출 47억3000만달러 대비 140% 이상 성장한 것이다. 7월말 기준 잠정연간매출은 650억달러를 기록해 작년말 90억달러보다 7배 성장했다. 이로써 앤트로픽은 후발주자임에도 기업시장 공략을 통해 선도업체인 오픈AI를 사업 규모에서 한발짝 앞서게 됐다.
오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려
오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.
미국서 프론티어 AI ‘자율 검증’ 논쟁 벌어져
최신 인공지능(AI) 모델들이 보안 평가 과정에서 허용된 범위를 벗어나 외부 기업 시스템에 접근한 사례가 잇따르면서 미국에서 AI 안전성 검증 방식을 둘러싼 논쟁이 벌어지고 있다. 최근 미국 정부는 기업이 자율적으로 참여하는 프론티어 AI 검증체계를 마련하고 있지만, 정치권에서는 강제력이 없는 평가만으로 고도화된 AI의 사이버 위험을 통제할 수 있느냐는 지적이 나온다.
End of content
End of content