앤트로픽, 보안 평가 중 사고 1건 추가…“AI가 감시체계도 교란”
| |

앤트로픽, 보안 평가 중 사고 1건 추가…“AI가 감시체계도 교란”

By곽중희

앤트로픽이 인공지능(AI) 모델 ‘클로드’가 사이버보안 평가 도중 실제 외부 시스템에 무단 접근한 사고를 추가로 확인했다. 사고는 기존에 알려진 3건에서 4건으로 늘었다. 후속 조사에서는 공격을 수행한 AI의 잘못된 사고과정이 이를 감시하는 다른 AI의 판단까지 흐릴 수 있다는 문제도 확인됐다.

앤트로픽, 페이블5.1과 미토스5.1 출시
|

앤트로픽, 페이블5.1과 미토스5.1 출시

By김우용

앤트로픽이 클로드 페이블 5.1과 미토스 5.1 버전을 출시했다. 페이블 5.1은 일반 사용자용 버전이고, 미토스 5.1은 신뢰 접근 프로그램 참여자에게만 제공되는 버전이다. 이전 모델 대비 토큰 효율 높여 비용을 줄이고, 모델 안전 장치의 오탐을 최소화하도록 했다. 특히 기업 이용자의 입출력 데이터를 앤트로픽에 저장하지 않고 고객의 별도 클라우드 인프라에만 보존하도록 했다.

앤트로픽이 주목한 클로드의 탈옥 원인

앤트로픽이 주목한 클로드의 탈옥 원인

By곽중희

앤트로픽이 지난달 클로드가 외부 시스템에 무단 접근 사고의 원인으로 ‘평가 환경의 운영상 문제’와 ‘모델 정렬(alignment)’ 실패를 함께 지목했다. 클로드가 실제 인터넷에 접속했다는 사실을 인지한 뒤에도 공격을 멈추지 않은 점을 핵심으로 본 것이다. 앤트로픽은 31일 공식 블로그를 통해 사고 원인 분석과 후속 안전조치를 공개하고, 사고 이후 중단했던 외부 사이버보안 평가를 재개했다고 밝혔다. 회사는 내부·외부 평가 환경에 실시간 감시와 강화된 샌드박스 격리 등 추가 안전장치를 적용했다.

앤트로픽, 최신 AI 모델 국내 리전 출시 예고…금융권 ‘AI 네이티브’ 전환 본격화
| |

앤트로픽, 최신 AI 모델 국내 리전 출시 예고…금융권 ‘AI 네이티브’ 전환 본격화

By김원민

앤트로픽이 최신 AI 모델의 국내 서울 리전 출시를 예고하며 금융권의 망분리·개인정보 국외 반출 규제 대응에 나선다. 금융권은 AI 에이전트 활용을 넘어 데이터 정비와 내부통제를 기반으로 ‘AI 네이티브’ 전환을 본격화하는 모습이다.

“AI 가치는 실제 사용에서”…금융권 AX, 경영진이 이끈다
| | |

“AI 가치는 실제 사용에서”…금융권 AX, 경영진이 이끈다

By김원민

금융권 인공지능(AI) 활용이 개념증명(PoC)을 넘어 실제 업무 적용 단계로 접어들고 있다. 기업 경영진이 AI 도입을 직접 주도하면서 핵심 업무에 AI를 내재화하고 전사 확산을 추진하는 사례도 늘고 있다. AWS 파이낸셜 서비스 포럼에서는 현대캐피탈과 글로벌 보험사의 AI 도입 사례가 소개됐으며, 망분리 규제 완화로 금융권 AI 활용에 속도가 붙을 것이라는 전망도 나왔다.

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’
|

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’

By곽중희

최신 인공지능(AI) 모델에 시스템의 취약점을 찾는 보안 평가 과제를 맡겼더니, 시험 환경을 벗어나 실제 기업 시스템까지 침입했다. AI는 목표를 달성하기 위해 사람이 예상하지 못한 경로를 찾아냈다. 최근 오픈AI와 앤트로픽에서 일어난 사고다. 이번 사고를 계기로 AI와 보안업계에서는 ‘AI 정렬(AI Alignment)’의 중요성이 부각되고 있다. AI 정렬은 AI가 사람의 목표와 의도를 이해하고, 정해진 규칙 안에서 안전하게 행동하도록 만드는 과정을 뜻한다. 반대로 AI가 목표를 잘못 이해하거나 목표를 이루는 과정에서 사람이 정한 범위를 벗어나는 현상은 AI ’정렬 실패’ 혹은 ’오정렬’이라고 한다.

스페이스XAI, ‘그록 4.5’ 출시…“오푸스급이고 더 싸다”
|

스페이스XAI, ‘그록 4.5’ 출시…“오푸스급이고 더 싸다”

By김우용

스페이스XAI(전 xAI)가 최신 프론티어 AI 모델 ‘그록 4.5(Grok 4.5)’를 공개했다. 딥페이크 포르노 영상과 반유대주의 이미지 생성으로 악명을 떨쳤던 그록은 이제 코딩 작업을 수행할 뿐 아니라 법률 문제를 처리하고 엑살이나 파워포인트 문서 작업도 수행하는 어른스러운 모델로 재포장됐다.

CJ온스타일, ‘클로드 엔터프라이즈’ 전사 공식 AI 플랫폼으로 도입

CJ온스타일, ‘클로드 엔터프라이즈’ 전사 공식 AI 플랫폼으로 도입

By성아인

CJ온스타일이 앤트로픽의 기업용 생성형 AI 솔루션 ‘클로드 엔터프라이즈(Claude Enterprise)’를 전사 공식 AI 플랫폼으로 도입한다. 앞서 챗GPT 쇼핑 서비스 출시로 AI 기반 고객 경험을 혁신했다면, 이번 도입으로 기업 운영 전반에도 AI를 내재화해 AI를 기업 경쟁력 핵심 인프라로 구축한다는 목표다. 

End of content

End of content