과기정통부, 오픈AI·앤트로픽과 AI 안전 협력 확대
과학기술정보통신부(이하 과기정통부)는 인공지능안전연구소와 오픈AI(OpenAI)가 17일 업무협약을 맺은 데 이어 앤트로픽(Anthropic)과도 AI 안전성 확보와 사이버보안 협력을 위한 업무협약을 체결했다고 18일 밝혔다.
과학기술정보통신부(이하 과기정통부)는 인공지능안전연구소와 오픈AI(OpenAI)가 17일 업무협약을 맺은 데 이어 앤트로픽(Anthropic)과도 AI 안전성 확보와 사이버보안 협력을 위한 업무협약을 체결했다고 18일 밝혔다.
마이크로소프트가 생산성 도구를 위한 비즈니스 업무 AI 에이전트인 ‘마이크로소프트365 코파일럿 코워크’를 정식 출시했다. 마이크로소프트는 클로드 코워크보다 30~40% 더 저렴한 비용으로 업무용 AI 에이전트를 이용할 수 있다고 강조했다.
미토스 이슈는 이제 AI 모델의 성능 논쟁을 넘어 국가의 안보 문제로까지 번지고 있다. 앤트로픽은 최근 일반 사용자용 모델 ‘클로드 페이블5(Claude Fable 5)’와 제한 접근 모델 ‘클로드 미토스5(Claude Mythos 5)’를 출시했다. 하지만 출시 직후 미국 정부가 국가안보 권한을 근거로 두 모델에 대한 외국 국적자 접근 중단을 지시하면서 논란이 커지고 있다. 앤트로픽은 정부 요청에 따라 페이블5와 미토스5 접근을 일시 중단했고, 접근 중단 문제를 해결하기 위해 백악관과 협의하는 등 대응에 나선 것으로 알려졌다. 전문가들이 미토스 이후의 대응을 서둘러야 한다고 보는 이유도 여기에 있다. 대응은 보안 특화 모델 개발이나 취약점 탐지, 빠른 패치 중 어떤 하나의 주제로 매몰되면 안 된다. 취약점을 찾는 속도가 빨라졌다면, 방어자는 패치 대응 체계를 바꾸고, AI를 활용한 방어 전략을 만들며, 장기적으로는 국가 안보와 직결되는 AI 기반 보안 역량을 높일 수 있는 방안을 마련해야 한다.
지난 12일 앤트로픽의 최신 모델 페이블 5가 전 세계에서 동시에 차단됐다. 출시된 지 사흘만에 세계 최상위급 AI 모델에 접근하는 것이 금지된 것이다. 무슨 일이 있었던 것일까?
미국 정부가 앤트로픽의 최신 모델 ‘페이블5’와 ‘미토스5’에 외국인 접속을 차단했다. 안드레 카파시를 비롯해 미국 내 앤트로픽 소속의 외국인 직원도 접근할 수 없었다. 이에 앤트로픽은 모든 고객에게 페이블5와 미토스5 서비스 제공을 중단했다.
앤트로픽은 일반 사용자용 인공지능(AI) 모델 ‘클로드 페이블5(Claude Fable 5)’와 제한 접근 모델 ‘클로드 미토스5(Claude Mythos 5)’를 출시했다고 9일 밝혔다. 앤트로픽은 고성능 AI의 사이버보안 기능이 공격에 악용될 가능성을 줄이기 위해 일반 모델과 신뢰 접근 모델을 분리해 제공한다.
LG CNS, 앤트로픽 ‘클로드 엔터프라이즈’ 도입
오픈AI가 기업공개(IPO) 신청서를 비밀리에 제출하며 상장을 위한 첫 행정 절차를 밟았다. 앤트로픽이 신청서를 제출한 지 일주일 만이다. 오픈AI는 8일 공식 블로그를 통해 미국 증권거래위원회(SEC)에 기밀 증권신고서(S-1) 초안을 제출했다고 밝혔다. 규제 당국에 재무 정보를 미리 검토받고, 추후 일반에 정보를 공개할 예정이다.
김창훈 대구대학교 컴퓨터정보공학부 교수는 미토스 이후 국내 AI 보안 대책이 보안 특화 모델 개발, 취약점 탐지, 빠른 패치 등 일부분에 매몰돼 있다고 지적했다. 모두 필요한 과제지만, 당장 공격자가 어디를 노릴지와 실제로 어떻게 막을지를 먼저 봐야 한다는 지적이다. 김 교수는 “본질은 막는 것”이라며 “취약점을 찾고 패치를 빨리 하자는 논의와 대책이 나오고 있지만, 정작 어디가 공격받을 가능성이 큰지, 그 기관을 실제로 어떻게 보호할지에 대한 현실적인 논의는 부족한 실정”이라고 짚었다.
앤트로픽 인스티튜트는 5일 ‘AI가 스스로를 만들 때(When AI builds itself)’라는 제목의 글에서 AI가 AI 개발을 이미 주도하고 있으며, 완전한 재귀적 자기개선을 향해 나아가고 있다고 밝혔다. 앤트로픽에 따르면, 2026년 5월 기준, 앤트로픽 개발 코드의 80% 이상을 클로드가 작성한다. 2025년 초 클로드 코드 출시 전 이 비율은 한 자릿수에 불과했다. 1년여 만에 코드 생산의 주체가 인간에서 AI로 역전된 것이다.
앤트로픽은 2025년 3월부터 2026년 3월까지 악의적 사이버 활동으로 차단한 832개 계정을 분석한 결과, AI가 악성코드 개발 같은 공격 준비 단계를 넘어 침투 이후 단계에도 활용되고 있다고 3일 밝혔다.
생성형 인공지능(AI) 기업 ‘앤트로픽(Anthropic)’이 AI 인프라 자금 확보를 위해 미국 증시 상장에 나섰다. 회사는 이번 기업공개(IPO) 관련 서류를 비밀리에 제출했다. 상장의 주도권 확보와 대규모 자본이 오가는 글로벌 AI 시장에 급증하는 AI 인프라 수요와 컴퓨팅 비용에 대비하려는 목적으로도 보여진다.
스노우플레이크가 앤트로픽과 파트너십을 확대하고, 클로드 모델과 스노우플레이크 생성형 AI 제품을 통합해 기업용 AI 시장을 공략한다. 스노우플레이크의 플랫폼은 앤트로픽의 프론티어 모델을 네이티브로 통합하고, 앤트로픽 클로드 모델은 스노우플레이크 플랫폼의 보안과 거버넌스 역량 하에 놓인다.
레오 14세 교황은 지난 25일 회칙 ‘위대한 인간성(Magnifica Humanitas)’을 통해 이와 같은 입장을 밝혔다. 발표된 회칙은 전 세계 14억 가톨릭 신자를 대상으로 하는 교황의 가장 권위 있는 공문으로써 총 5장에 걸쳐 기술과 인간성에 대한 비전을 제시했다. 해당 회칙은 인공지능(AI)에 대한 가톨릭 기조로 자리잡아 향후 AI 관련 여론에 영향을 미칠 것으로 예상된다.
End of content
End of content