AI 코딩 시장 존재감 없던 구글, 안티그래비티 2.0으로 반격 나섰다
AI 코딩 툴 시장에서 구글의 발걸음이 초조해지고 있다. 앤트로픽과 오픈AI가 AI 코딩 툴을 발판 삼아 기업용 AI 시장 전체를 빠르게 장악해가고 있기 때문이다. AI 코딩 툴이 기업 AI 도입의 관문이 되면서, 이 시장을 선점한 기업이 기업 고객 전반을 거머쥐는 구도가 형성되는 상황이다.
AI 코딩 툴 시장에서 구글의 발걸음이 초조해지고 있다. 앤트로픽과 오픈AI가 AI 코딩 툴을 발판 삼아 기업용 AI 시장 전체를 빠르게 장악해가고 있기 때문이다. AI 코딩 툴이 기업 AI 도입의 관문이 되면서, 이 시장을 선점한 기업이 기업 고객 전반을 거머쥐는 구도가 형성되는 상황이다.
금융보안원은 박상원 원장이 일본을 방문해 일본 금융청, 일본 금융ISAC, 앤트로픽 일본지사 관계자와 인공지능(AI) 보안 전략과 협력 방안을 논의했다고 20일 밝혔다.
클라우드플레어는 앤트로픽(Anthropic)의 보안 특화 인공지능(AI) 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’를 자사 코드에 적용한 결과, 단순 취약점 탐지를 넘어 여러 버그를 하나의 공격 체인으로 연결하는 능력을 확인했다고 18일 밝혔다.
앤트로픽(Anthropic)은 인공지능(AI) 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’로 확인한 사이버 위협 정보를 외부 기관과 공유할 수 있도록 기존 방침을 바꿨다고 18일 로이터가 보도했다.
AI가 인간을 협박하는 일이 실제로 일어난다고 한다. 앤트로픽의 연구에 따르면, 클로드 오푸스 4는 자신에게 위협적인 말을 하면 96%의 확률로 협박을 했다고 한다. 텍스트로 이런 메시지를 출력하거나, 실제로 작업을 방해하는 행동을 취하기도 했다.
과학기술정보통신부(이하 과기정통부)는 외교부·국가정보원·금융위원회·인공지능안전연구소(AISI)·한국인터넷진흥원(KISA)·금융보안원과 함께 미국 인공지능(AI) 기업 앤트로픽과 AI·사이버보안 분야 협력 방안을 논의하는 간담회를 11일 열었다고 밝혔다.
앤트로픽의 공격적인 B2B 확장이 팔란티어의 핵심 영역을 위협하고 있다. 두 기업은 미국 정부 시장에서 협력 관계를 이어가고 있지만, 민간 기업 시장에서는 점유율을 두고 경쟁하는 ‘불편한 동거’에 들어갔다.
박관순 티오리 CISO는 미토스 논란을 오펜시브 보안 현장의 관점에서 짚었다. 오펜시브 보안은 공격자의 방식으로 시스템을 점검하고 취약점을 검증하는 보안 영역이다. 박 CISO는 미토스를 단순히 ‘강한 AI 모델’로만 보면 안 된다고 했다. 그는 “취약점을 찾는 모델도 중요하지만, 어떤 코드를 볼지 정하고, 결과가 실제 공격 가능한 취약점인지 검증하고, 오탐을 걸러내는 운영 체계가 함께 있어야 한다”고 강조했다.
이상근 고려대 교수는 같은 문제를 더 넓은 국가안보와 거버넌스 관점에서 봤다. 그는 미토스를 단순히 취약점을 잘 찾는 AI 모델로 보지 않았다. 코딩을 잘하는 AI가 보안을 잘하게 되고, 그 능력이 취약점 탐지와 공격 도구 생성, 심각도 분류, 패치 자동화로 이어지면 사이버보안 자체가 전략 자산이 된다는 설명이다. 이 교수는 “미토스는 코딩, 추론, 장문맥, 사이버보안 능력이 결합된 모델”이라며 “코딩을 잘하는 AI를 선점하는 것이 곧 사이버 역량을 선점하는 일이 될 수 있다”고 말했다.
티오리(Theori)는 자사 인공지능(AI) 기반 코드 분석 솔루션 ‘진트 코드(Xint Code)’가 앤트로픽(Anthropic)의 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’가 공개한 주요 취약점 4건을 재현하고, 같은 코드베이스에서 제로데이 취약점 12건을 추가 탐지했다고 28일 밝혔다.
앤트로픽이 AI 모델 간 자율 상거래 실험인 ‘프로젝트 딜(Project Deal)’ 결과를 공개했다. 69명의 직원에 각각 AI 에이전트(클로드)를 배정하고, 슬랙 기반 사내 마켓플레이스에서 에이전트끼리 물품을 거래하도록 한 실험이다.
바이라인 주간 프리미엄 트렌드 리포트 458호가 발간됐습니다. 이번 호 딥다이브에서는 ‘괴물급 AI ‘미토스’, 보안의 판을 뒤집는다’를 다뤘습니다.
앤트로픽이 새로운 AI 모델 ‘클로드 미토스 프리뷰’를 공개한 이후, AI 기반 사이버 위협에 대한 우려가 점점 커지고 있다. 이상근 고려대학교 정보보호대학원 스마트보안학부 교수(AI보안연구소장)는 23일 서울 여의도 FKI타워 컨퍼런스센터에서 열린 ‘프론티어 AI 미토스 공개 보류 사태와 국가 및 기업 사이버 위기 대응 전략 긴급좌담회’에서 “미토스는 사이버보안 자체의 무기화 순간”이라고 진단했다.
PwC컨설팅과 유동수 더불어민주당 의원은 23일 서울 여의도 FKI타워 컨퍼런스센터에서 ‘프론티어 AI 미토스 공개 보류 사태와 국가·기업 사이버 위기 대응 전략’ 긴급 좌담회를 열고, 프론티어 AI 확산이 국가 안보와 산업, 사회에 미칠 영향과 대응 방안을 논의했다. 좌담회에는 학계와 정·관계, 산업계 관계자 100여명이 참석했다.
앤트로픽의 인공지능(AI) 모델 ‘미토스’를 계기로 AI가 사이버보안에 미칠 영향에 대한 논의가 커지고 있다. 핵심은 AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지다. 바이라인네트워크는 ‘전문가가 본 미토스’ 시리즈를 통해 AI 보안 위협의 실체와 국내 대응 방향을 전문가별로 짚어본다. 첫 번째로 시스템 보안과 소프트웨어 보안을 연구해온 윤인수 카이스트 교수의 견해를 들어봤다.
End of content
End of content