AI 악용 사이버위협 ‘비상’…정부, 민관 합동 대응 본격 추진
정부가 앤트로픽 미토스 같은 고성능 인공지능(AI)을 악용한 사이버위협에 대응하기 위한 본격 행보에 나섰다. 과학기술정보통신부는 29일 열린 제9회 과학기술관계장관회의에서 ‘AI 기반 사이버위협에 대응하기 위한 민간 정보보호 추진계획(안)’을 발표했다.
정부가 앤트로픽 미토스 같은 고성능 인공지능(AI)을 악용한 사이버위협에 대응하기 위한 본격 행보에 나섰다. 과학기술정보통신부는 29일 열린 제9회 과학기술관계장관회의에서 ‘AI 기반 사이버위협에 대응하기 위한 민간 정보보호 추진계획(안)’을 발표했다.
앤트로픽의 미토스 모델 발표 후 AI 도구를 활용한 소프트웨어 보안 취약점 발견이 급증하는 가운데, 현재 가장 큰 타격을 입고 있는 오픈소스 소프트웨어의 공급망 보안 분야에 IBM과 레드햇이 대규모 투자를 단행한다. 내부 AI 기술과 2만여명의 엔지니어를 투입해 기업에서 즉시 활용가능한 오픈소스 소프트웨어 보안성 관리 체계를 구축한다는 계획이다.
앤트로픽이 프론티어 모델의 최신 버전 오푸스(Opus) 4.8을 출시했다. 오푸스 4.7을 출시한 지 한달 만이다. 가장 강력한 모델인 ‘미토스’의 일반 공개 시점을 수주일 내라고 예고했다.
인공지능(AI) 기업 앤트로픽이 지난 22일 ‘프로젝트 글래스윙(Project Glasswing)’의 첫 성과를 발표한 후 정부가 국내 기업에 사이버 보안 점검과 대비태세 강화를 요청했다. AI가 소프트웨어 취약점을 대규모로 찾아내는 단계에 들어서면서, 기업도 기존의 수동 점검 중심 보안 체계를 재정비해야 한다는 취지다.
‘클로드 미토스 프리뷰’의 소프트웨어 취약점 탐지 능력이 실제 수치로 드러나면서 이에 대응할 보안 생태계 역량이 도마에 올랐다. 발견된 취약점을 검증하고 패치하는 속도의 한계가 보안 업계의 발목을 잡을 수 있다는 우려가 나온다.
오펜시브 보안 전문기업 티오리(Theori)를 둘러싸고 국내 일부 보안업계에서 우려가 나오고 있다. 박세준 티오리 대표가 지난 8일 과학기술정보통신부(이하 과기정통부) 장관 주재 미토스(Mythos) 관련 간담회에서 국내 보안업계에 대한 의견을 밝힌 뒤, 업계에서는 발언의 수위와 취약점 정보 관리 문제에 대한 지적이 나오고 있다.
앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 두고 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대의 사이버보안 대응 방향을 살펴본다. 그 여섯 번째로 최경진 가천대학교 법과대학 교수를 인터뷰했다. 최 교수는 한국인공지능법학회 회장으로 활동하고 있다. [편집자주]
금융보안원은 박상원 원장이 일본을 방문해 일본 금융청, 일본 금융ISAC, 앤트로픽 일본 지사 관계자들과 인공지능(AI) 보안 전략과 글로벌 협력 방안을 논의했다고 20일 밝혔다.
클라우드플레어는 앤트로픽(Anthropic)의 보안 특화 인공지능(AI) 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’를 자사 코드에 적용한 결과, 단순 취약점 탐지를 넘어 여러 버그를 하나의 공격 체인으로 연결하는 능력을 확인했다고 18일 밝혔다.
앤트로픽(Anthropic)은 인공지능(AI) 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’로 확인한 사이버 위협 정보를 외부 기관과 공유할 수 있도록 기존 방침을 바꿨다고 18일 로이터가 보도했다.
클라우드플레어가 앤트로픽의 차세대 AI 모델 ‘클로드 미토스 프리뷰’를 자사 인프라 코드에 직접 투입해 테스트한 결과를 18일(현지시각) 블로그에 공개했다. 기존 AI 모델과의 결정적 차이는 개별 취약점을 연결해 실제 공격 시나리오로 만들어내는 능력이었다.
윤두식 이로운앤컴퍼니 대표는 미토스 이후 기업 AI 보안의 핵심을 ‘거버넌스’에서 찾았다. 여기서 거버넌스는 추상적인 관리 체계를 뜻하지 않는다. 기업 안에서 누가 어떤 AI 모델을 쓰고, 어떤 데이터를 입력했으며, 어떤 답변을 받았는지 볼 수 있게 하는 가시성 체계에 가깝다. 여기에 민감정보 필터링, 유해 프롬프트 분류, 사용자·부서별 권한 관리, 사용량과 비용 관리, 감사 로그를 결합해야 실제 통제가 가능하다는 설명이다.
보안 백업·사이버 복원 전문기업 락게이트코어는 로컬 거대언어모델(LLM) 기반 보안점검 플랫폼 ‘모무스 AI(MOMUS AI)’를 출시했다고 15일 밝혔다.
구글 위협 인텔리전스 그룹(GTIG)은 최신 인공지능(AI) 위협 동향을 분석한 ‘AI 위협 추적 보고서(AI Threat Tracker)’를 발표했다고 12일 밝혔다.
End of content
End of content