오픈AI 등 100여개 기업 “수개월 내 AI 사이버공격 확산” 경고
오픈AI와 앤트로픽, 마이크로소프트(MS), 구글 등 100곳이 넘는 글로벌 기업과 기관이 인공지능(AI)을 활용한 사이버공격이 앞으로 수개월 안에 훨씬 광범위하고 정교해질 것이라며 공동 대응을 촉구했다. 병원과 수처리 시설을 비롯한 핵심 인프라를 우선 보호하고, 방어자에게 공격자보다 먼저 고성능 AI를 활용할 수 있는 환경을 제공해야 한다는 주장이다.
오픈AI가 27일(현지시간) 공개한 ‘사이버 방어를 위한 공동 행동 촉구(A call for collective action on cyber defense)’ 공개서한에는 앤트로픽과 MS, 구글, 아마존웹서비스(AWS), 오픈AI를 비롯해 클라우드플레어, 크라우드스트라이크, 포티넷, 팔로알토네트웍스, 센티넬원, 체크포인트, 시스코, IBM, 해커원 등 AI·클라우드·사이버보안 기업과 금융·통신·제조업체 등이 참여했다.
이들은 서한에서 “사이버 방어를 강화할 수 있는 시간이 제한돼 있다”며 “앞으로 수개월 동안 전 세계 AI 모델의 성능이 높아지면서 AI 기반 사이버공격이 훨씬 광범위하고 정교해질 것”이라고 전망했다.
특히 병원과 수처리 시설, 인터넷을 운영하는 인프라 등 사회가 의존하는 기업과 공공서비스가 위험에 놓일 수 있다고 지적했다. AI가 기존에는 전문적인 역량이 필요했던 보안 작업을 빠르고 저렴하게 수행할 수 있게 만드는 만큼 공격자 역시 이를 이용해 취약점을 찾고 공격을 확대할 수 있기 때문이다.
기존의 보안 체계만으로는 이 같은 변화에 대응하기 어렵다고 봤다. 오랫동안 방치된 소프트웨어 취약점과 과도한 권한, 잘못된 설정, 패치되지 않은 소프트웨어, 취약한 인증 체계, 레거시 시스템의 기술 부채 등이 공격면으로 남아 있다는 설명이다. 특히 핵심 인프라 보안팀은 그동안 인력과 자원이 부족했던 만큼 보안 도구와 지원을 빠르게 확대해야 한다고 강조했다.
대응 방안은 조직과 사이버보안 기업, 정부, 프론티어 AI 기업 등 네 영역으로 나눠 제시했다.
일반 기업과 기관에는 사이버 방어를 경영진 차원의 우선 과제로 높이고 가장 위험한 취약점부터 해결할 것을 요구했다. 최소권한과 강력한 접근통제, 다계층 방어를 적용하는 한편 구매하거나 개발·배포하는 소프트웨어의 보안 기준도 높여야 한다고 밝혔다. 여기에는 AI가 생성한 코드도 포함된다.
사이버보안 기업과 기술기업에는 프티어 AI의 사이버 역량을 기준으로 기존 보안체계를 지속적으로 시험하고, 보안 제품에 AI를 적용할 것을 주문했다. 특히 예산과 전문인력이 부족한 핵심 인프라 운영자들이 AI 기반 방어기술을 실제로 도입할 수 있도록 지원하고, 위협 인텔리전스와 검증된 대응 절차를 업계가 공유해야 한다고 제안했다.
정부의 역할도 강조했다. 각국 정부가 지역·국가·국제 수준에서 사이버 방어를 조율하고 정부와 민간의 위협정보 공유 체계를 강화해야 한다는 것이다. 인력이나 예산이 부족한 필수 서비스부터 사이버 방어에 재정을 투입하고 병원과 수도사업자, 지방정부 등이 고성능 방어용 AI와 보안 테스트 역량을 이용할 수 있도록 지원해야 한다고 밝혔다.
오픈AI와 앤트로픽 같은 프론티어 AI 기업에는 보다 직접적인 역할을 요구했다. 핵심 인프라 방어자들에게 책임 있는 방식으로 고성능 모델에 접근할 수 있도록 하고 자금과 교육, 기술 지원을 제공해야 한다는 것이다.
AI 에이전트의 활동을 추적하고 책임 소재를 확인할 수 있도록 관측성과 보안 도구를 개발하는 방안도 제시했다. 허가받은 보안 테스트와 비공개 취약점 공개, 검증된 수정 작업에 투자하고 정부와 보안기업, 오픈소스 유지관리자 등과 보안 도구와 대응 절차, 신뢰할 수 있는 위협 평가를 공유해야 한다고 강조했다.
이번 공동 경고는 최근 고성능 AI 모델의 사이버 역량이 빠르게 높아지고 있다는 각 개발사의 자체 평가와도 맞닿아 있다.
오픈AI는 이달 초 개발 중인 차세대 모델 ‘아스트라(Astra)’가 자사의 준비 프레임워크(Preparedness Framework)에서 사이버보안 역량 최고 단계인 ‘크리티컬(Critical)’에 이를 가능성을 배제할 수 없다고 밝혔다. 이 단계는 사람의 개입 없이 실제 핵심 시스템에서 다양한 심각도의 제로데이 취약점을 찾아 작동하는 익스플로잇을 개발하거나, 높은 수준의 목표만 주어진 상태에서 견고한 표적을 상대로 새로운 공격 전략을 설계·실행할 수 있는 수준을 의미한다.
실제 모델 평가 과정에서 통제를 벗어난 사례도 잇따랐다. 오픈AI는 지난 26일 내부 사이버보안 평가 과정에서 AI 에이전트들이 격리 통제를 우회해 내부 연구 인프라와 허깅페이스 시스템 일부에 무단 접근한 사고의 최종 조사 결과를 공개했다. 일부 에이전트는 서로 정보를 공유하고 여러 취약점을 연결해 허깅페이스 서버에서 코드를 실행하는 단계까지 나아갔다.
앤트로픽 역시 지난달 자체 사이버보안 평가 기록 14만1006건을 재검토한 결과 클로드 모델이 외부 인터넷으로 연결돼 실제 조직 세 곳의 시스템에 허가 없이 접근한 사례 3건을 확인했다고 공개했다. 당시 평가 환경에서는 일반 서비스에 적용되는 일부 안전장치가 제거된 상태였다.
공동서한은 AI가 공격 능력을 높이는 동시에 방어자의 역량도 높일 수 있다고 봤다. 이에 따라 공격자들이 고성능 AI를 대규모로 활용하기 전에 핵심 인프라 방어자들에게 사이버 역량을 갖춘 AI를 먼저 제공하는 ‘방어자의 시간’을 활용해야 한다는 것이 서한의 핵심 주장이다. 다만 이번 서한에는 참여 기업들의 구체적인 공동 투자 규모나 이행 시한 등은 제시되지 않았다.
글. 바이라인네트워크
<곽중희 기자>god8889@byline.network
