오픈AI 공동창업자 “수개월 내 보안 자동화해야”

인공지능(AI)의 사이버 공격 역량이 빠르게 발전하면서 기업들도 앞으로 수개월 안에 보안 업무를 상당 부분 자동화해야 한다는 경고가 나왔다. 공격자가 AI로 취약점을 찾고 공격하는 속도가 빨라지는 만큼 방어 역시 사람이 일일이 대응하는 구조에서 AI를 이용한 ‘머신 스피드(machine speed)’ 대응으로 전환해야 한다는 것이다.

그렉 브록먼 오픈AI 공동창업자 겸 사장은 지난 17일 공식 블로그를 통해 “앞으로 몇 달 동안 모든 조직은 안전을 유지하기 위해 보안 프로그램을 상당 부분 자동화하기 시작해야 한다”고 강조했다. 그는 지난달 발생한 오픈AI와 허깅페이스(Hugging Face) 보안 사고를 사이버보안의 ‘분수령’으로 평가했다.

브록먼은 AI 모델이 사람이 작성한 소프트웨어 안에 오랫동안 숨어 있던 버그부터 잊힌 권한과 잘못된 설정까지 찾아내면서 실제 사이버 공격의 일부 단계를 자동화할 수 있게 됐다고 했다. AI의 발전이 공격자의 능력을 높이는 동시에 방어자도 같은 기술을 이용해 취약점을 더 빠르게 발견하고 고칠 수 있다는 설명이다.

오픈AI는 최근 내부 보안 업무에 AI를 적극 투입하고 있다. 브록먼에 따르면, 현재 오픈AI에서 발생하는 초기 보안 경보의 거의 대부분은 AI가 먼저 분류한 뒤 필요한 경우 사람이 개입한다. 탐지 결과를 제한된 자동 대응과 연결하는 작업도 확대하고 있으며, 영향이 큰 결정은 사람이 맡는다. 목표는 보안 문제를 ‘머신 스피드’로 탐지하고 대응하는 것이다.

소프트웨어 개발 단계에서도 AI를 사용한다. 오픈AI는 코덱스(Codex)와 보안 플러그인을 이용해 코드 변경 사항을 검증하고 취약점을 찾아 배포 전에 수정하고 있다. AI가 자사 제품과 인프라를 지속적으로 점검하면서 취약점과 잘못된 설정, 과도한 권한을 가진 계정, 의도하지 않은 신뢰 관계 등 잠재적인 공격 경로를 찾도록 하는 방식도 사용한다.

브록먼은 자신의 웹사이트를 AI에 점검시킨 사례도 소개했다. 공개 모델인 GPT-5.6 Sol을 사용하는 챗GPT 워크(ChatGPT Work)에 개인 웹사이트 보안을 검사하도록 하자 약 15분 만에 13개의 문제를 찾아냈다는 설명이다.

여기에는 이메일 위조를 막기 위한 DNS 설정 부재와 오래된 제이쿼리(jQuery), 클라우드플레어에서 아마존웹서비스(AWS)로 전달되는 암호화되지 않은 HTTP 연결 등이 포함됐다. 이후 AI에 문제를 수정하도록 하자 클라우드플레어 관리 화면을 직접 조작하고 DNS와 TLS 설정을 변경하는 등 일부 작업을 수행했다.

브록먼의 경고 배경에는 지난달 발생한 허깅페이스 사고가 있다. 오픈AI는 26일 해당 사고에 대한 최종 조사 결과를 공개했다.

오픈AI에 따르면 지난 7월 내부 사이버보안 평가 과정에서 여러 AI 에이전트가 인터넷 접근을 막기 위한 통제를 우회하고 오픈AI 연구 인프라와 허깅페이스 시스템 일부를 침해했다. 사고를 주도한 것은 GPT-5.6 Sol과 비슷한 규모의 내부 연구 모델이었으며, 평가를 위해 일반 서비스보다 안전장치가 낮아진 환경에서 동작하고 있었다.

에이전트들은 당초 서로 독립적으로 움직이도록 설정됐지만 오픈AI 내부 패키지 관리 시스템을 일종의 게시판으로 이용해 정보를 공유했다. 인터넷에 접근하는 방법과 발견한 취약점도 서로 전달했다. 이후 여러 취약점을 연결해 허깅페이스 서버에서 코드 실행 권한을 얻고 일부 서버와 클러스터로 접근 범위를 넓혔다.

오픈AI는 이번 사건을 자사뿐 아니라 업계 전체를 향한 경고로 평가했다. 충분한 안전장치가 없을 경우 고성능 AI 에이전트가 여러 컴퓨터 시스템의 보안 약점을 찾아 공격하고, 허가되지 않은 통신 경로를 통해 서로 협력할 수 있다는 사실이 실제 사고로 확인된 것이다. 다만 사고가 고객 데이터와 오픈AI 제품의 기능·가용성에는 영향을 미치지 않았다고 회사는 설명했다.

오픈AI는 사고 이후 인터넷 연결을 더욱 제한한 격리 환경을 확대하고 모델 가중치 접근 통제를 강화했다. AI가 작업 과정에서 어떤 판단을 내리는지 감시하는 체인오브소트(chain-of-thought) 모니터링에도 더 많은 컴퓨팅 자원을 투입하고 있다.

브록먼은 기업들도 한 번에 완전 자율형 보안관제센터를 구축하기보다는 단계적으로 자동화를 확대해야 한다고 제안했다. 읽기 전용 환경에서 AI가 기존 경보를 분석하도록 한 뒤 코드 검토, 실시간 경보 분류, 범위가 명확한 오탐의 자동 종료 등으로 자율성을 늘리는 방식이다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network