[심재석의 입장] 앤트로픽 새 AI가 가져온 공포

앤트로픽의 새 모델 클로드 미토스가 오픈BSD에서 27년 된 취약점을 찾아냈다는 소식을 들었을 때, 약간 오싹한 기분이 들었다. 강산이 세 번 가까이 바뀌는 긴 시간 동안 아무도 발견하지 못한 취약점을 AI는 순식간에 찾아냈다. 아니, 정확히는 아무도 열심히 찾지 않았던 것을 미토스는 그냥 찾아냈다.

몰랐던 취약점을 찾아내는 것은 좋은 일이다. 단, 취약점을 금방 패치할 수 있을 때만 그렇다. 취약점을 찾아내는 속도가 패치하는 속도보다 월등히 빠르면 해커는 공격할 수 있는 타깃이 늘어난다.

미토스는 처음부터 해킹 도구로 만들어진 게 아니다. 코드를 잘 짜는 모델을 만들었더니, 취약점을 찾는 능력이 자연스럽게 생겼다. 심지어 취약점을 발견하는 것을 넘어, 그것을 실제로 뚫는 공격 코드까지 스스로 완성하는 수준이 됐다. 미토스는 취약점을 공격하는 익스플로잇까지 만든다.

자물쇠에 구멍이 있다는 걸 아는 것과, 그 구멍에 맞는 열쇠를 직접 깎는 것은 다르다. 지금까지 AI는 전자만 할 수 있었다. 후자는 숙련된 보안 전문가의 몫이었다. 미토스는 이 두 단계를 혼자서 끝낸다. 익스플로잇 성공률이 기존 모델은 1% 미만이었는데 미토스는 72.4%라고 한다.

이 결과가 의미하는 바는 단순하지 않다. 지금까지 세상이 안전했던 건 자물쇠가 튼튼해서가 아니라, 열쇠를 깎을 수 있는 사람이 많지 않았기 때문이다. 미토스는 그 문턱을 없애버렸다.

미토스가 등장하면서 어쩌면 세상은 이전보다 위험해졌다.

물론 앤트로픽은 이 역량을 일반에 공개하지 않았다. 대신 방어자들에게 먼저 줬다. 공격자가 같은 열쇠를 갖기 전에, 자물쇠를 먼저 바꾸자는 것이다. 발견된 취약점 수천 개를 파트너사들과 함께 패치하는 작업이 지금 진행 중이다.

그런데 이 구조에는 전제가 있다. 구글이나 마이크로소프트 같은 대형 기업들은 미토스의 도움을 받아 빠르게 패치할 수 있다. 하지만 중소기업, 지역 병원, 지방자치단체는 어떨까. 이들은 최신 보안 패치를 정기적으로 적용하는 것조차 버거운 경우가 많다. 취약점 발견 속도가 빨라질수록, 자원이 부족한 조직들은 오히려 더 긴 시간 동안 열린 구멍을 안고 살아가야 한다. 핵심 인프라 중 상당수가 바로 이런 조직들이 운영하고 있다.

문제는 또 있다. 이것이 앤트로픽의 선의에 기댄 구조라는 점이다. 이번에는 다행히 방어자가 먼저였지만, 다음에도 그럴 것이라는 보장은 없다. 비슷한 역량을 가진 모델이 적대적 국가에서 나온다면, 앤트로픽과 같은 선택을 기대할 수 있을까. 또 오픈소스 진영에서 나온다면, 공개하지 않는 결정 자체가 가능할까. 공개를 원칙으로 삼는 오픈소스의 특성상 그 역량은 순식간에 누구에게나 열릴 수 있다.

전문가들은 미토스급 역량이 다른 곳에서 나오는 데 1~2년이면 충분하다고 본다.

우리가 믿고 사용해왔던 소프트웨어에는 27년 된 취약점이 있었다. 어쩌면 공격자도 방어자도 그런 취약점이 있을 것이라고 영원히 몰랐을 일이지만, 이제 AI는 모든 취약점을 찾아낼 것이다. 또 그것을 공격할 익스플로잇까지 스스로 만들어낼 것이다.

이번에는 찾은 쪽이 먼저 알려줬다. 다음에도 그럴 것이라고 막연히 기대할 수는 없다. 앤트로픽의 선의로 지금 우리에게 주어진 시간은 1~2년이다. 그 안에 방어자가 먼저 움직일 수 있는 구조를 만들지 못하면, 다음번 미토스가 어느 쪽 손에 쥐어지든 우리가 할 수 있는 일은 많지 않을 것이다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network