AI는 리눅스 보안을 어떻게 재구성하고 있나

“LLM은 현재 충분히 좋다. LLM과 AI는 단순히 패턴을 찾는 것이고, 코드는 특정 형식의 패턴일 뿐이다. 따라서 ‘이 패턴들은 보안 버그를 일으키는 패턴이니, 현재 코드에 적용해 봐’라고 알려줄 수 있다. 과거의 버그를 살펴보고, 현재 코드에서 부족한 부분을 찾아 수정하는 것이다. 복잡한 기술이 아니다. 아주 간단한 패턴 매핑이고, 표준화된 데이터에서 아주 잘 작동한다. 이런 걸 찾아낼 수 있다는 건 좋은 일이다. 문제는 취약점이 드러나는 데 걸리는 시간이 엄청나게 줄어든다는 것이다. 기업과 개인은 더 이상  보안 취약점을 천천히 수정하고 다시 배포할 시간이 없다.”

그렉 크로아하트만 리눅스커널 유지관리자는 11일 리눅스재단에서 개최한 ‘오픈소스서밋코리아 2026’ 기조연설에서 이같이 밝혔다.

최첨단 AI 모델은 엄청난 속도로 보안 취약점을 발견하고 있다. 3월 제한공개된 앤트로픽의 클로드 미토스 프리뷰는 파이어폭스 브라우저에서 271개의 새 취약점을 찾았는데, 파이어폭스 프로젝트 존재 기간 중 발견된 취약점의 10배였다. 클라우드플레어에서만 2000건의 취약점을 찾아냈고, 400건은 심각 수준이었다. 이는 거대한 공포로 다가왔다. AI가 순식간에 대규모로 취약점을 발견한다는 점, 그리고 사소한 취약점이라도 여러 개를 조합해 새로운 보안 공격 기법을 만들어낸다는 점이 충격을 줬다.

더 큰 문제는 그 다음이다. 앤트로픽, 오픈AI 같은 AI 개발사는 방어자에게 우선적으로 최신 보안 역량을 제공하고, 공격에 대응할 시간을 벌어줬다. 하지만, AI로 발견되는 취약점의 양이 너무 많다보니 찾아낸 문제를 해결할 여력이 없는 것이다. 오픈소스든 상용이든 소프트웨어는 모두 AI를 이용한 공격에 노출돼 있다. 한정된 인력으로 보안 이슈에 대응해야 하는 기업은 기존의 체제로 밀려오는 보안 이슈 보고에 대응할 여유가 없다.

세계에서 가장 강력한 오픈소스 커뮤니티인 리눅스 생태계도 AI의 시대를 맞았다. AI를 사용한 버그 보고가 세계 각지에서 리눅스커널 유지관리자에게 쇄도하고 있다. 소수의 자원봉사자로 꾸려진 리눅스커널 보안팀은 보고된 버그를 해결할 새로운 방법을 찾아야 했다. 리눅스 유지관리자들은 바이브코딩으로 커널의 코드를 작성하는 것에 주로 회의적이지만, AI 도구로 제출된 코드와 풀리퀘스트를 검토하는 것에는 호의적이다. 리누스 토발즈와 함께 리눅스커널 유지관리를 책임지고 있는 그렉 크로아하트만은 AI를 훌륭한 무기라고 강조한다.

그렉 크로아하트만은 “오픈소스는 예산과 데이터 분석 도구를 활용해 문제를 해결해 왔다”며 “기존의 사고 기반을 파악하고, 분석하고, 문제를 해결해 왔고, 이건 힘든 일이 아니라 그냥 일이 많을 뿐”이라고 말했다.

그는 “방법은 아주 간단하고, 로켓 과학처럼 복잡하지 않다”며 “다만, 모델들은 수많은 작은 버그들을 연결해서 문제를 일으키고, 버그의 심각성을 판단하기 어럽기 때문에, 사소한 버그라도 모두 수정하기 위해 지속적으로 업데이트해야 한다는 점을 알아야 한다”고 강조했다.

AI로 빠르고 쉽게 보안 취약점을 찾아낼 때 발생하는 후폭풍은 보고서 상의 가짜 버그와 진짜 버그의 혼재다. AI는 방대한 버그를 찾아내 수많은 보고서를 쌓게 하지만, 그 안에 별 의미없거나 이미 해결되거나 중복 보고된 버그가 많다. 가짜와 진짜를 식별하는 것이 사실 가장 큰 문제일 수 있다.

크로아하트만은 화면에 한 뭉텅이의 명령줄 도구 명령어를 띄웠다. 터미널에서 LLM을 호출하고, 권한 확인을 건너뛰어 AI 에이전트에게 ‘이 코드를 고쳐라(Fix this code)’라는 프롬프트를 전달하는 내용이다. 미국 행정부가 6월 앤트로픽의 클로드 미토스5와 페이블5에 대한 외국인 접근을 차단하도록 명령하게 만든 원인인 것으로 알려진 명령어다.

그는 “고치라고 모델에게 말하는 건 어렵지 않고 실제로 실행되기도 하지만, 오늘날 세계 최고의 모델도 여전히 최소한 4분의 1 정도는 오류를 범한다”며 “모델은 당신을 속이고, 이것이 정말 심각한 버그라고 당신을 설득하기 때문에 해결하기 어렵게 만든다”고 말했다.

그는 “진짜라고 생각했던 버그가 실제로 존재하지 않는 경우도 있고, 진짜처럼 보이며 정말 무섭고, 정말 설득력 있어 보이기도 하지만 코드를 읽고 분석해 보면, 거짓말일 뿐”이라며 “그 작업은 사람의 노력이 필요한 일이며, 사람의 개입이 필수적”이라고 강조했다.

리눅스의 경우 공개된 소스 코드와 방대한 문서를 가진 프로젝트다. 이 문서는 코드 편집 방법, 보안 버그 보고 방법, 버그 제출 방법, 하위 시스템 검토 방법 등을 포함한다. 리눅스는 AI 모델에게 문서와 코드들을 학습시키고 고도화했다. 리눅스재단의 알파오메가는 기존 오픈소스 보안 인력 지원을 넘어 AI를 이용한 오픈소스 프로젝트 보안 강화 프로젝트를 올해부터 시작했다. 1250만달러를 투입해 오픈소스 프로젝트의 보안 작업을 대규모로 자동화하게 지원하는 것이다. 일례로 알파오메가에서 공개한 도구인 Scrutineer는 AI를 이용해 저장소를 분석하면서 단순히 의심스러운 코드를 대량으로 보고하는 대신 실제로 개발자가 대응할 만한 취약점을 골라내도록 지원한다. 이를 통해 보안 취약점 탐색을 대규모로 수행하면서 효율적으로 대응하게 할 수 있다.

크로아하트만은 “가령 지난주 1000개의 버그가 보고됐다고 가정하고, 오픈AI가 400개의 버그를 찾았다고 수백개 회사에 연락한다면, 단순히 거짓말하거나 원인을 파악하지 못해 발생하는 100개의 버그를 즉시 없앨 수 있다”며 “이 덕분에 우리의 업무는 훨씬 수월해졌고, 알파오메가와 리눅스재단 덕에 전담 인력을 고용할 자금도 확보했으며, 이제 전담 인력이 모델을 활용해 업무를 통합하는 데 도움을 주고 있다”고 밝혔다.

그는 AI를 보안 탐색에 활용할 때 주의 사항으로 관리 권한을 신뢰할 수 없는 사용자나 프로세스에 주지 말것, 설령 커널 경고를 유발하더라도 그것이 곧바로 시스템 전체를 죽이는 서비스 거부로 이어지지 않도록 panic_on_warn을 꺼두라고 조언했다.

또한 “시장의 공포 마케팅을 무시하고, 외부 시스템을 믿지 말고 모델은 로컬에서 실행하라”며 “특히 보안 버그 같은 경우 정보가 쉽게 노출되면 안 되니 로컬에서 실행하며, 공개하고 싶지 않은 정보는 절대 업로드하지 말아야 하고, 버그를 찾으면 바로 오늘 수정함으로써 내일을 걱정하지 마라”고 강조했다.

그는 “과학적 분석을 하고, 버그를 수정하고, 작업을 진행하라”며 “어려운 일이긴 하지만 해낼 수 있다”고 덧붙였다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network