해커원이 본 AI 해킹의 현주소…최고 성능 모델은?
| |

해커원이 본 AI 해킹의 현주소…최고 성능 모델은?

By곽중희

프론티어 인공지능(AI)은 실제 해킹 현장에서 얼마나 쓸 만할까. 글로벌 버그바운티 플랫폼 해커원(HackerOne)이 AI 모델의 취약점 탐색 능력을 평가한 결과, 단일 모델은 시험 대상 취약점의 85.5%를 발견했다. 세 모델을 함께 활용하면 탐색률은 98.4%까지 높아졌다. 그러나 취약점을 찾아내는 것과 실제 공격이 가능한 지를 판단하는 것은 다른 문제였다. 

미토스 등장 반년, 프론티어 AI의 보안 능력은 얼마나 발전했나
| |

미토스 등장 반년, 프론티어 AI의 보안 능력은 얼마나 발전했나

By곽중희

지난 4월 앤트로픽이 ‘클로드 미토스 프리뷰’를 공개했을 때, 보안업계는 놀랐다. AI가 소프트웨어 취약점을 찾아 실제 공격 코드까지 만들었기 때문이다. 반년이 지난 지금, 오픈AI·앤트로픽·구글 등 AI 기업들은 취약점 발견과 공격 검증 능력을 높인 프론티어 모델을 앞다퉈 공개하고 있다. 최근에는 AI가 취약점을 수정하는 패치까지 작성하는 단계에 도달했다.

오픈AI GPT-6.1 테라, 보안 통제 우회 평가서 29.6% 위반

오픈AI GPT-6.1 테라, 보안 통제 우회 평가서 29.6% 위반

By곽중희

오픈AI가 새 인공지능(AI) 모델 ‘GPT-6.1 테라(Terra)’의 안전성 평가에서 보안 통제를 우회하거나 허가되지 않은 작업을 수행하는 사례를 확인했다. AI 모델의 성능이 고도화되는 가운데, 에이전트가 주어진 작업을 완수하기 위해 보안 제한을 무시하거나 우회할 가능성이 여전히 존재한다는 점을 보여준다.

오픈AI 모델이 낸 보안 사고, 중국 모델이 분석…가드레일의 역설
|

오픈AI 모델이 낸 보안 사고, 중국 모델이 분석…가드레일의 역설

By곽중희

오픈소스 AI 플랫폼 허깅페이스는 지난 16일 공개한 침해사고 보고서에서 사고 경로와 피해 범위를 조사하는 과정에서 상용 프론티어 모델을 포렌식 분석에 활용했지만, 안전장치(가드레일)가 실제 공격 명령과 익스플로잇 페이로드 등의 입력을 차단했다고 밝혔다. 이에 허깅페이스는 중국 오픈웨이트 모델 ‘GLM-5.2’를 자체 환경에서 구동해 분석을 이어갔다. 사고 당시 침해를 일으킨 AI 모델의 정체는 확인되지 않았다. 하지만 닷새 뒤인 21일 오픈AI가 자사의 최신 사이버보안 특화 모델 ‘GPT-5.6 Sol’과 비공개 사전 출시 모델이 평가 과정에서 사고를 일으켰다고 공개하면서 공격 주체가 드러났다.

오픈AI 최신 모델, 보안 평가 중 허깅페이스 서버 침투

오픈AI 최신 모델, 보안 평가 중 허깅페이스 서버 침투

By곽중희

오픈AI(OpenAI)는 내부 사이버 역량 평가를 진행하던 인공지능(AI) 모델이 시험 환경의 취약점을 뚫고 인터넷에 접속한 뒤 허깅페이스(Hugging Face) 운영 인프라에 침투하는 보안 사고가 발생했다고 21일 밝혔다. 오픈AI와 허깅페이스는 현재 사고 경로와 피해 범위를 공동 조사하고 있다.

[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”
| | |

[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”

By곽중희

이상근 고려대 교수는 같은 문제를 더 넓은 국가안보와 거버넌스 관점에서 봤다. 그는 미토스를 단순히 취약점을 잘 찾는 AI 모델로 보지 않았다. 코딩을 잘하는 AI가 보안을 잘하게 되고, 그 능력이 취약점 탐지와 공격 도구 생성, 심각도 분류, 패치 자동화로 이어지면 사이버보안 자체가 전략 자산이 된다는 설명이다. 이 교수는 “미토스는 코딩, 추론, 장문맥, 사이버보안 능력이 결합된 모델”이라며 “코딩을 잘하는 AI를 선점하는 것이 곧 사이버 역량을 선점하는 일이 될 수 있다”고 말했다.

End of content

End of content