네이버클라우드·LG CNS, 33개 산학연과 ‘보안 특파모’ 개발 도전
네이버클라우드와 LG CNS가 33개 산학연 기관과 함께 정부의 사이버보안 특화 인공지능(AI) 파운데이션 모델 개발 사업에 참여한다. AI 모델과 인프라, 보안, 데이터를 아우르는 자체 기술 체계를 기반으로 국내 사이버 위협 환경에 특화한 AI 모델을 구축한다는 계획이다.
SKT, 업스테이지와 손잡고 ‘보안 특파모’ 개발 사업 참여
SK텔레콤과 업스테이지가 국내 주요 보안기업들과 함께 정부의 사이버보안 특화 인공지능(AI) 파운데이션 모델 개발 사업에 참여한다. 양사가 개발해 온 독자 AI 파운데이션 모델을 보안 분야에 특화하고, 실제 보안관제와 제품 환경에서 학습·검증하는 구조를 구축한다.
![[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’](https://cdn.byline.network/wp-content/uploads/2026/08/AI111233-325x216.jpg)
[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’
최신 인공지능(AI) 모델에 시스템의 취약점을 찾는 보안 평가 과제를 맡겼더니, 시험 환경을 벗어나 실제 기업 시스템까지 침입했다. AI는 목표를 달성하기 위해 사람이 예상하지 못한 경로를 찾아냈다. 최근 오픈AI와 앤트로픽에서 일어난 사고다. 이번 사고를 계기로 AI와 보안업계에서는 ‘AI 정렬(AI Alignment)’의 중요성이 부각되고 있다. AI 정렬은 AI가 사람의 목표와 의도를 이해하고, 정해진 규칙 안에서 안전하게 행동하도록 만드는 과정을 뜻한다. 반대로 AI가 목표를 잘못 이해하거나 목표를 이루는 과정에서 사람이 정한 범위를 벗어나는 현상은 AI ’정렬 실패’ 혹은 ’오정렬’이라고 한다.
End of content
End of content