S2W, ‘보안 특파모‘ 학습·검증에 위협데이터 활용

S2W, ‘보안 특파모‘ 학습·검증에 위협데이터 활용

에스투더블유(S2W·대표 서상덕)가 정부가 추진하는 사이버보안 특화 인공지능(AI) 파운데이션 모델의 학습과 검증 과정에 참여한다. S2W는 보안 특화 언어모델 구축 경험과 위협 인텔리전스(TI) 기술을 활용하고, 일반 웹에서 확보하기 어려운 히든채널 데이터도 모델에 반영한다.

네이버클라우드가 그리는 소버린 AI, 다음 무대는 ‘사이버보안’
| |

네이버클라우드가 그리는 소버린 AI, 다음 무대는 ‘사이버보안’

네이버클라우드는 소버린 AI의 다음 무대로 사이버보안을 택하고, 정부의 ‘사이버 보안 특화 AI 파운데이션 모델’ 사업을 통해 국내에서 통제 가능한 보안 AI 구축에 나선다. 하이퍼클로바X와 LG AI연구원의 엑사원을 각각 보안에 특화하고, 공격·방어 툴체인과 현장 데이터를 결합해 실제 보안 업무에 쓸 수 있는 모델을 만드는 것이 목표다. 네이버클라우드는 33개 기관 컨소시엄과 함께 공공·금융·국가 핵심시설에서 실증하고, 이후 클라우드 유통망과 해외 소버린 AI 사업으로 확장할 계획이다.

보안 특파모, 네이버클라우드 컨소시엄 선정
|

보안 특파모, 네이버클라우드 컨소시엄 선정

정부가 추진하는 ‘보안 특파모’ 사업에서 2개 컨소시엄이 맞붙은 끝에 네이버클라우드 컨소시엄이 최종 사업자로 선정됐다. 과학기술정보통신부(이하 과기정통부)는 3일 ‘사이버 보안 특화 인공지능(AI) 파운데이션 모델(보안 특파모) 개발’ 사업 수행기관으로 네이버클라우드 컨소시엄을 선정했다고 밝혔다.

SKT, 업스테이지와 손잡고 ‘보안 특파모’ 개발 사업 참여

SKT, 업스테이지와 손잡고 ‘보안 특파모’ 개발 사업 참여

SK텔레콤과 업스테이지가 국내 주요 보안기업들과 함께 정부의 사이버보안 특화 인공지능(AI) 파운데이션 모델 개발 사업에 참여한다. 양사가 개발해 온 독자 AI 파운데이션 모델을 보안 분야에 특화하고, 실제 보안관제와 제품 환경에서 학습·검증하는 구조를 구축한다.

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’
|

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’

최신 인공지능(AI) 모델에 시스템의 취약점을 찾는 보안 평가 과제를 맡겼더니, 시험 환경을 벗어나 실제 기업 시스템까지 침입했다. AI는 목표를 달성하기 위해 사람이 예상하지 못한 경로를 찾아냈다. 최근 오픈AI와 앤트로픽에서 일어난 사고다. 이번 사고를 계기로 AI와 보안업계에서는 ‘AI 정렬(AI Alignment)’의 중요성이 부각되고 있다. AI 정렬은 AI가 사람의 목표와 의도를 이해하고, 정해진 규칙 안에서 안전하게 행동하도록 만드는 과정을 뜻한다. 반대로 AI가 목표를 잘못 이해하거나 목표를 이루는 과정에서 사람이 정한 범위를 벗어나는 현상은 AI ’정렬 실패’ 혹은 ’오정렬’이라고 한다.

End of content

End of content