미국, 프론티어 AI 출시 전 보안 평가체계 만든다

미국, 프론티어 AI 출시 전 보안 평가체계 만든다

미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.

아톤, KISA와 악성문자 사전차단 협력

아톤, KISA와 악성문자 사전차단 협력

아톤(대표 우길수)은 한국인터넷진흥원(KISA)과 ‘악성문자 사전차단체계 제공을 위한 업무협약’을 체결했다고 5일 밝혔다. 아톤은 인터넷 문자발송 사업자에 사전차단체계를 공급하고 도입확인서를 발급한다. 인터넷 문자발송 사업자는 문자메시지 발송시스템을 문자 중계사업자의 설비에 연결해 문자를 보내는 특수부가통신사업자다. 금융사와 공공기관, 온라인 유통기업 등의 문자를 대신 발송하는 문자 재판매·중계 사업자가 해당한다.

나루씨큐리티, KISA와 지역 중소기업 침해 징후 탐지 지원

나루씨큐리티, KISA와 지역 중소기업 침해 징후 탐지 지원

나루씨큐리티(대표 김혁준)는 한국인터넷진흥원(KISA)의 ‘지역 침해사고 피해기업 탐지 및 취약점 진단’ 사업을 수행한다고 5일 밝혔다. 이번 사업은 전국 중소·영세기업의 사이버위협을 상시 모니터링하고 침해 징후와 취약점을 조기에 찾는 것이 목적이다. 지역과 업종별 보안 현황을 데이터로 분석해 기업별 대응 방안과 중소기업 지원 정책을 마련하는 데 활용한다.

LG유플러스, 보안 전문기업 ‘파고네트웍스’ 인수…보안 경쟁력 강화
|

LG유플러스, 보안 전문기업 ‘파고네트웍스’ 인수…보안 경쟁력 강화

LG유플러스가 보안 전문 기업을 인수하면서 보안 경쟁력 강화에 나섰다. LG유플러스(대표 홍범식)는 4일 국내 매니지드 위협 탐지·대응(MDR) 서비스 전문기업인 파고네트웍스(대표 권영목)를 인수했다고 밝혔다. 이번 인수로 LG유플러스는 파고네트웍스가 보유한 위협 탐지·분석·대응 역량을 내재화해 전사 보안 체계를 고도화하면서 기업 고객 대상 보안 사업 경쟁력도 강화한다는 전략이다.

에브리존·솔리데오, ‘화이트디펜더’ 공공총판 계약

에브리존·솔리데오, ‘화이트디펜더’ 공공총판 계약

에브리존은 솔리데오와 공공기관의 랜섬웨어 대응체계 강화와 공공시장 확대를 위해 안티랜섬웨어 제품 ‘화이트디펜더(WhiteDefender)’의 공공총판 계약을 체결했다고 4일 밝혔다. 공공총판은 제조사를 대신해 공공기관을 대상으로 제품을 공급하고 영업·기술지원 등을 담당하는 사업자를 뜻한다. 이번 계약에 따라 솔리데오는 공공기관 고객 발굴과 제품 공급, 사업 확대를 맡는다.

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’
|

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’

최신 인공지능(AI) 모델에 시스템의 취약점을 찾는 보안 평가 과제를 맡겼더니, 시험 환경을 벗어나 실제 기업 시스템까지 침입했다. AI는 목표를 달성하기 위해 사람이 예상하지 못한 경로를 찾아냈다. 최근 오픈AI와 앤트로픽에서 일어난 사고다. 이번 사고를 계기로 AI와 보안업계에서는 ‘AI 정렬(AI Alignment)’의 중요성이 부각되고 있다. AI 정렬은 AI가 사람의 목표와 의도를 이해하고, 정해진 규칙 안에서 안전하게 행동하도록 만드는 과정을 뜻한다. 반대로 AI가 목표를 잘못 이해하거나 목표를 이루는 과정에서 사람이 정한 범위를 벗어나는 현상은 AI ’정렬 실패’ 혹은 ’오정렬’이라고 한다.

쿤텍, 김준섭 부사장 영입…AI 보안 제품 개발 총괄

쿤텍, 김준섭 부사장 영입…AI 보안 제품 개발 총괄

쿤텍은 인공지능(AI) 보안 제품 개발과 사업화를 강화하기 위해 김준섭 부사장을 사이버보안 기술 총괄로 영입했다고 4일 밝혔다. 김 부사장은 지난 3일 임명됐다. 김 부사장은 쿤텍의 사이버보안 기술 전략과 연구개발 조직을 총괄한다. 보안 제품 로드맵 수립과 연구개발 과제 선정, 품질관리, 서비스 운영 체계 고도화를 담당한다. AI 보안 신제품의 기획과 개발, 사업화도 이끈다.

End of content

End of content