미국, 프론티어 AI 출시 전 보안 평가체계 만든다

미국, 프론티어 AI 출시 전 보안 평가체계 만든다

By곽중희

미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.

아톤, KISA와 악성문자 사전차단 협력

아톤, KISA와 악성문자 사전차단 협력

By곽중희

아톤(대표 우길수)은 한국인터넷진흥원(KISA)과 ‘악성문자 사전차단체계 제공을 위한 업무협약’을 체결했다고 5일 밝혔다. 아톤은 인터넷 문자발송 사업자에 사전차단체계를 공급하고 도입확인서를 발급한다. 인터넷 문자발송 사업자는 문자메시지 발송시스템을 문자 중계사업자의 설비에 연결해 문자를 보내는 특수부가통신사업자다. 금융사와 공공기관, 온라인 유통기업 등의 문자를 대신 발송하는 문자 재판매·중계 사업자가 해당한다.

나루씨큐리티, KISA와 지역 중소기업 침해 징후 탐지 지원

나루씨큐리티, KISA와 지역 중소기업 침해 징후 탐지 지원

By곽중희

나루씨큐리티(대표 김혁준)는 한국인터넷진흥원(KISA)의 ‘지역 침해사고 피해기업 탐지 및 취약점 진단’ 사업을 수행한다고 5일 밝혔다. 이번 사업은 전국 중소·영세기업의 사이버위협을 상시 모니터링하고 침해 징후와 취약점을 조기에 찾는 것이 목적이다. 지역과 업종별 보안 현황을 데이터로 분석해 기업별 대응 방안과 중소기업 지원 정책을 마련하는 데 활용한다.

에브리존·솔리데오, ‘화이트디펜더’ 공공총판 계약

에브리존·솔리데오, ‘화이트디펜더’ 공공총판 계약

By곽중희

에브리존은 솔리데오와 공공기관의 랜섬웨어 대응체계 강화와 공공시장 확대를 위해 안티랜섬웨어 제품 ‘화이트디펜더(WhiteDefender)’의 공공총판 계약을 체결했다고 4일 밝혔다. 공공총판은 제조사를 대신해 공공기관을 대상으로 제품을 공급하고 영업·기술지원 등을 담당하는 사업자를 뜻한다. 이번 계약에 따라 솔리데오는 공공기관 고객 발굴과 제품 공급, 사업 확대를 맡는다.

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’
|

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’

By곽중희

최신 인공지능(AI) 모델에 시스템의 취약점을 찾는 보안 평가 과제를 맡겼더니, 시험 환경을 벗어나 실제 기업 시스템까지 침입했다. AI는 목표를 달성하기 위해 사람이 예상하지 못한 경로를 찾아냈다. 최근 오픈AI와 앤트로픽에서 일어난 사고다. 이번 사고를 계기로 AI와 보안업계에서는 ‘AI 정렬(AI Alignment)’의 중요성이 부각되고 있다. AI 정렬은 AI가 사람의 목표와 의도를 이해하고, 정해진 규칙 안에서 안전하게 행동하도록 만드는 과정을 뜻한다. 반대로 AI가 목표를 잘못 이해하거나 목표를 이루는 과정에서 사람이 정한 범위를 벗어나는 현상은 AI ’정렬 실패’ 혹은 ’오정렬’이라고 한다.

쿤텍, 김준섭 부사장 영입…AI 보안 제품 개발 총괄

쿤텍, 김준섭 부사장 영입…AI 보안 제품 개발 총괄

By곽중희

쿤텍은 인공지능(AI) 보안 제품 개발과 사업화를 강화하기 위해 김준섭 부사장을 사이버보안 기술 총괄로 영입했다고 4일 밝혔다. 김 부사장은 지난 3일 임명됐다. 김 부사장은 쿤텍의 사이버보안 기술 전략과 연구개발 조직을 총괄한다. 보안 제품 로드맵 수립과 연구개발 과제 선정, 품질관리, 서비스 운영 체계 고도화를 담당한다. AI 보안 신제품의 기획과 개발, 사업화도 이끈다.

모니터랩·시큐레터, 웹 보안에 콘텐츠 무해화 기술 결합

모니터랩·시큐레터, 웹 보안에 콘텐츠 무해화 기술 결합

By곽중희

모니터랩과 시큐레터는 웹 보안 솔루션에 콘텐츠 무해화(CDR) 기술을 결합하기 위한 전략적 파트너십을 체결했다고 4일 밝혔다. 양사는 모니터랩의 웹 애플리케이션·응용프로그램 인터페이스 보호(WAAP) 솔루션과 시큐레터의 콘텐츠 무해화 기술을 연동한다. 웹사이트나 응용프로그램 인터페이스(API)를 통해 업로드되는 파일의 위험 요소를 제거하는 방식이다.

라온메타, ‘메타데미’에 AI 취업 준비 기능 추가

라온메타, ‘메타데미’에 AI 취업 준비 기능 추가

By곽중희

라온시큐어 자회사 라온메타는 인공지능(AI)·확장현실(XR) 실습 플랫폼 ‘메타데미’에 면접 코칭과 역량검사, 자기소개서 분석 기능을 추가했다고 4일 밝혔다. 이용자는 메타데미에서 면접 연습과 개인 역량 진단, 자기소개서·이력서 점검 등 취업 준비 과정을 단계별로 진행할 수 있다.

[미토스 이후, 취약점 대응④] AI가 찾은 취약점, 누가 검증·조정하나
| |

[미토스 이후, 취약점 대응④] AI가 찾은 취약점, 누가 검증·조정하나

By곽중희

프론티어 인공지능(AI) 모델이 소프트웨어 취약점을 찾고 공격 가능성까지 확인하는 단계에 들어서면서, 발견한 결과를 안전하게 처리할 제도적 기반이 중요해지고 있다. AI가 찾아낸 버그가 많아지면, 실제 취약점인지 검증하고 이를 기업의 패치와 정보 공개로 연결하는 절차가 필요해진다. 또한 취약점이 여러 제품에 영향을 미치거나 기업이 신고에 응답하지 않을 경우에는 연구자와 제조사 사이를 조정할 기관의 역할도 더욱 커질 전망이다.

End of content

End of content