AI

초대형 산업 데이터 AI 스타트업 서치독이 글로벌 반도체 기업 엔비디아가 운영하는 스타트업 지원 프로그램 ‘엔비디아 인셉션’ 멤버로 선정됐다고 10일 밝혔다. 이번 엔비디아 인셉션 합류로 서치독은 설립 1년여 만에 시드 투자, 신용보증기금 혁신스타트업 프로그램에 이어 연속적인 성장 모멘텀을 이어가게 됐다.

지니언스(대표 이동범)는 북한 배후 해킹조직으로 알려진 김수키(Kimsuky)의 최근 공격을 분석한 결과, 생성형 인공지능(AI)을 공격에 활용하기 위해 로컬 대형언어모델(LLM)과 AI 개발 환경을 구축한 정황을 확인했다고 10일 밝혔다.

오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.

최신 인공지능(AI) 모델들이 보안 평가 과정에서 허용된 범위를 벗어나 외부 기업 시스템에 접근한 사례가 잇따르면서 미국에서 AI 안전성 검증 방식을 둘러싼 논쟁이 벌어지고 있다. 최근 미국 정부는 기업이 자율적으로 참여하는 프론티어 AI 검증체계를 마련하고 있지만, 정치권에서는 강제력이 없는 평가만으로 고도화된 AI의 사이버 위험을 통제할 수 있느냐는 지적이 나온다.