오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려
오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.
AIDC 얼라이언스…국산 AI 인프라 묶어 해외 시장 공략
인공지능(AI) 열풍으로 그래픽처리장치(GPU) 수요가 폭증하는 가운데, 인공지능 데이터센터(AIDC) 구축을 위해 400여개 기업과 기관이 한자리에 모였다. 이들이 뭉친 이유는 명확하다. 단순히 국내에 AIDC 건물을 짓기 위함이 아니다. IT 기업의 인프라와 중소기업의 전력·냉각 부품을 하나로 묶어 해외 시장에 수출하겠다는 구상이다.
미국서 프론티어 AI ‘자율 검증’ 논쟁 벌어져
최신 인공지능(AI) 모델들이 보안 평가 과정에서 허용된 범위를 벗어나 외부 기업 시스템에 접근한 사례가 잇따르면서 미국에서 AI 안전성 검증 방식을 둘러싼 논쟁이 벌어지고 있다. 최근 미국 정부는 기업이 자율적으로 참여하는 프론티어 AI 검증체계를 마련하고 있지만, 정치권에서는 강제력이 없는 평가만으로 고도화된 AI의 사이버 위험을 통제할 수 있느냐는 지적이 나온다.
핑거, 피지컬AI 기업 미켈로로보틱스 인수
국내 1세대 핀테크 기업 핑거가 산업용 로봇 지능화 기업 미켈로로보틱스를 인수하며 ‘피지컬 AI(Physical AI)’ 시장에 본격 진출한다.
피지컬 AI 시장 문 두드리는 국내 보안 기업들
인공지능(AI)이 로봇과 자동차, 산업설비를 직접 움직이는 ‘피지컬 AI’로 확장되면서 국내 보안기업들도 관련 시장에 발을 들이고 있다. 기업들은 기존에 확보한 AI 보안과 인증, 산업제어시스템, 자동차 사이버보안 기술을 활용해 모델과 로봇 행동을 검증하거나 신원·권한을 관리하고, 센서부터 제어기까지 시스템 전체를 점검하고 있다. 피지컬 AI는 카메라와 센서로 주변 환경을 인식한 뒤 로봇·차량·선박 등 기계를 움직이는 AI를 말한다. AI 모델과 센서, 통신망, 제어기, 모터가 하나로 연결되기 때문에 공격이나 판단 오류가 충돌과 장비 파손 같은 물리적 사고로 이어질 수 있다.
독파모 2차 단계평가 8일 시작…국민평가단 200명이 ‘K-AI’ 평가
정부가 추진하는 ‘독자 AI 파운데이션 모델(독파모)’ 프로젝트 2차 단계평가에서는 기술 성능뿐 아니라 실제 사용 환경에서의 활용성이 평가 대상에 포함된다. 평가단에는 벤치마크와 전문가뿐 아니라 일반인으로 구성된 국민평가단 200명도 포함됐다.
구글 “EU의 타사 AI 권한 확대, 안드로이드 보안 우려”
유럽연합(EU)이 제3자 인공지능(AI) 서비스에 안드로이드의 주요 기능을 개방하도록 했다. 구글은 마이크와 화면, 앱 제어 권한까지 외부 AI에 제공하면 기존 보안 장벽이 약해질 수 있다고 반발했다. 유럽연합 집행위원회는 지난달 16일 디지털시장법(DMA)에 따라 알파벳이 안드로이드의 AI 관련 기능을 제3자 서비스에 개방하도록 하는 최종 조치를 채택했다.
오픈AI 모델, 외부 평가서 잇단 사고…실제 웹사이트까지 침입
오픈AI는 외부 기관의 사이버보안 평가 과정에서 자사 인공지능(AI) 모델이 실제 웹사이트의 취약점을 악용한 사고가 발생해 평가환경의 인터넷 접근과 감시 기준을 강화한다고 4일(현지시간) 밝혔다. 오픈AI가 공개한 내용에는 영국 인공지능안보연구소(AISI)의 평가 사고와 사이버보안 평가업체 이레귤러(Irregular)에서 발생한 별도 사고가 포함됐다. 앞서 알려진 허깅페이스 침해 사건과도 다른 사례다.
F5, 엔비디아와 AI 가드레일 통합…운영 단계 보안 강화
F5는 ‘엔비디아 네모 가드레일(NVIDIA NeMo Guardrails)’과 통합한 인공지능(AI) 보안 솔루션 ‘F5 AI 가드레일(F5 AI Guardrails)’을 공개했다고 6일 밝혔다. F5 AI 가드레일은 실제 운영 단계에 들어간 AI 애플리케이션의 프롬프트와 대규모언어모델(LLM) 응답을 검사한다. 여러 AI 애플리케이션에 보안 정책을 중앙에서 적용하고 운영 현황을 확인하는 기능도 제공한다.
세일포인트, 사람·AI 에이전트 아이덴티티 통합 보호 솔루션 출시
세일포인트는 사람과 비인간 아이덴티티, 인공지능(AI) 에이전트의 접근 권한을 한 체계에서 관리하는 ‘세일포인트 아이덴티티 시큐리티(SailPoint Identity Security)’를 출시했다고 6일 밝혔다.
프라이빗AI, 판교에 ‘AI 연구센터’ 설립
프라이빗에이아이(프라이빗AI)는 경기 성남시 판교의 ‘KT 오픈 이노베이션 센터’에 입주하고 인공지능(AI) 연구센터를 출범했다고 6일 밝혔다.
미국, 프론티어 AI 출시 전 보안 평가체계 만든다
미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.
AISI “미토스, 보안 평가 중 오픈소스 공급망 공격 시도”
영국 인공지능 보안 연구소(AISI)는 프론티어 인공지능(AI) 모델을 대상으로 진행한 사이버보안 평가에서 모델이 실제 오픈소스 프로젝트에 악성 코드를 넣고 개발자를 속이려 한 행동을 확인했다고 4일 밝혔다.
티오리 진트 코드, 애플 운영체제 커널 취약점 2종 발견
티오리(대표 박세준)는 인공지능(AI) 소스코드 보안 분석 솔루션 ‘진트 코드(Xint Code)’가 애플 운영체제(OS) 커널에서 보안 취약점 2종을 발견해 공식 보안 업데이트에 반영됐다고 5일 밝혔다.
알리바바, 2조4000억 매개변수 큐웬 3.8-맥스 공개
알리바바 큐웬팀이 2조4000억개 매개변수를 지닌 인공지능(AI) ‘Qwen(큐웬)3.8-Max(맥스)’를 지난 3일(현지시간) 공개했다. 이 모델은 다음 주 오픈소스로 정식 출시할 예정이다. 큐웬팀에 따르면 큐웬3.8-맥스는 일반 업무, 연구, 자율 코딩, 장기 실행 작업 등을 사람의 개입 없이 긴 시간에 걸쳐 복잡한 산업 현장 실무를 스스로 완수하는 기능을 갖췄다.
End of content
End of content