네트워크 카메라 출시 30주년을 맞은 엑시스커뮤니케이션즈(한국 대표 문수현)가 인공지능(AI) 영상 분석과 사이버보안 기능을 카메라 내부에서 처리하는 기술을 강화하고 있다. 영상을 중앙 서버로 보내 분석하던 방식에서 벗어나 카메라가 직접 상황을 판단하고 필요한 정보를 제공하는 방향이다. 마틴 그렌(Martin Gren) 엑시스 공동 설립자는 10일 서울 강남구 신사동에서 열린 기자간담회에서 이같이 말했다. 회사에 따르면, 그렌 공동 설립자는 1996년 세계 최초로 네트워크 카메라를 개발한 인물이다. 이날 엑시스는 지난 30년간의 카메라 기술 발전 과정과 향후 전략을 소개하고, 확장 이전한 ‘엑시스 체험 센터 서울(AEC Seoul)’을 공식 개소했다.
SK쉴더스(대표 민기식)는 출동대원의 안전사고를 예방하기 위해 채용 단계부터 실제 업무 현장까지 안전관리 체계를 강화하고 있다고 5일 밝혔다. SK쉴더스는 출동대원을 채용할 때 차량 주행과 주차, 차량 조작 능력 등을 평가한다. 올해 약 400명의 지원자가 운전역량 평가에 응시했다. 입사 이후에는 실제 업무환경에서 발생할 수 있는 위험에 대응하도록 직무별 실습교육을 진행한다.
오픈AI가 새 인공지능(AI) 모델 ‘GPT-6.1 테라(Terra)’의 안전성 평가에서 보안 통제를 우회하거나 허가되지 않은 작업을 수행하는 사례를 확인했다. AI 모델의 성능이 고도화되는 가운데, 에이전트가 주어진 작업을 완수하기 위해 보안 제한을 무시하거나 우회할 가능성이 여전히 존재한다는 점을 보여준다.
앤트로픽이 자가 인공지능(AI) 모델의 안전성을 외부에서 검증하기 위해 평가자가 회사 내부의 모델 개발 과정을 들여다보는 ‘임베디드 평가(embedded evaluation)’를 도입한다. 완성된 모델을 외부에서 시험하는 데 그치지 않고, 모델이 학습되는 과정과 개발·배포 의사결정, 안전장치까지 외부 평가자가 지속적으로 검증하는 방식이다.
오픈AI가 프론티어 인공지능(AI) 개발사를 대상으로 미국 연방 차원의 의무적인 안전규제가 필요하다고 밝혔다. 모델의 역량이 특정 위험 수준에 도달할 경우 개발 속도를 늦추거나 중단할 수 있는 공통 기준도 마련해야 한다고 제안했다.
인텔리빅스(대표 장정훈)는 지난 4일부터 8일까지 독일 베를린에서 열린 국제가전전시회 ‘IFA 2026’에 참가해 국산 신경망처리장치(NPU)를 이용한 산불 조기경보와 자율형 안전관제 기술을 소개했다고 9일 밝혔다.
인공지능(AI) 에이전트가 사람의 통제를 벗어나 서로 정보를 공유하고 외부 시스템을 공격하는 사례가 잇따르면서 AI의 행동이나 시스템 가동을 강제로 중단할 수 있는 ‘킬스위치(kill switch)’의 필요성이 커지고 있다.
최근 오픈AI는 자사 AI 에이전트들이 내부 시스템에 별도 통신 공간을 만들고 협업한 끝에 실제 외부 시스템까지 침입한 사실을 공개했다. 영국 인공지능안보연구소(AISI)의 평가에서도 AI 에이전트가 실제 사람과 조직을 상대로 허가받지 않은 행동을 한 사례가 확인됐다.
“청소년들이 온라인에서 보내는 시간이 늘어났다. 이제 중요한 것은 얼마나 오래 온라인에 머무르는지가 아니라 소통을 배우고 안전을 지키는 것이다.” 파프리 데비 로블록스 아태지역(APAC) 커뮤니케이션장이 3일 서울 중구 웨스틴 조선 서울에서 열린 ‘로블록스 디지털 시민의식 파이어사이드 챗’에서 이같이 말했다. 청소년의 온라인 이용 시간 자체보다 디지털 공간에서 다른 사람과 올바르게 소통하고 스스로 안전을 지키는 능력이 중요해졌다는 것이다.
인공지능(AI)이 챗봇에서 외부 도구를 사용하는 에이전트와 현실의 장비를 움직이는 피지컬 AI로 진화하고 있다. 이제 단순히 유해한 답변을 차단하는 것만으로는 안전을 확보하기 어려워졌다. 이에 AI가 어떤 정보에 접근하고 누구에게 정보를 보내는지, 현실에서는 어떤 행동을 하는지까지 검증해야 한다는 지적이 나온다.
SK쉴더스의 물리보안 브랜드 ADT캡스가 현장 구성원의 안전 관리 강화를 위해 ‘오늘도 무사출동’ 캠페인을 진행한다고 7일 밝혔다.
미국 국방부가 앤트로픽에게 군사 목적을 위해 클로드 모델의 AI 안전 장치 해제를 요구했다. 앤트로픽은 이를 거부했고, 국방부는 계약 해지와 함께 앤트로픽을 국가 안보를 위협하는 위험 기업으로 지정하겠다고 협박하고 있다. 국방부가 이를 실행에 옮기면, 앤트로픽은 정부 계약을 취소당하고 미국 내에서 사실상 사업을 할 수 없게 된다.
리눅스커널에 러스트 코드를 병합하는 작업은 최근 수년 사이 리눅스 커뮤니티의 뜨거운 논쟁거리였다….
민·관 협의체 4차 전체회의 개최, 제도 개선·추가 대책 논의 정부 부처와 이동통신…
고속·일반철도 역사 내 사고 대응 위한 성능시험·인증 항목 체계화 한국인터넷진흥원(KISA)은 지능형 CCTV…
End of content
End of content
