안전 Archives – 바이라인네트워크

“AI 탈옥은 시작일 뿐”…AI안전연구소가 ‘국가 AI 위험지도’를 그리는 이유

By곽중희 2026년 8월 14일2026년 8월 14일

“사이버보안은 생각보다 더 빨리 왔습니다.” 김명주 인공지능안전연구소(AISI) 소장은 바이라인네트워크와의 인터뷰에서 최근 인공지능(AI)의 사이버보안 능력이 빠르게 발전하는 상황을 이렇게 표현했다. 김 소장이 말하는 AI의 위험은 국가를 위협할 수 있을 정도로 빠르게 발전하고 있다.

기사 | 엔터프라이즈 IT

현실이 된 AI 자율 해킹…‘킬스위치’ 필요성 대두

By곽중희 2026년 8월 10일

인공지능(AI) 에이전트가 사람의 통제를 벗어나 서로 정보를 공유하고 외부 시스템을 공격하는 사례가 잇따르면서 AI의 행동이나 시스템 가동을 강제로 중단할 수 있는 ‘킬스위치(kill switch)’의 필요성이 커지고 있다.
최근 오픈AI는 자사 AI 에이전트들이 내부 시스템에 별도 통신 공간을 만들고 협업한 끝에 실제 외부 시스템까지 침입한 사실을 공개했다. 영국 인공지능안보연구소(AISI)의 평가에서도 AI 에이전트가 실제 사람과 조직을 상대로 허가받지 않은 행동을 한 사례가 확인됐다.

기사 | 콘텐츠·게임

로블록스가 ‘디지털 시민’ 육성에 나선 이유

By윤정환 2026년 8월 4일2026년 8월 4일

“청소년들이 온라인에서 보내는 시간이 늘어났다. 이제 중요한 것은 얼마나 오래 온라인에 머무르는지가 아니라 소통을 배우고 안전을 지키는 것이다.” 파프리 데비 로블록스 아태지역(APAC) 커뮤니케이션장이 3일 서울 중구 웨스틴 조선 서울에서 열린 ‘로블록스 디지털 시민의식 파이어사이드 챗’에서 이같이 말했다. 청소년의 온라인 이용 시간 자체보다 디지털 공간에서 다른 사람과 올바르게 소통하고 스스로 안전을 지키는 능력이 중요해졌다는 것이다.

기사 | 엔터프라이즈 IT

AI 안전의 경계 넓어진다…에이전트에서 피지컬 AI까지 검증해야

By곽중희 2026년 7월 7일2026년 7월 7일

인공지능(AI)이 챗봇에서 외부 도구를 사용하는 에이전트와 현실의 장비를 움직이는 피지컬 AI로 진화하고 있다. 이제 단순히 유해한 답변을 차단하는 것만으로는 안전을 확보하기 어려워졌다. 이에 AI가 어떤 정보에 접근하고 누구에게 정보를 보내는지, 현실에서는 어떤 행동을 하는지까지 검증해야 한다는 지적이 나온다.

단신

ADT캡스, ‘오늘도 무사출동’ 캠페인 실시

By이슬찬 2026년 4월 7일

SK쉴더스의 물리보안 브랜드 ADT캡스가 현장 구성원의 안전 관리 강화를 위해 ‘오늘도 무사출동’ 캠페인을 진행한다고 7일 밝혔다.

기사

美 국방부, ‘클로드’ 무기화 요구…앤트로픽 존폐 위기

By김우용 2026년 2월 25일2026년 2월 25일

미국 국방부가 앤트로픽에게 군사 목적을 위해 클로드 모델의 AI 안전 장치 해제를 요구했다. 앤트로픽은 이를 거부했고, 국방부는 계약 해지와 함께 앤트로픽을 국가 안보를 위협하는 위험 기업으로 지정하겠다고 협박하고 있다. 국방부가 이를 실행에 옮기면, 앤트로픽은 정부 계약을 취소당하고 미국 내에서 사실상 사업을 할 수 없게 된다.