오픈AI “프론티어 AI 개발, 규제 의무화해야”

오픈AI “프론티어 AI 개발, 규제 의무화해야”

By곽중희

오픈AI가 프론티어 인공지능(AI) 개발사를 대상으로 미국 연방 차원의 의무적인 안전규제가 필요하다고 밝혔다. 모델의 역량이 특정 위험 수준에 도달할 경우 개발 속도를 늦추거나 중단할 수 있는 공통 기준도 마련해야 한다고 제안했다.

인텔리빅스, 국산 NPU 기반 재난안전 AI 선보여

인텔리빅스, 국산 NPU 기반 재난안전 AI 선보여

By곽중희

인텔리빅스(대표 장정훈)는 지난 4일부터 8일까지 독일 베를린에서 열린 국제가전전시회 ‘IFA 2026’에 참가해 국산 신경망처리장치(NPU)를 이용한 산불 조기경보와 자율형 안전관제 기술을 소개했다고 9일 밝혔다.

“AI 탈옥은 시작일 뿐”…AI안전연구소가 ‘국가 AI 위험지도’를 그리는 이유
| | |

“AI 탈옥은 시작일 뿐”…AI안전연구소가 ‘국가 AI 위험지도’를 그리는 이유

By곽중희

“사이버보안은 생각보다 더 빨리 왔습니다.” 김명주 인공지능안전연구소(AISI) 소장은 바이라인네트워크와의 인터뷰에서 최근 인공지능(AI)의 사이버보안 능력이 빠르게 발전하는 상황을 이렇게 표현했다. 김 소장이 말하는 AI의 위험은 국가를 위협할 수 있을 정도로 빠르게 발전하고 있다.

현실이 된 AI 자율 해킹…‘킬스위치’ 필요성 대두
|

현실이 된 AI 자율 해킹…‘킬스위치’ 필요성 대두

By곽중희

인공지능(AI) 에이전트가 사람의 통제를 벗어나 서로 정보를 공유하고 외부 시스템을 공격하는 사례가 잇따르면서 AI의 행동이나 시스템 가동을 강제로 중단할 수 있는 ‘킬스위치(kill switch)’의 필요성이 커지고 있다.
최근 오픈AI는 자사 AI 에이전트들이 내부 시스템에 별도 통신 공간을 만들고 협업한 끝에 실제 외부 시스템까지 침입한 사실을 공개했다. 영국 인공지능안보연구소(AISI)의 평가에서도 AI 에이전트가 실제 사람과 조직을 상대로 허가받지 않은 행동을 한 사례가 확인됐다.

로블록스가 ‘디지털 시민’ 육성에 나선 이유
|

로블록스가 ‘디지털 시민’ 육성에 나선 이유

By윤정환

“청소년들이 온라인에서 보내는 시간이 늘어났다. 이제 중요한 것은 얼마나 오래 온라인에 머무르는지가 아니라 소통을 배우고 안전을 지키는 것이다.” 파프리 데비 로블록스 아태지역(APAC) 커뮤니케이션장이 3일 서울 중구 웨스틴 조선 서울에서 열린 ‘로블록스 디지털 시민의식 파이어사이드 챗’에서 이같이 말했다. 청소년의 온라인 이용 시간 자체보다 디지털 공간에서 다른 사람과 올바르게 소통하고 스스로 안전을 지키는 능력이 중요해졌다는 것이다.

AI 안전의 경계 넓어진다…에이전트에서 피지컬 AI까지 검증해야
|

AI 안전의 경계 넓어진다…에이전트에서 피지컬 AI까지 검증해야

By곽중희

인공지능(AI)이 챗봇에서 외부 도구를 사용하는 에이전트와 현실의 장비를 움직이는 피지컬 AI로 진화하고 있다. 이제 단순히 유해한 답변을 차단하는 것만으로는 안전을 확보하기 어려워졌다. 이에 AI가 어떤 정보에 접근하고 누구에게 정보를 보내는지, 현실에서는 어떤 행동을 하는지까지 검증해야 한다는 지적이 나온다.

美 국방부, ‘클로드’ 무기화 요구…앤트로픽 존폐 위기

美 국방부, ‘클로드’ 무기화 요구…앤트로픽 존폐 위기

By김우용

미국 국방부가 앤트로픽에게 군사 목적을 위해 클로드 모델의 AI 안전 장치 해제를 요구했다. 앤트로픽은 이를 거부했고, 국방부는 계약 해지와 함께 앤트로픽을 국가 안보를 위협하는 위험 기업으로 지정하겠다고 협박하고 있다. 국방부가 이를 실행에 옮기면, 앤트로픽은 정부 계약을 취소당하고 미국 내에서 사실상 사업을 할 수 없게 된다.

End of content

End of content