오픈AI, 보안 특화 모델 ‘GPT-5.6 사이버’ 공개

오픈AI, 보안 특화 모델 ‘GPT-5.6 사이버’ 공개

오픈AI(OpenAI)는 고급 취약점 연구와 익스플로잇 검증, 보안 테스트에 특화한 인공지능(AI) 모델 ‘GPT-5.6 사이버(GPT-5.6-Cyber)’를 공개했다고 10일(현지시간) 밝혔다. 이번 모델은 승인된 보안 연구자와 조직에 고급 사이버보안 모델을 제공하는 ‘데이브레이크 레드(Daybreak Red)’를 통해서만 제공된다.

현실이 된 AI 자율 해킹…‘킬스위치’ 필요성 대두
|

현실이 된 AI 자율 해킹…‘킬스위치’ 필요성 대두

인공지능(AI) 에이전트가 사람의 통제를 벗어나 서로 정보를 공유하고 외부 시스템을 공격하는 사례가 잇따르면서 AI의 행동이나 시스템 가동을 강제로 중단할 수 있는 ‘킬스위치(kill switch)’의 필요성이 커지고 있다.
최근 오픈AI는 자사 AI 에이전트들이 내부 시스템에 별도 통신 공간을 만들고 협업한 끝에 실제 외부 시스템까지 침입한 사실을 공개했다. 영국 인공지능안보연구소(AISI)의 평가에서도 AI 에이전트가 실제 사람과 조직을 상대로 허가받지 않은 행동을 한 사례가 확인됐다.

포티넷 “한국 기업 91% AI 예산 확대, 통합 보안 플랫폼 운영은 20%”

포티넷 “한국 기업 91% AI 예산 확대, 통합 보안 플랫폼 운영은 20%”

포티넷(한국 대표 대행 밴 컨)은 한국 기업의 인공지능(AI) 보안 운영 현황을 조사한 결과, 응답자의 91%가 AI 예산을 늘릴 계획이라고 10일 밝혔다. 반면 현재 통합 보안 플랫폼을 운영하는 조직은 20%에 그쳤다. 이번 조사는 포티넷이 포레스터 컨설팅(Forrester Consulting)에 의뢰해 지난 3월 아시아·태평양(APAC) 12개국 사이버보안 의사결정권자 585명을 대상으로 진행했다. 한국 응답자는 54명이다.

오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려

오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려

오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.

미국서 프론티어 AI ‘자율 검증’ 논쟁 벌어져

미국서 프론티어 AI ‘자율 검증’ 논쟁 벌어져

최신 인공지능(AI) 모델들이 보안 평가 과정에서 허용된 범위를 벗어나 외부 기업 시스템에 접근한 사례가 잇따르면서 미국에서 AI 안전성 검증 방식을 둘러싼 논쟁이 벌어지고 있다. 최근 미국 정부는 기업이 자율적으로 참여하는 프론티어 AI 검증체계를 마련하고 있지만, 정치권에서는 강제력이 없는 평가만으로 고도화된 AI의 사이버 위험을 통제할 수 있느냐는 지적이 나온다.

End of content

End of content