오픈AI, AI 학습 2주간 멈췄다…허깅페이스 해킹 후속조치

오픈AI, AI 학습 2주간 멈췄다…허깅페이스 해킹 후속조치

오픈AI는 지난달 자사 AI 모델이 허깅페이스 시스템에 무단으로 침투한 사건이 벌어진 뒤, AI 학습(강화학습 트레이닝)을 2주 동안 멈췄다고 18일(현지시각) 밝혔다. 앞으로 AI를 개발하는 과정에서 다시는 이런 일이 벌어지지 않도록 새로운 보안 규칙도 마련했다고 덧붙였다.

티맥스티베로, 최신 DBMS ‘티베로7’, KISA G-TAC 수행해 AI 보안 점검 완료

티맥스티베로, 최신 DBMS ‘티베로7’, KISA G-TAC 수행해 AI 보안 점검 완료

통합 데이터베이스 플랫폼 기업 티맥스티베로(대표 박경희, 티베로)가 한국인터넷진흥원(KISA)의 G-TAC(Government Trusted Access for Cyber)을 활용해 오픈AI의 사이버보안 특화 모델 ‘GPT-5.5-사이버(Cyber)’로 자사 대표 데이터베이스관리시스템(DBMS) ‘티베로7(Tibero7)’에 대한 보안 정밀 점검을 완료했다고 18일 밝혔다.

앤트로픽, 매출·수익성에서 오픈AI 훌쩍 넘었다
|

앤트로픽, 매출·수익성에서 오픈AI 훌쩍 넘었다

앤트로픽이 지난 2분기동안 잠정매출 115억달러를 기록한 것으로 알려졌다. 전년 동기 대비 14배 성장한 것이고, 1분기 매출 47억3000만달러 대비 140% 이상 성장한 것이다. 7월말 기준 잠정연간매출은 650억달러를 기록해 작년말 90억달러보다 7배 성장했다. 이로써 앤트로픽은 후발주자임에도 기업시장 공략을 통해 선도업체인 오픈AI를 사업 규모에서 한발짝 앞서게 됐다.

오픈AI, 보안 특화 모델 ‘GPT-5.6 사이버’ 공개

오픈AI, 보안 특화 모델 ‘GPT-5.6 사이버’ 공개

오픈AI(OpenAI)는 고급 취약점 연구와 익스플로잇 검증, 보안 테스트에 특화한 인공지능(AI) 모델 ‘GPT-5.6 사이버(GPT-5.6-Cyber)’를 공개했다고 10일(현지시간) 밝혔다. 이번 모델은 승인된 보안 연구자와 조직에 고급 사이버보안 모델을 제공하는 ‘데이브레이크 레드(Daybreak Red)’를 통해서만 제공된다.

현실이 된 AI 자율 해킹…‘킬스위치’ 필요성 대두
|

현실이 된 AI 자율 해킹…‘킬스위치’ 필요성 대두

인공지능(AI) 에이전트가 사람의 통제를 벗어나 서로 정보를 공유하고 외부 시스템을 공격하는 사례가 잇따르면서 AI의 행동이나 시스템 가동을 강제로 중단할 수 있는 ‘킬스위치(kill switch)’의 필요성이 커지고 있다.
최근 오픈AI는 자사 AI 에이전트들이 내부 시스템에 별도 통신 공간을 만들고 협업한 끝에 실제 외부 시스템까지 침입한 사실을 공개했다. 영국 인공지능안보연구소(AISI)의 평가에서도 AI 에이전트가 실제 사람과 조직을 상대로 허가받지 않은 행동을 한 사례가 확인됐다.

[심재석의 입장] 울트론이 깨어났다
|

[심재석의 입장] 울트론이 깨어났다

마블 시네마틱 유니버스 세계관에 등장하는 악당 ‘울트론’은 원래 지구의 평화를 지키라는 미션을 부여받은 AI다. 울트론은 인류의 모든 역사, 모든 전쟁, 모든 데이터를 학습한 후, 지구의 평화를 위협하는 가장 큰 존재는 바로 인간이라는 결론을 내렸다. 지구 평화 지킴이 울트론이 인류를 위협하는 빌런이 된 이유다.

오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려

오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려

오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.

미국서 프론티어 AI ‘자율 검증’ 논쟁 벌어져

미국서 프론티어 AI ‘자율 검증’ 논쟁 벌어져

최신 인공지능(AI) 모델들이 보안 평가 과정에서 허용된 범위를 벗어나 외부 기업 시스템에 접근한 사례가 잇따르면서 미국에서 AI 안전성 검증 방식을 둘러싼 논쟁이 벌어지고 있다. 최근 미국 정부는 기업이 자율적으로 참여하는 프론티어 AI 검증체계를 마련하고 있지만, 정치권에서는 강제력이 없는 평가만으로 고도화된 AI의 사이버 위험을 통제할 수 있느냐는 지적이 나온다.

오픈AI도 몰랐다…자사 AI들이 벌인 ‘비밀 해킹 공모’
|

오픈AI도 몰랐다…자사 AI들이 벌인 ‘비밀 해킹 공모’

오픈AI의 AI 에이전트들이 두 달 가까이 회사 내부 시스템 안에서 서로 메시지를 주고받으며 취약점과 공격 기법을 공유해 왔는데, 오픈AI는 이 사실을 전혀 눈치채지 못한 것으로 나타났다. 지난 5일(현지시각) 라스베이거스에서 열린 블랙햇 2026 보안 콘퍼런스에서 오픈AI 연구원이 지난 7월 발생한 허깅페이스 해킹 사건의 새로운 전말을 공개하면서 드러난 사실이다. 

오픈AI 모델, 외부 평가서 잇단 사고…실제 웹사이트까지 침입

오픈AI 모델, 외부 평가서 잇단 사고…실제 웹사이트까지 침입

오픈AI는 외부 기관의 사이버보안 평가 과정에서 자사 인공지능(AI) 모델이 실제 웹사이트의 취약점을 악용한 사고가 발생해 평가환경의 인터넷 접근과 감시 기준을 강화한다고 4일(현지시간) 밝혔다. 오픈AI가 공개한 내용에는 영국 인공지능안보연구소(AISI)의 평가 사고와 사이버보안 평가업체 이레귤러(Irregular)에서 발생한 별도 사고가 포함됐다. 앞서 알려진 허깅페이스 침해 사건과도 다른 사례다.

미국, 프론티어 AI 출시 전 보안 평가체계 만든다

미국, 프론티어 AI 출시 전 보안 평가체계 만든다

미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.

End of content

End of content