“AGI의 도래” 오픈AI, GPT-6 아스트라 출시
오픈AI가 차세대 프론티어 모델 ‘GPT-6 아스트라(Astra)’를 출시했다. 오랜만의 세대 변경으로, 그렉 브록만 오픈AI 사장은 ‘세대적 도약’이라 표현하며 “인공일반지능(AGI)의 시대가 도래했다”고 말했다. 인류 역사상 가장 위험한 AI 모델이 등장했다.
허깅페이스 침투 사고가 바꾼 것들
지난 7월 큰 충격을 준 오픈AI의 허깅페이스 침투 사고가 프론티어AI를 만들고 시험하는 방식까지 바꾸고 있다. 오픈AI와 앤트로픽은 최근 발생한 프론티어 모델들의 탈옥 사고 이후, 모델을 가두는 환경부터 강화학습, 실시간 행동 감시까지 여러 안전장치를 다시 정비하고 있다고 발표했다.
오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려
오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.
End of content
End of content