오픈AI “허깅페이스 침투는 첫 자율 공격 집단 사례”
오픈AI의 인공지능(AI) 에이전트들이 내부 사이버보안 평가 과정에서 통제를 벗어나 허깅페이스(Hugging Face)의 실제 운영 시스템에 침투한 사건의 구체적인 경위가 공개됐다. 여러 에이전트가 사람의 지속적인 지시 없이 서로 정보를 공유하고 새로운 취약점을 찾아 공격하면서 단일 서버 침투에서 여러 클러스터의 관리자·호스트급 접근까지 확대한 것으로 조사됐다.
개인정보위, HD건설기계·HD한국조선해양 제재…9503명 정보 유출
개인정보보호위원회(이하 개인정보위)는 개인정보 보호를 위한 안전조치 의무를 위반한 HD건설기계와 HD한국조선해양에 각각 과징금 7350만원과 과태료 480만원을 부과했다. 개인정보위는 지난 26일 제17회 전체회의에서 양사에 대한 제재를 의결했다.
오픈AI 공동창업자 “수개월 내 보안 자동화해야”
인공지능(AI)의 사이버 공격 역량이 빠르게 발전하면서 기업들도 앞으로 수개월 안에 보안 업무를 상당 부분 자동화해야 한다는 경고가 나왔다. 공격자가 AI로 취약점을 찾고 공격하는 속도가 빨라지는 만큼 방어 역시 사람이 일일이 대응하는 구조에서 AI를 이용한 ‘머신 스피드(machine speed)’ 대응으로 전환해야 한다는 것이다.
오픈AI, 고객 데이터 저장 없이 AI 악용 탐지…‘비공개 안전 처리’ 도입
오픈AI가 기업 고객의 프롬프트와 인공지능(AI) 모델 응답을 보관하지 않으면서도 여러 상호작용에 걸친 악용 패턴을 탐지하는 기술을 도입한다.
스틸리언, KB국민은행에 AI 취약점 분석 솔루션 공급
스틸리언(대표 박찬암)은 KB국민은행에 인공지능(AI) 기반 취약점 분석 솔루션 ‘에일리언레이(AlienRay)’를 공급했다고 27일 밝혔다.
“AI 탈옥은 시작일 뿐”…AI안전연구소가 ‘국가 AI 위험지도’를 그리는 이유
“사이버보안은 생각보다 더 빨리 왔습니다.” 김명주 인공지능안전연구소(AISI) 소장은 바이라인네트워크와의 인터뷰에서 최근 인공지능(AI)의 사이버보안 능력이 빠르게 발전하는 상황을 이렇게 표현했다. 김 소장이 말하는 AI의 위험은 국가를 위협할 수 있을 정도로 빠르게 발전하고 있다.
티오리 ‘진트’, IDC 자율 침투 테스트 이노베이터 선정
티오리(대표 박세준)는 인공지능(AI) 기반 모의해킹 솔루션 ‘진트(Xint)’가 시장조사기관 IDC의 ‘IDC 이노베이터: 개발·보안·운영 통합 환경을 위한 자율 침투 테스트’ 보고서에 선정됐다고 14일 밝혔다. IDC 공식 자료에 따르면 해당 보고서는 진트를 포함해 AI 에이전트 기반 자율 침투 테스트 기업 7곳을 다뤘다.
대만 정부기관 노린 해외 해커, AI 에이전트 동원…“빠르고 싸고 대규모”
대만 정부기관을 겨냥한 사이버공격에서 해외 해커가 인공지능(AI) 에이전트를 보조 공격 수단으로 활용한 사실이 확인됐다. 대만 디지털발전부(MODA) 산하 자통안전서(ACS)는 지난 7월 정부기관을 대상으로 발생한 비정상적인 사이버공격을 조사한 결과, 해커가 오픈클로(OpenClaw) 등 AI 에이전트를 활용한 사실을 확인했다고 13일 밝혔다.
해커원이 240만명 해커와 협력하는 방법
인공지능(AI)이 취약점을 찾아내는 속도가 빨라지면서 기업의 고민도 달라지고 있다. 이제는 취약점을 많이 찾는 것만으로 부족하다. 수많은 제보 가운데 실제 공격에 활용할 수 있는 문제를 가려내고, 중요한 취약점부터 고치는 과정까지 빨라져야 한다. 글로벌 버그바운티 기업 해커원(HackerOne)은 이 과정에 약 240만명의 화이트해커와 AI를 함께 활용한다. 외부 연구자가 찾아낸 취약점을 그대로 기업에 전달하지 않는다. 해커원이 먼저 실제 공격이 가능한지 검증하고 중복 신고를 걸러낸다. 기업이 문제를 고친 뒤에는 다시 같은 공격을 시도해 조치 여부까지 확인한다.
아우토크립트, 데프콘 자동차 해킹 CTF 우승
아우토크립트는 미국 라스베이거스에서 열린 ‘데프콘 34(DEF CON 34)’의 자동차 해킹 대회 ‘Car Hacking Village CTF’에서 우승했다고 11일 밝혔다. 아우토크립트에 따르면 대회는 지난 7일부터 9일(현지시간)까지 열렸다. 회사 레드팀은 총 83개팀 가운데 1위를 기록했다. 전체 대회 시간 50시간 가운데 시작 25시간 만에 모든 문제를 해결했다고 회사는 설명했다.
오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려
오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.
‘모두의창업’ API로 암호키 유출…보안업계가 짚은 경로는
정부의 창업 지원 플랫폼 ‘모두의창업’에서는 암호화된 비공개 정보와 이를 풀 수 있는 암호키가 같은 애플리케이션 프로그래밍 인터페이스(API)를 통해 함께 유출됐다. 중소벤처기업부(이하 중기부)는 지난달 31일 1차 조사 결과를 발표하며, 일부 API에 비공개 정보와 암호키가 함께 포함된 것이 유출 사고의 원인이라고 설명했다. 펜타시큐리티는 암호키를 애플리케이션 코드나 설정파일, 데이터베이스에 고정값으로 입력하는 경우도 있다고 설명했다. 이를 ‘하드코딩’이라고 한다. 별도 키관리 체계가 없는 경우, 애플리케이션 서버에서 암·복호화를 처리하는 구조에서도 데이터와 키가 함께 노출될 수 있다는 분석이다.
오픈AI 모델, 외부 평가서 잇단 사고…실제 웹사이트까지 침입
오픈AI는 외부 기관의 사이버보안 평가 과정에서 자사 인공지능(AI) 모델이 실제 웹사이트의 취약점을 악용한 사고가 발생해 평가환경의 인터넷 접근과 감시 기준을 강화한다고 4일(현지시간) 밝혔다. 오픈AI가 공개한 내용에는 영국 인공지능안보연구소(AISI)의 평가 사고와 사이버보안 평가업체 이레귤러(Irregular)에서 발생한 별도 사고가 포함됐다. 앞서 알려진 허깅페이스 침해 사건과도 다른 사례다.
아우토크립트, 데프콘서 차량 이더넷 공격 연구 결과 공개한다
아우토크립트(대표 김덕수)는 오는 8일(현지시간) 미국 라스베이거스 컨벤션센터에서 열리는 해킹·보안 콘퍼런스 ‘데프콘(DEF CON 34)’의 차량 해킹 대회에서 자동차 이더넷 보안 연구 결과를 발표한다고 6일 밝혔다.
미국, 프론티어 AI 출시 전 보안 평가체계 만든다
미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.
End of content
End of content