“AI 탈옥은 시작일 뿐”…AI안전연구소가 ‘국가 AI 위험지도’를 그리는 이유
“사이버보안은 생각보다 더 빨리 왔습니다.” 김명주 인공지능안전연구소(AISI) 소장은 바이라인네트워크와의 인터뷰에서 최근 인공지능(AI)의 사이버보안 능력이 빠르게 발전하는 상황을 이렇게 표현했다. 김 소장이 말하는 AI의 위험은 국가를 위협할 수 있을 정도로 빠르게 발전하고 있다.
티오리 ‘진트’, IDC 자율 침투 테스트 이노베이터 선정
티오리(대표 박세준)는 인공지능(AI) 기반 모의해킹 솔루션 ‘진트(Xint)’가 시장조사기관 IDC의 ‘IDC 이노베이터: 개발·보안·운영 통합 환경을 위한 자율 침투 테스트’ 보고서에 선정됐다고 14일 밝혔다. IDC 공식 자료에 따르면 해당 보고서는 진트를 포함해 AI 에이전트 기반 자율 침투 테스트 기업 7곳을 다뤘다.
대만 정부기관 노린 해외 해커, AI 에이전트 동원…“빠르고 싸고 대규모”
대만 정부기관을 겨냥한 사이버공격에서 해외 해커가 인공지능(AI) 에이전트를 보조 공격 수단으로 활용한 사실이 확인됐다. 대만 디지털발전부(MODA) 산하 자통안전서(ACS)는 지난 7월 정부기관을 대상으로 발생한 비정상적인 사이버공격을 조사한 결과, 해커가 오픈클로(OpenClaw) 등 AI 에이전트를 활용한 사실을 확인했다고 13일 밝혔다.
해커원이 240만명 해커와 협력하는 방법
인공지능(AI)이 취약점을 찾아내는 속도가 빨라지면서 기업의 고민도 달라지고 있다. 이제는 취약점을 많이 찾는 것만으로 부족하다. 수많은 제보 가운데 실제 공격에 활용할 수 있는 문제를 가려내고, 중요한 취약점부터 고치는 과정까지 빨라져야 한다. 글로벌 버그바운티 기업 해커원(HackerOne)은 이 과정에 약 240만명의 화이트해커와 AI를 함께 활용한다. 외부 연구자가 찾아낸 취약점을 그대로 기업에 전달하지 않는다. 해커원이 먼저 실제 공격이 가능한지 검증하고 중복 신고를 걸러낸다. 기업이 문제를 고친 뒤에는 다시 같은 공격을 시도해 조치 여부까지 확인한다.
아우토크립트, 데프콘 자동차 해킹 CTF 우승
아우토크립트는 미국 라스베이거스에서 열린 ‘데프콘 34(DEF CON 34)’의 자동차 해킹 대회 ‘Car Hacking Village CTF’에서 우승했다고 11일 밝혔다. 아우토크립트에 따르면 대회는 지난 7일부터 9일(현지시간)까지 열렸다. 회사 레드팀은 총 83개팀 가운데 1위를 기록했다. 전체 대회 시간 50시간 가운데 시작 25시간 만에 모든 문제를 해결했다고 회사는 설명했다.
오픈AI, 차기 모델 ‘아스트라’ 일부 활동 중단…사이버 공격 능력 우려
오픈AI가 개발 중인 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 일부 내부 활동을 일시 중단했다. 최근 자체 평가에서 아스트라의 코딩과 사이버보안 능력이 예상보다 빠르게 높아진 것으로 나타나면서다. 오픈AI는 7일(현지시간) 공식 블로그를 통해 강화한 보안 통제 기준을 충족하지 못한 아스트라 관련 내부 활동을 중단했다고 밝혔다.
‘모두의창업’ API로 암호키 유출…보안업계가 짚은 경로는
정부의 창업 지원 플랫폼 ‘모두의창업’에서는 암호화된 비공개 정보와 이를 풀 수 있는 암호키가 같은 애플리케이션 프로그래밍 인터페이스(API)를 통해 함께 유출됐다. 중소벤처기업부(이하 중기부)는 지난달 31일 1차 조사 결과를 발표하며, 일부 API에 비공개 정보와 암호키가 함께 포함된 것이 유출 사고의 원인이라고 설명했다. 펜타시큐리티는 암호키를 애플리케이션 코드나 설정파일, 데이터베이스에 고정값으로 입력하는 경우도 있다고 설명했다. 이를 ‘하드코딩’이라고 한다. 별도 키관리 체계가 없는 경우, 애플리케이션 서버에서 암·복호화를 처리하는 구조에서도 데이터와 키가 함께 노출될 수 있다는 분석이다.
오픈AI 모델, 외부 평가서 잇단 사고…실제 웹사이트까지 침입
오픈AI는 외부 기관의 사이버보안 평가 과정에서 자사 인공지능(AI) 모델이 실제 웹사이트의 취약점을 악용한 사고가 발생해 평가환경의 인터넷 접근과 감시 기준을 강화한다고 4일(현지시간) 밝혔다. 오픈AI가 공개한 내용에는 영국 인공지능안보연구소(AISI)의 평가 사고와 사이버보안 평가업체 이레귤러(Irregular)에서 발생한 별도 사고가 포함됐다. 앞서 알려진 허깅페이스 침해 사건과도 다른 사례다.
아우토크립트, 데프콘서 차량 이더넷 공격 연구 결과 공개한다
아우토크립트(대표 김덕수)는 오는 8일(현지시간) 미국 라스베이거스 컨벤션센터에서 열리는 해킹·보안 콘퍼런스 ‘데프콘(DEF CON 34)’의 차량 해킹 대회에서 자동차 이더넷 보안 연구 결과를 발표한다고 6일 밝혔다.
미국, 프론티어 AI 출시 전 보안 평가체계 만든다
미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.
AISI “미토스, 보안 평가 중 오픈소스 공급망 공격 시도”
영국 인공지능 보안 연구소(AISI)는 프론티어 인공지능(AI) 모델을 대상으로 진행한 사이버보안 평가에서 모델이 실제 오픈소스 프로젝트에 악성 코드를 넣고 개발자를 속이려 한 행동을 확인했다고 4일 밝혔다.
티오리 진트 코드, 애플 운영체제 커널 취약점 2종 발견
티오리(대표 박세준)는 인공지능(AI) 소스코드 보안 분석 솔루션 ‘진트 코드(Xint Code)’가 애플 운영체제(OS) 커널에서 보안 취약점 2종을 발견해 공식 보안 업데이트에 반영됐다고 5일 밝혔다.
금융위, 롯데카드 297만명 유출사고에 1.5개월 신규회원 카드발급 정지
금융위원회는 지난해 8월 해킹 사고로 고객 297만명의 신용정보가 유출된 롯데카드에 1.5개월 업무정지와 과징금 50억원을 부과했다고 31일 밝혔다. 금융위는 이날 제14차 회의에서 롯데카드가 여신전문금융업법과 신용정보의 이용 및 보호에 관한 법률상 보안 의무를 위반했다고 판단해 제재를 의결했다. 금융위가 정보유출 해킹 사고를 이유로 업무정지 처분을 내린 것은 이번이 처음이다.
상반기 디도스 56.7%·랜섬웨어 76.8% 증가…침해사고 1236건
올해 상반기 국내 분산서비스거부(DDoS) 공격과 랜섬웨어 신고가 지난해 같은 기간보다 각각 56.7%, 76.8% 증가했다. 전체 침해사고 신고 건수도 1236건으로 19.5% 늘었다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 올해 상반기 KISA에 접수된 침해사고를 분석한 ‘2026년 상반기 국내 사이버위협 동향’을 30일 발표했다.
개인정보 유출 증거 숨기면 ‘매출 3%’ 별도 과징금 부과 법안 추진
개인정보 유출 사고 뒤 로그나 서버를 없앤 사업자에게 유출 사건 과징금과 별도의 과징금을 부과하는 법안이 추진된다. 증거 은닉·폐기 자체를 독립된 위법행위로 보고 전체 매출액의 3% 범위에서 제재하는 방식이다. 개인정보보호위원회(이하 개인정보위)는 KT와 LG유플러스의 개인정보 유출 사고 조사에서 확인된 제도 공백을 메우기 위한 개인정보보호법 개정 계획을 지난 29일 전체회의에서 논의하고 30일 공개했다.
End of content
End of content