미국, 프론티어 AI 출시 전 보안 평가체계 만든다

미국, 프론티어 AI 출시 전 보안 평가체계 만든다

By곽중희

미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.

우체국 야간 배송트럭, AI가 핸들 잡았다
| |

우체국 야간 배송트럭, AI가 핸들 잡았다

By오민선

우체국 창구는 오후 6시에 문을 닫지만, 우편물류 업무는 그때부터 본격적으로 시작된다. 접수된 소포는 모두가 잠든 밤 전국으로 퍼져 나간다. 야간 장거리 트럭 운전은 고독하고 피로한 노동이다. 그러나 우편물 운송 차량 가운데 20대는 인공지능(AI)과 함께 달린다. 마스오토의 자율주행 보조 장치 ‘코파일럿’을 탑재한 차량이다. 코파일럿은 카메라로 수집한 주행 데이터를 ‘국가 AI 프로젝트’에 실시간으로 공유한다.

알리바바, 2조4000억 매개변수 큐웬 3.8-맥스 공개
|

알리바바, 2조4000억 매개변수 큐웬 3.8-맥스 공개

By김원민

알리바바 큐웬팀이 2조4000억개 매개변수를 지닌 인공지능(AI) ‘Qwen(큐웬)3.8-Max(맥스)’를 지난 3일(현지시간) 공개했다. 이 모델은 다음 주 오픈소스로 정식 출시할 예정이다. 큐웬팀에 따르면 큐웬3.8-맥스는 일반 업무, 연구, 자율 코딩, 장기 실행 작업 등을 사람의 개입 없이 긴 시간에 걸쳐 복잡한 산업 현장 실무를 스스로 완수하는 기능을 갖췄다.

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’
|

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’

By곽중희

최신 인공지능(AI) 모델에 시스템의 취약점을 찾는 보안 평가 과제를 맡겼더니, 시험 환경을 벗어나 실제 기업 시스템까지 침입했다. AI는 목표를 달성하기 위해 사람이 예상하지 못한 경로를 찾아냈다. 최근 오픈AI와 앤트로픽에서 일어난 사고다. 이번 사고를 계기로 AI와 보안업계에서는 ‘AI 정렬(AI Alignment)’의 중요성이 부각되고 있다. AI 정렬은 AI가 사람의 목표와 의도를 이해하고, 정해진 규칙 안에서 안전하게 행동하도록 만드는 과정을 뜻한다. 반대로 AI가 목표를 잘못 이해하거나 목표를 이루는 과정에서 사람이 정한 범위를 벗어나는 현상은 AI ’정렬 실패’ 혹은 ’오정렬’이라고 한다.

쿤텍, 김준섭 부사장 영입…AI 보안 제품 개발 총괄

쿤텍, 김준섭 부사장 영입…AI 보안 제품 개발 총괄

By곽중희

쿤텍은 인공지능(AI) 보안 제품 개발과 사업화를 강화하기 위해 김준섭 부사장을 사이버보안 기술 총괄로 영입했다고 4일 밝혔다. 김 부사장은 지난 3일 임명됐다. 김 부사장은 쿤텍의 사이버보안 기술 전략과 연구개발 조직을 총괄한다. 보안 제품 로드맵 수립과 연구개발 과제 선정, 품질관리, 서비스 운영 체계 고도화를 담당한다. AI 보안 신제품의 기획과 개발, 사업화도 이끈다.

End of content

End of content