미국, 프론티어 AI 출시 전 보안 평가체계 만든다

미국, 프론티어 AI 출시 전 보안 평가체계 만든다

By곽중희

미국 정부가 고성능 인공지능(AI) 모델을 외부에 공개하기 전 사이버 공격 능력을 점검하는 사전평가 체계를 확대하고 있다. 주요 AI 개발사와 맺은 개별 협약을 범정부 차원의 자발적 평가 체계로 연결하고, 일정 수준 이상의 사이버 능력을 갖춘 모델에는 최대 30일간 정부가 먼저 접근하는 방안을 추진하고 있다.

알리바바, 2조4000억 매개변수 큐웬 3.8-맥스 공개
|

알리바바, 2조4000억 매개변수 큐웬 3.8-맥스 공개

By김원민

알리바바 큐웬팀이 2조4000억개 매개변수를 지닌 인공지능(AI) ‘Qwen(큐웬)3.8-Max(맥스)’를 지난 3일(현지시간) 공개했다. 이 모델은 다음 주 오픈소스로 정식 출시할 예정이다. 큐웬팀에 따르면 큐웬3.8-맥스는 일반 업무, 연구, 자율 코딩, 장기 실행 작업 등을 사람의 개입 없이 긴 시간에 걸쳐 복잡한 산업 현장 실무를 스스로 완수하는 기능을 갖췄다.

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’
|

[그게 뭔가요] AI 샌드박스 탈출 사태 막을 수 있다는 ‘AI 정렬’

By곽중희

최신 인공지능(AI) 모델에 시스템의 취약점을 찾는 보안 평가 과제를 맡겼더니, 시험 환경을 벗어나 실제 기업 시스템까지 침입했다. AI는 목표를 달성하기 위해 사람이 예상하지 못한 경로를 찾아냈다. 최근 오픈AI와 앤트로픽에서 일어난 사고다. 이번 사고를 계기로 AI와 보안업계에서는 ‘AI 정렬(AI Alignment)’의 중요성이 부각되고 있다. AI 정렬은 AI가 사람의 목표와 의도를 이해하고, 정해진 규칙 안에서 안전하게 행동하도록 만드는 과정을 뜻한다. 반대로 AI가 목표를 잘못 이해하거나 목표를 이루는 과정에서 사람이 정한 범위를 벗어나는 현상은 AI ’정렬 실패’ 혹은 ’오정렬’이라고 한다.

라온메타, ‘메타데미’에 AI 취업 준비 기능 추가

라온메타, ‘메타데미’에 AI 취업 준비 기능 추가

By곽중희

라온시큐어 자회사 라온메타는 인공지능(AI)·확장현실(XR) 실습 플랫폼 ‘메타데미’에 면접 코칭과 역량검사, 자기소개서 분석 기능을 추가했다고 4일 밝혔다. 이용자는 메타데미에서 면접 연습과 개인 역량 진단, 자기소개서·이력서 점검 등 취업 준비 과정을 단계별로 진행할 수 있다.

오픈AI, 서울서 첫 코덱스 게임 개발 해커톤 개최

오픈AI, 서울서 첫 코덱스 게임 개발 해커톤 개최

By김원민

오픈AI가 이달 31일 서울에서 코딩 에이전트 코덱스를 활용한 게임 개발 해커톤 ‘오픈AI 게임 빌더스 서울’을 개최한다고 4일 밝혔다. 이번 서울 행사는 오픈AI가 코덱스를 활용한 게임 개발을 주제로 여는 첫 프로그램이다. 한국 게임 개발자를 대상으로 코덱스를 이용한 게임 제작과 서비스 연계 과정을 소개한다. 행사는 컴투스의 지원으로 ‘코덱스로 빌드하고, 하이브로 플레이하라’ 슬로건 아래 진행된다.

과기정통부, AI 교육·개발·실증 통합 인프라 ‘모두의 AI 성장사다리’ 출범

과기정통부, AI 교육·개발·실증 통합 인프라 ‘모두의 AI 성장사다리’ 출범

By김원민

과학기술정보통신부는 국립광주과학관에서 인공지능(AI) 활용 인프라를 통합하는 ‘모두의 AI 성장사다리 프로젝트’ 출범식을 3일 개최했다. 이 사업은 기존에 개별 추진되던 교육, 개발, 실증 지원 체계를 하나로 연결한 단일 프로젝트다. 전체 인프라는 목적에 따라 세 가지 형태로 나뉘어 운영된다.

LG AI연구원, ‘K-엑사원 2.0’ 공개…750B 모델·10개 언어 지원

LG AI연구원, ‘K-엑사원 2.0’ 공개…750B 모델·10개 언어 지원

By김원민

LG 인공지능(AI)연구원은 과학기술정보통신부의 ‘독자 AI 파운데이션 모델 프로젝트’ 2차수 모델 ‘K-엑사원(K-EXAONE) 2.0’을 오픈소스 플랫폼 허깅페이스에 공개했다. 모델 규모는 750B(7,500억개) 파라미터다. 기존 236B 모델보다 규모가 3배 이상 확대됐다. 지원 언어도 기존 6개에서 프랑스어, 이탈리아어, 포르투갈어, 폴란드어를 추가해 총 10개로 늘었다.

[미토스 이후, 취약점 대응④] AI가 찾은 취약점, 누가 검증·조정하나
| |

[미토스 이후, 취약점 대응④] AI가 찾은 취약점, 누가 검증·조정하나

By곽중희

프론티어 인공지능(AI) 모델이 소프트웨어 취약점을 찾고 공격 가능성까지 확인하는 단계에 들어서면서, 발견한 결과를 안전하게 처리할 제도적 기반이 중요해지고 있다. AI가 찾아낸 버그가 많아지면, 실제 취약점인지 검증하고 이를 기업의 패치와 정보 공개로 연결하는 절차가 필요해진다. 또한 취약점이 여러 제품에 영향을 미치거나 기업이 신고에 응답하지 않을 경우에는 연구자와 제조사 사이를 조정할 기관의 역할도 더욱 커질 전망이다.

End of content

End of content