“쿠버네티스는 GPU를 잘 활용하기 힘든 플랫폼”

“쿠버네티스는 GPU를 잘 활용하기 힘든 플랫폼”

쿠버네티스는 클라우드의 운영체제라 불릴 정도로 스테이트리스 서비스 운영의 기본 선택지로 자리잡았다. 그렇게 좋은 쿠버네티스지만, CPU와 메모리 자원을 최적화하는 걸 목적으로 태어났기 때문에, 학습과 추론의 AI 워크로드를 운영할 때 GPU를 효율적으로 활용하기에 어려운 부분이 많다. 쿠버네티스에서 GPU를 잘 활용하려면 실제 플랫폼을 구축할 때 발생하는 문제를 운영 관점에서 어떻게 해결할 수 있을 지 봐야 한다.

생성형 AI를 넘어 실행형 AI로 넘어가기

생성형 AI를 넘어 실행형 AI로 넘어가기

생성형 AI를 실제 비즈니스 임팩트를 만들 수 있는 현장의 핵심 요소로 자리잡게 하는게 기업의 과제다. AI 도입의 성공은 모델 자체보다 개발이나 배포 운영을 얼마나 안정적으로 수행하느냐에 달렸다.

국민성장펀드, 리벨리온에 2500억원 투자

국민성장펀드, 리벨리온에 2500억원 투자

금융위는 26일 개최된 국민성장펀드 기금운용심의회에서 ‘K-엔비디아 육성’ 프로젝트의 일환으로 첨단전략산업기금이 리벨리온의 ‘AI 반도체(NPU) 양산 및 차세대 AI 반도체 개발사업’에 2500억원의 자금을 직접 투자하는 안건을 의결했다고 26일 밝혔다.

구글 압축 기술 등장하니, 메모리 반도체 주가 급락

구글 압축 기술 등장하니, 메모리 반도체 주가 급락

구글 리서치가 AI 모델의 메모리 사용량을 대폭 줄이는 압축 알고리즘 ‘터보퀀트(TurboQuant)’를 공개한 직후, 글로벌 메모리 반도체 주가가 일제히 급락했다. AI 기술 혁신이 기존 산업의 수요를 위협한다는 공포로 인한 주가 폭락이 다시 나타났다.

AI 시대 리스크에서 회복탄력성으로

AI 시대 리스크에서 회복탄력성으로

AI 시대, CISO의 역할은 기술 운영을 넘어 조직 전체의 디지털 회복탄력성을 이끄는 중심축으로 확장되고 있습니다.

이 보고서는 전 세계 650명의 CISO 설문 데이터와 현직 보안 리더들의 생생한 인사이트를 바탕으로, AI 거버넌스와 에이전틱 AI 도입, 인재 전략, 보안 성과 측정까지 오늘날 보안 리더십의 현주소를 짚습니다.

데이터가 말하는 현실을 직시하고, 앞으로의 방향을 설계하세요.

End of content

End of content