AMD-코히어, AI 인프라 협력 확대

AMD는 엔터프라이즈 AI 기업 코히어와 글로벌 협력을 다각도로 확대한다고 25일 발표했다.

코히어 고객은 ‘커맨드 AI’, ‘커맨드 A 비전’, ‘커맨드 A 번역 모델’, ‘노스(North)’ 등 코히어의 전체 AI 제품군을 AMD 인스팅트 GPU 기반 인프라에서 사용할 수 있다. 이를 통해 전 세계 기업 및 소버린 AI 프로젝트는 성능과 총 소유 비용(TCO)에 대한 목표를 달성할 수 있는 더 많은 선택지를 확보하고, AI 계획의 현실화를 앞당길 수 있게 된다.

AMD는 코히어의 노스 플랫폼을 자사의 내부 엔터프라이즈 AI 포트폴리오에 통합할 계획이라고 밝혔다. 이에 따라 코히어의 기술은 AMD 내부 및 엔지니어링 AI 워크로드의 핵심 요소로 활용된다.

이 발표는 AMD와 코히어가 AMD 인스팅트 GPU 기반 인프라에서 코히어의 엔터프라이즈 초거대 언어모델(LLM)을 최적화해 온 그간의 협업을 확장한 것이다.

코히어는 지난 6월 열린 AMD의 ‘어드밴싱 AI 2025’ 행사에서 AMD 기술로 구동되는 자사의 모델들이 이미 다양한 기업에 배포되고 있다고 밝혔다. 이 모델들은 긴 문장의 맥락을 추론하고, 복잡한 워크로드를 처리하기에 충분한 메모리 대역폭과 용량을 제공하면서 배포 규모를 줄이고 AI 인프라 운영의 총 소유 비용을 낮추는 효과를 발휘한다.

보안성과 프라이버시를 강조하는 코히어의 AI 모델에 AMD의 고성능 AI 인프라가 결합되면서 두 회사는 국가 데이터, 보안, 규제 요건을 준수하는 소버린 AI 구축을 지원할 수 있게 됐다. AMD AI 인프라에서 코히어 엔터프라이즈 AI 모델을 제공함으로써 정부와 기업은 각자의 조건에 맞는 유연성을 갖추면서도 동시에 신뢰할 수 있는 AI 시스템을 구축할 수 있는 기반을 마련한다.

코히어의 공동 설립자인 닉 프로스트는 “공공 및 민간 부문 고객들이 우리의 기본 모델 및 보안 최적화된 엔터프라이즈 AI 제품 전체를 AMD 인프라에서 실행할 수 있게 되면, 코히어의 AI 배포 방법이 훨씬 더 큰 유연성을 갖게 될 것”이라며 “AMD는 AI 인프라를 통해 매력적인 TCO를 제공하기 때문에 전 세계 소버린 AI 프로젝트의 훌륭한 선택지가 될 것”이라고 밝혔다.

AMD AI 부문 수석 부사장인 밤시 보파나는 “코히어의 풀스택 AI 솔루션이 AMD 인스팅트 인프라에 배포할 수 있게 되면서 기업과 정부는 뛰어난 성능, 효율성 및 메모리 용량 등을 바탕으로 AI를 확장할 수 있게 됐다”며 “AMD의 AI 컴퓨팅 플랫폼을 통해 고객들은 총 소유 비용과 에너지 효율이라는 두 가지 이점을 동시에 누릴 수 있어 기업과 정부가 AI 혁신을 가속화하는 데 큰 이점이 될 것”이라고 강조했다.