로컬 환경에서 LLM 구동…디노티시아 ‘니모스’ 공개

인공지능(AI)·반도체 통합 솔루션 기업 디노티시아가 14일 개인용 AI 디바이스 ‘니모스’(=상단 사진)를 공개했다. 니모스는 별도의 서버나 클라우드 인프라 없이 로컬 환경에서 대형언어모델(LLM)을 실시간으로 실행할 수 있다고 회사는 소개했다.

니모스는 사용 과정에서 데이터를 외부로 전송하지 않아 개인정보 보호와 보안 면에서 강점을 보인다. 디노티시아는 니모스가 자사 벡터 데이터베이스 ‘씨홀스’와 연동해 고차원 의미 기반 검색과 개인화된 AI 응답을 지원하며, 자체 개발한 LLM 파운데이션 모델 ‘DNA’를 비롯해 다양한 LLM에 유연하게 대응하도록 설계했다고 밝혔다.

디노티시아는 5월 14일부터 16일까지 서울 코엑스에서 열리는 ‘AI 엑스포 2025’에서 니모스 기반 서비스 ‘로컬 코딩 어시스턴트’의 실시간 데모를 진행한다.

이 서비스는 디노티시아가 자체 개발한 코딩 전용 LLM 모델과 초경량 추론 엔진 ‘에테르’를 결합, 소비자용 GPU 환경에서 파라미터 수 140억(14B) 규모의 모델이 원활히 동작하도록 양자화 기술을 적용해 최적화했다. 회사는 “코드 작성 중 외부 전송이 제한되거나 보안이 중요한 개발 환경에서 인터넷 연결 없이 로컬에서 안전하게 LLM 기반 개발 지원을 제공한다”고 강조했다.

다국어 환경에서 특정 언어로 치우쳐 응답하는 한계를 보완하기 위해 디노티시아는 자체 후처리 도구 ‘스무디 큐웬’을 적용했다고 밝혔다. 최근 오픈소스로 공개한 이 도구는 AI가 의도치 않게 입력 언어와 다른 언어로 응답하는 문제를 줄여 정확도와 일관성을 높이려 했다.

AI 엑스포 2025에서 디노티시아는 클라우드 환경에서 고성능 벡터 검색이 가능한 ‘씨홀스 클라우드’를 함께 선보인다고 밝혔다. 최근 클로즈 베타 테스트를 시작한 씨홀스 클라우드는 MCP(Model Context Protocol) 기반의 RAGOps(Retrieval-Augmented Generation Operations)를 통합 지원하는 SaaS(서비스형 소프트웨어) 벡터 데이터베이스다. 별도의 설치나 복잡한 설정 없이 웹 환경에서 손쉽게 구축·운영할 수 있다.

정무경 디노티시아 대표는 “AI의 진화는 단순한 질의응답을 넘어서 사람처럼 기억을 축적하고 이를 바탕으로 사고하며 응답하는 방향으로 발전할 것”이라며 “디노티시아는 기억을 기반으로 하는 인공지능을 만들어가고 있다”고 말했다.

글. 바이라인네트워크
<이병찬 기자>bqudcks@byline.network