기업 AI 에이전트의 성공은 어떻게 이뤄질까
| | |

기업 AI 에이전트의 성공은 어떻게 이뤄질까

기업의 AI 에이전트 도입은 짧다면 짧고, 길다면 긴 여정이다. 그리고 완주하기 힘든 여정이기도 하다. 출발선을 긋는 것부터 힘들고, 목표 지점을 잡는 것도 힘들다. AI 에이전트 여정에 존재하는 어려움은 무엇이고, 어떻게 여정을 계획해야 하며, 또 어떻게 여정을 진행할 것인가. 많은 질문이 시중을 뒤엎고 있다. 현재 AI 에이전트 프로젝트에서 발견되는 공통의 문제점과 그 해결 방안, 기술적 논쟁을 분석하고, 현재와 앞으로 AI 사업자의 시장 경쟁 양상을 전망해본다.

뉴타닉스, AI 인프라 재구축으로 운영비 50% 절감
| |

뉴타닉스, AI 인프라 재구축으로 운영비 50% 절감

뉴타닉스가 외부 공급업체의 과금 모델 변경으로 토큰 비용이 급증한 사례를 계기로 AI 운영 모델을 하이브리드 방식으로 재구축하고, 기존 운영 방식 대비 비용을 50% 절감했다고 밝혔다. 서버와 그래픽처리장치(GPU)를 직접 구매하고 자체 솔루션과 에이전트 아키텍처를 활용해 불필요한 연산과 토큰 소비를 줄이는 데 초점을 맞췄다. 회사는 분산된 인프라를 통합 관리하고 개방성과 보안을 확보하는 전략을 통해 기업의 AI 운영 효율성과 비용 통제력을 높인다는 방침이다.

코히어, 토큰 종량제 대신 정액제·소형 모델로 B2B 공략
|

코히어, 토큰 종량제 대신 정액제·소형 모델로 B2B 공략

이번 기자간담회는 아시아태평양 지역 사업 확대 전략을 공유하고 소버린 인공지능(AI) 플랫폼의 비용 효율성을 알리기 위한 목적으로 주최됐다. 현재 대다수 거대언어모델(LLM) 공급사는 데이터 처리 단위인 토큰을 기준으로 요금을 매긴다. 사용자가 질문을 던지고 답변을 받을 때마다 실시간으로 비용이 발생하는 시스템이다. 전사적으로 기술을 도입할수록 사용량이 급증해 기업 입장에서는 정확한 정보기술(IT) 예산을 세우기 어렵다는 의견도 존재한다.

오픈라우터, 멀티 AI 모델 병렬 실행 도구 ‘퓨전’ 출시

오픈라우터, 멀티 AI 모델 병렬 실행 도구 ‘퓨전’ 출시

조직의 효율적인 멀티 AI 모델 채택을 지원하는 ‘오픈라우터’는 여러 모델을 병렬로 실행하는 도구 ‘퓨전(Fusion)’을 지난 12일 출시했다. 오픈라우터 측은 이를 통해 클로드 페이블5을 단독으로 사용하는 것보다 비용을 크게 절감하면서 더 나은 성능을 경험할 수 있다고 설명했다.

End of content

End of content