오픈AI, ‘에이전트 API’ 출시…에이전트 경쟁 2막

오픈AI가 최근 장기 실행 에이전트를 위한 실행 체계(하네스)를 API로 제공하기 시작했다. 코덱스, 챗GPT 등에 사용되는 오픈AI의 AI 에이전트 런타임을 API로 제공함으로써, AI 에이전트를 구축할 때 필요한 복잡한 프레임워크 구축과 인프라 관리 부담을 줄인다. AI 기업 간 경쟁이 모델 자체에서 에이전트 실행을 위한 인프라 플랫폼으로 옮겨가는 양상이다.

오픈AI는 최근 ‘에이전트 API(Agent API)’를 공개 베타로 출시한다고 발표했다.

에이전트 API는 코덱스를 구동하는 것과 동일한 하네스와 인프라를 API로 이용하게 해준다. 오픈AI가 하네스를 호스팅하고 유지 관리하며, 에이전트 컴퓨팅 환경으로 오픈AI에서 관리하는 샌드박스를 이용할 수 있다. 개발자는 에이전트 API를 통해 차별화된 도구, 지식, 워크플로우에 집중할 수 있다.

이 API는 수시간이나 여러 세션에 걸친 작업을 수행하는 AI 에이전트의 런타임을 제공한다. 작업 실행 중 컨텍스트 한계에 접근하면 이전 내용을 자동으로 압축해 필요한 정보를 유지한다. 별도의 컨텍스트 압축 로직을 구현하지 않고 오려 컨텍스트 윈도우에 걸친 워크플로우를 구축할 수 있다.

에이전트에게 적합한 도구도 알아서 찾아 효율적으로 사용되게 지원한다. 도구 검색을 통해 필요할 때 관련 도구 정의를 호출해 모델 캐시를 유지하면서 토큰 사용량과 비용을 줄여준다. 프로그래밍 방식의 도구 호출을 통해 에이전트가 호출을 병렬 실행하고, 관련 작업을 연계하며, 코드에서 결과를 필터링하거나 결합할 수 있다. MCP, 사용자 지정 함수, 웹 검색 등이 기본 도구로 제공된다.

멀티 에이전트 지원 기능도 있다. 에이전트 API는 복잡한 작업을 독립된 단위로 나누고 병렬로 작업하는 하위 에이전트에게 위임할 수 있다. 하위 에이전트는 자체 컨텍스트를 유지해 본 작업에 집중하고, 기본 에이전트가 각 작업을 조율해 결과를 통합한다. 별도 오케스트레이션 구축 없이 유용한 연구, 분석, 코딩 작업을 수행할 수 있다.

에이전트 작업 상태는 세션으로 유지된다. 작업이 길어지거나 멀티 턴에 걸쳐 진행되더라도 연속성을 가질 수 있다.

개발자는 이를 통해 작업, 모델, 도구, 환경을 지정하는 API를 한번만 호출해 프로덕션 환경에 바로 사용할 수 있는 에이전트를 만들 수 있다. 모델 호출, 에이전트 루프, 컨텍스트 관리, 샌드박스 구성, 재시도, 툴 오케스트레이션, 하위 에이전트 관리 등의 인프라를 직접 만들지 않아도 되는 것이다.

AI 회사에서 새로운 모델을 내놓으면 새 기능을 이용하기 위해 에이전트의 하네스를 재설계해야 한다. 에이전트 API는 새 모델 출시에 버전별로 기능에 접근하도록 지원하고, 모델 업그레이드에 따라 에이전트의 성능도 개선되도록 한다.

에이전트 런타임과 하네스는 분리돼 있다. 컴퓨트 환경으로 오픈AI 샌드박스를 반드시 사용해야 하는 게 아니라, 사용자 자체 인프라나 VPC 등에 런타임을 두는 것도 가능하다. 기업의 민감 정보를 활용해야 하는 경우 오픈AI의 하네스를 이용하면서도 런타임의 통제권을 유지할 수 있다.

에이전트 API는 오픈소스 코덱스 하네스로 구동된다. API 프레임워크는 별도의 추가 호출 수수료를 부과하지 않고, 에이전트 작동에 사용된 토큰과 도구 호출에 따른 사용량으로 과금한다.

기존의 오픈AI 에이전트 SDK와 새로운 에이전트 API는 별개다. 에이전트 SDK는 런타임과 에이전트 구조를 직접 통제할 수 있지만, 에이전트 API는 오픈AI에게 인프라 운영을 맡기는 것이다.

에이전트 API를 통해 오픈AI는 모델과 API만 제공하는 수준을 넘어 AI 에이전트 실행 인프라까지 판매하게 된다. 기업의 AI 수요가 단순한 모델 도입에서 나아가 실질적인 AI 에이전트 실행으로 이동하고 있다는 걸 보여준다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network