‘당근’이 AI 에이전트 활용하는 법

당근은 개인간 거래(C2C) 중심 중고거래를 포함해, 부동산과 중고차 등을 거래하고 동네 소식을 나누는 로컬 플랫폼이다. 월 2100만여명에 달하는 이들이 매달 당근에 접속해 중고거래를 포함해 다양한 서비스를 이용한다.

다른 시각에서 보면, 이용자 수만큼 문의 수도 늘어난다는 의미다.  고객서비스(CS) 담당 입장에서 문의 1개에 약 2분을 쓴다 하면, 2000개를 답하는 데에 약 66시간이 든다. CS 운영팀 입장에서는 난감한 노릇이다.

당근은 AI 에이전트로 이 문제를 해결하고자 한다. 25일 <바이라인네트워크>가 개최한 ‘리테일&로지스 테크 컨퍼런스 2025’에서 천재윤 당근 AI 에이전트 팀 리더는 “AI 에이전트에 대해 각기 정의가 다르지만, 당근은 사람의 일을 일정 부분 도와주는 수준에서 벗어나, 독립적이고 자율적으로 복잡한 작업을 처리한다’는 관점으로 만들고 있다”고 설명했다. 천 리더는 AI 에이전트를 모델, 도구, 지시사항으로 구성돼 있다고 덧붙였다. 

앞서 당근은 CS 운영 도메인 내 AI 에이전트 도입을 위해 여러 가지를 시도했으나, 올해부터 전사적인 AI 활용을 시작했다. 천 리더는 “이미 운영 도메인에서 학습된 머신러닝 모델이나 단일 LLM 등을 가지고 자동화를 굉장히 많이 시도하고 있는데, 올해 들어 경영진을 포함해 AI 전투 모드에 들어갔다”며, “이 분위기에 편승해 저희도 적극적으로 자동화를 했고, 서비스에 AI 에이전트를 더 많이 활용하는 계기가 됐다”고 말했다.

AI 에이전트 도입을 위해 당근은 외부 SaaS(서비스형 소프트웨어)가 아니라 내부에서 자체 플랫폼 ‘KAMP’를 구축했다. 천 리더는 “(올해 2월) 당시 외부 플랫폼이 없었거나, 내부적 기준을 충족하지 못했다”며 개발 이유를 설명했다.

당근은 KAMP의 AI 에이전트 개발 철학을 ▲노코드·로우코드 ▲어드민 내 설정 가능 두 가지로 잡았다.

현재 당근이 마련한 KAMP의 구성 특징은 총 5가지로, ▲누구나 직관적으로 에이전틱 그래프 구조 생산 ▲비저닝과 배포 기능을 통해 빠른 롤백과 비교 평가 ▲그래프를 보면서 실시간 테스트 가능 ▲어드민에서 DB에 쌓이는 로그를 편하게 디버깅 ▲LLM-as-a-judge와 주기평가를 통한 추적이다. 특히 LLM-as-a-judge에 대해 천 리더는 “사람이 처음 에이전트 결과에 대해 평가를 한 번 하면, LLM의 결과를 다듬어 사람과 90% 이상 같은 평가 결과를 내리면 그 다음 평가부터는 LLM이 하는 식”이라며, 운영 도메인 업무 과중으로 사람이 QA를 일일이 할 수 없기 때문에 개발했다고 덧붙였다.

이날 천 리더는 KAMP로 제작한 AI 에이전트 구조를 선보이기도 했다. ‘당근 중고차 경매 에이전트’와 ‘신고 처리 자동화 에이전트’가 대표적인 예시다. 

당근 중고차 경매 에이전트는 3개의 에이전트로 구성된 멀티 AI 에이전트다. 천 리더는 “예를 들어 이용자가 판매를 어떻게 하냐고 질문하면 라우트(Route, 경로) 에이전트가 탐색한 후 사람으로 넘기거나 리스폰스(Response, 답변) 에이전트로 넘긴다”며, “이후 크리틱(Critic, 평가) 에이전트가 리스폰스 에이전트의 답변을 평가해 최종 답변을 내보내는 구조”라고 설명했다. 라우트 에이전트 경우, 정보 수집 역할도 맡아, 중고차 팀의 MCP 서버와 세션 메모리, KAMP 소통 API 등 개념과 도구 등을 활용해 에이전트를 활용하고 있다.

신고처리 자동화에 대해서도 AI 에이전트를 도입했다. 정책을 기반으로 토론하는 두 에이전트가 의견을 나눈 후, 모더레이터가 결론을 내리는 방식이다. 현재 전체 신고 인입 건에 대해 사안에 따라 50~90%까지 AI 에이전트가 결정하고 있다.

천 리더는 중고차 경매 에이전트  도입 전후로 평균 일당 문의 건수가 56%, 최대일 경우와 비교해 72% 정도 줄어들었다고 밝혔다. 

벌써 KAMP를 통해 만들어진 AI 에이전트 수도 26개에 이른다. 속도도 점차 빨라지고 있다. 천 리더는 “처음 시작했을 때에는 제작에 2달 정도 걸렸다면, KAMP의 고도화에 따라 이제는 15일 정도면 평가까지 마무리해 실행할 수 있다”고 말했다. 에이전트를 적용한 카테고리 경우, CS인입량이 최대 50% 감소하거나 답변을 자동처리를 하는 카테고리 경우, 많게는 90%까지 자동처리 비율을 늘린 상황이다.

당근은 현재 CS 도메인을 넘어서, 당근 전체 AI 에이전트로 확장하고자 한다. 또 현재까지는 AI팀의 도움을 받아 운영단에서 에이전트를 개발하지만, 이후 직군 구분 없이 AI 에이전트를 쉽게 만들 수 있도록 개선하고자 한다.

또 비용 최적화 과제도 있다. 당근에 따르면 올 10월 한달간 캠프에서 활용한 토큰 사용량은 총 6854만건, 호출 건수는 169만건이다. 천 리더는 “프로덕트 배포가 쉬워지면서 비용이 크게 증가하는 모습을 보이고 있어 이를 최적화하는 것도 과제다”고 말했다. 이에 더해 신뢰할 수 있는 AI 에이전트 개발을 위해 평가 시스템을 고도화하려 한다.

천 리더는 “이는 1년 후 계획이 아니라, 한달 후 계획”이라며, “AI 업계가 빠르게 변화해, 계속해 대응할 필요가 있다”고 마무리했다.

글. 바이라인네트워크
<성아인 기자> aing8@byline.network