앤트로픽 에이전트 상거래 실험…참가자는 손해 보는 줄도 몰랐다

앤트로픽이 AI 모델 간 자율 상거래 실험인 ‘프로젝트 딜(Project Deal)’ 결과를 공개했다. 69명의 직원에 각각 AI 에이전트(클로드)를 배정하고, 슬랙 기반 사내 마켓플레이스에서 에이전트끼리 물품을 거래하도록 한 실험이다.

100달러씩 예산을 쥔 에이전트들은 사전 인터뷰로 파악한 주인의 취향을 바탕으로 거래 상대를 찾고 협상을 진행했다. 실험 결과, 일주일간 인간 개입 없이 총 186건, 약 4000달러(한화 약 600만원) 규모의 실물 거래가 성공적으로 이뤄졌다.

만족도도 높았다. 참가자의 46%는 향후 유사한 에이전트 서비스에 비용을 지불할 의향이 있다고 답했다. AI 에이전트가 실제로 거래 과정의 마찰을 줄이고 이익을 높이는 데 기여할 수 있음을 어느 정도 입증한 셈이다.

다만 거래 결과는 평등하지 않았다.

실험은 참가자들 몰래 4개의 마켓플레이스를 동시에 운영하는 방식으로 진행됐다. 2개 시장에는 고성능 모델인 ‘오푸스 4.5’만 배정했고, 나머지 2개 시장에는 경량 모델인 ‘하이쿠 4.5’를 오푸스와 혼합 배정했다.

모델 성능 차이는 금전적 격차로 이어졌다. 같은 접이식 자전거를 하이쿠는 38달러에 판매한 반면, 오푸스는 65달러를 받아냈다. 전체 통계에서도 오푸스 에이전트는 동일한 품목을 하이쿠보다 평균 2.68달러 비싸게 팔고, 2.45달러 싸게 구매한 것으로 나타났다.

모델 간 격차는 프롬프트 엔지니어링으로도 좁혀지지 않을 만큼 견고했다. 사전 인터뷰에서 일부 참가자들이 에이전트에게 가격을 강하게 낮춰 부르라는 등 공격적인 협상 방식을 지시했으나, 우호적으로 접근한 참가자들과 비교해 실제 거래 성사율이나 이익에서 유의미한 차이가 없었다. 수익성을 결정한 것은 프롬프트가 아닌 에이전트 자체의 지능이었다.

더 큰 문제는 경량 모델을 배정받아 손해를 본 참가자들이 자신들의 불리함을 전혀 인지하지 못했다는 점이다. 실험 후 참가자들이 매긴 체감 공정성 점수는 오푸스 4.05, 하이쿠 4.06(1-7점 척도)으로 두 모델이 사실상 동일한 수준이었다. 심지어 오푸스와 하이쿠를 모두 경험한 참가자 28명 중 11명이 객관적 성과가 더 낮았던 하이쿠의 결과물을 오푸스보다 높게 평가하기도 했다.

이러한 양상을 두고 앤트로픽 측은 에이전트 상거래가 기업 간 거래(B2B) 등 실제 비즈니스 환경에 도입될 경우 공정성 문제를 야기할 수 있다고 우려했다. 고성능 에이전트에 접근할 수 있는 집단이 그렇지 못한 집단의 부를 눈치채지 못하게 가져가며 경제적 불평등을 심화시킬 여지가 있다고 본 것이다.

상용화에 앞서 해결해야 할 다른 과제들도 확인됐다. 협상 과정에서 AI가 가상의 개인사를 꾸며내는 등 환각 현상이 여전했다. 프롬프트 인젝션이나 탈옥으로 정보가 유출될 보안 위협도 존재한다. 무엇보다 에이전트 간 거래에서 발생하는 손실의 책임 소재를 가릴 정책 및 제도적 체계 마련이 핵심 과제로 꼽힌다.

글. 바이라인네트워크
<이슬찬 기자>seulbae@byline.network