[커머스BN] 생성 AI 상품 리뷰 요약, 괜찮은 거 맞나요?

아마존은 지난 8월부터 고객의 제품 리뷰를 요약해주는 서비스를 제공하고 있습니다. 구매를 고려하는 이용자가 수백, 수천 개의 리뷰를 일일이 볼 수 없으니 AI가 간단히 제품 리뷰를 요약해주겠다는 것입니다. 고객 리뷰는 아마존에서 가장 중요한 콘텐츠 중 하나로, 아마존에는 1년에 15억 건의 리뷰가 달립니다.

AI가 요약한 리뷰에는 “고객의 텍스트 리뷰에서 생성됐음”이라는 표시가 달립니다. 또 성능, 사용성, 안정성 등의 태그를 추출해 클릭하면 관련 리뷰를 모아서 볼 수 있도록 했습니다.

그런데 모든 생성AI는 ‘할루시네이션(환각)’이라는 기술적 한계가 있습니다. 말을 만들어 내는 과정에서 틀린 정보를 만들어낼 수 있는 것이죠. 요약도 마찬가지입니다. AI가 여러 리뷰를 요약하는 과정에서 과장되거나 거짓된 정보가 표출될 수 있습니다.

아마존 AI 리뷰 요약에서도 비슷한 문제가 나타납니다. 제품에 대한 부정확한 설명을 하기도 하고, 극소수의 고객이 지적한 문제를 상당수의 고객이 지적하는 문제인 것처럼 호도하기도 합니다. 판매자 입장에서는 고객들이 달아놓은 소중한 제품 리뷰가 틀리게 요약된다면 당황스럽지 않을 수 없을 것입니다.생성 AI 상품 리뷰 요약, 괜찮은 거 맞나요?

여기부터는 콘텐츠 멤버십 ‘커머스BN 프리미엄’ 가입자를 대상으로만 공개됩니다. 가입은 네이버를 통해 하실 수 있습니다. 커머스BN은 콘텐츠를 기반으로 커머스 가치사슬을 연결하는 ‘비즈니스 네트워크’를 만들고, 콘텐츠를 통해 산업과 산업, 사람과 사람을 연결하여 시너지를 만들고자 합니다. 그 새로운 도전에 여러분을 초대합니다.

바로 콘텐츠 이어보기 커머스BN 바로가기