나이스평가정보가 신용평가에 XAI를 활용한 방법

이제는 나의 신용점수를 언제 어디서든 확인할 수 있는 시대다. 스마트폰 하나만 있으면 내 신용점수가 얼마나 되는지부터 핀테크 등에서 제공하는 서비스를 통해 신용점수를 올릴 수도 있다.

그러나 한가지 풀리지 않는 의문이 있다. 바로 나의 신용점수에 대한 설명이다. 어느 핀테크, 은행이든 나의 신용점수를 알려주지만 왜 신용점수가 이렇게 설정이 되었는지 아무도 설명해주지 않는다. 이런 점에서 설명가능한 인공지능(XAI)이 떠오르고 있다. 고객이 왜 승인카드 발급을 거부 받았고, 대출을 받을 수 없는지 알려주는 기술이다.

심주현 나이스평가정보 책임연구원은 23일 금융보안원이 주최한 ‘금융분야 설명가능한 인공지능(XAI) 세미나에서 XAI를 활용한 자사의 사례를 공유했다. 

나이스평가정보는 2015년부터 신용평가에 AI를 적용했고, 이듬해 AI 평가모형 TIPS를 개발했다. 회사는 전 금융사를 대상으로 TIPS의 서비스를 시작했다. 나이스평가정보 등 신용평가(CB)사에서 제공하는 AI신용평가모형, 금융사 자체 AI신용평가 모형을 신용평가모형(CSS)에 반영했다.  

나이스평가정보가 신용평가에 AI를 적용한 것은 AI의 장점 때문이다. AI를 활용한 신용평가는 통계적 방법론에 국한되지 않고 다양한 알고리즘을 사용한다. 또 많은 정보를 활용하고 이에 따라 높은 예측력을 확보할 수 있다. 이런 점에서 금융정보가 부족한 씬파일러의 신용평가가 원활해진다는 것이 회사 측의 설명이다. 

그러나 AI를 활용한 신용평가는 많은 정보와 알고리즘이 복잡하고 다양하게 작동하기 때문에, 내부 구조를 이해하기 어렵다. 즉, AI가 고객의 심사를 거절한 이유를 명확히 알 수 없고, 이를 설명하기 위한 기술이나 방법론이 필요하다는 점에서 XAI가 부상하게 됐다. 

실례로 XAI를 활용할 경우, AI 신용평가모형 적용으로 거절된 고객 중 98% 이상에 대해 거절 이유를 설명할 수 있다는 것이 심 연구원의 주장이다. 그는 XAI가 변수 중요도에 따라 거절에 대한 설명이 가능하다고 설명했다. 고객의 채불·연체 이력, 고위험 업권 거래, 신용·신상 변동성, 소득·자산소득과 등급 등의 데이터로 설명할 수 있다는 이야기다. 

이에 나이스평가정보는 설명가능한 인공지능(XAI)을 신용평가모형에 접목했다. 심주현 연구원은 “고객의 채무이행 여부를 정확하게 평가할 수 있다는 점에서 AI 신용평가를 도입했다”며 “이와 함께 복잡도가 증가하고 모형내부 구조가 어떻게 됐는지 구체적으로 확인하기 어렵기 때문에, XAI 기술이 반드시 필요하다”고 강조했다. 

나이스평가정보가 말하는 XAI는 기존보다 더 많은 정보를 활용해 신용 수준을 세분화할 수 있다. 따라서 금융정보가 부족한 씬파일러인 학생, 주부, 사회초년생 등의 신용평가에 적합하다. 

심주현 연구원은 “항상 고민했던 부분이 고객이 (대출승인이나 신용카드 발급 등이) 왜 거절됐냐고 물었을 때 명확하게 답을 해줄 수 있어야 한다는 점”이라며 “어떻게 하면 대출 실행 혹은 카드를 발급받을 수 있는지 명확하게 답을 제공하기 위해 XAI를 접목했다”고 설명했다. 

나이스신용평가는 이를 위해 서로게이트(Surrogate) 모형을 이용한다. 서로게이트 모형은 설명이 불가능한 모형 대신 설명가능한 모형을 따로 만들어서 설명한다. 대표적인 것이 SHAP이다. SHAP은 조건부 기댓값을 활용해 기여도를 계산하는 XAI 방법론으로, AI모형에 대한 개별 데이터의 설명이 가능하다. 

심 연구원은 “자사가 서로게이트 모형을 만드는 이유는 고객에게 설명을 하기 위한 목적”이라며 “고객에게 정량적인 것이 아닌 정성적인 설명을 통해 납득을 시켜야 한다”고 말했다. 그는 이어 “부정사유 코드, 즉 해당 고객이 왜 거절됐는지 알려주고 싶을 때 얼마나 잘 설명할 수 있는지가 서로게이트 모델의 지표가 되어야 한다”고 주장했다. 

심 연구원은 “SHAP을 운영 업무에 적용하기까지 쉽지 않았다”며 “실제로 샵은 데이터 하나하나를 설명하는데도 생각보다 시간이 소요되기 때문에 당장 고객 한 명을 위해 활용을 한다기보다 모형 개발 과정에서 합리적으로 만들어졌는지 등 모형의 성능 개선 관점에서 접근하고 있다”고 말했다. 

정리하면 나이스신용평가는 XAI와 함께 SHAP, GAN, 유사도 분석을 활용하고 있다. SHAP을 통해 개별 고객에 대한 평점 산출 이유를 명확히 알 수 있으며, GAN은 유의미한 익명의 데이터를 효율적으로 생성해 AI의 지식으로 보유한다. AI가 학습한 모형과 보유한 지식을 활용해 특정 고객을 가장 잘 활용할 수 있는 결과를 도출할 수 있다.

나이스신용평가는 XAI에 대한 지침을 마련하고 있다. 그는 “AI 업무에 대해 구체적으로 검토를 하고 있고 연내 이를 완성할 예정”이라며 “AI 기술을 종합적으로 접목해서 고객 한 명 한 명을 설명할 수 있는, 균형 시스템에 무리가 가지 않는 방법을 계속 연구하고 있다”고 설명했다. 

끝으로 그는 “AI가 사회 구성원으로 인정을 받으려면 사람과의 상호작용을 통해 합리성을 확보하고 인정받아야 한다”고 밝혔다. 

글. 바이라인네트워크
<홍하나 기자>0626hhn@byline.network