신한은행이 생성형AI의 환각을 줄이는 방법
금융권에서 생성형 인공지능(AI)을 당장 고객용 서비스에 도입하지 못하는 이유 중 하나는 잘못된 정보를 전달하는 환각(할루시네이션) 현상 때문이다. 따라서 금융권은 직원들을 대상으로 하는 서비스에 먼저 생성형AI를 적용한 뒤, 성능을 고도화하고 검증이 되면 고객용 서비스에도 생성형AI를 도입할 계획이다. 신한은행은 생성형AI의 환각 현상을 줄이기 위해 리트리버 기술을 활용하고 모델 검증 프로세스를 만들고 있다.
임은택 신한은행 AI유닛 본부장은 7일 서울 여의도 콘래드서울 호텔에서 금융보안원 주최로 열린 금융정보보호 컨퍼런스 ‘FISCON2024’에서 생성형AI로 발생하는 환각 현상 해결방안을 공유했다.