오픈AI

언어 모델이 사실이 아닌 답을 확신에 차서 이야기하는 이유는 현재 언어 모델의 평가 방식 때문이라는 연구 결과가 나왔다. 현재 챗GPT와 같은 챗봇은 잘 모를 때, ‘모르겠다’라는 답변보다는 틀리더라도 답을 자신감 있게 추측하도록 유도하고 있다. 객관식 시험에서 빈칸으로 제출하면 0점이지만, 답을 모르더라도 아무 답이라도 고르면 맞을 가능성이 높아지기 때문이다.