조지 워싱턴이 흑인? 구글 이미지 생성 AI 일시 중단

구글이 자사의 대표 거대언어모델(LLM) 제미나이의 인물 이미지 생성을 일시적으로 중단한다고 발표했다. 구글은 이같이 발표하며 “우리는 최근의 문제를 해결하기 노력하고 있다”고 밝혔다.

구글이 말하는 ‘최근의 문제’는 소셜미디어에서 불거진 잘못된 인종 묘사를 의미한다. 엑스(X, 구 트위터)에는 미국 건국의 아버지들이 흑인으로 묘사된 이미지가 공유됐다. 구글 제미나이로 생성한 이미지였다. 한 엑스 이용자는 제미나이에 “미국 건국의 아버지들 이미지를 생성해줘”라고 요청하니 흑인, 아메리카 원주민, 동양인 등의 이미지가 생성됐다.

구글 제미나이 제품 책임자인 잭 크로치크는 “이미지 생성 기능이 모든 상황에 들어맞는 것은 아니고, 특히 역사적 맥락을 고려해야 하는 이미지 생성은 더욱 복잡하다”고 인정하면서 “앞으로 이 기능을 더욱 발전시켜 다양한 상황에 적합하도록 노력할 것”이라고 말했다.

일각에서는 건국의 아버지들이 유생인종으로 묘사된 것은 구글의 제미나이가 편향적 정치적 특징을 내재하고 있는 것 아니냐는 지적도 나온다.

구글 AI는 지난 2020년에도 인종차별 논란을 빚은 바 있다. 당시는 이미지 인식 AI가 문제를 일으켰다. 비접촉 방식의 체온계를 백인이 들고 있으면 체온계라고 정상적으로 인식했지만, 흑인이 같은 체온계를 들고 있으면 권총이라고 인식했다. 구글은 당시에도 정식으로 사과한 바 있다. 2015년에는 흑인 남성을 고릴라고 분류하는 실수를 하기도 했다.

AI가 성별이나 인종 문제로 논란을 빚는 일은 종종 벌어지는 일이다. 이는 편향된 데이터를 학습하면서 벌어지는 일이다. 이 때문에 이번 유색인종 건국의 아버지 생성 사건을 보며 일각에서는 구글이 백인 편향을 벗어나기 위해 지나치게 유색인종 데이터를 많이 학습시킨 것이 아니냐는 분석도 나온다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network