카카오, 알고리즘 윤리헌장 발표…"터미네이터는 안 만든다"

카카오가 31일 ‘카카오 알고리즘 윤리 헌장’이라는 것을 발표했다. 인공지능(AI) 기술개발에 매진하되, 인류를 멸망시킬 ‘터미네이터’를 개발하지는 않겠다는 의미다. 국내 기업 중 AI 윤리에 관한 알고리즘 규범을 마련해 외부에 발표한 것은 카카오가 처음이다.

이 윤리 헌장에는 인류의 편익과 행복을 추구, 결과의 의도적 차별성 방지, 윤리에 근거한 학습 데이터 수집 관리 원칙 등이 담겨 있다. 알고리즘 관리의 독립성과 알고리즘에 대한 설명 방침도 포함돼 있다.

카카오 알고리즘 윤리 헌장

(카카오 알고리즘의 기본 원칙) 카카오는 알고리즘과 관련된 모든 노력을 우리 사회 윤리 안에서 다하며,이를 통해 인류의 편익과 행복을 추구한다.
(차별에 대한 경계) 알고리즘 결과에서 의도적인 사회적 차별이 일어나지 않도록 경계한다.
(학습 데이터 운영) 알고리즘에 입력되는 학습 데이터를 사회 윤리에 근거하여 수집∙분석∙활용한다.
(알고리즘의 독립성) 알고리즘이 누군가에 의해 자의적으로 훼손되거나 영향받는 일이 없도록 엄정하게 관리한다.
(알고리즘에 대한 설명) 이용자와의 신뢰 관계를 위해 기업 경쟁력을 훼손하지 않는 범위 내에서 알고리즘에 대해 성실하게 설명한다.

조금 구체적으로 살펴보자.

1번은 카카오가 윤리 헌장을 도입한 목적이다. 카카오는 알고리즘 개발을 통해 카카오 서비스를 직·간접적으로 이용하는 사람들이 편익을 누리고, 보다 행복해지는데 기여하고자 한다는 사실을 분명히 하고 있다.

2번은 가치지향점을 나타낸다. 특정 가치에 편향되거나 사회적인 차별을 강화하지 않는 알고리즘, 다양한 가치가 공존하는 사회를 지향한다는 의미다.

데이터는 AI의 연료다. 더 많은 연료, 더 좋은 연료를 넣고 싶어하는 것은 당연한 심리다. 3번은 아무리 욕심이 나도 동의를 받지 않은 개인정보와 같은 비윤리적인 데이터를 수집하지 않겠다는 다짐이다.

알고리즘은 누군가 조작할 수 있다. 사회의 권력기관이나 회사내 고위직에 의해서도 가능하다. 4번은 이를 막기 위해 독립적인 관리 방안을 마련하겠다는 것이다.

5번은 투명성에 대한 이야기다. 알고리즘이라는 것은 외부에서 보이지 않는다. 외부에서는 어떤 알고리즘으로 인해 이런 결과가 나왔는지 알지 못한다. 이는 불투명성을 야기해 알고리즘에 대한 신뢰를 낮출 수 있는데 최대한 투명하게 알고리즘을 공개하겠다는 선언이다. 그러나 알고리즘을 공개하는 것은 공격자나 어뷰저에게 먹이를 주는 것과 다름이 없다. 이 때문에 투명성과 어뷰징 방지 사이에서 적절한 줄타기를 어떻게 하느냐가 관건일 것이다.

카카오 알고리즘 윤리 헌장은 카카오 인터넷 홈페이지를 통해서도 공개됐다. 특히 이날 발행된 AI 지식 매거진 [카카오 AI 리포트] 1월호에는 카카오 알고리즘 윤리 헌장이 수립된 배경과 각 항목 별 설명 등이 담긴 ‘카카오 알고리즘 윤리 헌장 해제‘가 게재됐다.

임지훈 대표는 “카카오만의 원칙과 철학에 기반한 알고리즘 개발 및 운영에 관한 의지의 표명“이라며 헌장 발표 배경을 밝혔다. 또 “사회가 요구하는 윤리 의식을 갖춘 AI기업이 되기 위해 전 구성원이 꾸준한 노력을 기울이겠다”고 강조했다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network