[철학자, AI를 말하다 (하)] “챗GPT 별거 없다, 진짜 혁명은 자동번역”

–> 인터뷰는 [철학자, AI를 말하다 (상)] “문과는 없어져야 한다” 에서 이어집니다.

Part2. AI는 인간의 일자리를 빼앗을 것인가

챗GPT를 비롯해서, 생성AI와 관련한 질문을 정말 많이 받을 것 같다. 가장 많이 받는 질문은 무엇인가?

일자리 문제다. 자기하고, 자기 애들 문제와 직결돼 있으니까.

그런 질문엔 뭐라고 답을 하나?

위험할 거라고, 일자리는 많이 사라질 거라고 얘기한다. 답은 “돈을 퍼주는 것 밖에 없다”고도 말한다.

정부가 책임져야 할까?

기본소득이 됐든, 로봇세가 됐든, 사람들이 먹고 살 수 있게끔 해줘야 한다. 이유는 단순하다. 기계한테는 돈을 줄 필요가 없기 때문이다. 기계의 소유주가 기계로 벌어들인 모든 이익을 전부 가져갈 권한이 있느냐에 대해서 완전히 새로운 논의를 시작해야 한다.

기계의 소유주가 모든 이득을 가져가면 불로소득이 엄청 커진다

옥스팜(영국의 국제구호개발기구)에서 올 초 발표한 내용에 따르면, 2021년부터 2022년까지 지난 2년간 상위 1%의 인구가 전체 부의 63%를 차지했다. 생산된 부의 3분의 2를 1%가 독점했는데, 그 근거에 ‘지식재산권’과 같은 특허가 영향을 미쳤다. 다른 데서 특허를 이용하지 못하게 해서 부를 독점한다.

문제는, 기술에 의한 재생산 비용이 거의 제로에 가깝다는 거다. 개발비를 감안해도, 그 정도의 이윤을 가져가는 것이 적합할까, 의문이다.

이 논의에 앞서 거대 IT 기업의 탈세도 중요한 문제다. 본사를 세금이 없는 국가에 페이퍼컴퍼니로 두는 방식으로 탈세를 합법적으로 한다. 기업이 세금을 안 내면 부족한 부분을 다른 사람들이 충당해야 한다. 나머지 사람들의 희생이 더 커지는 거다. 그래서 로봇세를 말하기 전에 “지금의 세금부터 잘 내라”는 압박이 가해져야 한다.

유발 하라리는 <사피엔스>라는 책에서 인공지능과 결합한 새로운 인류의 출현을 예고했다

과장이거나  혹은 거짓말인 줄 알면서 그런 말을 하는 거다. 나는 이 생성AI가 그렇게 크게 위협적이라고 생각하지 않는다. 왜냐하면 언어모델은 크기가 명확하기 때문이다. AI가 할 수 있는 것은, 기껏해야 그 언어 범위 안에 있는 것을 잘 다루는 것 뿐이다.

선생의 말씀을 정리하자면, 인공지능은 큰 위협이 되진 않지만 당장 우리의 일자리에는 영향을 줄 수 있는 존재다

(일자리에는) 엄청 크게 영향을 줄 거다. AI가 그림도 만들고, 영상 편집도 하고, 챗GPT로 쓴 책이 아마존에 며칠 만에 200권이 등록됐다는 이야기도 나온다. 기존에 그런 일을 했던 사람에게는 위협적으로 느껴질 거다. 그렇지만, 결국에는 별로 큰 위협은 아닐 거라고 본다.

당장은 혼란을 겪겠지만 시간이 지나 체계를 재정립하면 극복할 수 있는 문제다?

충격은 많이 가라앉을 것 같다. 지금의 충격이 화제가 되는 것은 ‘대화형 인터랙션 형태로 제공되는 최초의 서비스’에 가까워서다. 기존에는 테크가 남의 일처럼 느껴졌는데 챗GPT는 “내가 써볼 수 있는 기술, 내가 그림도 그려 보고 말도 해보고 써볼 수 있는 테크”니까. 하지만 그 충격은 매우 과장되어 있다.

일론 머스크 등이 주축이 된 ‘생명의 미래연구소’에서 “GPT4 이상의 생성AI 모델을 당분간 학습시키지 말자”고 주장한다. 지금을 위기라고 보고 대처할 수 있는 거버넌스를 만들자고 하는데

생명의 미래연구소는 약간 사기성도 있다고 생각한다. 왜냐하면 본인들이 별로 그렇게 생명의 미래를 걱정하는 사람들이 아니다(웃음). 그 연구소는 일론 머스크나 스튜어드 러셀 같이 명망과 돈이 있는 사람이 모였다. AI 윤리원칙을 선언한 ‘아실로마’를 카피하면서 등장했는데, AI와 관련한 가이드나 원칙을 제정해서 이걸 따르게끔 하는 게 필요하다는 걸 강조한 것이다.

만들어진지 좀 됐는데 코로나 때문에 최근에 못 모였다. 그래서 이번 선언은 자신들의 존재감을 과시한 거다. 여기 참여한 사람들 중 상당수가 테크 기업 사주거나 창업주에 해당하는 사람이다. 이 선언이 의미가 있으려면 자기들이 원칙을 지켜왔어야 한다. 그런데 머스크가 트위터에 하는 일을 봐라. 말이 안 되지 않나. 그래서 (이 선언이) 약간 쇼에 더 가깝다고 본다.

말씀하신 것처럼 거의 모든 변화를 테크가 끌고 가고 있다. 과학자는 생성AI가 인류의 미래를 바꿀 거라고 말한다. 그런데 이렇게 중요한 일을 테크가 주도권을 갖고 가도록 하는게 맞나?

안 된다. 그래서 사회적 코딩, 소셜 코딩 개념으로 접근해야 한다고 주장하는 거다. 소셜 코딩의 핵심은 엔지니어가 제품을 만들 때 사회 전체를 고려하는 코딩을 의무화하는 거다. 이 제품이나 서비스가 출시됐을 때 어떤 일이 벌어질지까지 코드에 반영해야 한다는 거다. 이건 제도적 문제가 아니라 교육의 문제다. 어렸을 때부터 엔지니어는 항상 자기의 기술이 사회에 끼칠 영향을 고려하는 방식으로 훈련을 받아야 한다.

인공지능 시대에 우리는 무엇을 공부해야 할까?

진짜 어려운 질문이다. 일단, 기초적인 지식은 갖춰야 한다. 리터러시도 중요하다. 리터러시를 ‘확장된 문해력’이라고 부르고 싶은데, 언어 외에도 과학과 수학을 포함해 어떤 현상을 보고 이해할 수 있는 능력을 말한다. 가령 신문기사를 보면서 그래프가 나온다고 제끼고 그러면 안 되지 않겠나. 이해를 위해 필요한 종합적 능력이 확장된 문해력이다.

또 중요한 것은 암기다. 중요한 지식은 내 머릿속에 넣어 놓아야 인출이 빠르다.

의외다. AI가 발달할 수록 암기는 필요 없다고 이야기 할 줄 알았는데, 오히려 중요하다고 하니

(머리를 가리키면서) 이 안에 최대한 많이 집어넣어야 한다. 중요한 걸 내가 가지고 있어야 뭐든 빨리 할 수 있다. 급할 때 어느 시간에 검색을 하고 있겠나. 암기식 교육의 문제는 남이 무언가를 네 머릿속에 집어 넣으라고 요구하는 것이기 때문이다. 그거랑 다르게 내가 필요한 게 있다면, 그건 일단 외워야 한다. 확장된 문해력과 암기, 이게 아마 (미래의 교육에 필요한) 중심이 될 거다.

선생은 몸의 중요성도 강조한다. 노동의 많은 부분을 AI가 대체하게 될 때, 몸이 만들어내는 가치에는 뭐가 있을까?

몸이 만들어내는 가치보다는 몸에게 제공하는 가치가 중요하다고 생각한다. 결국은 비트(디지털 영역)와 아톰(아날로그 영역)이 구분되고, 각자의 고유한 성격이 드러나야 한다고 생각한다. 그런데 지금은 그 둘이 섞여 있는 데다 디지털이 너무 압도하고 있다. 감각으로 나눠보면 미각이나 촉각 같은 것은 근접 감각이고 디지털화 될 수 있는 것은 원격 감각이다. 지금, 이 주제로도 집필 중이다.

원격 감각은 직접 만지는 게 아니라 떨어져서 보고 듣는 걸 말하나?

원격 감각은 디지털화해서 누구에게나 굉장히 값싸게 재생산된다. 근접 감각은 내가 몸을 움직여 변화를 야기할 수 있는 운동성이 동작하는 영역이다. 예를 들어 돈 없는 사람은 넷플릭스를 보고, 돈 있는 사람은 트랙킹을 하는 거다.

물론, 디지털로 충족시키는 원격 감각의 포지션은 엄청 클 거다. 왜냐하면 그 전에는 그것마저 즐기지 못했기 때문이다. 이 영역을 나는 콘텐츠라고 부른다. 이 안에서 영화, 게임, 쇼핑 같은 걸 할 수 있다. 그 바깥은 아직 미지의 영역이다.

지금도 1 대 1로 제공하는 운동이나 강의는 엄청 비싸다

그것도 물론이고 의료, 교육도 마찬가지가 될 거다. 교육은 특히 부가가치가 수백배 격차로 벌어질 가능성이 더 크다.

상당수 노동을 기계가 대체하면 인간은 행복하게 놀 수 있다고 말하는데, 노동으로 가치를 만들어내지 않고 노는 삶이 과연 행복할까? 그게 인간에게 정말 좋은 사회일까?

그렇게 물어볼 수도 있는데, 거꾸로 물어보면 지금이 좋은가?

아… 비교해보니 그렇다. 지금은 인간이 종일 일을 하니까

지쳐서 뭔가 할 여력도 별로 없고. 지금과 비교하면 노는 건 무조건 좋지 않겠나(웃음). 지금처럼 계속 살고 싶은 사람은 아무도 없다. 놀 수 있게 된다면, 그때 뭘 갖고 놀 거냐를 비로소 고민할 거다. 인공지능은 노동하는 존재고, 인간은 노는 존재다. 기존에는 놀기 위해 노동을 했는데, 이제는 기계가노동을 대신해주니 잘 노는 법을 찾아야 한다. 그게 인문 예술의 영역이다.

놀기 위해서 중요한 것은, 어떻게 부를 재분배할 것인가에 대한 빠른 합의겠다

분배가 가장 큰 이슈라고 본다. 논리적으로 “지금의 방식이 정당하지 않다”고 계속 이야기하는 게 중요하다. 다시 말하지만, 지식의 독창성이나 IP 같은 것 바탕에는 인류 공동이  축적한 기여가 엄청나게 크게 깔려 있다. 그 축적물에 새로운 것을 (손가락으로 아주 조금의 양을 만들어 보이면서) 요만큼 보탰는데, 누리는 것은  전체를 누리는 구조는, 정말 부당하다고 얘기할 수 있다고 본다.

그렇지만 경제적 동인이 없으면 누가 새로운 아이디어를 내겠느냐고들 이야기한다. 그게 지금 지적재산권이 힘을 얻는 기본 동인이다

오픈소스의 생산력이 되게 높다. 프리(free, 무료) 소프트웨어나 소스에 사람들이 기여하면서 생기는 명예가 크다. 사람이 무언가 남을 위해 일할 때 느끼는 보람과 만족은 엄청 큰 동력이다. 남한테 무언가 선물할 때 기쁨을 느끼지 않는 사람은 아무도 없다고 본다. 그걸 잘 할 기회가 없었을 뿐이다.

 Part3. 윤리적인 AI란 세상에 존재하나?

윤리적인 AI를 개발해야 한다고 말한다. 인공지능에 적용할 수 있는 인류 보편의 윤리라는 게 있을까?

윤리 이야기에도 조금은 사기성이 있다고 본다. 윤리 문제를 제일 많이 제기하는 곳이 유럽권이다. 유럽에는 두 가지가 없다. 기술과 플랫폼. 미국은 둘 다 가지고 있고, 한국에는 그래도 플랫폼은 있다. 그래서 유럽이 GDPR(일반데이터보호규정)이라든지, 윤리적 영역을 계속 얘기하는 이유는 미국 시장이 유럽을 바로 먹지 못하게끔 하는 안전장치다.

같은 의미에서 연구를 해봤는데, 미국은 돈이 있고 중국은 정보가 있다. 살아남을 길이 뭐냐면 제도를 만드는 거다. 제도적인 비관세 장벽(관세 외의 무역장벽)을 둘러서 구글이나 페이스북 같은 미국 빅테크의 공세에 버틸 여력을 만드는 거다.

또 다른 윤리 문제로 이루다 논쟁이 있다. 편향적 응답으로 사회적으로 큰 문제가 됐다

그건 윤리의 문제라고 부르기는 좀 어렵지 않나. 윤리라는 말이 다의적이라, 유럽의 GDPR 논의와 이루다 건의 맥락은 서로 다르다. 이루다 건은 실질적 폭력이 행사된 것이라 사법의 영역이라 불러도 상관이 없을 것 같다.

더 나은 인공지능 개발을 위해서 철학자가 줄 수 있는 제언이 있나?

영어로 된 지식 중심의 접근법을 벗어나야 한다. 가령, “언어는 ~한 거다”라고 말할 때 촘스키와 같은 사람의 이론, 영어로 된 지식이 논의의 중심에 있다. 그런 식의 표준으로 아이디어가 한정되어 있는 것 같다. 그런데 그것만으로는 분명히 한계가 있다고 생각한다.

기존의 룰 안에서 생각하는 것을 벗어나라?

기존의 룰은 영어로 구성되어 있다. 엔지니어도 영어로 사고한다. 거기에서 아이디어를 확장해 나간다. 그런데 그걸로 충분할까?

그런 사고는 어떤 문제가 있나

근본적인 편견을 벗어나지 못하는 것 같다. 영어권의 주류 사고에서는 언어가 세계를 다 담고 있다고 전제하는 것 같다. 그래서 초거대언어모델로 모든 걸 다 해결할 수 있다는 추세다. 그런데 얀 르쿤(메타 인공지능 연구소 수석 과학자)은 프랑스 사람이다. 입장이 조금 다르다. “AI는 편견만 강화할 뿐, 절대 큰 도약을 이룰 수 없다”는 이야기를 매일 같이 한다. 미국 쪽 샘 알트만(오픈AI CEO)과는 AI에 대한 접근 방식에서 차이가 두드러진다.

기존의 사고를 벗어나 변방의 사고를 하게 되면 결과적으로 어떤 미래를 기대할 수 있을까?

그건 잘 모르겠다. 왜냐하면 한국적인 사고 같은 게 특별히 있나 회의적이라서다. 미국의 커리큘럼을 교육 과정에서 배워왔으니까 그렇다. 다만, 데이터로서의 언어는 다르다. 같은 문장이라도 언어마다 ‘토큰화’하는 방식이 다르다. 그런데 영어를 표준으로 하는 토큰화 방식은 한국어에 불리하다. 가령 “내가 산책을 간다”라는 문장을 토큰화할 때 영어식으로 하면 자음별로 모두 쪼개야 한다. 토큰의 수가 불어난다. 그런데 영어는 발음별로 묶으면 토큰이 줄어든다

훨씬 더 유리하겠다

유리한 정도가 아니다. 그런데 지금 네이버에서 구축하려 하는 것이 한국어의 특성을 잘 반영해 한글 토큰을 최대한 압축하는 것이다. 토큰 단위로 발생하는 비용을 많이 줄여줄 수 있다. 한국어 언어 모델이 왜 필요하냐고 이상한 이야기를 하는 사람들이 있는데, 그렇지 않다.

한국어 언어 모델 개발이 산업적으로도 매우 중요한 일이겠다

학습 데이터 양 자체에도 차이가 난다. 또, 한국어 때문에 생겨나는 특색같은 부분이 분명히 있고. 특히, 인문예술 쪽에서는 이런 한국어 언어 모델 개발이 되게 중요하다.

AI와 관련해 우리가 더 주목해서 봐야 할 것이 있을까?

대통령까지 나와서 챗GPT를 강조하다보니, 사람들이 많이 공포감을 느끼는 것 같다. 그런데 생성AI는 큰 위협은 아니다. 지금 더 중요한 기술은 인공지능 번역 같은 것이다.

(보다 정확한) 번역기의 등장, 지식의 확산이 가져다주는 혁명적 측면이 훨씬 크다. 그런데 이건 아무도 이야기를 안 한다. 책 한 권 번역이 1분이면 끝난다. 가령, 영어를 잘 못하던 한국 사람이 이런 번역기를 쓰면 참고할 문헌이 한 1000배는 늘어나는 것이다. 게다가 이런 번역기는 영어 뿐 아니라 다른 외국어도 다 잘한다.

마치 인쇄술의 발명 같다. 말씀하신 대로 지식이 많이 확산이 되면, 영어 외 언어로 쓰인 것에 대한 지식도 늘어날 수 있게 된다

기술을 활용할 수 있는 사람은 생산성이 엄청 늘어날 걸로 보인다. 딥엘과 같은 번역기를 API로 연결해서 전자책이나 카메라, 구글 렌즈 같은 것에 연결하면 실생활에 진짜로 큰 변화가 일어나지 않겠나.

글. 바이라인네트워크
<남혜현 기자> smilla@byline.network