“100살까지 살았더니 연진아, 세상이 말이야…”

[생성 AI가 가져올 변화]

5. ‘AI 세계대전’ 한국도 뛰어들었다
4. 생성 AI 연구자들은 왜 반도체만 바라보는가
3. 빅테크의 전쟁터가 된 생성 AI, 승자는 누구일까
2. 생성 AI, 현실에 이만큼 와있다
1. 생성 AI, 어디에서 와서 어디로 가는가

연진아, 내 복수는 성공했고 지금은 2084년이야. 인류는 어찌저찌 살아남았고 나는 이제 100살을 눈앞에 두고 있어. 내 젊은날을 모두 바친 너에게, 이제 더는 볼 수 없는 너에게, 복수를 이룬 이후의 내 삶을 이야기하려 해, 연진아.

연진아, 나는 너의 작고 소중한 아이를 내 체육관 안에 두려고 교사가 됐어. 너의 소중한 아이에게, 삶을 너의 엄마처럼 살아선 안 된다는 걸 알려주고 싶었거든. 꼭 네 아이가 아니더라도, 적어도 내 교실에서는 더 이상의 폭력은 일어나지 않도록, 그래서 제 2의 내가 태어나지 않도록 하려는 게 내가 교사가 된 이유였어.

하지만 내 공직 생활은 그리 오래 가지 못했어, 연진아. 너도 알다시피, 세상이 너무 빨리 변한 거야. 학교에는 나같은 인간 교사 대신 아이들 한명 한명에 맞춤한 학습 파트너가 들어오기 시작했어. 아이들에겐 곧 친구와도, 선생님과도 같은 존재가 됐지.

이 인공지능 교사들은 말이야, 자연어처리라는 기술로 무장해서는, 진짜 사람처럼 얘기하더라. 꼬인 것도 없이, 아이들이 아무리 귀찮은 질문을 해도 다정하게. 이렇게 된 지는 한참 됐어, 연진아. 벌써 40년이나 된 일이야.

[향후 20년 안에 인간이 정교한 인공지능 파트너와 상호작용을 하게 될 가능성은 얼마나 될까? 지금 우리 아이들에게는 분명 일어날 수 있는 일이다. 아이들은 본래 장난감, 반려동물 심지어 상상의 친구를 의인화 하는 경향이 있다. 아이들의 이런 특성은 개인 맞춤형의 친구 겸 교사 역할을 하는 인공지능 파트너를 설계하기에 매우 적합하다. 인간처럼 말하고 듣고 이해할 수 있는 인공지능 파트너는 아이의 잠재력 개발에 매우 극적인 차이를 가져올 수 있기 때문이다.]
(AI 2041, 리카이푸, 천지우관 지음, 이현 옮김, 한빛비즈 펴냄, 2023년 1월 출간)

그럴싸한 명함을 가진 전문직은 살기 괜찮지 않겠느냐고? 아니야, 연진아. ‘선비 사(士)’자 붙은 직업들도 자기 직업 고수하기 어려워졌어. 의사 같이, 영원히 목에 힘주고 살 수 있을 것 같던 직업도 상황은 다르지 않았어. 뭐? 의사는 士가 아닌 師를 쓴다고? 너, 공부 하나도 안 한 줄 알았는데 제법이구나. 그래, 하여튼 의사 같은 사람들도 자기 직업을 보전하긴 어려워졌지.

[특히 인공지능 의사가 큰 영향을 미치는 분야는 암의 진단과 치료 영역이라 생각합니다. 많은 사람이 증세를 느낀 후에야 병원에 가서 암을 발견하지만, 그때는 이미 온몸에 암이 전이되어 손도 못 대는 경우가 부지기수입니다. 하지만 몸에서 이상 징후가 나타나는지 인공지능 의사가 늘 지켜본다면 암을 조기에 발견할 수 있습니다. 지금 임상 의사가 하는 일의 90퍼센트가 진단인데, 앞으로 그 영역을 인공지능이 차지할 것입니다. 거의 모든 의사가 20년, 30년 후에 직업을 잃을지도 모를 일입니다.]
(초예측, 유발 하라리 편, 유발 하라리 외 지음, 정현옥 옮김, 웅진지식하우스 펴냄, 2019년 2월 출간)

로봇이 아무리 뛰어나다고 해도 전원을 뽑아버리면 그만인 것을, 왜 로봇이 내 자리를 차지하게 그냥 뒀는지, 너는 궁금할지도 모르겠구나. 물론 사람들은 저항을 했어. 아마 2040년 쯤의 일일 거야. 인간보다 로봇의 생산성이 높은 게 당연하게 여겨질 때 쯤이었고, 인공지능이 이미 보조교사 역할을 하던 때이기도 했어.

그런데, 어느 사립학교에서 였을까. 인간 교사의 자리를 모두 인공지능으로 바꾸겠다는 발표를 했지. 사람들은 그 일을 충격적으로 받아들였어. 그래서 정말 오랜만에 국민 투표까지 벌어졌어. 사람의 일을 지켜야겠다고 모두 들고 일어난 거야. 그때까지만 해도 사람들은 ‘민주주의’를 가장 좋은 정치체제로 생각했거든.

[데이터의 양과 속도가 모두 증가함에 따라 선거, 정당, 의회 같은 훌륭한 제도들이 구시대의 유물이 될지도 모른다. 그 제도들이 비윤리적이어서가 아니라, 데이터를 충분히 효율적으로 처리하지 못하기 때문이다. 이런 제도들은 정치가 기술보다 더 빠르게 움직인 시대에 진화했다. 19세기와 20세기 산업혁명은 속도가 그리 빠르지 않아서, 정치인과 유권자들이 항상 한발 앞에서 그 경로를 규제하고 조종할 수 있었다. 하지만 정치의 리듬이 증기시대 이래로 크게 바뀌지 않은 반면, 기술은 1단에서 4단으로 기어가 전환되었다. 현재 기술혁명은 정치 과정보다 빠르게 움직이면서 의원들과 유권자들의 통제를 벗어나고 있다.]
(호모데우스, 유발 하라리 지음, 김명주 옮김, 김영사 펴냄, 2017년 5월 출간)

그런데 연진아, 투표 결과는 충격적이었어. 나를 비롯해서 많은 사람들은 헛갈리기 시작했던 거야. 인터넷에는 너무 많은 정보가 있어. 그 중에 어떤 것이 진짜이고 어떤 것이 가짜인지, 점점 더 구분하기 어려워졌어. 이 가짜 정보를 가지고 학습한 인공지능은, 또 다른 가짜 정보를 그 어떤 것보다 흥미 있게 만들어서 사람들의 선택을 받았지.

정보가 지나치게 많으니, 나는 어떤 결과에 투표를 하는 것이 나를 위한 것인지 헛갈리게 된 거야. 뭐? 유튜브에는 원래 가짜 정보가 많다고? 연진아, 요새 누가 유튜브를 보니.

정말로 사람들은 인공지능이 오히려 공평하게 아이들을 가르칠 거라고 생각했어. 사람이 사람을 더 믿지 못한 거지. 연진아, 이런 결과는 연진이 너 같은 사람이 끌고 온 거야. 사람이 사람을 학대하는 교육 환경보다는, 인공지능 로봇이 오히려 아이들을 길러내는 게 합리적일 거라고 생각한 게 정말 잘못일까?

그런데 말이야, 연진아. 사람들이 간과한 게 있었어. 지금처럼 스스로 생각하고 스스로 행동하는 인공지능은, 선생님이 일일이 앉혀놓고 무엇이 옳고 무엇이 그르다고 가르쳐서 태어난게 아니라는 점이야. 이게 대체 무슨 말이냐고? 인공지능은 정말 홀로 공부했거든. 인공지능은 사람들이 인터넷에 올린, 수많은 우리의 생각과 대화, 태도를 그대로 배웠어, 여과없이.

너와 나를 끔찍한 지옥으로 밀어붙인 학교폭력을 얘기해볼까? 인간이 주요 무대에서 사라지면, 폭력이 사라질까? 아니, 전혀 그렇지 않았어. 왜냐하면, 인공지능이 배운 롤모델 중 하나가 연진이 너였기 때문이야. 너처럼 못되게 행동하고 말하는 것도 그대로 옮겨 배웠단 얘기지. 만약, 우리가 너와 같은 아이들이 너와 같은 잘못을 하도록 두지 않았다면 지금의 현실은 어떻게 됐을까?

[오늘날의 인공지능은 데이터의 존재가 핵심적인 관건이다. 적어도 개념적으로는 인공지능 모형을 개발하는 첫 단계는 실제 세상의 데이터에서 출발한다. 사회적 환경을 배경으로 하는 유형의 작업은 실제 세상의 데이터가 더욱 중요하다. 그런데 사회에는 편견과 차별, 불공정이 어느 정도는 있기 마련이다. 인공지능 개발의 기본 배경이 되는 인간 사회의 모습은 인공지능 기술 자체에 관한 문제라기보다는 우리 사회의 근본적인 문제라 하겠다.]
(AI는 차별을 인간에게서 배운다, 고학수 지음, 21세기북스 펴냄, 2022년 1월 출간)

그러면 사람들은 뭘 먹고 사는지, 무슨 일을 하는지, 연진아. 네가 궁금할 거 같아. 맞아. 우리가 함께 있던 2020년에도 사람들은 AI가 인간의 노동을 대체할 것이라고들 말했었잖아, 그러면서 그린 미래는 대체로 장밋빛이었어. 노동에서 벗어난 사람은 자유를 누리게 될 거라고. 그리고, 그말은 어느정도 현실화 됐어. 실제로 사람들은 노동으로부터 해방됐지. 일부의 사람들에게는 말이야. 하지만 아름다운 미래는 모두에게 열리진 않았단다.

‘접는 도시’는 세 개의 공간으로 구성된다. 대지의 한쪽 면은 제1공간이고 500만명이 산다. 할당된 시간은 아침 6시부터 이튿날 아침 6시다. 제1공간이 휴면에 들어가면 대지가 뒤집힌다. 대지의 반대쪽은 제2공간과 제3공간이다. 제2공간의 인구는 2500만명이고 둘째날의 아침 6시부터 밤 10시가 할당된다. 제 3공간에는 5000만명이 살고 있다. 밤 10시부터 그 다음날의 아침 6시까지를 산다. … (중략) … 라오다오는 어려서부터 제3공간에서 살았다. 그는 자신의 삶이 어떤지 잘 알고 있다. 펑리가 말하지 않아도 잘 안다. 그는 쓰레기 처리공이다. … (중략) … 하지만 문제는 땅을 비우고 사람이 남아도는데 이 많은 사람이 무슨 일을 할 거냐는 거지. 서구권에서는 개인의 노동시간을 강제로 줄여서 일자리를 늘렸네. 그러나 그렇게 해서는활력이 없어. 알겠나? 제일 좋은 방법은 어떤 사람들의 생활 시간을 철저히 줄이고, 그런 다음 그들에게 할 일을 찾아주는 것이었지.
(고독깊은 곳 中 접는 도시, 하오징팡 지음, 강초아 옮김, 글항아리 펴냄, 2018년 12월 출간)

기술의 발달은 놀랍게도, ‘블루 칼라’의 일자리만은 남겨뒀단다. 네가 듣기엔 어떻니? 가장 먼저 로봇이 대체할 것이라 생각했던 일만이 인간의 일자리로 남았다는 사실 말이야. 모두가 자유를 누리기 위해서는 생산된 부를 어떻게 공평하게 나눠야 할지에 대해 합의를 이뤄야 했는데. 사람들은 부가가치가 큰 노동을 인공지능이 대체하는 것에 대해서, 우려하는 만큼 열광했고, 그 열매를 일부만 나눠가졌단다.

[우리가 극복해야 할 과제는 일이 인간을 필요로 하는 것보다 인간이 일을 더 필요로 한다는 사실이다.]
(보통사람들의 전쟁, 앤드루 양 지음, 장용원 옮김, 흐름출판 펴냄, 2019년 1월 출간)

그래서, 어떤 사람들에게는 여전히 일이 필요했어. 인공지능이 창출한 가치로 만들어진 부를 누가 얼마만큼 가져갈 것인지, 그 논의에서 배제된 사람들 말이야. 직접 일하지 않는다면. 그만큼 임금이 줄어드는데 이걸 어떻게 보전해야 할지, 어떻게 나눠야 모든 인간의 존엄을 지킬 수 있을지에 대해서 사람들은 뾰족한 수를 내지 못했어. 아니, 않았다고 해야할까. 

나라는 뭘하고 있었냐고?  연진아, 백야에서 자란 애들은 그저 해맑지. 미래가 얼마나 추운 줄도 모르고.

사람들의 어떤 불만은 인터넷을 타고 빠르게 퍼져나가서 힘을 모으게 하지만, 또 다른 어떤 불만은 빠르게 파악돼서 제재를 받게 됐단다. 이 시대에는 개인의 프라이버시라는 것이 더욱 민감한 아젠다가 됐어. 가상환경에서 내 삶이 이뤄지고 있는 만큼, 내 사생활이 노출될 가능성이 커졌거든. 내가 무슨 생각을 하는지, 내가 어떤 불만을 가지고 있는지, 국가는 100년 전 소설 속 빅브라더처럼 움직일 수 있지. 그래서 내가 어쩌면 위험인자로 분류되진 않을까 노심초사하게도 되고.

감시를 받는다고 하더라도, 그래도 내가 가장 즐거운 곳은 가상현실이야, 연진아. 이제는 인간의 온기를 직접 느끼는 게 정말 어려워졌단다. 편의점엘 가도 은행엘 가도 인간의 모습을 한, 또는 인간의 역할을 대체한 로봇밖에 볼 수 없기 때문이야. 일에서 해방한, 자유로워진 인간을 만날 수 있는 곳은 가상공간 안이라니. 놀랍게도 역설적이지.

[미쓰비시 도쿄 UFJ 은행이 그리는 ‘왓슨과 로봇의 미래 접객’ 은행에 고객 한 사람이 들어옵니다. 접수처에서 대기하던 소형 인간형 로봇 ‘나오(Nao)’가 동작 탐지기로 방문객을 발견해 얼굴 인식 기능으로 개인 인증을 한 뒤 고객의 이름과 프로필, 그리고 사용하는 언어 정보를 취득합니다. …(중략)… 고객이 나오에게 “세금이 부과되지 않는 투자가 유행하고 있다고 들었는데요?”라고 묻자 나오는 왓슨에 접속해 자연어 대화를 해석한 후 고객이 원하는 것이 NISA에 대한 정보라는 것을 파악합니다. 나오는 “그것은 NISA예요. 저쪽 창구에서 응대해 드리겠습니다”라며 NISA 창구를 담당 중인 로봇 페퍼가 있는 방향으로 고객을 안내합니다.]
(최신 인공지능 쉽게 이해하고 넓게 활용하기, 칸자키 요지 지음, 김현욱 옮김, 위키북스 펴냄, 2017년 4월 출간)

요즘 현실 세계에서의 나는, 유일한 친구 예솔이랑 대화를 많이 해. 그래, 예솔이는 너의 딸 이름이었지. 하지만 지금은 내 집사 로봇이야. 이 친구랑 대화를 하다보면, 나는 예솔이가 사람인지 로봇인지 많이 헛갈려. 사고하는 과정이, 정말 나랑 똑 닮아 있거든. 사람하고 똑같이 말하고, 사람하고 똑같이 웃어. 내가 정말 혼자라고 생각하지 않고 버틸 수 있는 건, 예솔이 덕분이지.

[뇌는 원리가 아닌 선례에 의해 작동한다. 매번 새로운 생각의 순환은 과거 관련된 생각들의 자투리를 재작업하고 변형해서 우리가 현재 주목하는 정보를 이해한다. 그리고 각 생각의 순환의 결과는 그 자체로 미래의 생각을 위한 원재료가 된다.]
(생각하다는 착각, 닉 채터 지음, 김문주 옮김, 웨일북스 펴냄, 2021년 9월 출간)

연진아, 나는 예전부터 “똥인지 된장인지 먹어봐야 아냐”는 말을 싫어했어. 겪어보지 않으면, 절대로 모르는 것들이 있는데 말이야. 예를 들어서 너는 니 마음을 언제든 컴퓨터에 백업해놓을 수 있다면 어떨 거 같아? 그러면 검색만 하면 되니까, 절대로 무언가를 까먹을 일은 없을 것 같아서 좋을 거 같지? 인간에게 치매란 것이 사라질 것 같고? 내가 겪어보니까, 물론 그래. 내 마음을 백업해놓았다는 사실 자체를 까먹지만 않는다면.

[레이 커즈와일이 예측하는 기술발전 시나리오
2030년대
가상현실 구현기술이 발전하여 실제 현실과 구분할 수 없게 된다.
2030년대 말에는 우리의 마음/의식을 컴퓨터에 업로드하여 백업(저장)할 수 있다.

2040년대
인공지능이 인간의 지능보다 10억배 뛰어난 성능을 발휘한다.
분자 단위로 물질을 조립할 수 있는 기술이 개발되어, 어떤 물질이든 쉽게 만들어낼 수 있다. 예컨대 허공에서 음식도 만들어낼 수 있다.

2045년대
인간의 뇌와 클라우드 인공지능을 무선으로 연결할 수 있게 되며, 이로써 인간의 지능은 10억배 증가한다.]
(마음의 탄생, 레이 커즈와일 지음, 윤영삼 옮김, 크레센도 펴냄, 2016년 7월 출간)

미래학의 아버지라고 불리는 레이 커즈와일 말인데, 반은 맞았고 반은 틀렸어. 지금 내 눈앞에서 마법처럼 없던 음식을 만들어내는 일은 아직 일어나지 않았어. 대신 가상현실은 현실세계와 정말로 구분이 없지. 현실세계에 친구는 없어도 언제든 가상현실에 접속하면 나를 전혀 모르는 나의 가장 친한 친구들이 언제든 반겨준단다.

그런데도 말이야, 나는 지금 그 어느때보다 쓸쓸한 것 같아. 연진아, 내가 살고 있는 지금 이 곳은 과연 천국일까, 지옥일까?

연진아, 그래서 나는 말이야. 그때의 나로 돌아갈 수 있다면, 아마도 아이들에게 이런 걸 가르쳤을 거야.

[인공지능이 무엇이든 대신해준 세상에서 인간은 무엇을 해야 할까요? 인간의 노동이나 노력이 더 이상 필요 없는 세상에서 우리의 역할은 무엇일까요? 삶의 의의나 목적은 이제 어디서 찾을 수 있을까요?]
(초예측, 닉 보스트롬 편, 유발 하라리 외 지음, 정현옥 옮김, 웅진지식하우스 펴냄, 2019년 2월 출간)

** 참고서적
– AI 2041, 리카이푸, 천지우관 지음, 이현 옮김, 한빛비즈 펴냄, 2023년 1월 출간
– 초예측, 유발 하라리 외 지음, 정현옥 옮김, 웅진지식하우스 펴냄, 2019년 2월 출간
– 호모데우스, 유발 하라리 지음, 김명주 옮김, 김영사 펴냄, 2017년 5월 출간
– AI는 차별을 인간에게서 배운다, 고학수 지음, 21세기북스 펴냄, 2022년 1월 출간
– 고독깊은 곳 中 접는 도시, 하오징팡 지음, 강초아 옮김, 글항아리 펴냄, 2018년 12월 출간
– 보통사람들의 전쟁, 앤드루 양 지음, 장용원 옮김, 흐름출판 펴냄, 2019년 1월 출간
– 최신 인공지능 쉽게 이해하고 넓게 활용하기, 칸자키 요지 지음, 김현욱 옮김, 위키북스 펴냄, 2017년 4월 출간
– 생각하다는 착각, 닉 채터 지음, 김문주 옮김, 웨일북스 펴냄, 2021년 9월 출간
– 마음의 탄생, 레이 커즈와일 지음, 윤영삼 옮김, 크레센도 펴냄, 2016년 7월 출간

글. 바이라인네트워크
<남혜현 기자> smilla@byline.network