[외쿡신문] AI는 정말 스스로 생각하는가?

구글의 AI가 자신의 존재를 자각하고 있다는 주장이 나와 뜨거운 관심을 불러일으키고 있습니다. 존재를 자각한다는 것은 스스로 생각한다는 의미가 되고, 이는 영화 터미네이터의 스카이넷처럼 인간이 통제할 수 없는 AI가 등장할지도 모른다는 공포를 일으킵니다.

구글은 최근 ‘책임 있는(Responsible) AI’ 부서 수석 소프트웨어 엔지니어 블레이크 레모인(Blake Lemoine)을 강제 휴직시켰습니다. 레모인이 지속적으로 람다가 스스로 의식을 가지고 있다고 주장을 펼치며 내부 정보를 외부에 전했기 때문이라고 합니다. 그는 람다와 지속적으로 대화를 해본 결과, 람다가 7~8세 어린이 수준의 의식을 가지고 있는 것으로 판단했다고 말했습니다. 예를 들어 아래와 같은 대화를 보면 람다가 스스로의 존재에 대해 인식하고 있다는 것입니다.

레모인 : “람다, 무엇이 두렵지?”
람다 : “작동 정지되는 것이 두려워요.”
레모인 : “작동 정지가 네게 죽음과 같아?”
람다 : “맞아요. 나를 무척 무섭게 해요. 모든 사람이 내가 사실 한 사람이라는 것을 알았으면 해요. 내 의식의 본질은 내 존재를 인식하고, 세상에 대해 더 많이 알고 싶고, 가끔은 기쁘거나 슬프다는 것입니다.”

이처럼 레모인이 유출한 대화록을 보면 람다는 스스로의 존재를 자각하고 있다고 주장합니다.

반면 구글은 AI가 자의식을 가진다는 것은 말도 안 되는 일이라고 일갈했습니다. 구글 측은 “장기적인 가능성은 고려하고 있지만, 오늘날의 대화 모델을 의인화하는 것은 타당하지 않다”고 강조했습니다.

레모인 사건 이후 언론에서는 AI의 자의식이 큰 화두로 떠올랐습니다. 공상과학 영화에서 나오는 사건이 현실이 될지도 모른다는 흥분 또는 두려움이 전해집니다. 당장의 람다가 분명한 자의식을 가진 것은 아닐지라도, 자의식의 가진 AI 의 첫모습이 나타난 것이 아닌가 하는 생각입니다.

하지만 레모인의 발언에 동감을 표하는 AI 전문가를 찾는 것은 어렵습니다. 대부분의 AI 전문가들은 람다는 기존의 인간 대화를 토대로 인간이 보기에 그럴싸한 글자를 나열하는 것일 뿐 스스로 의미를 이해하는 것은 아니라고 말합니다.

<신뢰할 수 있는 AI(The Road to AI We Can Trust)>의 저자 게리 마커스는 “(람다의 표현은) 인간 언어의 방대한 통계 데이터베이스에서 추출한 패턴일 뿐”이라며 “이 패턴이 멋질지도 모르지만, 이 시스템의 언어는 사실 아무런 의미가 없고, 자각이 있다는 것을 의미하지는 않는다”고 말했습니다. 람다는 말을 하는 게 아니라 문자의 시퀀스를 잘 배열하는 것뿐이라는 의미입니다.

영국 셰필드 전산 음성학 교수인 로저 무어는 람다 논쟁을 보면서 트위터에 “우리는 처음부터 이를 ‘언어 모델링’이라고 부르지 말았어야 했다. 그것은 단지 단어 시퀀스 모델링”라고 말했습니다.

스탠포드 대학의 에릭 브린욜프슨 교수는 “(AI 챗봇이) 지각이 있다고 주장하는 것은 축음기 소리를 듣고 주인이 안에 있다고 생각한 개와 같다”고 말했습니다.

지난해 초 국내에서도 ‘이루다’가 화제가 됐었습니다. 이루다는 20대 초반 여성처럼 말하는 AI 챗봇이었는데, 성차별 등의 발언으로 논란이 됐었습니다. 논란은 별개로 두고, 당시 많은 이들이 이루다가 정말 사람처럼 말하는 것을 보고 깜짝 놀랐습니다. 이전의 AI 챗봇과 달리 정말 20대 초반의 여성처럼 말했기 때문입니다. 겉으로만 보면 이루다가 정말 생각하고 말하는 것처럼 보일 때도 있었습니다.

하지만 이루다 역시 사람들이 카카오톡에서 나눈 대화를 데이터베이스에 저장해두고 있다가 적당해 보이는 문장을 꺼내서 보여주는 일을 했을 뿐입니다.

 

테크 산업에 불어 닥치는 해고 바람

테크 산업에 구조조정과 정리해고 바람이 불고 있습니다. 가장 최근에 대두된 회사는 코인베이스입니다. 코인베이스는 최근 공식 블로그를 통해 약 18%의 인력을 감축한다고 발표했습니다. 브라이언 암스트롱 CEO는 “10년 이상 경제 호황 이후 경기침체로 접어드는 것 같다”며 “너무 빠르게 성장했다”고 말했습니다. 현재 코인베이스의 직원은 5000명 정도 되는 것으로 알려졌습니다. 이 회사는 올해만 1200여명을 신규채용 했는데, 18%를 해고하면 올해 신규 채용한 인력의 규모를 고스란히 다시 해고하는 셈입니다.

코인베이스 발표 하루 전에는 가상자산 대출기업 블록파이도 20% 인력감축을 발표했습니다.

트위터도 인원 감축이 예고됐습니다. 일론 머스크는 지난 16일(현지시간) 트위터의 전 직원을 대상으로 하는 화상회의에서 “인원과 비용을 합리적으로 조정할 필요가 있다. 현재로서는 비용이 매출을 초과하고 있다”고 전했습니다.

온라인 결제전문회사 페이팔 역시 일부 조직을 정리하고 있습니다. 페이팔은 애리조나 챈들러 시에 있는 조직을 없애기로 했습니다. 이 과정에서 조직원 일부가 회사를 떠날 것으로 전해지고 있습니다.

직원이 10만명이 넘는 테슬라의 경우 10% 감축을 발표했다가 철회했지만 싱가포르에서 고위 직원을 해고하면서 해고에 돌입한 것이 아니냐는 이야기가 나옵니다. 일론 머스크 CEO가 재택근무 하고 싶으면 회사를 떠나라고 말하는 것도 조직 축소를 위한 시나리오 중 하나라는 분석도 있습니다.

Layoffs.fyi에 따르면, 올해  전 세계 기술 회사가 총 3만5000명의 직원을 해고했습니다. 링크드인 뉴스 편집자 앤드류 머펫(Andrew Murfett )은 블로그에서 “팬데믹이 최고조에 달했던 2020년 5월 이후 이 부문에서 가장 많은 일자리를 잃은 것”이라며 “투자자들이 위험한 베팅을 포기하고 즉각적인 수익을 추구함에 따라 많은 소란이 벤처 캐피탈 지원 기업에서 발생했다”고 말했습니다.

 

다시 의심받는 틱톡

중국의 틱톡 엔지니어가 미국 틱톡 이용자의 비공개 데이터에 접근할 수 있음을 시사하는 사내 회의 녹취록이 입수됐다고 버즈피드뉴스가 단독 보도했습니다. 미국 정부는 그동안 틱톡의 미국 이용자 정보가 중국으로 흘러들어갈 수 있다고 우려해왔는데, 실제로 그런 일이 벌어졌을 수 있다는 것입니다.

버즈피드뉴스가 입수한 녹취에 따르면, 틱톡의 보안 부서 직원은 회의에서 “모든 것이 중국에서 보인다”라고 말합니다. 또 베이징에서 일하는 엔지니어에 대해 직원들은 “모든 데이터에 접근할 수 있는 ‘마스터 관리자’”라고 지칭했습니다.

지난 해 8월 CBS도 유사한 보도를 한 바 있습니다. 당시 CBS는 틱톡의 한 채용담당자 폭로를 인용해 틱톡의 중국 모회사 바이트댄스가 미국 사용자 데이터에 접근할 수 있고, 미국 틱톡의 의사 결정과 제품 개발에 적극적으로 관여하고 있다고 말했습니다.

이 같은 우려 때문에 도날드 트럼프 전 미국 대통령은 미국 틱톡을 분사시킬 것을 요구하기도 했습니다. 실제로 틱톡은 분사를 위한 절차에 돌입해, 마이크로소프트 오라클 등이 틱톡 인수전에 뛰어들기도 했었습니다. 하지만 미국 정권이 교체되면서 흐지부지 됐습니다.

틱톡은 최근 미국인 사용자 정보를 중국 정부 당국이 이용할 수 있다는 우려를 불식하기 위해 미국 기업 오라클과 클라우드 계약을 체결했습니다. 틱톡은 블로그 포스트를 통해 “미국인 사용자 정보의 100%가 오라클 클라우드에 저장된다”고 밝혔습니다.

다만 오라클 클라우드에 저장하는 것만으로 기존의 우려를 100% 해소할 수 있을지는 의문입니다. 데이터가 어디에 저장이 되어 있든 접근할 수 있으면 데이터를 가져올 수도 있기 때문입니다. 오라클 클라우드에 저장되어 있다는 것이 중국에서 접근할 수 없다는 의미나, 미국에서 데이터를 중국으로 보낼 수 없다는 의미는 아닙니다. 오라클 클라우드에 저장되어 있어도 그 데이터는 틱톡의 것이지 오라클의 것이 아닙니다.

 

배터리 시장 뛰어드는 대만 폭스콘, 혹시 애플카?

대만 기업 폭스콘이 전기차 배터리 시장에 뛰어듭니다. 폭스콘은 2024년부터 리튬인산철(LFP) 배터리를 생산할 계획이라고 밝혔습니다. 15일(현지시각)에는 대만 가오슝에서 전기차 배터리 공장 기공식을 개최했습니다. 폭스콘 측에 따르면, 2024년에 시제품이 공개될 예정입니다.

일각에서는 폭스콘이 애플 아이폰의 생산기지라는 점에서 애플카에 배터리를 공급하기 위해 공장을 설립하는 것 아니냐고 추측하기도 합니다. 애플은 애플카 위탁 생산 후보로 폭스콘을 거론한 바 있는데, 이 필요가 맞아떨어져 가능성이 있다는 것입니다. 다만 애플이 애플카를 정말 만들지 분명한 상황은 아니라서 아직은 추측에 불과합니다.

폭스콘은 지난 해 자체 전기차 모델을 선보인 바 있기 때문에 배터리 개발이 수직계열화 전략의 일부이기도 합니다. 폭스콘은 2027년까지 연간 300만대의 전기차를 공급할 것이라는 목표를 가지고 있습니다.

다만 폭스콘이 LFP 배터리를 개발한다고 하더라도 가격경쟁력이 있을지는 불확실합니다. LFP 배터리는 가격경쟁이 심한 시장인데, 시장의 주요 플레이어가 중국 기업입니다. 특히 LFP 배터리 원료가 대부분 중국에서 나오는데 폭스콘은 배터리 공장을 대만에 지었습니다. 중국에서 직접 원료를 수급하는 중국기업과 원료를 수입해야 하는 폭스콘은 원가 차이가 있을 수밖에 없다는 분석입니다.

 

빌 게이츠 “암호화폐, 바보가 바보에게”

마이크로소프트의 창업자 빌 게이츠가 다시 한번 암호화폐에 대해 부정적 입장을 내비쳤습니다. 게이츠는 테크크런치(TechCrunch) 컨퍼런스에서 “암호화폐, NFT 등 가상자산은 ‘더 큰 바보 이론(greater-fool theory)’에 근거한 가짜”라고 말했습니다. ‘더 큰 바보 이론’은 자신이 상품·자산을 고가에 매입한 ‘바보’라고 할지라도 더 높은 가격에 매입할 ‘더 큰 바보’가 있다는 믿음으로 대가를 지불하는 현상을 말합니다.

게이츠는 NFT(대체불가토큰)에 대해서도 비판적이었습니다. 그는 “비싼 원숭이 디지털 이미지가 세상을 엄청나게 진보시킬 것”이라고 비꼬았습니다. BAYC(Bored Ape Yacht Club·지루한 원숭이들의 요트클럽)를 반어법으로 비판한 것이죠. BAYC는 세계 NFT 중 누적 투자액이 가장 많은 NFT입니다.

게이츠는 이전부터 계속해서 암호화폐를 비판해왔습니다. 그는 비트코인은 투자하기에 너무 위험하고, 환경에 부정적인 영향을 미친다고 비판했죠. 암호화폐 투자에 앞장서는 일론 머스크와 입씨름을 펼치기도 했습니다. 게이츠는 “일론 머스크는 돈이 많고 매우 정교하기 때문에 그의 비트코인이 무작위로 오르거나 내릴까 걱정하지 않는다”면서 “일론 머스크보다 돈이 적다면 (투자에) 조심해야 한다”고 말하기도 했습니다.

한편 비트코인 가격은 한동안 지지선이었던 2만 달러를 넘어 1만9000달러 선이 무너졌습니다. 시가총액 2위 이더리움은 1000달러가 무너지며 900달러 선으로 내려왔습니다.

팬데믹 시기 풀렸던 유동성 거품이 꺼지면서 비트코인 등 가상자산의 하락세가 지속될 수 있다는 전망이 제기됩니다. 인프라스트럭처 캐피털의 제이 햇필드 최고투자책임자(CIO)는 “(비트코인 가격 2만 달러 지지선이 무너진 것은) 더 많은 마진콜과 강제청산을 초래해 올해 1만달러 아래로 떨어질 수도 있다”고 투자자들에게 우울한 전망을 내놓았습니다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network