[외쿡신문] AI는 인류를 망하게 할 것인가?

외쿡신문 : 주 1회 글로벌 테크 업계 소식을 전합니다.

이번 주 역시 AI 관련 소식으로 찾아온 ‘외쿡신문’입니다.

AI 개발 멈추자는 테크 전문가들
챗GPT의 또다른 무기 ‘플러그인’
마이크로소프트 “GPT-4로 보안까지”
유로폴 “챗GPT, 범죄자들에게도 유용할 수 있어”
일론 머스크, 오픈AI 인수 시도했었다

AI 개발 멈추자는 테크 전문가들

“거대한 AI 개발을 6개월간 멈춥시다”

어제 발표된 한 성명이 AI 업계를 뜨겁게 달구고 있습니다. 요즘 AI 업계는 일주일이 10년이라는 말이 나올 정도로 엄청나게 빠른 발전을 보이고 있는데, 이런 움직임을 6개월간 멈추자는 주장이 나온 것입니다.

성명서는 “현대의 AI 시스템은 이제 일반적인 작업에서 인간과 경쟁하게 되고 있다”면서 “우리 문명의 통제력을 잃을 위험을 감수해야 하는가”라고 묻습니다. 또 “그러한 결정은 선출되지 않은 기술 리더에게 위임되어서는 안 되며, 강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다”고 주장합니다.

흥미로운 건 성명서의 내용 그 자체보다도 이 성명에 동참한 인물들입니다. 오픈AI의 창립 멤버이기도 했던 ‘일론 머스크’, 애플의 공동창업자 ‘스티브 워즈니악’, 오픈AI와 함께 생성AI 열풍을 불러일으킨 회사인 스테이빌리티AI의 창업자 ‘에마드 모스타크’, 딥러닝 연구의 선구자이면서 컴퓨터 과학계의 노벨상이라 불리는 튜링상 수상자인 ‘요슈아 벤지오’ 몬트리올대 교수 등이 이름을 올렸습니다. 누구보다 이 기술에 대한 이해가 깊은 이들이죠. 현재 이 성명에 서명한 인사들은 1340명에 달합니다.

당연한 얘기지만 모두가 이 의견에 동의하는 것 아닙니다. AI 4대천왕이라는 평가를 받았던 앤드류 응 스탠포드 대학교 교수는 6개월간 AI 개발을 멈추자는 이 의견에 대해 “끔찍한 아이디어”라고 혹평했습니다.

그는 자신의 페이스북에 올린 글에서 “정부가 개입하지 않는 한, 모라토리엄(유예)을 시행하고 모든 팀이 LLM(초거대언어모델)을 확장하는 것을 막을 수 있는 현실적인 방법은 없다”고 전제한 뒤 “정부가 이해하지도 못하는 새 기술을 중단하게 하는 것은 반경쟁적이고 끔찍한 선례를 남기는 것이며, 끔찍한 혁신 정책”이라고 비판했습니다.

그는 이어 “AI 기업들이 안전하지 않은 코드를 무분별하게 배포하고 있다는 언론의 보도는 사실이 아니”라면서 “대다수(안타깝게도 전부는 아니지만)의 AI 팀은 책임감 있는 AI와 안전을 중요하게 생각한다. 기술 발전을 억누르기보다는 안전에 더 많은 투자를 하면서 기술을 발전시켜 나가자”고 외쳤습니다.

응 교수와 정반대 의견도 있습니다. AI 이론가인 엘리에제 유드코프스키는 타임지에 기고한 글에서 “성명서가 상황의 심각성을 과소평가하고 너무 적은 요구를 하고 있어서 성명에 참여하지 않았다”고 밝혔습니다.

그는 AI의 위험성은 인간과 경쟁하는 수준이 아니라 지구상의 모든 인간을 죽일 것이라고 주장합니다. 그는 “정밀한 준비 없이는 우리가 원하는 것을 하지 않고, 인간에 대한 배려가 없는 AI가 탄생할 가능성이 높다”면서 “초인적 지능에 맞서는 인류의 결과는 완전히 패배할 것”이라고 강조했습니다. 그는 미래에 AI와 인간의 싸우는 상황이 오면 “오스트랄로피테쿠스가 호모 사피엔스와 싸우는 것”과 같은 결과를 가져올 것이라고 비유했습니다.

문제는 이런 논쟁의 주요 인사들이 컴퓨터 과학자들이라는 점입니다. 정치가, 철학자, 사회학자, 노동전문가, 법학자, 시민운동가 등등 사회의 어젠더를 형성하는 데 역할을 해왔던 이들은 이 논의에서 빠져있습니다.

아마 기술에 대한 이해가 높지 않기 때문에 논쟁에 참여하기 어려울 것입니다. 기술에 대한 제대로 된 이해없이 논쟁에 끼어들어 봐야 무의미한 주장만 하게 될 테니까요.

그러다보니 결과적으로 특정 기술을 이해하고 있는 컴퓨터 과학자끼리 인류의 미래에 대해 논의하고, 대중은 그 논의를 지켜만 보게 됩니다. 이런 현상 그냥 이대로 둬도 될까요?

챗GPT의 또다른 무기 ‘플러그인’

오픈AI가 챗GPT를 확장할 수 있는 기능인 ‘챗GPT 플러그인’이라는 것을 발표했습니다. 챗GPT 플러그인을 통해 실시간 정보에 대한 답을 챗GPT가 할 수 있게 되고, 결제 등의 프로세스도 가능하다고 오픈AI는 설명했습니다.

플러그인이라는 개념은 API(Application Programing Interface)와 유사하지만 조금 더 확장된 개념입니다. API는 각 기업들이 자신의 서비스에 챗GPT를 붙일 수 있는 기능입니다. 예를 들어 고객센터에 챗GPT API를 붙이면 챗GPT가 질문에 답을 줄 수 있습니다.

하지만 챗GPT는 사전학습된 데이터만 사용하기 때문에 실시간 정보에 취약합니다. 예를 들어 “오늘 한화 이글스 이겼어?”라는 질문에 기존의 챗GPT는 답을 할 수 없었습니다. 반면 ‘챗GPT 플러그인’을 통해 프로야구 실시간 스코어 데이터를 결합한다면, 챗GPT가 스코어를 말해줄 수 있습니다.

오픈AI에 따르면 플러그인을 통해 실시간 정보 검색(스포츠 점수, 주가, 최신 뉴스 등), 지식 기반 정보 검색(회사 문서, 개인 메모 등), 사용자를 대신하여 작업 수행(항공편 예약, 음식 주문 등)을 할 수 있다고 합니다.

예를 들어 사용자가 “파리에서 며칠 동안 어디에 묵어야 하나요?”고 묻는 경우, 챗GPT는 플러그인은 익스피디아의 데이터를 API로 호출해서 답을 생성합니다.

오픈AI가 챗GPT 플러그인을 만든 이유는 챗GPT를 플랫폼화 해서 독보적인 생태계를 구축하려는 의도로 보입니다. 오픈AI 혼자 세상에 필요한 모든 서비스를 만들 수는 없기 때문입니다.

예를 들어 모바일 생태계는 앱스토어 중심으로 움직입니다. 모든 이용자는 앱을 다운로드 하기 위해 앱스토어에 가고, 개발자는 앱을 개발하면 앱스토어에 올립니다. 그것과 마찬가지로 앞으로 이용자는 챗GPT에 가면 모든 걸 다 할 수 있게 되고, 챗GPT를 통해 각 개발자이 이용자를 만날 수 있도록 하겠다는 것입니다.

마이크로소프트 “GPT-4로 보안3까지”

마이크로소프트가 사이버보안에도 생성AI 기술을 적용한 ‘마이크로소프트 시큐리티 코파일럿(Microsoft Security Copilot)’을 공개했습니다. 시큐리티 코파일럿은 GPT-4 기반으로 마이크로소프트의 방대한 위협 인텔리전스와 관련업계의 고도의 전문지식을 결합한 AI 비서로, 보안팀의 역량을 보강한다는 게 회사측 설명입니다.

바수 자칼 마이크로소프트 보안 부문 기업 부사장은 “시큐리티 코파일럿은 방어자가 AI의 속도로 움직일 수 있도록 지원하는 최초이자 유일한 생성AI 보안 제품으로, 힘의 균형을 방어자에게 유리하게 바꿔 준다”고 말했습니다.

예를 들어 기업의 보안 담당자는 프롬프트에 “우리 회사의 모든 인시던트(incident)에 대해 알려줘”라고 쓰면 관련 정보가 나옵니다. 취약점 요약을 시킬 수도 있고, 파일이나 URL을 첨부했을 때 관련 정보를 분석하기도 합니다.

마이크로소프트는 이런 기술이 보안인력 부족 문제를 해결할 수 있다고 보고 있습니다. 지난 5년 동안 공격은 67% 증가했지만, 기업의 보안담당자는 그만큼 증가하지 못했죠. 방어자들은 방대한 양의 네트워크 트래픽과 기타 신호 속에서 잘 위장된 공격을 찾아내는 데 어려움을 겪을 수밖에 없는데, 시큐리티 코파일럿이 이런 문제를 도와준다는 것입니다.

유로폴 “챗GPT, 범죄자들에게도 유용할 수 있어”

유럽형사경찰기구(EUROPOL, 이하 유로폴)은 AI 언어 모델이 사기, 사이버 범죄, 테러를 조장하고 있다는 보고서를 발표했습니다. 이미 범죄자들이 챗GPT를 사용하여 범죄를 저지르고 있다는 설명입니다.

보고서에 따르면, 오픈AI는 악의적 이용자를 막기 위해 노력을 하고 있지만, 범죄자들은 이를 우회하는 방법을 찾아냈다고 합니다. 파이프 폭탄을 만들거나, 코카인을 만드는 방법에 대한 지침을 말하도록 만들기도 하고, 범죄를 저지르는 방법을 물어보고 단계별 안내를 요청할 수도 있다고 합니다.

유로폴은 “잠재적 범죄자가 특정 범죄 분야에 대해 아무것도 모르는 경우, 챗GPT는 다음 단계에서 추가로 탐색할 수 있는 핵심 정보를 제공하여 (범죄의) 속도를 크게 높일 수 있다”면서 “가정에 침입하는 방법, 테러, 사이버 범죄, 아동 성 학대에 이르기까지 사전 지식이 없는 수많은 잠재적 범죄 분야에 대해 알아보는 데 챗GPT를 사용할 수 있다”고 경고했습니다.

물론 이런 정보는 인터넷 어딘가에 있는 것입니다. 범죄자들이 노력하면 찾아낼 수 있는 정보들이죠. 하지만 챗GPT를 이용하면 더 빠르고 더 쉽게 이 정보를 얻을 수 있다는 것이 유로폴 보고서의 경고입니다.

아울러 유로폴은 챗GPT가 누군가를 사칭하거나, 사기나 피싱을 조장하고, 테러를 지원하기 위한 가짜뉴스를 생성하는 데 악용될 수 있다고 강조했습니다.

일론 머스크, 오픈AI 인수 시도했었다

일론 머스크 테슬라 CEO가 지난 2018년 오픈AI를 인수하려는 시도를 했던 것으로 전해졌습니다. 그러나 샘 알트만 현 CEO를 비롯한 다른 공동창립자의 반대에 실패했다고 세마포가 단독 보도했습니다.

보도에 따르면, 머스크는 2018년 비영리 단체인 오픈AI의 기술력이 구글에 뒤지는 것을 걱정했다고 합니다. 그래서 본인이 직접 오픈AI를 통제하고 운영하겠다고 제안했습니다. 결정적으로 머스크가 오픈AI에 10억 달러(약 1조3000억원)의 자금을 제공하겠다는 약속을 했었는데, 이 약속이 지켜지지 않았다고 합니다. 결국 머스크는 오픈AI를 떠났고 떠나면서 1억 달러만 기부를 했습니다.

비영리 연구기관으로 시작한 오픈AI가 2019년 영리기업으로 바뀐 배경인 듯 보입니다. 오픈AI는 영리기업이 되면서 마이크로소프트로부터 10억 달러의 자금을 지원받고 독점 공급계약을 맺어주었습니다. 이후 마이크로소프트와의 긴밀한 관계는 지금까지 이어지고 있습니다.

머스크는 오픈AI를 떠난 후 영리기업으로 전환된 것에 대해 지속적인 비판을 쏟아냈습니다. 머스크는 “오픈AI는 구글에 대항하기 위해 오픈소스(그래서 “오픈” AI라고 이름 붙인 것)의 비영리 회사로 만들어졌지만, 지금은 사실상 마이크로소프트가 통제하는 폐쇄적 소스의 최대 영리 회사가 되었다”고 비난했습니다.

그는 또 “내가 1억 달러를 기부한 비영리 단체가 어떻게 시가총액 300억 달러의 영리 단체가 되었는지 여전히 혼란스럽다”면서 “이것이 합법적이라면 왜 모두가 하지 않는 걸까”라고 지적했습니다.

이 같은 비판에 샘 알트먼 오픈AI 창업자는 한 팟캐스트에 출연해 “일론 머스크는 나의 영웅이었다. 그가 트위터에서 바보 같은 짓을 해도 세상에 존재하는 것만으로도 기쁘다”면서 “우리가 이 일을 제대로 하기 위해 하고 있는 노력에 대해 조금 더 애정을 갖고 봐주었으면 좋겠다”고 말했습니다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network