오픈AI 창업자, 샘 알트만의 생각들

샘 알트만 오픈AI CEO가 9일 방한했다. 오픈AI 월드투어의 일환이다. 알트만 CEO는 “샌프란시스코라는 버블 안에서 나오고 싶었다”면서 “기술이 전세계에서 어떻게 활용되는지 보고싶었고, 사람들이 무엇을 원하는지 듣고 싶었다”고 투어의 취지를 설명했다.

이날 오전 알트만 CEO는 이영 중소벤처기업부 장관, 국내 스타트업 5개사 대표와 간담회 자리를 가졌다. 이 장관은 이 자리에서 “현재는 전세계가 초연결 사회”라면서 “과거에는 기술이 규제에 발목이 잡히는 경우도 있었는데, 전 국가적인 범정부적인 고민을 같이 해야 한다”고 말했다.

오후에는 소프트뱅크벤처스가 주관한 행사에 참석했다. ‘안전하고, 강력한 AI를 만들기 위한 오픈AI 미션’이라는 주제로 열린 이번 행사에는 스타트업 관계자을 비롯한 1000여명의 청중이 참석했다. 알트만 대표와 함께 공동창업자인 그렉 브록만 오픈AI 사장, 이준표 소프트뱅크벤처스 대표, 조경현 미국 뉴욕대 교수가 대담을 나누는 행사였다.

이후 알트만 CEO는 윤석열 대통령을 예방했다. 윤 대통령 “전 세계에 챗GPT 열풍이 불고 있다”면서 “시험 삼아 신년사를 작성하면서 챗GPT에 질문을 던져보니 제법 그럴듯한 결과가 나오더라”고 말했다.

이번 샘 알트만과 그렉 브록만의 방한에서 AI와 관련된 다양한 이슈와 주제에 대해 그들이 어떤 발언을 했는지 정리해봤다.

한국에 대한 코멘트

샘 알트만 : 한국은 오픈AI 기술을 가장 창의적으로 사용하는 지역이다. 아주 초기부터 사용해왔다. 그래서 한국의 개발자를 만다는 데 관심이 많았다. 오픈AI는 한국과 협력할 준비가 돼 있다. 한국에 글로벌 기업들이 있고 큰 자산이다. 이미 그들과 대화가 진행 중이고, 협력 방안에 대해 더 대화하고 싶다. 한국에는 우수한 인재가 있고 창업가 정신이 월등하다고 생각한다. 한국인들이 AI로 상상력을 발휘하는 것이 놀랍다.

그렉 브록만 : (부인이 한국인이어서) 한국어를 조금 할 줄 안다. 나도 한국의 문화를 좋아한다. 한국의 혁신의 문화가 좋다. 한국은 항상 전통과 새로운 것이 접목돼 있는 사회다.

미래 전망

샘 알트만 : AI는 파워풀한 툴이기 때문에 리스크를 줄일 방안을 생각해야 한다. 우리는 이런 시스템을 배포할 때 현실과 맞닿아 있다는 것을 알고, 미래 준비를 위한 기술을 개발한다. 전 세계에 긍정적 변화를 이끌기 위해 만들고 있다.

세계는 빠르고 지속적으로 발전할 수밖에 없다. 저희는 마일스톤에 도달하는 것 같다. 인간은 어떤 종보다 빠르게 적응한다. GPT 나왔을 때 사람들이 놀랐는데, 이제는 그 다음 뭐냐고 묻는다. 계속적으로 과학적 진보를 이룰 것이고, 놀라운 일들이 일어날 것이다. 지금까지 불가능했던 모든 것 이뤄질 수 있다. 인간은 계속 경계를 허물 수 있고, 창의력에 한계는 없다.

그렉 브록만 : 인간이 만들어낸 것 중에서 가장 중요한 기술을 만들고 있는 것 같다. AI는 10년 후에는 더 많이 배포되고 정교해 질 것이다. 매우 파워풀 한 시스템이 나올 것이고 그런 것을 염두에 두고 계속 질문을 하고 의견을 받아들이는 중이다. 사회에서 합의를 이루고 의견을 받고 기술을 활용하는 데 있어 한계를 넘는 것이 중요한 것 같다. 지금까지 많은 정부들이 노력하고 있고, 문제 해결을 위해 노력하고 있다. 리스크를 줄이는 데 정부 역할도 중요하다.

아마 지금 생각하는 게 몇 년 후에는 또 다를 것이다. 지금은 프롬프트 엔지니어링 중요하다고 하는데 오래 안 갈 것이다. 기술은 바뀐다. 메타 기술을 키워야 한다. 과거에 해결 못한 문제를 해결하기 위해, 이 기술로 뭘 해야 하는가 고민해야 한다.

AI 규제

샘 알트만 : 현재 전세계적으로 AI 규제 체계가 정립돼 있지 않은데, 앞으로는 규제가 필요하다. 국제적 협력이 중요해질 것이다. 다만 규제가 현재의 리스크를 다루면서도 현재의 혁신을 줄이는 방향이 아니라 미래에 초점을 둬야 한다. (규제가 후발주자의 진입장벽으로 작용할 우려에 대해서) 선발주자가 책임을 져야 하는 것도 있고, 사회와 정부 모두 함께 노력해야 한다.

우리 기술 기업들이 더 책임감을 가져야 한다고 생각한다. 전 세계를 위해 서비스를 제공하는 것이며, 기술이 인류에 좋은 방향으로 길을 열어야 한다. 그래서 정부와 함께 노력하고 있으며 사회적 합의가 중요하다.

그렉 브록만 : 저희는 실제 활용사례에 기반해 규제해야 한다고 생각한다. 법률이나 헬스케어처럼 위험이 많은 분야에서는 디테일한 부분 보면서 어떻게 사용되는지 활용사례를 봐야 한다고 생각한다. 여기에 대한 규제가 앞으로 어떤 방향으로 갈지는 모르겠지만, 이제 AI 대한 활용사례가 하나둘 나오고 있다. 이미 규제되는 앱도 있고, 새로운 규제 나올 수도 있다. 오픈AI는 기술 만들 때 처음에는 작게 하고, 점차 스케일업 한다. 규제도 단계적인 방향으로 가야 한다고 생각한다.

미래에 대해 부정적으로 생각하기 쉽다. 긍정적인 얘기는 잘 안한다. 하지만 시간이 지나면 좋은 기술이라고 깨닫게 될 것이다. 어떤 방향으로 가고 있는가 항상 염두에 둬야 한다. 오늘에만 머무는 것이 아니라 미래를 바라보며 준비해야 한다.

한국어 지원

그렉 브록만 : 한국어 토큰 개수 문제를 개선할 계획이 있다. 그동안은 일단 영어를 먼저 원활하게 하는 게 중요했다. 지금은 비영어도 개선하는 중이다. 지난 6개월 동안 비영어 지원 문제에 대한 이야기 많이 들었다. 비영어 토큰 개수 문제, 개선하는 중이다.

GPT-5

그렉 브록만 : 많은 사람들이 궁금해한다. 저희도 궁금하다. 오픈AI 역사를 보면 각 세대마다 큰 기술 발전을 이뤄왔다. GPT-4가 나온 이후 새로운 과학적 연구들이 많이 나왔는데, 앞으로 새로운 요소 많이 들어갈 것이다. 매번 엔지니어링 할 때마다 어떤 디테일을 중시할 지 집중하고 있다. 데이터 퀄리티에 대해서도 집중하고 알고리즘이나 아키텍처도 개선하고 있다. 단 하나의 모델 만들기 위해 노력 중인데 모든 공급망에 있는 사람이 관여할 것이다. GPT-5는 목표가 아니다. 인풋을 개선하고 통합하는 과정을 진행할 뿐이다.

샘 알트만 : GPT-5 개발에 지연이 있는 것은 아니다. 저희는 많은 노력을 하고 있다. GPT-2에서 GPT-3으로 갈 때, 또 GPT-3에서 GPT-4로 갈 때 차이 많았다. GPT-4에서 GPT-5로 갈 때도 차이가 많을 것이다. 데이터 취합 등 많은 노력이 필요하기 때문에 시간은 좀 걸릴 것이다.

오픈소스

샘 알트만 : 오픈소스 커뮤니티는 중요하다. 저희도 오픈소스로 시작했다. 오픈소스를 기반으로 파워풀한 미션을 시작했다. (하지만 이제 오픈소스를 중단하고) 지금은 API를 내놓고 있다. 우리의 미션을 안전하게 전개하는 것이 중요하기 때문이다. 전술은 계속 바뀔 수 있다.

그렉 브록만 : 당신이 누구인지 기본적인 것은 변하면 안된다. 하지만 여러가지 배워가며 현실에서 전략을 바꿀 수는 있다. 3년 전에 고민해서 성공 방법을 찾은 것이 현재의 모습이다.

할루시네이션

그렉 브록만 : 할루시네이션 문제에 대해 당연히 저희가 열심히 노력하고 있다. 아직 목표점에 도착은 못했는데 문제를 해결하는 하나의 과정이라고 생각한다. 지속적으로 노력할 것이고, 기존 모델의 속도를 개선하기 위한 노력도 하고 있다.

프라이버시

그렉 브록만 : 정보보호나 프라이버시 문제를 해결하기 위한 방안으로 API가 있는 것이다. 어떤 국가든 자국의 정책과 규제가 있는데, API 모델 활용하면 된다. 데이터 표준도 더 개선하고 있다. 피드백이 중요하니 많이 해달라.

가격

샘 알트만 : 가능한 저렴한 가격으로 많은 분들이 이용할 수 있게 하고 싶다. 이번 월드투어 하면서 가격 인하 요구 많이 받았다. 더 작게 효율적으로 지속적으로 만들면서 가격 낮추려는 노력을 하고 있다.

창작자와 저작권

샘 알트만 : 이 기술이 어떻게 환경을 바꾸는 지 살펴보면서 지적재산권 법 등을 보완해야 한다. 기술 진화할 수록 창작자들이 도움을 받아야 한다. 누군가 노래를 BTS 스타일로 만들 때 BTS가 수혜를 받아야 한다. 많은 사람들과 대화하는 중이고, 아이디어를 얻고 있다.

AI 생산물을 법적으로 보호하는 방법도 찾아야 한다. 커뮤니티와 노력하고 있고, 여러 영향력을 파악 중이다. 콘텐츠 창작자나 콘텐츠를 제공하는 기업에 혜택이 있어야 한다.

그렉 브록만 : 기술이 항상 사람들의 기대 방향으로만 발전하는 건 아니다. 사실 창작자 입장에서는 AI 가 없을 때 존재하지 않았던 현상을 마주하고 있는 것은 맞다. 창작자는 미래사회에서 더 나은 삶을 살아야 한다. 아티스트와 얘기 많이 하고 있다. 근본적으로 AI를 활용한 창작이 의미 있어 질 것이다. 더 효율적으로 할 수 있고, 기회도 무궁하다. 우리는 창작자들에게 기여하고 싶다.

오픈AI 조직문화

샘 알트만 : 오픈AI에는 우리의 미션에 대해 의지가 많은 사람이 모였다. 그게 조직문화에 도움이 많이 됐고, 이런 문화 덕분에 성공했다고 생각한다

그렉 브록만 : 오픈AI 엔지니어들에게 물으면 모두 긍정적 영향력을 미치는 기술을 개발한다고 답할 것이다. 우리는 엔지니어링만 하는 것이 아니라 우리가 달성하고자 하는 미션을 향해 가고 있다.

실패 경험

샘 알트만 : 외부에서 보면 오픈AI가 성공적인 길을 걷고 있다고 생각하겠지만 실패 많았다. 처음에는 거의 0%의 성공률에서 시작했다. 그 당시 힘들었다. 사람들이 하고 있는 것에 대한 신뢰도 없었고, 얼마나 많은 컴퓨팅 파워가 필요할지도 모르고, 전략도 부족한 상황에서 어려운 점 많았다.

그렉 브록만 : 유니버스라는 이름 들어봤나. 실패한 프포젝트 중 하나다. 스크린 만들어서 AI로 게임하는 프로젝트였다. 파트너십도 있었고, 라인업도 있었다. 그러나 기술이 뒷받침 되지 못했다.  반대의 경우도 있다. API는 아마도 그 예가 될 수 있을 것이다. GPT-3로 어떤 걸 해야할지 잘 몰랐다. 준비되지 않은 상황이기도 했다. 그러나 기술에 대해 확신을 가지고 있었다. 샌프란시스코에서 1~2개월 다니면서 미팅하고 고객 만나면서 초기에 고객을 확보했고 확신을 가지고 실행을 했다.

일자리와 기본소득

샘 알트만 : AI로 인해 경제적인 변화가 일어날 것이다. 일자리 노동시장 변화할 것이다. 그러나 지금 예측하는 것처럼 당연하지는 않을 것이다. AI는 지금 현재 일자리에서 더 효율적으로 일할 수 있도록 지원하는 기술을 제공한다. 새로운 일자리가 생길 수도 있다. 지금보다 3배 많은 공학도가 필요할 수도 있다. AI 연구원이라는 직업이 과거에도 있었나? 더 많은 혁명이 일어나고 더 많은 일자리가 생겨날 것이다. 인간의 능력은 계속 필요할 것이다. 두려운 것은 속도다. 10년 만에 큰 변화가 일어나면 어려움을 겪는 분들이 있다. 기본소득으 하나의 솔루션이 될 수 있다.