일론 머스크-유발 하라리 “GPT4보다 센 AI 개발, 일단 멈추자”
[무료 웨비나] 개발자를 위한 클라우드플레어를 소개합니다
◎ 일시 : 2025년 2월 6일 (목) 14:00 ~ 15:00
[무료 웨비나] 중동의 ICT 및 테크 기업 생태계 – 사우디 아라비아, UAE를 중심으로
◎ 일시 : 2025년 1월 23일 (목) 14:00 ~ 15:10
하루가 멀다하고 나오는 빅테크들의 생성AI 신기술 경쟁을 우리는 환호하면서 봐야만 할까? 인문과 과학기술을 아울러 세계의 석학이 “속도를 늦추라”는데 한 목소리를 내고 있다.
29일 기준, 생명의미래연구소(future of life)가 “모든 AI 연구소에 GPT-4보다 강력한 AI 시스템을 개발하는 것을 최소 6개월 이상 중단해달라”고 진행 중인 서명 운동에 총 1125명이 동참했다.
참여자 중에는 AI 석학인 스튜어트 러셀을 비롯해, 애플 공동창업자인 스티브 워즈니악, 우리나라에서도 <사피엔스>라는 저작으로 잘 알려진 유발 하라리 교수, 일론 머스크 테슬라 창업자 등이 포함됐다. 머스크는 심지어 GPT4를 만든 오픈AI의 공동 창업자이기도 하다. 본 기사에 첨부된 링크를 누르면 어떤 이들이 서명에 참여했는지를 확인할 수 있는데, 이중 상당수는 지금까지 기술 발달을 이끌어온 테크 리더들이다.
지금까지 AI를 발전시키면서 인류의 미래를 고민했던 이들 중 상당수가 “더 진보한 AI 기술 개발을 당장 멈춰야 한다”고 말하는 이유는 무엇일까?
연구소는 서명운동을 위한 서한에서 “진화된 AI(Advanced AI)는 사회와 인류에 심각한 위험을 초래할 수 있으므로, 그에 상응하는 주의와 자원을 가지고 계획, 관리를 해야 한다”며 “안타깝게도 최근 몇 달 동안 AI 연구소가 더 강력한 AI를 개발하기 위한 통제 불능의 경쟁에 휩싸여 있는데도 그에 상응하는 계획과 관리가 이뤄지지 않았다”고 지적했다.
이들의 우려는 AI로 치닫는 빅테크들의 경쟁이 돌아올 수 없는 강을 건너기 전에, 먼저 인간 스스로가 지금 상황을 점검하고 미래를 대비할 수 있는 시간을 벌어야 한다는 것이다. 또 AI개발이 어느 정도 수준까지 진행되어야 인간의 미래에 유익할 것인지, 혹시 잇따를 수 있는 위험을 통제할 수 있을지에 대해 충분히 대비할 수 있어야 한다고 주장한다.
서한에서는 “강력한 AI 시스템은 그 효과가 긍정적이고 위험이 관리될 수있다고 확신될 상황에서만 개발되어야 한다”며 “AI 연구와 개발은 (최근의 기술 시스템을) 정확하고, 안전하고, 해석 가능하고, 투명하고, 견고하고, 일관되고, 신뢰할 수 있고, 충성도 높은 시스템을 만드는데 초점을 맞춰야 한다”고도 지적했다.
행동방침으로는 모든 AI 연구소에서 GPT4보다 강력한 AI 시스템을 교육하는 것을 향후 최소 6개월 이상은 즉시 중단할 것을 요구했다. 또, 이러한 학습 중단 상황을 공개적으로 공유해 감시에 실효성이 있어야 함을 주장했다. 구체적으로는 독립적인 외부 전문가가 감시, 감독하는 고급 AI 설계와 개발을 위한 일련의 ‘공유 안전 프로토콜’을 공동 개발하고 구현해야 한다고 강조했다.
만약 이런 중단 요구를 빅테크들이 받아들이지 않을 경우, 정부가 개입해서라도 지금보다 진화한 상태의 AI 모델의 개발을 막도록 유예조치를 취해야 한다고 봤다.
다만, 이런 주장이 AI 기술을 퇴출한다거나 혹은 아예 중단해야 하는 것을 뜻하는 것은 아니라고도 언급했다. 이들은 서한에서 “AI 개발 전반을 중단하자는 의미가 아니라, 새로운 기능을 갖췄지만 예측은 할 수 없는 더 큰 블랙박스 모델을 향한 위험한 경쟁에서 한 발짝 물러나자는 의미일 뿐”이라고 설명했다.
개발자와 정책 입안자가 협력해 만들어내는 AI 거버넌스 시스템 개발의 필요성도 언급했다. 이 안에는 AI를 전담할 유능한 규제 당국이나, 고도의 AI를 추적하는 감시 시스템, 진짜와 가짜 데이터를 구별해 판별하는 워터마킹 시스템, AI로 인한 피해를 구제할 책임처와 안전한 기술을 연구하도록 지원하는 공공 자금, AI가 초래할 것으로 보이는 경제적, 정치적 혼란에 대처할 수 있는 기관 등이 포함된다.
이들은 “준비되지 않은 가을로 서두르지 말고, 강력한 AI 시스템이 만들어낸 성공이 모두에게 이득이 될 수 있도록 시스템을 설계하고 사회에 적응할 기회를 만드는 ‘AI의 여름’을 만끽하자”고 조언했다. 설익은 과일을 먹고 배탈나지 말고, 과실이 충분히 익도록 과수원을 가꿔보자는 이 제안에 테크 리더들도 동참하는 중이다.
글. 바이라인네트워크
<남혜현 기자> smilla@byline.network
