[그게 뭔가요] 오픈AI 쿠데타 낳은 ‘효과적 이타주의’

오픈AI에서 일어났던 내홍이 마무리됐다. 오픈AI를 세운 샘 알트만(Sam Altman) 최고경영자(CEO)가 이사회에 의해 퇴출됐다가 다시 돌아오는 소동이 벌어졌다. 세계의 이목을 집중시킨 사건의 중심에는 AI를 바라보는 ‘철학’ 차이가 있었던 것으로 알려졌다.

알트만은 회사를 이끌어 가는 입장에서 빠른 기술개발과 상용화에 집중한 반면, 그를 쫓아낸 이사진은 ‘효과적인 이타주의(EA·Effective Altruism, 이하 EA)’에 초점을 맞췄다. EA는 보이는 표현대로만 해석하면 “다른 사람을 위한 효과적인 방법을 추구한다” 정도의 단순한 개념으로 읽히지만 생각보다 넓은 영역에서 영향력을 펼치고 있다.

EA란 무엇인가

EA 재단에 따르면 EA는 “다른 사람들을 도울 수 있는 최선의 방법을 찾고 실천하는 것을 목표로 하는 행동”을 말한다. 세계에서 가장 시급한 문제에 대한 해결책 마련을 목적으로, 최선의 방법을 신중하게 생각함으로써 더 많은 일을 할 수 있다는 게 EA의 방향성이다. 영국 옥스포드 대학의 교수 윌리엄 맥아스킬(William MacAskill)과 호주의 윤리학자 피터 싱어(Peter Singer) 등이 이 EA를 주창하는 대표적인 학자들이다.

EA 재단은 홈페이지를 통해 팬데믹 예방이나 개발도상국을 위한 기초 의료품 제공, 공장식 축산 종식 등 다양한 방법으로 EA를 실현할 수 있다고 주장한다. 예를 들어 코로나19 백신 임상실험자로 자원하거나 비용이 얼마 들지 않는 간단한 모기장을 주는 것도 자신을 던져 다른 사람을 돕는 가장 효과적인 방법이라는 것이다.

재밌는 것은 AI 또한 대상이 될 수 있다고 나열한 점이다. 재단은 “최악의 경우 AI 시스템 자체에 대한 통제력을 잃을 수 있다”며 “우리보다 훨씬 더 큰 능력을 가진 존재를 다스릴 수 없다면, 우리는 침팬지가 자신의 미래를 통제할 수 있는 것 만큼이나 우리의 미래를 통제할 수 없다는 것을 알게 될 것”이라며 자못 자극적인 표현으로 AI의 위험성을 경고했다.

EA의 기본 원칙

효과적인 이타주의의 기본 원칙은 크게 5가지다. 재단이 세운 EA 센터에 따르면 타인에 대한 헌신을 비롯해 과학적 사고, 개방성, 청렴, 협력 정신을 EA의 기본 원칙으로 삼는다.

타인에 대한 헌신: 다른 사람의 복지를 매우 중요하게 여기고 이들에게 이익이 되기 위해 개인적인 헌신을 기꺼이 취한다. 헌신의 형태가 각각 다르고 개인에게 미치는 영향도 다르겠지만 가장 필수적인 약속은 ‘세상은 더 세상을 더 나은 곳으로 만들기 위해 적극적으로 노력하는 것’이다.

과학적 사고: 세상이 어떻게 돌아가는 지에 대한 최선의 증거와 추론을 바탕으로 행동한다. 어떤 현상을 과하게 믿는 것을 피하는 한편 독특한 아이디어에는 개방적인 자세로 대안을 진지하게 받아들이려고 노력해야 한다.

개방성: 틀렸음을 인정하는 개방적인 자세도 효과적 이타주의를 관통하는 원칙이다. 타당한 논증이나 증거로 현재 계획이 상황에 최선의 도움이 되지 않은 경우, 믿음과 행동을 바꿔야 한다.

청렴: 신뢰와 협력, 정확한 정보가 선을 행하는 데 필수적이라고 믿고, 정직하고 신뢰할 수 있는 사람이 되기 위해 노력한다. 더 넓게는 EA의 명성을 소중히 여기면서 각자의 행동이 철학에 반영된다는 것을 늘 염두에 두어야 한다.

협력 정신: 다양한 상황과 사고방식을 가진 사람들 간의 협력과 협력을 장려하고, 서로 다른 세계관·가치관·배경·정체성을 가진 사람들이 서로 친절하고 존중하는 마음으로 대한다.

‘샘 알트만 드라마’도 EA 때문?

생성AI 기술이 된 오픈AI. 이곳 또한 EA의 영향을 받았다. 알트만 CEO의 퇴출과 복귀를 둘러싼 배경 이면에 EA가 있었다. 알트만 퇴출에 영향력을 행사한 이사진들은 EA에 심취한 이들로 전해진다. 공동창업자인 일리야 수츠케버(Ilya Sutskever)를 비롯해 타샤 맥컬리(Tasha McCauley)와 헬렌 토너(Helen Toner)는 EA 정신을 중심으로 회사를 꾸리자며 알트만과 충돌을 겪은 것으로 알려졌다.

알트만은 챗GPT 출시를 비롯해 AI 칩 개발 추진, 투자 유치 등 회사의 빠른 성장을 도모하려 했지만, 이들은 반대로 속도 조절을 주장하며 ‘Open’의 정신을 지키기 위해 알트만의 퇴출을 도모했다는 분석이 다수다. 실제 여러 외신에 따르면 오픈AI 내부에서는 EA에 집중한 이들 이사진 3명과 알트만 간의 갈등이 있었던 것으로 전해진다.

이들의 면면을 보면 더 자세히 확인된다. 타샤 맥컬리는 EA와 관련이 깊은 효과적인 벤처 유럽의 이사회 멤버이며, 비영리 기구인 랜드(Rand) 연구소 수석과학자 명함도 가지고 있다. 헬렌 토너가 소속된 조지타운대 보안·신흥 기술센터도 EA 단체의 지원을 받는 곳으로 알려졌다.

오픈AI의 수석과학자인 일리야 수츠케버는 EA와 직접적인 관계를 맺고 있는 것 같지만 “인류에게 유익한 인공 지능을 만들어야 한다”는 강한 신념을 가지고 있다. 그는 어찌보면 AI 기술 개발에 알트만보다 더 기여한 인물이다. 구글 딥마인드 개발의 핵심 인력으로 일하다 오픈AI로 넘어온 사람이다. 하지만 그는 EA를 바탕으로 생성AI의 빠른 개발 속도에 브레이크를 걸려 했던 것으로 보인다.

하지만 알트만은 직원들의 지지를 바탕으로 기사회생했고, 세일즈포스 공동 CEO를 맡았던 브렛 테일러(Bret Taylor), 하버드대 총장을 역임한 래리 서머스(Larry Summers)가 새로 이사회에 새로 합류했다. 특히 브렛 테일러와 래리 서머스 모두 시장친화적인 스탠스를 가진 인사들이라 오픈AI에서 EA의 입김은 축소될 거라는 시각이 지배적이다.

오픈AI뿐만이 아냐

하지만 EA를 둘러싼 오해 가운데 대표적인 것이 빈곤과 싸우는 운동이라는 시각이다. 물론 빈곤을 해결하는 것도 EA의 목표 하나지만, 더 중요한 핵심은 원인과 수단의 중립성을 지키는 일이다. 기본 원칙에 나와 있듯 모든 문제 해결에 개방적인 자세를 갖고, 가장 효율적인 문제 해결 방법을 찾는 게 우선이다. 가장 최선의 방법을 조합해 더 많은 사람의 이익에 긍정적 영향을 주는 데 집중하는 것을 말하는 데, 예를 들면 거액의 돈을 들여 식량 원조를 하는 것보다 모기장을 기부하면서 더 많은 생명을 구하기 위한 운동에 나서는 식이다.

오픈AI가 아닌 다른 AI기업도 EA의 영향권 안에 있다. 생성AI 스타트업 앤트로픽의 다리오 아모데이(Dario Amodei) CEO도 EA에 빠진 인사다. 특히 오픈AI 이사회의 헬렌 토너가 논문을 통해 앤트로픽을 언급한 것이 인상적인데, 토너는 공동 집필한 논문 ‘Decoding Intentions’ 에서

경쟁사인 앤트로픽의 챗봇 클로드(Claude)의 출시는 AI 기능의 발전 속도를 앞당기는 것을 피하기 위해 의도적으로 지연됐습니다. (…) 다시 말해, 앤트로픽은 AI의 공격 불씨를 피하기 위해 의도적으로 제품화하지 않기로 결정했다는 뜻입니다. 다른 회사에서 비슷한 제품(챗GPT)을 출시하자 Claude를 출시하지 않을 이유가 사라졌고 앤트로픽은 베타 버전을 제공하기 시작했습니다.

라고 언급했다.

앤트로픽은 AI의 부작용을 피하기 위해 출시 시기를 늦췄지만 오픈AI는 그렇지 않다고 꼬집은 셈이다. 속내를 해석하자면 오픈AI는 부작용을 고려하지 않은 성급한 기업처럼 비판한 것으로 읽힌다.

EA는 특히 실리콘밸리의 인사들을 중심으로 널리 퍼진 것으로 전해진다. 가상자산 거래소 FTX의 설립자 샘 뱅크먼 프리드(Sam Bankman-Fried)도 EA의 신봉자 중 하나다. 지금이야 사기 혐의로 체포되면서 평생을 감옥에서 살아야 할 처지가 됐지만, 한창 잘 나가던 시절 수입 99%를 기부하겠다고 한 것도 EA의 정신에 빠져들었기 때문으로 전해진다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network