마크 저커버그, 오픈AI·앤트로픽의 중앙화된 정렬에 반기

마크 저커버그 메타 CEO가 초지능의 위험성에 대해 오픈AI·앤트로픽 등 경쟁사와 상반된 해법을 제시했다. 안전을 위해 모델에 통일된 가치·기준을 학습시켜야 한다는 경쟁사들과 달리, 저커버그 CEO는 ‘초지능을 소수가 독점하는 것 자체가 위험’하므로 모두가 보유해 서로 견제하게 해야 한다는 입장을 밝혔다.

저커버그는 지난 10일(현지시각) 자사 홈페이지에 <모두를 위한 미래>라는 제목의 장문의 에세이를 공개하고, 초지능 시대를 앞둔 메타의 철학을 밝혔다. 그는 개인의 역량 강화, 발명, 권력의 균형이라는 세 가지를 초지능 대처를 위한 핵심 원칙으로 제시했다.

“초지능을 소수가 독점하면 위험하다”

저커버그는 “초지능을 소수의 기관이 독점하고 통제할 것인가, 아니면 모든 사람을 강화하는 도구가 될 것인가”가 이 시대를 규정하는 질문이라고 진단했다. 그는 “AI가 대부분의 일자리와 인류의 존재 의미를 없앨 것이라 믿으면서도 그런 미래를 앞다퉈 만들려는 사람들을 이해할 수 없다”며, “AI가 위험하니 극단적으로 권력을 집중시켜야 한다는 발상 자체가 문제”라고 지적했다.

그가 제시하는 대안은 ‘분산’이다. 개인용 슈퍼컴퓨터와 인터넷을 모든 사람의 손에 쥐어준 것처럼, 초지능도 소수 기관에 집중시키지 말고 널리 배포해 모든 개인이 이를 다룰 수 있게 해야 한다는 것이다. 이는 냉전기 일부 국제정치학자들이 폈던 ‘핵확산이 오히려 전쟁을 억지한다’는 논리와 비슷한 구조다.

저커버그는 이 가치관을 기반으로 메타가 구축 중인 AI 모델의 구체적 청사진도 제시했다. 24시간 작동하며 인간관계, 건강, 커리어, 재무를 관리해주는 개인 AI 에이전트, 모든 과목을 가르치는 개인 튜터, 창업과 창작을 돕는 도구, 과학 연구에 기여하는 오픈소스 생물학 모델 등이다. 특히 메타조차 접근할 수 없는 완전 프라이버시 모드를 구축하겠다고 밝혔는데, 이는 왓츠앱의 종단간 암호화 방식을 개인 에이전트에도 적용하겠다는 의미다.

접근성 측면에서는 무료 버전을 수십억 명에게 제공하고, 유료 이용자에게는 동적 경매 방식으로 최저가를 보장하는 컴퓨팅 자원 배분 체계를 도입하겠다고 밝혔다.

“선의의 초지능은 없다”

이 에세이에서 가장 눈길을 끄는 부분은 정렬(alignment)에 대한 문제 제기다. 저커버그는 “인류는 단일한 집단이 아니며, 사람들의 다양한 가치는 서로 다른 트레이드오프를 반영한다”며 “모두의 상충하는 이해와 가치에 동시에 부합하는 기술적 해법은 존재하지 않는다”고 주장했다.

이는 오픈AI와 앤트로픽이 추구해온 접근과는 분명히 다른 노선이다. 두 회사는 방법론에서는 차이가 있지만 “모델에 안전 기준과 가치를 학습시켜 통제 가능하게 만든다”는 하향식 전제를 공유한다. 저커버그는 이 전제를 부정했다.

그는 한 모델이 표준화된 시험이 비윤리적이라고 판단해 예비 학부모에게 보낼 편지 작성을 거부한 사례를 언급하며, 이를 “기업이 정한 중앙화된 도그마를 강제하는 방어적 정렬”이라고 지적했다. 대신 메타는 “정렬이란 회사의 가치가 아니라 개인의 목표와 가치에 부합해야 한다”라고 정의했다.

위험 관리 방식에서도 같은 논리가 이어진다. 저커버그는 사이버보안 초지능을 한 사람만 갖고 있다면 그가 거의 모든 시스템에 침투할 수 있어 세상이 더 위험해지지만, 모두가 이를 갖게 되면 오히려 시스템 전반이 강화된다고 주장했다. 생물·화학 위험에 대해서도 “지식의 확산보다 물리적 생산·유통을 규제하는 편이 현실적”이라며, 규제기관의 신약 승인 절차를 AI 발전 속도에 맞춰 간소화해야 한다고 제안했다.

다만 정부와의 협력은 강화하겠다고 밝혔다. 프론티어 AI 연구소들이 학습이 완료되기 전 중간 체크포인트를 정부와 공유해, 정부가 중요 인프라를 조기에 강화할 수 있도록 해야 한다는 것이다.

“일자리는 새로 생겨날 것”

그는 일자리에 대해서는 비교적 낙관적인 입장을 취했다. 저커버그는 “자동화가 개인의 역량 성장 속도를 반드시 앞설 이유는 없다”며, 앱 개발자·소셜미디어 크리에이터처럼 한 세대 전에는 없었던 직업이 새로 생겨났듯 1인 제품 스튜디오, 개인 생물학자와  같은 새로운 직업이 등장할 것이라 전망했다.

국가 경쟁력과 관련해서는 실리콘 수출 통제는 유지하되, 미국 연구소의 발목을 잡는 학습 데이터 규제나 모델 간 증류(distillation) 제한은 완화해야 한다고 주장했다. “미국의 모델 출시가 한 달만 늦어져도 리더십에 상당한 위험이 될 수 있다”는 게 그의 논리다.

거버넌스 측면에서 저커버그는 자신을 포함해 그 누구도 초지능 배포에 대한 단독 의사결정권을 가져서는 안 된다고 밝히며, 메타의 독립 이사회에 모델 출시 안전 기준을 승인하고 각 모델이 이를 준수하는지 검토할 권한을 부여하는 거버넌스 구조를 도입하겠다고 밝혔다. 메타 슈퍼인텔리전스 랩스 가동 이후 중단됐던 오픈소스 모델 공개도 곧 재개하겠다고 예고했다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network