교황이 던진 질문, AI에 정치적 입장이 있어야 할까

“경제 흐름과 디지털 플랫폼, 데이터 및 알고리즘 거버넌스에 대한 결정에 있어 우리는 소수 결정자들이 독단적으로 이 과정을 좌우하도록 내버려 둘 수 없습니다. 대신 우리는 글로벌 커뮤니티의 다양한 층위를 존중하고 그들이 공동선에 대해 공동 책임을 지게 하는 협력 형태를 구축해야 합니다.”

레오 14세 교황은 지난달 25일 회칙 ‘위대한 인간성(Magnifica Humanitas)’을 통해 이와 같은 입장을 밝혔다. 발표된 회칙은 전 세계 14억 가톨릭 신자를 대상으로 하는 교황의 가장 권위 있는 공문으로써 총 5장에 걸쳐 기술과 인간성에 대한 비전을 제시했다. 해당 회칙은 인공지능(AI)에 대한 가톨릭의 사회적 기조로 자리잡아 향후 여론에 영향을 미칠 것으로 예상된다.

회칙에서 거론된 핵심 철학은 AI 정렬(AI Alignment)이다. AI 정렬은 AI 시스템의 목표와 행동을 인류의 보편적 가치와 일치시키는 기술적·윤리적 과제를 뜻한다. 회칙은 AI가 인간 중심적으로 활용돼야 하며 기술이 결코 인간을 넘어서거나 수단화해서는 안 된다는 대원칙을 기반으로 한다.

교황은 AI에 대한 내용을 가장 집중적으로 다룬 3장에서 “우리는 AI 정렬(기계의 도덕화)을 촉구하는 것에만 만족할 수 없으며, 이에 수반되는 윤리적 틀에 대해 공개적으로 논의해야 한다”며 “그렇지 않으면 AI를 통제하는 이들이 자신들만의 도덕적 비전을 강요할 것”이라고 경고했다. 또한 “모든 것이 가속화되는 시기에 속도를 늦추며 공동체가 참여하고 질문할 수 있는 기회를 보호할 수 있도록 적극적인 정치적 개입이 필요하다”며 제도권의 AI 개입을 촉구했다. 이는 2024년 시행된 유럽연합(EU) AI법의 필요성을 뒷받침한 것으로 풀이된다.

세계 최초로 시행된 AI 포괄 규제 법안인 EU AI법은 규제 프레임워크 수단으로 AI 정렬 문제를 다룬다. 2024년 승인된 해당 법안은 AI를 최소위험·제한적위험·고위험AI·금지AI 4단계로 분류해 차등 규제를 실시하고 있다.

금지AI 항목은 ▲소셜 스코어링(정부나 공공기관이 개인의 일상적 행동이나 특성을 바탕으로 점수를 매기는 행위) ▲사회적·신체적 취약성을 이용한 잠재의식 조작 및 악용 ▲무분별한 생체 정보 스크래핑 및 실시간 원격 생체 인식 등이 있다. 이는 회칙에서 언급한 인간 가치의 알고리즘 평가 및 배제 금지, 알고리즘을 통한 선호 조작 및 인공적 공감 기만 경고, 침해적 감시 반대와 자유 박탈 경고 등과 일치하는 내용이다.

그간 일부 빅테크 CEO와 정치인들은 AI 관련 규제 법안이 산업 발전을 저해한다고 비판해 왔다. 샘 울트먼 오픈AI CEO는 EU AI법에 대해 “우리는 법을 준수하고 유럽인들의 뜻을 존중할 것”이라고 말하면서도 “결국 사회적 영향으로 이어질 경제적 타격이 있을 것”이라고 말했다. 지난해 미국 하원에서는 공화당 주도로 주 정부의 AI 규제 금지 법안을 가결했으나 해당 법안은 상원 반대에 부딪혀 폐기됐다.

AI 규제에 대한 정치적 논쟁이 있는 상황에서 교황이 발표한 회칙은 AI 정렬에 대한 제도권 개입의 지지 선언으로 해석된다. 이에 따라 AI 기업의 윤리 방침과 입장도 주목받고 있다.

앤트로픽, 회칙 지지 연설

앤트로픽은 교황의 회칙에 공개 지지를 보내고 있다. 회칙은 앤트로픽이 강조한 가치와 맞닿아 있기 때문이다.

크리스 올라 앤트로픽 공동 창립자는 회칙 발표 현장에 참석해 기술과 도덕성 결합의 중요성을 연설했다. 올라 창립자는 “AI 모델은 인간의 뇌를 모방한 구조에서 인간의 사고와 언어라는 막대한 유산으로 배양된다”며 “(모두가) 교황 성하께서 언급한 문제에 대해 진지하게 받아들이고, 면밀히 살펴보고, 사태를 더 나은 방향으로 이끄는 일에 동참해 주기를 바란다”고 말했다.

올라 창립자의 참석은 그간 앤트로픽이 강조해 온 윤리 경영을 입증하고 이에 대한 지지를 얻기 위한 것으로 풀이된다. 앤트로픽은 현재 공익 법인(PBC) 형태로 운영되고 있으며 인간을 위한 AI 정렬을 핵심 가치로 삼고 있다. 앤트로픽은 EU AI법 제정 당시에 초기 자문으로 참여했으며 범용 AI 실천강령(GPAI Code of Practice)에도 공식 서명했다.

앤트로픽은 올해 미국 국방부에 클로드의 무제한 군사적 이용 거부 의사를 밝혀 ‘공급망 위험’ 기업으로 지정되기도 했다. 앤트로픽은 이에 대해 “우리는 AI가 일부 사례에서 활용될 때 민주주의 가치를 방어하기보다는 오히려 훼손할 수 있다고 믿는다”며 “민간인 감시가 허용되는 ‘대규모 국내 감시’와 AI 시스템이 활용되는 ‘완전 자율 무기’ 이용 항목은 절대 동의할 수 없다”고 입장을 밝혔다.

교황 역시 회칙을 통해 제2장 80항의 “정의는 새로운 형태의 배제와 자유의 박탈이 나타나는 것을 막을 것을 요구한다”와 제5장 200항의 “치명적인 무력을 사용하기로 한 결정은 반드시 실효성 있고 책임감 있는 인간의 통제하에 있어야 한다”는 내용으로 앤트로픽의 결정을 지지한 것으로 해석된다.

오픈AI, 이용자 편의에 따른 실용주의적 노선

반면 오픈AI는 앤트로픽과 다른 입장이다. 오픈AI는 모델 스펙(Model Spec)에 제시된 기준에 따라 이용자 편의성에 초점을 맞춘다.

모델 스펙은 오픈AI 모델의 공식적인 행동 지침서이자 윤리 사항을 담은 행동 프레임워크다. EU가 2024년 3월 AI법을 가결하자 그해 5월에 바로 공개됐다. 오픈AI는 이를 통해 최상위 원칙(Root) 레드라인은 EU AI법의 금지AI와 일치하지만 그 외 일반적인 원칙은 이용자의 편의에 따라 기본 설정이 바뀔 수 있다는 점을 명시했다.

오픈AI는 각국의 AI 규제 법안에 따르면서도 이용자·고객사의 편의와 수요를 위해 원칙을 탄력적으로 적용하는 ‘정치적 중립성’을 유지하려는 행보를 보여 왔다. 일부 외신과 평론가는 울트먼 CEO를 AI 윤리 경영에 있어 ‘기술적 유토피아주의’, ‘실용주의자’라고 평가한다.

앤트로픽의 클로드는 원칙적으로 성적인 대화와 콘텐츠가 불가하지만, 오픈AI는 지난해 챗GPT에 성인 모드(NSFW)를 출시하겠다고 밝힌 것이 그 예다. 울트먼 CEO는 “우리는 전 세계에서 선출된 도덕 경찰(Moral Police)이 아니다”라며 “사람들에게 AI를 원하는 대로 사용할 수 있는 자유를 허용하는 것은 우리 임무의 아주 중요한 부분”이라고 밝혔다.

이에 대해 월스트리트저널(WSJ)을 비롯한 일부 언론은 라이언 바이어마이스터 오픈AI 전 부사장이 재직 당시 성인 모드 도입에 반대해 해고당했다고 보도했다. 또한 오픈AI가 올해 초 AI 안전과 윤리를 담당하던 팀을 축소했다는 의혹도 거론됐다. 현재 챗GPT 성인 모드는 안전과 윤리에 대한 우려로 출시가 연기된 상태다.

또한 오픈AI는 올해 2월 앤트로픽이 미 국방부와 갈등을 빚던 시기에 새로운 AI 공급자로 계약을 체결해 논란에 올랐다. 계약 체결 직후 오픈AI를 향한 여론 비판이 거세지면서 챗GPT 삭제 건수는 전일 대비 295% 상승했다. 이에 대해 울트먼 CEO는 해당 계약이 “기회주의적이고 엉성했다”고 인정했다. 결국 오픈AI는 지난 3월 미국 국방부와 합의를 통해 ‘국내에서의 의도적인 미국인 감시’를 레드라인으로 지정했다고 밝혔으나 현재 이 조항에 미국 내 외국인도 포함되는지는 불확실하다. 이는 국방부에 ‘공급망 위험’ 기업으로 분류되면서까지 원칙을 고수하려던 앤트로픽과 상반된 행보로 평가되고 있다.

울트먼 CEO는 성급함을 인정하면서도 지난 3월 오픈AI에 3가지 레드라인이 있으나 기술 진화나 새로운 위험 등장 시 레드라인 변경이나 추가 가능성을 시사했다. 또한 “오픈AI는 투표를 통해 선출된 사람들이 아니다”라며 “(중대한 결정을 내려야 할 때) 어떻게 해야 할지 우리가 결정하는 것은 정말 원치 않는다”고 밝혔다. AI 기업의 정치적 역할에 명백히 선을 그은 것으로 해석된다.

그러나 레오 14세 교황이 발표한 회칙은 AI의 중립성을 여러 차례 정면 반박한다. 회칙의 서론 9항은 “현실에서 기술은 결코 중립적일 수 없다”며 “기술은 그것을 고안하고, 자금을 지원하고, 규제하고, 사용하는 사람들의 특성을 취하기 때문이다”고 쓰였다.

xAI, 표현의 자유 지지

xAI는 정치적 중립성에서 벗어나 표현의 자유를 지지한다. AI 정렬에 있어 최대 가치를 ‘최대 진실 추구’로 여긴다. 앞서 일론 머스크 xAI CEO는 X(옛 트위터)를 통해 ‘그록’을 안티 워크(PC주의 반대)이자 최대한 진실을 추구하는 챗봇으로 설명했다. 또한 “오직 그록만 진실을 말한다”며 “오직 진실한 AI가 안전하다”라고 강조했다.

그록은 대화 주제가 논쟁을 유발하더라도 이용자를 훈계하지 않고 답하는 것을 목적으로 하며 아부와 거짓말을 경계한다. 위험 관리 프레임워크(FAIF)서 지정한 대규모 테러·대량 살상 무기·사이버 공격·알고리즘 통제력 상실 유도 같은 레드라인 원칙을 제외하면 그록의 대답은 대부분 허용됐다.

이에 따라 그록의 답변과 생성 이미지는 지속적 논란에 휩싸였다. xAI는 올해 그록에서 생성된 대규모 딥페이크 이미지로 미국 캘리포니아주 당국의 조사를 받고 있으며 프랑스 당국서 정치 성향 편향 조작·비동의 성적 딥페이크·아동 성착취물 생성 및 유포 방조 혐의로 수사받고 있다. 또한 지난해 그록이 생성한 히틀러 찬양 게시물이 논란을 일으키자 기술적 오류라는 해명과 함께 사과문을 게시했다.

앞서 xAI는 지난해 EU AI법 실천강령 중 ‘안전과 보안’ 항목만 수용하겠다고 밝힌 바 있다. xAI는 공식 입장문을 통해 “다른 부분들에는 혁신에 심각하게 해로운 요구사항이 포함돼 있으며 저작권 조항은 명백히 과도한 개입”이라고 비판했다. 또한 올해 1월 캘리포니아 AI 투명성법(AB 2013)을 대상으로 연방법원에 소송을 제기하고 있다. xAI는 AI 학습 데이터의 구체적 출처와 정보를 공개하도록 의무화하는 해당 법안이 기업의 ‘영업비밀’을 침해한다고 주장했다.

다만 AI 윤리 경영과 거리를 둔 xAI 행보가 향후에도 유지될 수 있을지는 의문이다. 그록의 정치·혐오 발언 논란 이후, xAI는 시스템 프롬프트 공개와 내부 통제 절차 강화를 약속했다. 혁신과 표현의 자유를 강조하는 AI 기업이라 하더라도 서비스 확장 과정에서 규제와 사회적 책임을 완전히 배제할 수 없기에 각국의 규제 프레임워크가 AI 가드레일 형성에 영향을 미치고 있는 것으로 풀이된다.

국내, ‘데이터 투명성’ 빠진 AI 윤리원칙 초안 공개

정부는 지난 28일 국가 AI 윤리원칙 초안을 공개했다. AI 윤리원칙은 국내 AI 산업의 윤리 방향성을 확립하고 불확실성을 해소하는 가이드라인 역할을 할 예정이다. 다만 AI 윤리원칙은 가이드라인 수준 권고일 뿐 법적 구속력을 지니지는 않는다.

공개된 초안은 3대 가치(인간의 존엄성, 사회의 공공선, 기술의 신뢰성)와 6대 원칙(인간의 자율성, 프라이버시, 공정성·포용성, 지속가능성, 안정성, 투명성)을 담고 있다. 자기결정권 보호, 과의존 방지, 인간 감독(HITL) 등이 세부 항목으로 포함돼 EU가 세계 최초로 발표한 ‘신뢰할 수 있는 AI를 위한 윤리 가이드라인’과 일치하는 부분이 있으나 아직 데이터 수집부터 라벨링까지 출처를 명시하는 ‘데이터 투명성’ 항목은 담고 있지 않다.

지난 4월 개최된 국가인공지능전략위원회 간담회에서도 고품질 데이터의 중요성이 강조되고 있는 상황에서 데이터 학습 규제 방향성을 제시하는 것은 국내 AI 산업 발전을 저해할 수 있는 문제로 여겨질 수 있기 때문이다.

이에 대해 과학기술정보통신부 관계자는 “당장 고영향 AI인지 아닌지도 확실하지 않은 상황이기 때문에 이에 대한 자문위원회 제도가 운영되고 있긴 하지만 구체적인 규제안을 확립하기는 조심스러운 상황”이라며 “현재 AI 윤리원칙은 계도 기간 운영 중”이라고 밝혔다.

다만 교황의 회칙 3장 108항에서도 “데이터의 소유권은 사적인 손에만 맡겨질 수 없으며 적절하게 규제돼야 한다”는 내용과 “데이터는 수많은 기여자들의 산물이므로 팔아넘기거나 소수에게만 맡겨질 것으로 취급돼서는 안 된다”는 내용이 담겨 있는 만큼 ‘데이터 투명성’은 전 세계 각국에서 점차 주요 논점이 될 사항으로 자리매김하고 있다. 이에 대해 국내 AI 업계가 ‘데이터 투명성’ 과제를 어떻게 풀어갈지 귀추가 주목된다.

글. 바이라인네트워크
<오민선 기자>omsoms94@byline.network