[외쿡신문] 샘 알트만의 AI 규제론에는 없는 것이 있다

 

외쿡신문 : 주 1회 글로벌 테크 업계 소식을 전합니다.

  • 청문회 나온 샘 알트만의 AI 규제론
  • 일론 머스크 “재택근무는 비도덕적”
  • 몬태나주, “틱톡 금지” 법률 제정
  • 넷플릭스 “광고 기반 요금제, 잘 나가요”
  • 게임 좋아하는 남학생에게 총기 영상 보여주는 유튜브 알고리즘

청문회 나온 샘 알트만의 AI 규제론

오픈AI의 창업자이자 현 CEO인 샘 알트만이 인공지능(AI) 규제론을 펼쳐 눈길을 끕니다. 알트만은 지난 16일(현지시각) 미국 상원 청문회에 출석해 점점 강력해지는 AI 기술을 규제할 필요가 있다는 의견을 제시했습니다. 이날 청문회는 생성 AI가 사회에 미칠 수 있는 여러 영향에 대해 의회 차원에서 검토하자는 취지로 마련된 자리입니다.

알트만은 이 자리에서 AI의 발전이 두렵다고 말했습니다. 그는 “이 기술이 잘못되면 상당히 잘못될 수 있다”면서 “나의 최악의 두려움은 우리, 우리 분야, 기술, 산업이 세상에 심각한 피해를 입히는 것”이라고 말했습니다.

알트만은 특히 2024년에 예정된 미국 대통령 선거에 AI가 영항을 미칠 수도 있다고 경고했습니다. 그는 “생성 AI가 정보를 조작하고 가짜뉴스를 퍼뜨릴 수 있다”면서 “내년 대선을 앞두고 모델은 점점 진화할 가능성이 있다”고 주장했습니다. 이 때문에 내년 선거 전까지 정부와 의회가 규제를 마련해야 한다고 강조했습니다.

알트만은 AI를 규제하기 위해 세 가지 방안을 제시했습니다.

  1. 대규모 AI 모델 라이선스를 담당하는 새로운 정부 기관을 설립하고, 정부 표준을 준수하지 않는 모델에 대해 해당 라이선스를 취소할 수 있는 권한을 부여하자.
  2. AI 모델에 대한 안전 표준을 만들자. 안전 표준 테스트를 통과한 AI 모델에만 라이선스를 부여하자.
  3. 모델의 안정성에 대해 독립적인 기구의 감사를 진행하자.

알트만의 이런 주장은 신선하게 보입니다. 세계 최고의 AI 회사 대표가 AI의 위험성을 역설하며 규제를 촉구하는 모습은 진정성이 있어 보입니다. 기술을 열심히 개발하면서도 기술의 위험성을 스스로 알리는 CEO의 모습, 책임감이 있어 보이죠?

상원의원들이 보기에도 샘 알트만이 꽤 괜찮았나 봅니다. 존 닐리 케네디 상원의원은 알트만이 AI를 감독하는 연방규제기관을 이끌면 어떨지 의견을 물었습니다. 이에 대해 알트만은 현재 직업을 사랑한다며 거절했습니다만, 적합한 후보자 명단을 보낼 수 있다고 제안했습니다.

하지만 샘 알트만의 규제론에 삐딱한 시선을 보낼 수 없는 것은 아닙니다.

우선 알트만의 규제론에는 ‘데이터 규제’가 빠져 있습니다. 알트만은 기술업체들이 자유롭게 만든 AI 모델을 심사해서 규제하는 방안만을 말합니다. 하지만 일각에서는 데이터 단계에서 규제해야 한다는 목소리도 나옵니다. 어떤 데이터를 어떻게 수집해서 학습하는지에 대한 규제가 필요하다는 것입니다. 학습과정에서의 저작권 문제에 대해서도 알트만은 침묵했습니다.

뉴욕대 명예교수인 개리 마커스는 이번 청문회에 출석해 정부가 AI 모델이 학습한 데이터에 대한 투명성을 확보해야 한다고 주장했습니다. 마샤 블랙번 상원의원은 저작권이 있는 저작물에 대한 학습을 금지하자고 제안했습니다.

아울러 라이선스는 때로 경쟁자에게 진입장벽을 만듭니다. 오픈AI나 구글, 마이크로소프트처럼 어느 정도 기술력을 확보했고, 엄청난 자금으로 기반을 마련한 회사들에게는 이런 진입장벽이 유리하게 작용합니다. 이제 시작하는 스타트업의 경우, 이런 규제의 가이드라인을 모두 따르기가 쉽지 않습니다. 진입장벽이 마련되면 오픈AI와 같은 회사들은 기득권을 누릴 수 있겠죠?

빌 게이츠는 과거에 “가장 두려운 경쟁자는 누구인가”라는 질문에 “차고에서 무언가를 개발하고 있는 이들”이라고 답한 적이 있는데, 진입장벽이 생기면 차고에서 새로운 것을 개발하고 있는 누군가에 대한 두려움은 다소 줄어들 것입니다.

미국 언론들은 AI 발전의 역사에서 현재가 섹션 230과 같은 시점에 와 있다고 평가합니다. 섹션 230은 1995년에 제정된 미국 연방 법률로, 콘텐츠를 중개하는 플랫폼은 콘텐츠 내용에 대해 책임을 지지 않아도 된다는 내용을 담고 있습니다. 이 법은 소셜미디어의 폭발적인 성장을 뒷받침한 법률로 평가받습니다. 이용자들이 올린 콘텐츠에 대한 책임을 플랫폼이 져야 한다면 이용자들이 마음대로 콘텐츠를 올리도록 플랫폼이 그냥 둘 리가 없겠죠. 그러나 그런 책임이 없으니까 누구라도 자유롭게 콘텐츠를 올릴 수 있도록 소셜미디어 시스템이 설계됐습니다.

하지만 섹션 230은 최근 비판의 대상이 되기도 합니다. 가짜뉴스 등 소셜미디어의 부작용이 커지면서 플랫폼의 책임을 외면한 법률이라는 비판을 받고 있는 것입니다.

만약 섹션230에서 플랫폼의 책임을 명시했다면 어떻게 됐을까요? 어쩌면 현재의 페이스북이나 인스타그램은 등장하지 않았을 지도 모릅니다. 그랬다면 가짜뉴스나 유언비어, 혐오적 발언 등이 이토록 사회문제가 되지는 않았겠죠? 반면 아랍의 봄이나 미투 운동 등 사회에 긍정적 영향을 미친 효과도 없었을 것입니다.

AI가 위험할 수 있으니 규제해야 한다는 생각에는 많은 이들이 동의하는 듯 보입니다. 샘 알트만처럼 AI를 만들고 있는 이들도 이에 동의하니까요. 하지만 어떻게 규제할 것인지가 더 중요합니다.

규제는 언제나 양면의 얼굴을 가지고 있습니다.


일론 머스크 “재택근무는 비도덕적”

재택근무에 대해 부정적인 태도를 보여왔던 일론 머스크 테슬라 CEO가 재택근무가 ‘비효율적’이라는 주장을 넘어 이제는 ‘비도덕적’이라고 주장하기 시작했네요.

머스크는 미 경제 방송 CNBC와의 인터뷰에서 이 같은 의견을 제시했습니다. 그는 재택근무를 주장하는 것이 도덕적 우월감에서 나온다고 주장했습니다. 그는 재택근무를 원하는 이들은 “라라랜드(로스앤젤레스)에 사는 노트북 계급(중산층 이상의 사무직 노동자를 의미)”이라고 비꼬았습니다.

그는 “서비스 직군은 출근하기를 원하면서 자신은 재택근무를 원하는 것은 비도덕적”이라며 “재택근무라는 도덕적 우월감에서 벗어나야 한다”고 주장했습니다. 그는 “재택근무라는 개념 자체가 마리 앙투아네트의 명언인 ‘케이크를 먹게 하라’와 비슷하다고 생각한다”고 덧붙였습니다.

앞서 테슬라는 지난해 상반기 재택근무를 종료하고 임원들에게 사무실 출근 전환을 요구한 바 있습니다. 트위터도 원래 영구 재택근무를 선언한 회사지만 일론 머스크는 인수한 이후 직원들에게 사무실 출근을 명령했습니다.


몬태나주, “틱톡 금지” 법률 제정

미국 몬태나주가 17일(현지시각) 중국 틱톡을 금지하는 법안을 통과시켰습니다. 그레그 지안포르테 주지사는 이날 틱톡 금지 법안에 서명했습니다.

이에 따라 내년부터 몬태나주 안에서는 구글 플레이나 애플 앱스토어에서 틱톡 앱 내려받기가 금지됩니다. 틱톡과 앱 마켓들은 이를 위반할 시 하루에 1만 달러의 벌금을 물어야 합니다.

다만 내년 1월 1일 이전에 내려받은 틱톡은 어떻게 되는지는 아직 불분명합니다. 또 가상사설망(VPN)을 통한 접속을 막을 방법에 대해서도 구체적으로 논의되지 않았습니다.

틱톡은 트럼프 정부 때부터 논란의 대상이었습니다. 처음에는 중국 정부가 틱톡 이용자 정보를 수집할 수 있다는 의혹에서 틱톡에 대한 부정적 여론이 대두됐습니다. 하지만 이제는 틱톡이 가진 미디어 파워를 견제하기 위해 틱톡을 거부하는 움직임이 커지고 있습니다. 중국 정부가 틱톡을 통해 여론전을 시도할 수 있다는 우려 때문입니다.

실제로 틱톡의 모회사 바이트댄스에서 해고된 전직 임원은 “틱톡은 중국 공산당의 선전도구”라고 주장한 바 있습니다. 바이트댄스 본사가 공산주의 가치를 발전시키라는 미션을 중국 정부로부터 받았다는 것입니다. 예를 들어 홍콩의 민주화 시위를 비판하는 콘텐츠를 고의적으로 확산시켰다고 합니다.

하지만 몬태나주의 틱톡 금지법은 위헌이라는 주장도 있습니다. 반중국 정서를 이용해 언론의 자유를 탄압한다는 주장입니다. 틱톡 대변인은 “몬태나 주지사가 수정헌법 제1조에 위반하는 법안에 서명을 했다고”고 비판했습니다. 이 때문에 위헌 여부를 가르는 법정 다툼이 이어질 것으로 보입니다.

한편 미 연방 의회에서도 틱톡 금지를 추진하고 있습니다. 틱톡을 미 전역에서 금지하거나 대통령에게 틱톡을 금지할 수 있는 권한을 부여하는 법안이 상정돼 있습니다.


넷플릭스 “광고 기반 요금제, 잘 나가요”

넷플릭스는 자사 광고 기반 요금제를 이용하는 고객이 500만명에 달한다고 발표했습니다. 넷플릭스는 광고를 보는 대신 저렴하게 넷플릭스를 구독할 수 있는 요금제를 지난 해 말부터 운용하고 있습니다. 미국 기준으로 광고 기반 요금제는 6.99달러로 받는데 이는 광고가 없는 가장 저렴한 요금제보다 3달러 정도 저렴한 수준입니다.

하지만 넷플릭스 전체 회원에서 광고기반 요금제 회원이 차지하는 비중이 아직은 그렇게 많지 않습니다. 넷플릭스 전체 유료 가입자는 2억3250만 명에 달합니다. 이 중 500만 명이니까, 유료 회원의 약 2.15%가 광고기반 요금제를 선택하고 있는 셈입니다.

이에 대해 회사 측은 올해 초부터 광고 기반 요금제 회원이 급증하고 있다고 전했습니다. 지난 4개월 동안 두 배정도 광고 기반 요금제 회원이 늘었다네요. 넷플릭스 공동 CEO인 그레그 피터스는 “광고 기반 요금제를 이용할 수 있는 국가의 가입자 중 4분의 1 이상이 광고 요금제를 선택하며, 광고 없는 요금제와 비슷한 수준의 참여도를 보인다”고 언급했습니다.

그는 “광고 요금제 이용자의 참여도와 광고 없는 요금제 이용자의 참여도가 비슷한 수준이라는 점은 희망적인 신호”라며 “모든 것이 소비자로부터 시작되고 소비자로부터 끝나기 때문에 이는 매우 중요하다”고 말했습니다.

넷플릭스 측이 이와 같은 사실을 강조하는 이유는 광고주에게 보내는 메시지로 읽힙니다. 광고 요금제를 선택한 고객도 넷플릭스를 열심히 보니, 광고에 효과가 있다는 메시지입니다.

아울러 광고 기반으로 수익을 얻는 비즈니스 모델로 이용자에게 직접 요금을 받는 기존의 방식과 비교했을 때 넷플릭스 입장에서 수익성이 나쁘지 않음을 간접적으로 알 수 있습니다.


게임 좋아하는 남학생에게 총기 영상 보여주는 유튜브 알고리즘

유튜브가 비디오 게임에 관심이 많은 미성년 남학생에게 총기관련 영상을 많이 추천한다는 연구가 ‘기술 투명성 프로젝트’에서 소개됐습니다. 추천된 영상의 일부는 총기를 개조하는 내용이거나 학교내 총격사건을 묘사하는 영상이었습니다.       

이런 영상 추천은 유튜브 자체 규정을 위반하는 것이며 유튜브는 이런 영상에 연령제한을 걸지 않았다고 연구원들은 주장합니다. 또 유튜브는 미성년자에게 연쇄살인범에 대한 영화를 추천하기도 했습니다.

이 연구를 위해 연구원들은 4개의 테스트 유튜브 계정을 만들었습니다. 2개는 9세 소년으로, 2개는 14세 소년으로 설정했습니다. 연구원들은 이 계정으로 비디오 게임 관련 영상들을 시청해 유튜브 알고리즘이 작동되도록 유도했습니다.

또 일부 계정은 유튜브가 추천하는 영상들을 시청하고, 또 다른 계정으로는 추천영상을 시청하지 않았습니다. 어떻게 결과가 다르게 나올지 보기 위함입니다.

실험 결과 유튜브 알고리즘은 테스트한 모든 계정에서 총기 관련 영상을 추천했습니다. 유튜브 추천 영상을 클릭한 이용자에게는 더 많은 양의 총기 영상을 추천했다고 합니다. 이는 유튜브 알고리즘이 청소년에게 더 악영향을 끼칠 수 있음을 보여주는 실험입니다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network

[컨퍼런스 안내] 2024 인플루언서 마케팅 & 브랜드 혁신 컨퍼런스

숏폼과 영상을 잘 다루는 인플루언서가 여느 때보다 각광받는 시대입니다. 소셜 미디어를 통한 입소문도 인플루언서의 역할이 점점 커지고 있습니다.

인플루언스 마케팅 성공 경험과 인사이트를 한 자리에서 조망할 수 있는 자리를 준비했습니다.

  • 일시: 2024년 5월 29일 13:30 ~ 오후 18:00
  • 장소: 서울 강남구 영동대로 513 코엑스 3층 컨퍼런스룸 E6

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다